Минцифры протестирует нейросети
Консорциум для исследования информационной безопасности искусственного интеллекта приступил к тестированию российских нейросетей, разработанных на базе иностранных моделей ИИ с открытым кодом.
Тестирование позволит выявить значимые уязвимости этих систем в рамках национального цифрового суверенитета и выработать «достаточно простые и эффективные меры» защиты. Об этом сообщил заместитель главы Минцифры Александр Михайлович Шойтов.
По словам замглавы Минцифры, консорциум для исследования информационной безопасности искусственного интеллекта (ИИ) в этом году уже приступил к тестированию российских нейросетей, разработанных на базе иностранных моделей ИИ с открытым кодом. «Сейчас начинается исследование и тестирование конкретных систем, чтобы определить их значимые уязвимости и предложить достаточно простые и эффективные меры», – подчеркнул Шойтов.
Как пояснил заместитель руководителя Минцифры, «здесь говорить о доверии и информационной безопасности не приходится»: кто разрабатывает модели ИИ с открытым кодом, тот их и контролирует.
***
Напомним, консорциум для исследования информационной безопасности ИИ был создан в России в 2024 году с целью объединения на его площадке разработчиков ИИ, производителей, а также представителей организаций и ведомств из числа регуляторов в этой сфере. К декабрю прошлого года консорциум насчитывал 12 участников, в этом году его состав будет значительно расширен.