Информационная безопасность не должна тормозить развитие ИИ
Об этом сообщил в своём выступлении на форуме CNews, прошедшем 24 июня в Москве, заместитель министра цифрового развития, связи и массовых коммуникаций Российской Федерации Александр Михайлович Шойтов.
Спикер рассказал о нескольких подходах, которые Минцифры планирует применять при тестировании ИИ-технологий на безопасность, чтобы затем включить их в Реестр доверенных решений ИИ.
«Мы должны максимально использовать разработки в области информационной безопасности, но при этом не тормозить развитие ИИ», – отметил Шойтов.
Первый подход заключается в том, что регулятор ИИ (отраслевые регуляторы, Минцифры) выбирает общедоступные модели ИИ и датасеты для их обучения. При этом учитываются следующии критерии: по виду обучения (контролируемое, без учителя, с подкреплением, глубокого обучения, переноса обучения), по специализации (машинное зрение, генеративные, поддержка принятия решений, автономное управление...), по требованиям (тип задач, характеристики данных, инфраструктура, объяснимость, мониторинг дрейфа и т.д). После чего ИИ-инструмент может попасть в Реестр доверенных решений ИИ. Однако в «критических» сферах такие решения применять не будут.
Второй подход заключается в использовании общедоступных моделей, которые предварительно обучаются. После чего данные отделяют от модели и тестируются отдельно, чтобы в конечном итоге получить доверенные и эталонные датасеты. После тестирования и прохождения всех испытаний модель отправляется в Реестр.
Спикер пригласил профильных участников форума присоединяться к Консорциуму исследования безопасности технологий ИИ.
***
Напомним, что 18 июня Минцифры сообщило о расширении своих полномочий в сфере ИИ в рамках федерального проекта «Искусственный интеллект». Ведомство будет отвечать за регулирование в сфере разработки и применения ИИ-технологий; реализацию комплекса мер по формированию датасетов для ИИ; укрепление международного сотрудничества в области ИИ-решений и другие аспекты.
Facebook
Вконтакте
Telegram
Twitter
