К созданному весной 2024 года консорциуму Минцифры России для исследований информационной безопасности технологии могут присоединиться еще 16 значимых ИТ-игроков. На сегодняшний день участие в консорциуме принимают 12 организаций.
Ценность площадки
Минцифры ожидает присоединения 16 значимых организаций к консорциуму для исследования информационной безопасности искусственного интеллекта (ИИ) в январе 2025 года, сообщил замглавы министерства Александр Шойтов в ходе своего выступления на открытой конференции Института системного программирования РАН.
«В мае он был создан этого года. Вошли три организации базовые. <…> Сейчас уже после этого, трех базовых организаций, присоединилось еще 9, то есть их сейчас 12, и мы ожидаем в январе присоединения еще 16 значимых организаций, которые занимаются так или иначе искусственным интеллектом и информационной безопасностью», – сказал Шойтов, его цитирует ТАСС.
Представитель Минцифры пояснил, что на данном этапе сформировано шесть рабочих групп консорциума по вопросам нормативного регулирования технологии, тестирования ИИ на предмет атак, развития доверенных ИИ-решений, безопасной разработки ИИ, использования данных для обучения моделей и интеграции ИИ-технологии в критическую информационную инфраструктуру организаций. Часть из этих групп уже активно работает, часть начнет работу в ближайшее время, отметил Шойтов.
По его словам, объединение не собирается допускать жестких и сложных нормативных ограничений за счет нахождения соответствующих технологических решений.
«На площадке также на этой планируется разработка соответствующих методик, проектов стандартов, которые мы будем в установленном порядке предлагать для стандартизации, предлагать регуляторам как то, что удобно именно разработчикам искусственного интеллекта, то, что эффективно с точки зрения информационной безопасности», – рассказал Шойтов.
Безопасное развитие
На старте внедрения технологий искусственного интеллекта необходимо добиваться его безопасного развития, считает член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин.
«Угрозы, которые несут в себе технологии искусственного интеллекта, может быть, не такие явные, как, например, DDos-атаки, но куда более серьезные. Неверно обученная ИИ-модель может поставить неправильный диагноз или создать затор на дороге, а массив информации, который используется для обучения ИИ, может стать объектом пристального внимания со стороны хакеров. Поэтому вопросы обеспечения информбезопасности стоят как никогда остро. Инициатива Минцифры России по созданию отдельного консорциума крайне важна», – подчеркнул депутат.
Амбициозные цели
Цели создания объединения амбициозны и затрагивают ключевые ИБ-вопросы искусственного интеллекта. «При этом консорциум также работает над повышением квалификации специалистов, занимающихся разработкой доверенных ИИ-систем и созданием центров по коллективному использованию научного и технологического оборудования», – рассказал депутат.
Консорциум создан на базе Национального технологического центра цифровой криптографии (НТЦ ЦК), Академии криптографии РФ и Института системного программирования им. В.П.Иванникова Российской академии наук (ИСП РАН).
Ценность консорциума – в его открытости бизнесу. По словам эксперта, «именно бизнес разрабатывает и внедряет ИИ-решения, поэтому его участие в подобной работе просто необходимо. Отечественные технологические гиганты обладают уникальной экспертизой и в контексте разработки ИИ-систем, и в части инфобеза».
Консорциум может развиваться по принципу CERT (computer emergency response team – группы быстрого реагирования на киберинциденты).
«В идеале обмен данными между участниками консорциума должен быть постоянным и непрерывным. Сейчас уровень проникновения ИИ в российскую экономику превысил 30%. С ростом популярности кибератаки на решения, очевидно, будут расти. Оперативный обмен данными об инцидентах очень важен для обеспечения должного уровня защиты», – подчеркнул депутат.
