Главный радиочастотный центр Роскомнадзора запустил в эксплуатацию интеллектуальную систему отслеживания незаконного контента в интернете «Окулус», задача которой – выявление запрещенного в России контента. Система анализирует открытые источники и обнаруживает информационные каналы, системно настроенные на подрыв благополучия российского общества.
Представители ГРЧЦ сообщили, что «Окулус» уже выполняет возложенные на нее задачи в полном объеме. В декабре 2022 года система была протестирована, а в январе этого года началась ее интеграция с другими инструментами мониторинга Роскомнадзора. «Окулус» выявляет нарушения законодательства в изображениях и видеоматериалах, размещенных в Рунете на различных сайтах и в социальных сетях.
Возможности системы
Система настроена, в том числе, на определение нарушений Федерального закона № 478-ФЗ от 05.12.2022, которым предусмотрена ответственность за пропаганду нетрадиционных сексуальных отношений, педофилии и смены пола среди лиц любого возраста, а также ужесточается наказание за подобную пропаганду среди несовершеннолетних. «Окулус» сможет определить, содержатся ли в изображениях и видеороликах призывы к террористическим действиям, нарушению общественного порядка, распространению оружия, пропаганда ЛГБТ-предпочтений или суицидов.
При этом «Окулус» не занимается сбором данных, но работает с контентом, который собрали другие системы на различных сайтах и в соцсетях.
Эксперты отмечают, что возможности искусственного интеллекта не только помогают справиться с анализом открытого контента, но и закладывают основу для будущего масштабирования такой работы.
По мере развития новой системы на базе технологий ИИ будет увеличиваться ее охват и расширяться спектр задач. В Роскомнадзоре сообщили, что с 2025 года «Окулусу» добавят новые функции: система сможет определять новые типы нарушений, а также позы людей и их действий, работать с рукописными и рисованными изображениями.
До внедрения информационной системы «Окулус» специалистам ГРЧЦ приходилось анализировать запрещенный контент преимущественно вручную: один оператор может обработать в сутки не более нескольких сотен изображений и видеороликов. «Окулус», как прогнозируют в ГРЧЦ, сможет анализировать более 200 тыс. изображений в сутки, а также автоматизирует и значительно ускорит мониторинг визуального контента.
Не уйти от ответственности
«В результате запуска этой системы можно прогнозировать значительное увеличение количества дел по привлечению к ответственности за публикацию сведений, нарушающих требования законодательства. Пользователям имеет смысл провести ревизию своего контента в соцсетях на предмет поиска фото- и видеоизображений запрещенных сцен, предметов и символов. С учетом того, что многие темы запрещены не так давно, особое внимание нужно уделить старым фотографиям, загруженным несколько лет назад. К сожалению, правоприменители считают распространение запрещенного контента длящимся нарушением, поэтому невозможно будет уклониться от ответственности, сославшись на то, что на момент размещения контента он не противоречил законодательству. Так, если сегодня какой-либо контент относится к запрещенному, а пользователь, разместивший его много лет назад, такой контент со своей страницы не убирает, это будет сочтено правонарушением», – пояснил член Комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России Ефим Казанцев.
Око «Окулуса»
В Комитете Госдумы РФ по информационной политике, информационным технологиям и связи подчеркнули, что система Роскомнадзора не предназначена для цензуры российского медиапространства.
«На странице в социальной сети не может случайно оказаться, к примеру, один пост с призывом к террористическим действиям. Запрещенный последними законами контент, угрожающий жизни или здоровью граждан России, направленный против традиционных нравственных ценностей или призывающий к противоправным действиям, появляется не на личных страницах в соцсетях, но в специально сформированных для его распространения информационных каналах. Учитывая бурный рост числа таких источников информации, скорость обновления материалов в них, давно необходимо было найти решение, которое позволило бы противодействовать распространению всего этого деструктивного контента, а также многочисленных фейков. Роскомнадзор грамотно задействовал все возможности искусственного интеллекта», – сказал член комитета Госдумы РФ по информационной политике, информационным технологиям и связи Антон Немкин.
