Поиском в Интернете запрещенного в России контента займется система «Окулус», которую «Роскомнадзор» недавно запустил в эксплуатацию. Новый инструмент помощью технологий искусственного интеллекта анализирует открытые источники и выявляет информационные каналы, специализирующиеся на подрыве благополучия российского общества.
Всевидящее око
Представители ведомства сообщили, что система выполняет возложенные на нее задачи. В конце прошлого года «Окулус» протестировали и приступили к ее интеграции с другими средствами мониторинга. Систему «научили» выявлять нарушения законодательства на фото- и в видеоматериалах, размещенных в Рунете на сайтах и в соцсетях. В частности, «всевидящее око» способно распознать материалы, указывающие на пропаганду нетрадиционных сексуальных отношений, педофилии и смены пола среди лиц любого возраста, определить, содержатся ли на фото и в видео запрещенные на законодательном уровне призывы, например, к терроризму, суицидам, нарушениям общественного порядка, распространению оружия и т. п. В «Роскомнадзоре» подчеркнули, что «Окулус» не собирает данные, а оперирует контентом, представленным на веб-ресурсах.
Меры по защите информационного пространства на предмет обнаружения запрещенного контента принимались и до внедрения новой системы. В частности, специалисты Главного радиочастотного центра «Роскомнадзора» анализировали материалы буквально вручную. Правда, и объем выполняемой работы несравним – один оператор за смену способен был обработать несколько сотен видеороликов и изображений. Аналитические возможности системы «Окулус» на порядки выше – 200 тыс. изображений в сутки.
В ближайшие годы планируется расширить функции системы – настроить ее на обнаружение дополнительных классов и типов нарушений, представленных в том числе в виде рукописных или рисованных изображений. Необходимость развития автоматизированной системы чиновники объясняют увеличением потока запрещенных материалов в Интернете.
Противодействовать распространению деструктивного контента нужно. Но вопрос в точности интерпретации материалов системой. Как и для любого инструмента на базе искусственного интеллекта, для «Окулус» может быть характерно ложное срабатывание. В Лиге безопасного Интернета сообщили, что подобный риск существует. Поэтому выводы «Окулуса» будут анализировать в сочетании с использованием других инструментов и даже при участии человека, т. е. проверять и вручную. В руководстве Лиги предположили, что на текущем этапе выявленная информация «не будет автоматически куда-либо отправляться», в том числе для возбуждения административных и уголовных дел, а также для внесения в реестр запрещенных сайтов.
Оценить перспективы использования новой системы на просторах Глобальной сети взялись многочисленные вольные комментаторы. Пока они упражнялись в острословии: «Интернет строгого режима», «из Сети исчезнет изрядная часть мирового (и российского) художественного наследия», «система тотальной цензуры», в тематическую новостную повестку ворвался «Вепрь».
Искатель точек напряженности
Информационная система под таким названием тестируется на предмет выявления «точек информационной напряженности» в сетевых средствах массовой информации и на других интернет-ресурсах. Под «точками информационной напряженности», как следует из техзадания, понимаются «факты распространения общественно значимой информации под видом достоверных сообщений, которая создает угрозу причинения вреда жизни и (или) здоровью граждан, имуществу, угрозу массового нарушения общественного порядка и (или) общественной безопасности».
Алгоритм «Вепря» работает на основе математических поисковых и оптимизационных моделей, методов машинного обучения. «Вепрь» должен охватывать ресурсы с ежедневной аудиторией не менее миллиона человек и уметь фильтровать точки информационной напряженности по степени влияния на посетителей. Система должна «выявлять негатив, оскорбления в отношении заданного субъектного и объектного состава» в рамках определенных тем, распространение недостоверной информации по этим темам, а также информационные кампании. Ввести «Вепрь» в эксплуатацию планируется во второй половине этого года.
На основе фактов, ставших достоянием ИТ-общественности к настоящему времени, очевидно, что «Роскомнадзор» замахнулся на создание единой системы мониторинга информационного пространства. О результативности разрабатываемых инструментов говорить преждевременно. Эксперты не готовы пока оценивать даже риски применения таких систем. Нет ясности и относительно целей обнаружения точек информационной напряженности, а уж сортировка их по степени влияния на посетителей интернет-ресурсов – из категории нереализуемого без перекосов и субъективного трактования.
Анонсированные возможности систем вызывают недоверие с точки зрения не только их точности, но и последующего применения мер ответственности. Нельзя исключить также попыток манипуляции мнениями, точками зрения, особенно у желающих свести счеты с инакомыслящими.
