В Роскомнадзоре намерены наладить работу рекомендательных систем с учетом мнения и согласия пользователей. В настоящий момент проект новых законодательных требований обсуждается с ключевыми участниками отрасли, сообщают Известия.
Работа рекомендательных систем должна быть выстроена при учете мнения самих пользователей, в том числе за счет предоставления добровольного согласия на просмотр рекомендательного контента, сообщает источник издания в одной из структур Роскомнадзора. Отмечается, что такой подход может оградить детей от жестокого и неподходящего по возрасту контента, а представителей старшего возраста – от навязчивых предложений кредитов, ссылок и фишинговых ресурсов.
На сегодняшний день, по словам аналитиков отрасли, пользователи не могут полноценно контролировать работу рекомендательных систем. Чтобы отказаться от просмотра того или иного контента, пользователь может оставить гневный комментарий, поставить дизлайк или направить обращение о прекращении демонстрации подобной информации, однако ни один из этих способов нельзя назвать ни эффективным, ни универсальным.
Черный ящик
Рекомендательные системы – это комплекс алгоритмов, функционирующих на основе машинного обучения, который собирает данные о пользователе и впоследствии предлагает ему тот или иной контент.
По словам члена комитета Госдумы по информационной политике, информационным технологиям и связи Антона Немкина, «в некотором смысле функционирование рекомендательных систем, действительно, можно рассматривать как «черный ящик» – не всегда не только пользователь, но и сам разработчик может объяснить, почему был предложен именно этот контент. Усугубляет ситуацию и то, что сама работа рекомендаций бывает некачественной. Например, при просмотре контента на тему финансов, система может порекомендовать пользователю и нежелательную информацию, например, контент, о финансовых пирамидах. При регистрации на интернет-платформах сейчас, как правило, требуется указать хотя бы примерный круг интересов для того, чтобы система понимала, что именно нужно рекомендовать пользователю. Но и в этом случае алгоритмы не всегда справляются».
Не каждая рекомендация полезна
Пострадать от работы рекомендаций могут самые незащищенные группы – дети и представители старшего поколения, считает парламентарий. «Сюда же можно отнести группу людей, у которых предпочтения до сих пор не сформированы или, напротив, интересы давно сменились, а система продолжает рекомендовать уже неактуальный контент. В любом случае опасность работы алгоритмов связана именно с распространением деструктивного контента. Например, сцен с излишней жесткостью для детей и подростков», – отметил Немкин.
С 2023 года в России действует закон о работе рекомендательных алгоритмов.
«Сейчас владельцы платформ, на которых используются рекомендательные системы, должны как информировать пользователей о факте работы рекомендаций, так и объяснять принципы работы системы, в том числе сообщать о том, какие сведения собираются и используются. Цель данного закона – повышение прозрачности работы самих алгоритмов и информированности граждан об их наличии. Однако с точки зрения эффективности работы рекомендаций, полноценное законодательство пока не сформировано», – пояснил Антон Немкин.
По словам депутата, данная инициатива заслуживает внимания. «Распространение нежелательного контента – одно из отрицательных последствий развития цифры. Мы уже столкнулись с большим объемом дезинформации, – говорит парламентарий. – Например, по данным ВЦИОМ, до 40% россиян сталкивались с новостями в интернете, которые впоследствии оказались недостоверными. Но необходим баланс – запрещать работу рекомендательных алгоритмов нельзя. Это осложнит пользовательский опыт, а также может серьезно ударить по предпринимателям. Тем не менее, стремиться к повышению эффективности работы алгоритмов точно нужно».
