Столичный Департамент информационных технологий приглашает москвичей протестировать новый бесплатный сервис по защите от кибермошенников. Теперь проверить подозрительное сообщение на наличие признаков обмана можно с помощью бесплатного телеграм-бота https://t.me/CheckSynthesisFraud_bot информационного проекта «Перезвони сам». Как рассказали в ДИТ Москвы, сервис работает в пилотном режиме и поможет распознать попытку мошенничества в текстовых и голосовых сообщениях.
«С развитием технологий приемы мошенников также становятся все более изощренными: они звонят от лица банков или официальных организаций, присылают заманчивые предложения о работе и выгодных распродажах, рассылают просьбы помочь со взломанных аккаунтов друзей и знакомых, а также применяют другие уловки. Мы запустили бесплатный инструмент, который поможет проверить полученные сообщения. Телеграм-бот анализирует присланные скриншоты переписки, текстовое или голосовое сообщение и помогает определить, есть ли в нем признаки мошенничества. Сервис работает с применением искусственного интеллекта, включая большие языковые модели и технологии оптического распознавания текста и распознавания речи», — рассказала Валентина Шилина, руководитель проекта «Перезвони сам» столичного Департамента информационных технологий.
Сейчас бот https://t.me/CheckSynthesisFraud_bot работает в пилотном режиме, который продлится до 27 февраля. Ответ, который он предоставляет — это не окончательный вердикт, а предварительный результат проверки, на который пользователям рекомендуется обратить внимание. Специалисты ДИТ Москвы проанализируют результаты, полученные в период тестирования, и доработают сервис с учетом этой информации и пожеланий пользователей. Планируется, что весной 2025 года проект заработает полноценно.
Бот умеет распознавать несколько типов информации. Если прислать текстовое сообщение или его скриншот, он проанализирует его содержание по различным критериям: проверит имя пользователя, определит, есть ли в послании эмоциональное давление, манипуляции срочностью, попытки получить персональную информацию или просьбы о денежном переводе, наличие подозрительных ссылок. Все это может быть признаком мошенничества. По итогам обработки информации сервис сообщит о проценте вероятности обмана в сообщении и отметит подозрительные сигналы, которые должны насторожить.
При обработке аудиофайлов бот имеет две функции. Первая позволяет оценить вероятность мошенничества на основе содержания: пересланного аудиосообщения или пересказа телефонного разговора с подозрительными лицами. Пользователь может записать голосовое сообщение и рассказать о деталях беседы: кто звонил, какие сведения запрашивали, не было ли давления срочностью или авторитетом. Например, к боту можно обратиться, если звонивший представился сотрудником банка и сообщил о попытке снятия средств с карты, а после предложил как можно быстрее перевести деньги на безопасный счет во избежание кражи. Сервис сообщит, какие манипуляции и уловки были применены в разговоре, а также процент вероятности того, что звонивший был злоумышленником.
Вторая функция бота при работе с аудиофайлами – проверка на наличие признаков синтезированной речи. Сегодня мошенники научились применять высокие технологии для создания дипфейков – сообщений, в которых генерируется голос отправителя. Если прислать боту полученное от друга подозрительное голосовое сообщение с просьбой помочь, перевести деньги или сообщить персональные данные, сервис также сможет проверить, есть ли в файле признаки синтезированной речи.
Для аналитики сообщений используются большие языковые модели (LLM), а для обработки скриншотов и изображений – оптическое распознавание символов для перевода изображения в текст. Каждое аудиосообщение анализируется в два этапа: сначала с помощью технологий анализа аудиодипфейков определяется наличие синтезированной речи, затем текстовая расшифровка сообщения проверяется на признаки мошенничества с использованием LLM. За счет анализа и обработки полученных от пользователей обращений применяемая в боте нейросеть будет постоянно обучаться и дополняться новыми данными, что позволит повысить точность распознавания обмана и расширить сведения о применяемых мошенниками схемах.
Воспользоваться ботом можно со страницы сайта проекта «Перезвони сам» https://sam.mos.ru/#telegram-bot (ссылку пока делают, если не заработает отдельная дадим общую на сайт) или по прямой ссылке https://t.me/CheckSynthesisFraud_bot. Оставить отзыв или рекомендации пользователи могут по телефону горячей линии или на странице обратной связи на сайте.
Сервис создан при участии Управления инноваций ДИТ Москвы специально для информационного проекта «Перезвони сам».
Информационный онлайн-проект «Перезвони сам» создан в 2022 году Правительством Москвы совместно с Главным управлением Министерства внутренних дел России по городу Москве. Он помогает. Он помогает горожанам уберечь себя и близких от телефонного и интернет-мошенничества. На сайте https://sam.mos.ru/ проекта размещена информация о ближайших очных и онлайн мероприятиях, а также доступны памятки и рекомендации экспертов, записи уже прошедших вебинаров и другие полезные материалы. В 2023 году проект «Перезвони сам» победил в номинации «Лучший сайт социального проекта» премии «Золотой сайт». Кроме того, он удостоен премии Рунета в номинации «Информационная безопасность».
Создание и поддержка средств обеспечения информационной безопасности, а также противодействие кибермошенничеству, соответствуют задачам национального проекта «Экономика данных и цифровая трансформация государства».
