В эпоху повсеместной цифровизации бизнес-процессов все больше компаний используют голосовые роботы и текстовые чат-боты с технологиями ИИ для автоматизации рутинных операций и предоставления полноценных консультаций. Однако современные языковые модели еще далеки от совершенства: они не всегда понимают контекст разговора, часто ошибаются, не восприимчивы к обучению. Эксперты компании САТЕЛ рассказали об особенностях контекстно-интентной модели, которая была разработана для собственной диалоговой платформы ZIAX.
Основные препятствия, с которыми сталкиваются компании еще на этапе внедрения робота в бизнес-процессы – это создание больших списков лингвистических моделей для определения намерений клиента и последующего предоставления консультации на их основе. По этой причине подготовка робота занимает много времени, при этом нельзя гарантировать, что робот будет корректно отрабатывать запросы во всех сценариях коммуникации с пользователем.
В диалоговой платформе ZIAX реализован совершенно другой подход, в рамках которого разработчики устранили ошибки, которые присущи любым языковым моделям, участвующим в обработке полученной информации. При поступлении запроса сначала определяется контекст (интересующая пользователя тема) и тип запроса (услуга или консультация). В зависимости от типа запроса в ZIAX применяются разные технологии для обработки данных и формирования ответа.
Если робот распознает тип запроса как просьбу в оказании конкретной услуги, то он подключает контекстно-интентную модель. В рамках этой модели определяется намерение пользователя, извлекаются ключевые данные, в соответствии с которыми проводится поиск информации в базе знаний. На основании собранных данных формируется готовый ответ. Контекстно-интентная модель позволяет в рамках одного диалогового окна переключаться между разными темами, а роботу — безошибочно фиксировать все запросы пользователя, ориентироваться между главными и второстепенными темами, оказывать необходимые услуги.
В случае, если запрос распознается как просьба оказать консультацию, робот обращается к языковой модели (LLM). С помощью технологии RAG (Retrieval Augmented Generation, или «генерация с дополненной выборкой») к запросу пользователя добавляется информация, найденная в базе документов, которые предоставляет заказчик. Затем расширенный запрос отправляется в LLM модель для генерации ответа.
Таким образом, переключение между различными моделями обработки запросов позволяет не только устранить большинство проблем, характерных LLM моделям (недостоверная или выдуманная информация, изменение тона общения и т.д.), но и корректно обработать любые запросы клиента, а также существенно облегчить подготовку робота для внедрения в бизнес-процессы.
«В разработке ZIAX наша команда применила уникальные технологии, которые меняют представление о коммуникации и взаимодействии пользователя с роботом. Платформа обеспечивает мгновенный отклик и глубокое понимание каждого запроса, а возможность распознавания контекста позволяет буквально предсказывать пожелания пользователя. Только в комбинации нескольких технологий – исполняющих и задающих правила – создается действительно мощный и эффективный инструмент, безупречно работающий в интересах компании», — отметил Роман Милованов, руководитель направления разработки чат-ботов и голосовых роботов САТЕЛ.
