В настоящее время нет поводов откладывать проекты на базе генеративного искусственного интеллекта (GenAI) в долгий ящик. К такому выводу пришли эксперты в рамках вебинара, посвященного применению GenAI в бизнесе. Обзор кейсов и тенденций в этом сегменте представили специалисты компаний Just AI и Х5 Технологии.
Открыл вебинар директор по продуктам (СРО) компании Just AI Глеб Обломский. Исторически компания специализировалась на разговорном AI, но два года назад многое поменялось в технологическом ландшафте, и в компании развивают новое направление – GenAI.
В центре внимания – создание продуктов и решений для бизнеса, которые помогают адаптировать технологии генеративного AI – большие языковые модели, нейросети генерации изображений, речи. Применение подобных инструментов в бизнес-процессах способствует повышению эффективности и конкурентоспособности.
В ландшафте AI
По оценке аналитиков «Яков и партнеры», пятая часть российских компаний используют GenAI, а 12% из них уже определились с кейсами. По некоторым данным (в частности, McKinsey), генеративный AI может приносить ежегодно до 4,4 трлн долл. в 63 сценариях применения.
За почти два года GenAI превратился в мультимодальный, расширилось окно контекста, а скорость работы увеличилась в несколько раз. О том, насколько оперативно меняются технологии в данном сегменте, говорит тот факт, что не проходит и двух недель без очередного анонса от лидеров рынка, вывода на рынок очередной модели Open source. При этом технологические продукты становятся мощнее и дешевле в использовании.
«Даже если какой-то кейс сейчас не удовлетворяет по качеству или оказывается экономически неоправданным, это не повод откладывать его в долгий ящик. Стоит следить за новостями и анонсами моделей», – отметил Глеб Обломский.
Еще полгода назад мало кто задумывался об использовании больших языковых моделей для обслуживания пользователей в телефонном канале, и на то были причины, например, ответы с большой задержкой. А телефонный канал для живого диалога предполагает быстрое взаимодействие. Сейчас качество моделей таково, что их можно применять для создания AI-ассистентов в телефонном канале.
Рыночные тенденции постепенно меняют и подход потенциальных заказчиков к использованию таких решений. Весной компании предпочитали ориентироваться на кейсы внутреннего использования, а не на поддержку продаж, клиентского сервиса и т. п. Сейчас именно эти направления рассматриваются в числе перспективных.
Аналитики отмечают, что бюджеты на GenAI увеличиваются и становятся долгосрочными. Правда, измерение POI таких кейсов – это все еще сочетание элементов искусства и науки.
Российская специфика
К особенностям российского рынка с учетом санкций и специфики законодательства эксперт отнес ограничения в доступности «железа» и технологий, наличие отечественных сильных игроков, которые предоставляют качественные облачные решения (Сбер Gigachat и Яндекс GPT) для решения кейсов заказчиков. Интерес к GenAI подогревается на фоне рассмотрения законопроекта, предусматривающего введение оборотных штрафов за утечку персональных данных.
Еще одно отличие нашего рынка – «присутствие» на нем государства, что выражается в наличии Федерального проекта «Искусственный интеллект» (продлен до 2030 г.) и поддержке ИИ-стартапов со стороны Фонда «Сколково». К слову, в этом году фонд выделил 500 млн руб. на пилотные ИИ-проекты.
На рынке постоянно появляются новые игроки или поставщики решений, что также оказывает влияние на ИТ-ландшафт и реализуемые кейсы.
Непраздный вопрос
Любую компанию, которая задумывается об использовании больших языковых моделей (LLM), очень интересует вопрос безопасности данных. Для того чтобы не допустить их утечки или неконтролируемого использования, эксперт рекомендует взять на заметку несколько вариантов действий.
В случае применения облачных LLM снизить риски помогут дополнительные механизмы фильтрации и маскирования трафика (содержимого запросов, которые направляются в облачные большие языковые модели).
Если компания хочет исключить риски безопасности и обладает для этого экспертизой и бюджетами, возможно развертывание большой языковой модели на собственных мощностях в своем контуре GenAI.
Популярные кейсы
Существующие кейсы можно подразделить на три группы: результативность работы сотрудников, эффективность внутренних процессов и повышение уровня клиентского сервиса.
Повысить результативность работы юристов, маркетологов, сотрудников техподдержки можно за счет подключения генеративного AI в виде приложений, интерфейсов, помогающих в решении текущих рутинных задач. В рамках кейсов для повышения эффективности внутренних процессов (в частности, связанных с документооборотом, клиентским сервисом, обучением, помощью в принятии решений) особое внимание уделяется интеграции больших языковых моделей. Что касается повышения уровня клиентского сервиса, то чат-боты, AI-ассистенты операторов контактного центра позволяют улучшить метрики решений по автоматизации.
Команды маркетологов одними из первых оценили перспективы использования GenAI, когда появилась первая версия СhatGPT. Например, компания knauf использует эту технологию для генерации изображений, текстов, иллюстраций, что позволяет экономить время при подготовке рекламных материалов, оформлении стендов, изготовлении корпоративных календарей и т. п.
Еще одна компания из индустрии моды рассматривает пилотный проект по генерации изображений для оформления витрины новой коллекции одежды. Оzon использует модели генерации изображений для создания SMM-материалов и описания карточек товаров.
В юриспруденции большие языковые модели применяются для анализа и смыслового сравнения версий юридических документов, многостраничных договоров. Еще одно направление – ассистенты, или своего рода базы знаний, которые помогают быстро получить ответ по вопросам законодательства со ссылкой на регламентирующие документы. Востребован юристами и такой кейс, как получение ответов по вопросам судебной практики, поиску прецедентов.
Широко используется технология GenAI программистами для генерации тестов, работы с программным кодом, SQL-запросами к базам данных.
Среди кейсов, рассчитанных на повышение эффективности внутренних процессов, большой популярностью пользуются решения в области автоматизации документооборота (генерация текстовых артефактов и извлечение данных). Такие решения предлагают разработчики RPA-систем.
GenAI применяется для извлечения сущностей из поступающих в компанию финансовых документов (например, реквизитов контрагента) и для классификации бухгалтерских проводок.
В клиентский сервис активно внедряются вопросно-ответные системы по корпоративным данным. Такие инструменты органично интегрируются в существующие чат-боты (например, клиентской поддержки). Один из крупных банков реализует на своем сайте чат-бот с вопросно-ответной системой по дебетовым картам. Инвестиционная компания использует LLM для помощи чат-боту первой линии, чтобы быстро распознавать и понимать вопросы пользователей.
Компания «Бачата» прибегла к большим языковым моделям для анализа пользовательских сессий – записей телефонных диалогов между сотрудниками автодилерских центров и потенциальными клиентами. В частности, выявлялись звонки, в которых, по мнению LLM, клиент наиболее расположен к дальнейшему диалогу с компанией. В результате компании удалось повысить конверсию (звонок – личная встреча с клиентом) в два раза.
Ритейл по душе AI
Менеджер по развитию искусственного интеллекта компании «Х5 Технологии» Тимур Будтуев рассказал, как ритейлер внедряет инструменты искусственного интеллекта.
Один из таких продуктов – copilot – веб-интерфейс с приложениями под разные бизнес-задачи на базе генеративных нейросетей. Сегодня этим инструментом, позволяющим повысить эффективность сотрудников, пользуются более тысячи человек.
Внедрение инструмента начиналось с изучения его возможностей: генерации текстов, регламентов, должностных инструкций, изображений. Этот же инструмент может служить виртуальным помощником. Пользователю не составит труда создать себе базу знаний по конкретному процессу (обрести личного AI-консультанта), а в перспективе и поделиться ценными сведениями с коллегами.
Как показала практика, copilot хорошо справляется с анализом отзывов клиентов, сотрудников и генерацией четких ответов. Сотрудники ИТ-команды также являются активными пользователями данного инструмента, благодаря чему повышается эффективность работы с кодом.
Лайфхак для практиков
При ответе на вопросы слушателей вебинара эксперты дали любопытную рекомендацию. Независимо от реализуемого кейса нельзя отпускать большую языковую модель в свободное плавание с точки зрения генерации ответа.
Поэтому в текстовых запросах к нейросетям (промте) надо как можно точнее формулировать задачу для модели: найти конкретную информацию в выбранном документе. А если требуемых сведений нет, стоит попросить ее ничего не придумывать, просто сообщать, что ответа нет.
Не следует игнорировать и инструменты контроля. До запуска кейса проводится объемное тестирование модели и определяется процент качества. Допускается, что в каких-то случаях модель может ошибаться. Но даже с условным процентом брака бизнес получит результат при внедрении GenAI.
В режиме работы модели пользователь может ввести дополнительный способ контроля. Например, обязать модель дать не только ответ, но и ссылку на часть документа, подтверждающего вывод. Валидность ответа можно проверять средствами программного кода.
