Конференция Conversations 2024, посвященная генеративному и разговорному искусственному интеллекту, стала одним из запоминающихся деловых мероприятий уходящего года. Идеи, мнения о возможностях и перспективах технологии ИИ, или AI, участники мероприятия иллюстрировали на примере кейсов. Практического материала для серьезного разговора оказалось более чем достаточно. Причем речь шла не только об успехах внедрения решений, но и об ошибках, поисках ответов на вопрос, как найти общий язык с интеллектом искусственным, руководствуясь интеллектом естественным.
Тренд на самоулучшение
Примечательная особенность продвижения ИИ в том, что технология проникает во все области деятельности – от промышленности до сферы услуг, доставки товаров. А предприниматели предпочитают вести разговор о том, насколько эффективно использовать генеративный искусственный интеллект (GenAI), в частности, генеративные модели для решения бизнес-задач.
Технологический прогресс ускоряется. За минувший год модели стали существенно умнее, например, новинка GPT о1 умеет рассуждать. Модель о1 устроена так, что основное время посвящает размышлению и анализу. В результате ее прорыв в ряде областей весьма заметен, что показывают тесты. Активно развиваются модели в России: «Яндекс» и «Сбер» представили свои мощные продукты – GPT 4 Pro и GigaChat Max.
Цены на такие решения продолжают снижаться, и для ряда применений модели становятся доступнее. При этом их производительность стремительно повышается, в скором времени они смогут улучшать себя, утверждают эксперты. По мнению Леопольда Ашенбреннера (экс-сотрудника Open AI), это может произойти уже в ближайшие два-три года.
Не менее очевидный тренд в индустрии – появление большого количества прикладных концепций, подходов, методологий и созданных на их базе продуктов. Вокруг LLM и GenAI моделей формируются все более сложные прикладные системы. Получила распространение технология обогащения моделей актуальным контентом для получения релевантных ответов (технология RAG). Поиск по базам знаний усложняется, и зачастую запросами к данным управляют агенты – автономные системы, итеративно вызывающие LLM для рассуждений и решения специальных задач посредством обогащения контекста.
Наряду с этим расширяется модальность моделей (изображения, видео, речь, музыка, код). Например, мультимодальная модель GPT 4о предусматривает синтез и распознавание речи, LLM, способную мыслить. Уходящий 2024-й эксперты называют годом видеогенерации. В Сети полно примеров, профессиональное сообщество в ожидании Sora 2 – суперкрутой модели видеогенерации.
В последнее время хорошо зарекомендовали себя модели Open Source, которые стали более функциональными для реализации прикладных проектов. В частности, Alibaba представила линейку моделей разной мощности. Как показывает практика, Open Source может достигать уровня топовых моделей, пусть и с задержкой в 8–12 месяцев. В этом безусловная заслуга ведущих корпораций. Например, Meta, создавая новые модели, передает их в Open Source. По этому же пути следуют и китайские компании.
LLM проникают в звонки, хотя еще недавно казалось, что инструментам на базе ИИ не хватает зрелости, чтобы они могли сравниться с операторами. Абоненты просили переключить их на оператора, а компании-разработчики продолжали биться над решением проблемы задержки во времени. Сегодня доступны решения, которые позволяют сделать ее почти незаметной в разговоре (до полсекунды). И это позволяет экспертам сделать вывод о том, что автоматизация общения с клиентами, контакт-центры, коммуникация прошли точку невозврата. Настороженное отношение к технологии в прошлом. Компании в этом сегменте будут мигрировать на новые решения на базе LLM.
Корпорации продолжают экспериментировать, и все больше платформ интегрируют GenAI. Любопытство по отношению к технологии уступает место прагматичному подходу – компании анализируют эффективность. Постепенно преодолевается дистанция между потенциалом технологии и уровнем инструментов. Вендоры предлагают готовые инструменты, а ИТ-департаменты с удовольствием их опробуют, демонстрируя свою готовность к внедрению GenAI.
Представленные на конференции кейсы показывают результаты, представляющие интерес в том числе для бизнеса. GenAI повышает эффективность и качество, но пока не приводит к масштабной экономии. Кроме того, технология упрощает создание визуального контента, без труда справляется с рутинными операциями. В сфере разработки кода модели редко применяются для написания готового продукта, но при этом сводят рутину к минимуму.
Бум инвестиций
Одним из спикеров, кто задал тон разговора на Conversations 2024, стал сооснователь компании Just AI Кирилл Петров. По его словам, мы привыкли к тому, что в индустрии все быстро меняется. Но с появлением два года назад генеративного искусственного интеллекта все настолько ускорилось, что охватить происходящее в одном выступлении невозможно.
Бум инвестиций в сегменте ИИ наблюдается на уровне инфраструктуры. За два года с момента появления технологии еженедельная аудитория пользователей Chat GPT, продуктов Open AI превысила 250 млн человек – показатель того, что технология входит в жизнь. И это один из самых быстрых темпов роста какой-либо технологии, которой начали пользоваться люди.
В России, по некоторых данным, более 20 млн регулярно пользуются нейросетями. Эксперты ориентируются, в частности, на востребованность GigaChat «Сбера». При этом огромное количество альтернативных источников использования, в частности телеграм-каналов. У одного из знакомых Кирилла Петрова 16 млн человек в телеграм-доступе к ботам и почти миллион составляет ежедневная аудитория – популярнейший сервис среди аудитории разного возраста. В бизнес технология входит не менее стремительно. И по мере ее проникновения начнут окупаться огромные вложения Microsoft, Nvidia в чипы. Процесс идет быстро. В орбиты российских гигантов ИИ – «Яндекса» и «Сбера» – вовлечены близкие по роду деятельности компании.
Высокий интерес к технологии сопровождается вопросами, с чего начать, как найти лучшие практики, не повторять чужих ошибок. В ответ на запрос компания Just AI создала кейсориум Generation AI – сайт по адресу www.generation-ai.ru, чтобы учиться друг у друга. На этой виртуальной площадке собраны лучшие кейсы применения GenAI в бизнесе. Там же можно найти тематические статьи и подкасты, метрики, результаты внедрений, обсудить трудности внедрения. Из заявок на включение в кейсориум образуется очередь, что и понятно: обмен опытом поможет избежать ошибок при реализации таких проектов.
Создание кейсориума навело на мысль об учреждении премии за лучшие внедрения GenAI. Generation AI Awards – первая премия в сфере применения генеративного искусственного интеллекта в бизнесе. Анонс премии и предварительного списка номинаций состоялся в рамках конференции Conversations 2024.
Было объявлено также о возвращении летней Conversations в сезон белых ночей в Санкт-Петербурге. В дни ее проведения в 2025 г. и состоится первая церемония вручения премии Generation AI Awards.
Витрина продуктов
Разнообразие продуктов, представленных на конференции, впечатляет. Например, компания Just AI показала рабочее место с топовыми нейросетями в едином интерфейсе Jay Copilot (версии 2.0). В числе возможностей решения – встроенный текстовый редактор для работы с документами совместно с ИИ, единый агент для управления всеми функциями, генерация изображений с помощью искусственного интеллекта, персональный умный поиск по файлам и т. д.
Решение внедрено Центром информационных технологий (ЦИТ) Смоленской области для работы с госпабликами. Результаты пилотного проекта не заставили себя ждать: на 75% возрос показатель вовлеченности, на 58% – тональность отзывов населения, затраты рабочего времени сотрудника пресс-службы сократились в 2,4 раза. В планах региональной администрации – внедрить решение во всех районах области.
Для создания контента (подкастов, описаний товаров, рекламных текстов) это же решение выбрала компания Knauf. Jay Copilot выступает в роли ИИ-ассистента маркетолога. В Х5 group этот инструмент отвечает за анализ данных. На конференции Just AI представила Jay Flow – пространство для работы с контентом и нейросетями.
В «Сбере» работа с ИИ ведется давно. Управляющий директор, лидер кластера GigaChat SberDevices Максим Волошин отметил, что применять ИИ нужно прежде всего для расшивания узких мест, там, где будет гарантирован результат (что-то будет выполнено в 10–20–100 раз быстрее).
Для внедрения GenAI в компании завели машину экспериментов, своего рода внутреннюю воронку. В рамках всех подразделений банка формируется набор идей, которые проходят разные стадии по принципу инкубатора или акселератора. За год удалось провести примерно 200 инициатив. От части из них пришлось отказаться на первых этапах – GenAI нужен не всегда. Конверсия к последним этапам доходит до 20–25%. Реализуется совместный трек акселератора Sber500 и GigaChat. Примечательно, что на основной трек было 1,5 тыс. заявок, а на отдельный трек по GenAI – 1,2 тыс. В стадии акселерации сейчас находятся 30 команд.
Как не допустить ошибок при внедрении GenAI рассказал Алексей Долотов из Yandex Cloud. В «Яндексе» технология GenAI развивается под брендом YandexGPT. В настоящее время более 100 интеграций в инфраструктуре или сервисах. Мировой и российский опыт говорит о том, что 80% внедрений ИИ не оправдывают инвестиций в них. Но, по утверждению Алексея Долотова, в самом «Яндексе» обратная пропорция: в категорию неуспешных попадают менее 20% всех внедрений.
На позитивный тренд указывает ряд примеров. Более половины разработчиков в «Яндексе» используют инструмент Yandex Code Assistant на основных языках программирования. При желании можно запросить бесплатный доступ к этому продукту. Хорошо зарекомендовал себя GenAI в качестве суфлера оператора клиентской поддержки, который подсказывает оператору ответ на основе базы знаний. Специальная модель прошла обучение на опыте поддержки десятков сервисов «Яндекса». Многие сотрудники используют опцию нейроредактирования текста в браузере. Можно исправить ошибки в тексте, перевести его или сократить. Внедрение YandexGPT в речевую аналитику Yandex SpeechSense поменяло подход к работе с колл-центрами и контакт-центрами.
В то же время эксперт предостерег от ряда ошибок. В частности, не следует думать, что модель умная и все знает (когда-то она была обучена на данных, и новая информация по умолчанию ей недоступна). Рекомендуется использовать инструмент RAG, который обращается к источнику знаний, собирает релевантную информацию и «скармливает» ее большой языковой модели.
Несмотря на разнообразие мнений относительно зрелости технологии, сегодня очевидно, что GenAI привносит добавленную ценность в существующие продукты и сервисы. Первыми убеждаются в этом те, кто не боится экспериментировать, умеет находить решения на базе ИИ и делать выводы, руководствуясь интеллектом, прежде всего естественным.
