Популярные сценарии использования языковых моделей на примере YandexGPT�
Анна Лемякина
Директор по стратегическим проектам Yandex Cloud
2
30 ноября 2022 года
OpenAI выпустила ChatGPT, основанный на языковой модели GPT-3,5.
3
2024: мы пользуемся языковыми моделями каждый день
4
ИИ умнеет, всё быстрее
Сравнение лучших моделей по бенчмаркам со «средним» человеческим уровнем
5
1998
2000
2002
2004
2006
2008
2010
2012
2014
2016
2018
2020
2022
2024
Паритет с человеком
Понимание языка
Распознавание рукописного текста
Распознавание голоса
Распознавание изображений
Понимание чтения
Логика
Генерация кода
Школьные предметы
Почему они �такие умные?
И порой кажется, что обладают интеллектом
LLM умеет то же,�что и человек с листом бумаги и ручкой
7
И, как человек, некоторые вещи умеет хуже, чем машины
LLM умеет: Хорошо vs Плохо
8
LLM умеет делать хорошо
Есть решения лучше, чем LLM
Основные сценарии использования больших языковых моделей (в бизнесе )
Поддержка
Подсказки
Переформулировка ответа (учитывая контекст)
Суммаризация истории общений
Оценка сервиса
Классификация
Тренажёр оператора
Продажи | Предоставление сервиса
Чат-бот / FAQ на сайте
Индивидуальные письма от менеджеров по продажам
Вычитка/редактура писем клиентам
Автоматизация: follow-ups, заполнение CRM
Аналитика продаж
HR
Анализ CV кандидатов
Персонализированная коммуникация с кандидатом
Мониторинг работы рекрутеров
HR-self-service
Анализ уровня стресса в организации
Маркетинг
Персонализированный маркетинг
Статьи, новости, посты в блоге
Рекламные креативы
Аналитика упоминаний
Общение в SM
10
YandexGPT
11
80+�интеграций в продуктах Яндекса
Суммаризация контента
12
475 лет
сэкономлено
за месяц
Суммаризация отзывов на Поиске
13
¢
GPT в Лавке: распознавание по этикетке
14
Формализация данных о товаре / услуге
15
Результаты
Задача
Выявление параметров в оффере на основе данных от продавца
Как это работает
Средство: гель
Пол: мужской
Объём: 750 мл
Масла и экстракты: масло лемонграсса
Сокращение ФОТ �на контент-менеджеров
Сильный рост NPS �у продавцов
�до 5%
рост продаж за счет заполненных параметров
Повышение в выдаче
16
Маркет: формализация параметров с помощью YandexGPT
Генерация описания товара
17
Результаты
Задача
Генерация качественного описания товара с помощью YandexGPT в личном кабинете продавца и использование его для любых карточек
52%�сгенерированных GPT-описаний сохранено продавцами
+1,1% �к заказам
Продавцы меньше тратят времени на заполнение карточек и экономят на копирайтинге (рост NPS)
Как это работает
18
Вопрос-ответные системы
19
Зачем нужны и могут ли заменить человека?
20
Помощник для обработки обращений пользователей (граждане, клиенты, сотрудники, партнеры, контрагенты)
Основной сценарий
Возможности
Помощник для ответов на вопросы по сайту mos.ru
21
Консультирование по подборке из 10 инструкций «Как оформить быстро»
Чат-бот «пИИрожок»
22
Задача
Маркетинговая кампания по «подсветке» ассортимента готовых блюд
97%
точность распознавания ансамблевой моделью аллергенов в сообщении пользователя
> 15 000�пользователей �чат-бота в период акции
> 90%�вовлечённость пользователей на первом подборе
Результаты
900+
готовых блюд в каталоге
3 817 669
онлайн-покупателей�за 2023 год
10 с
максимальное время подбора блюд и генерации текста из базы 1000 SKU
3500
пользователей в пике в день
> 10%�пользователей перешли по ссылке в каталог
В каталоге так много позиций, что невозможно определиться и понять, чего хочется на самом деле
Автоматизация сервисного центра
23
Задача
Определение тематики обращений в техническую поддержку и подготовка ответов на частые запросы с опорой на базу знаний
13 000
запросов в рамках пилотного проекта
30%
автоматизации удалось достичь
75%
ответов не требуют доработки специалистов
Результаты
Суфлер
24
Суфлёр
Предоставление подсказок при ответе на запрос клиента
Здравствуйте, Мария! Чем я могу быть вам полезен?
Здравствуйте, ко мне приехал�испорченный заказ!
Добрый день, нам очень жаль…
Не могли бы вы прислать фото испорченного товара?
Подсказка: не забудь запросить фото испорченного товара
Добрый день
Вам отправили аудиосообщение
Подсказка: не забудь уточнить, по какому вопросу обращается клиент
Мария, купленный вами билет подлежит обмену. Для того чтобы это сделать…
… идёт расшифровка аудио c помощью Yandex SpeechKit
Тренажёры
Тренировка специалиста клиентской поддержки
26
Суммаризация
27
Суммаризация
28
Тема встречи
Использование сервисов �для проведения видеоконференций �и вебинаров
Краткое содержание
На встрече обсуждались вопросы, связанные с использованием сервисов �для проведения корпоративных мероприятий. Представитель компании предложил рассмотреть их продукт для организации корпоративных мероприятий и рассказал о его преимуществах. Также обсуждались вопросы использования сервисов для проведения видеоконференций.
Ключевые моменты
Представитель компании предложил Ивану Иванову рассмотреть их продукт для организации корпоративных мероприятий. Он подчеркнул, что сервис не тарифицируется по количеству участников, а предлагает жёсткие пакеты с определённым набором функций.
Были обсуждены преимущества продукта: возможность запланировать серию мероприятий, интеграция с почтовыми сервисами, возможность совместной работы и демонстрации контента, доступ к мероприятиям без регистрации на платформе. Также обсуждались вопросы использования сервисов для проведения видеоконференций. Представитель компании рассказал о безопасности данных, уникальности ссылок на мероприятия и высокой пропускной способности.
Принятые решения
Иван Иванов и Анар Мамедов обсудили возможность перехода компании на новый сервис �для проведения видеоконференций. Анар Мамедов предложил тестовый доступ к сервису �для оценки его возможностей. Иван Иванов согласился рассмотреть возможность использования сервиса после тестового периода.
Задачи
Анар Мамедов пообещал отправить всю необходимую информацию на почту Ивана Иванова.
СRM
Расшифровка диалогов и заполнение полей CRM
29
1
2
3
Выявление сущностей
Распознавание диалога
Заполнение полей CRM
Процесс
СRM
Суммаризация данных о клиентах / партнерах и коммуникациях с ними
30
Процесс
Текст (чаты, мессенджеры, почта)
Голос (контакт-центр, аудиосообщения в чатах)
Тема: доставка карты
Итог: специалист службы поддержки уточнил номер телефона и адрес клиента, чтобы решить вопрос
Тема: отключение платной подписки
Итог: бот предоставил клиенту пошаговую�инструкцию отключения подписки�на онлайн-сервис
Тема: разные номера телефонов�в накладной и в системе
Итог: специалист службы поддержки передал�актуальный номер телефона в отдел доставки, объяснил клиенту, как отслеживать статус доставки
Модерация контента
31
Модерация отзывов
32
Результаты
Задача
Задача заключалась в автоматизации модерации покупательских отзывов для приложения "Магнит: акции и доставка".
85%�точность относительно людей с 90% согласием
Как решали
в 1000 раз
Сократилось среднее время обработки отзыва
в 3 раза�уменьшились расходы на модерацию 1 отзыва
Обработка документов�и образовательный консультант
33
Результаты
20 тысяч�обработанных документов за год без значительных затрат на человекоресурсы
значительное�увеличение вовлеченности и конверсии потенциальных студентов
Задача
Как решали
Для решения задачи была разработана система, основанная на технологии YandexGPT. При работе со студентами система учитывала их личные предпочтения, информацию из внутренних и внешних источников данных об образовательных программах.
Yandex GPT API используетя более года: результаты
34
Система поиска и развития талантов
Формирование описания вакансии под запрос рекрутера с учётом Tone of Voice компании
60 минут → несколько минут
Повышение качества подбора
Увеличение конверсии в отклик
Суммаризация видеоконференций
Внутренняя система для суммаризации видеоконференций по шаблону
Система интеллектуального �анализа отзывов
Выявление и группировка �тем, о которых пользователи рассказывают в своих отзывах
Медицинские сценарии: голосовые AI чат боты
35
AI чат боты в медицине активно применяются
36
До приёма
На приёме
После
Заполнение протокола
(сбор первичного анамнеза)
Электронный больничный
Запись на приём (122)
Подбор услуги
Справка
Вызов врача на дом
Мониторинг пациентов
Обратная связь
Льготные лекарства
«Мозги» бота используют как алгоритмы машинного �обучения, так и doctor-generated правила
37
Данные медицинских карт
Данные справочников
AI-алгоритмы
ML-система
Выделение симптомов �из фраз
Интеллектуальный �подбор вопросов
Маршрутизация �по итогам опроса
База знаний, составленная врачами
Комбинация результатов
Сыпь,�зуд
Нормальная температура
Высокая�температура
…
Дерматолог
Инфекционист
…
Удачное внедрение AI
38
Цель: автоматизировать рутину, а не убрать человека
Сначала задача, потом технология
Демократизация использования LLM –буст развития и количество применений
Буду рада обсудить ваши вопросы и инициативы, сомнения…
Анна Лемякина
Директор по стратегическим проектам
Yandex Cloud
annlem@yandex-team.ru