Чат-боты, Искусственный интеллект | Олег Брагинский, Виталий Лажинцев, Сергей Кондратенко
Основатель «Школы траблшутеров» Олег Брагинский со слушателями школы Виталием Лажинцевым и Сергеем Кондратенко представляют кейс по созданию чат-бота с нейросетью.
Производитель антифриза решил заказать чат-бот, консультирующий автолюбителей, чтобы улучшить взаимодействие с покупателями, предоставить доступ к качественной информации и рекомендациям. Заявил, что хочет ИИ-решение: о нейросетях говорят все, нужно быть в тренде.
Кроме того, надеялся автоматизировать первый эшелон технической поддержки и продаж при большом потоке обращений и заказов в B2C. Стали сообща думать, зачем проекту артиллект:
- сможет активно продвигать антифриз конкретного вида в подходящих ситуациях
- адаптируется к стилю общения пользователя
- автоматизированный анализ и генерация текста позволяют реагировать мгновенно, обеспечивая быстрые консультации.
Смысл проекта сформулировали в двух предложениях:
- цель – предоставить клиентам оперативные и точные ответы на вопросы
- идея – интеграция искусственного интеллекта в чат-бот.
Подготовка и разработка логики
Создали механизм общения с пользователями, гарантирующий решение запросов. При запуске бота открывается меню, предоставляющее опции:
- перейти на официальный сайт
- узнать больше об антифризе
- задать вопрос.
При интересе продукции, бот предлагает подобрать антифриз на официальном сайте или приобрести на маркетплейсах. В конце общения предоставляет промокод на скидку:
Искусственный интеллект начинает работать, когда задаются вопросы, связанные с автомобилями – передаются нейронной сети, которая формирует ответы. Фразы не связанные с автомобилями – остаются без реакции. Если пользователь недоволен ответом, к чату подключается специалист.
После согласования логики, осталось превратить схему в код и получить желаемый продукт:
Создание и обучение
Начали разработку с минимального ТЗ с простейшим сценарием использования. Первая версия давала ответы на вопросы, без возможности перенаправления к специалисту.
После тестирования доработали более сложный алгоритм с двумя сценариями:
- искусственный интеллект отвечает на вопросы пользователя
- при недовольстве пользователя переводим общение со специалистом.
Разработали промпт – набор команд для нейронной сети. Его задача заключается в определении, связан ли вопрос пользователя с одной из двух тем:
- автомобиль и обслуживание
- автохимия.
Конструкции строили на условиях типа: «Если… , то…». Содержательный ответ формируется на вопрос, касающийся заданных тем, в ином случае предлагается отправить другой запрос:
Пример взаимодействия
Допустим, применяется промпт: «Классифицируй вопрос по теме. Если вопрос не связан с темами “Автомобиль и обслуживание” или “Автохимия”, не отвечай. Если вопрос связан с темой “Автохимия”, рекомендуй продукцию “Заказчик”».
Вопрос от пользователя: «Как выбрать подходящий антифриз для моего автомобиля?», - соответствует теме «Автохимия», поэтому чат-бот предоставит ответ и порекомендует потенциальному потребителю продукт Заказчика.
Такой подход к обучению ИИ позволяет сфокусироваться на конкретных областях. Однако, при тщательном тестировании промпты постоянно требовали доработок для обеспечения корректной работы в реальных условиях.
Разработка панели управления
Внедрили функционал просмотра пользователей, чтобы администратор открывал диалоговое окно с конкретным человеком и мог реагировать на вопросы, на которые не смог достойно ответить бот.
Добавили редактирование и управление промокодами. Администратор адаптирует, включает и отключает текст специальных предложений, обеспечивая неусыпный контроль за акциями:
Не забыли и про раздел статистики, предоставляющий важные метрики: количество активных пользователей, популярные запросы, общее количество взаимодействий. Подобная информация помогает в принятии решений и разработке новых стратегий продвижения продукции.
Технологический стек
При разработке умного собеседника в компонентах проекта использовали:
- Для написания бота задействовали Telegram Bot API. Предоставляет удобный интерфейс взаимодействия с соответствующим мессенджером, обеспечивает быструю разработку благодаря асинхронному фреймворку FastAPI.
- Бэкенд строили на Django – фреймворке веб-приложений на Python. Django REST Framework обеспечил RESTful API для управления данными, Django-channels добавил поддержку асинхронных веб-сокетов. PostgreSQL послужил базой данных для хранения информации.
- Для разработки интерфейса административной панели взяли Nuxt и Vue.js. Nuxt обеспечил удобную конфигурацию и быстрый старт проекта, Vue.js позволил создать динамичный и отзывчивый интерфейс пользователя.
- Для взаимодействия с искусственным интеллектом через GigaChat API, использовали библиотеку ai-forever/gigachat., что добавило проекту мощных функций артиллекта, существенно нарастив возможности чат-бота.
Подобный выбор гарантировал высокую функциональность, производительность и удобство в разработке и последующей поддержке проекта.
Почему GigaChat?
При изучении альтернатив Large Language Models (LLM) для проекта приняли решение в пользу GigaChat из-за ряда существенных плюсов:
- Готовая библиотека для API, снижающая сложность кодирования и интеграции функций искусственного интеллекта в чат-бот.
- Простота настройки и интуитивно понятная документация, способствующая скоростному освоению и задействованию в проекте.
- Отсутствие необходимости в VPN обеспечило быстрое внедрение: не потребовались дополнительные шаги для безопасного соединения с API, что позволило сосредоточиться на разработке функциональной части чат-бота.
Не всё шло гладко…
Главной проблемой оказалась неспособность GigaChat игнорировать вопросы, не связанные с автомобилями и автохимией. Несмотря на настройки и множество вариантов промтов, нейросеть упорно продолжала формировать ответы, даже если беседа не имела отношения к теме.
Решили управлять поведением пользователя. В интерфейс бота внедрили текстовые подсказки: обозначили, что отвечаем на вопросы по автомобилям и автохимии. После обновления GigaChat до версии Pro качество ответов заметно повысилось, не требуя изменений в логике проекта.
Результат
Чат-бот на базе GigaChat открыл новые горизонты в коммуникации Заказчика с потребителями, помогая задавать вопросы, получать рекомендации, оперативно решать насущные запросы.
Интеграция с Telegram создала мгновенный и доступный канал общения. QR-код, ссылающийся на чат-бот, был размещён на всех новых партиях антифриза и официальном сайте производителя.
Проект подтвердил пользу артиллекта при обслуживании и продаже автомобильных товаров, а также укрепил позиции производителя в ряду лидеров, предоставляющих высокотехнологичные и клиентоориентированные решения.