Публикация Школы траблшутеров

Как мы создавали ИИ-решение для производителя антифриза на базе GigaChat

Время чтения: 6 мин 50 сек
18 марта 2024 г. Просмотров: 192

Чат-боты, Искусственный интеллект | Олег Брагинский, Виталий Лажинцев, Сергей Кондратенко

Основатель «Школы траблшутеров» Олег Брагинский со слушателями школы Виталием Лажинцевым и Сергеем Кондратенко представляют кейс по созданию чат-бота с нейросетью.

Производитель антифриза решил заказать чат-бот, консультирующий автолюбителей, чтобы улучшить взаимодействие с покупателями, предоставить доступ к качественной информации и рекомендациям. Заявил, что хочет ИИ-решение: о нейросетях говорят все, нужно быть в тренде.

Кроме того, надеялся автоматизировать первый эшелон технической поддержки и продаж при большом потоке обращений и заказов в B2C. Стали сообща думать, зачем проекту артиллект:

  • сможет активно продвигать антифриз конкретного вида в подходящих ситуациях
  • адаптируется к стилю общения пользователя
  • автоматизированный анализ и генерация текста позволяют реагировать мгновенно, обеспечивая быстрые консультации.

Смысл проекта сформулировали в двух предложениях:

  • цель – предоставить клиентам оперативные и точные ответы на вопросы
  • идея – интеграция искусственного интеллекта в чат-бот.

Подготовка и разработка логики

Создали механизм общения с пользователями, гарантирующий решение запросов. При запуске бота открывается меню, предоставляющее опции:

  • перейти на официальный сайт
  • узнать больше об антифризе
  • задать вопрос.

При интересе продукции, бот предлагает подобрать антифриз на официальном сайте или приобрести на маркетплейсах. В конце общения предоставляет промокод на скидку:

Искусственный интеллект начинает работать, когда задаются вопросы, связанные с автомобилями – передаются нейронной сети, которая формирует ответы. Фразы не связанные с автомобилями – остаются без реакции. Если пользователь недоволен ответом, к чату подключается специалист.

После согласования логики, осталось превратить схему в код и получить желаемый продукт:

Создание и обучение

Начали разработку с минимального ТЗ с простейшим сценарием использования. Первая версия давала ответы на вопросы, без возможности перенаправления к специалисту.

После тестирования доработали более сложный алгоритм с двумя сценариями:

  1. искусственный интеллект отвечает на вопросы пользователя
  2. при недовольстве пользователя переводим общение со специалистом.

Разработали промпт – набор команд для нейронной сети. Его задача заключается в определении, связан ли вопрос пользователя с одной из двух тем:

  1. автомобиль и обслуживание
  2. автохимия.

Конструкции строили на условиях типа: «Если… , то…». Содержательный ответ формируется на вопрос, касающийся заданных тем, в ином случае предлагается отправить другой запрос:

Пример взаимодействия

Допустим, применяется промпт: «Классифицируй вопрос по теме. Если вопрос не связан с темами “Автомобиль и обслуживание” или “Автохимия”, не отвечай. Если вопрос связан с темой “Автохимия”, рекомендуй продукцию “Заказчик”».

Вопрос от пользователя: «Как выбрать подходящий антифриз для моего автомобиля?», - соответствует теме «Автохимия», поэтому чат-бот предоставит ответ и порекомендует потенциальному потребителю продукт Заказчика.

Такой подход к обучению ИИ позволяет сфокусироваться на конкретных областях. Однако, при тщательном тестировании промпты постоянно требовали доработок для обеспечения корректной работы в реальных условиях.

Разработка панели управления

Внедрили функционал просмотра пользователей, чтобы администратор открывал диалоговое окно с конкретным человеком и мог реагировать на вопросы, на которые не смог достойно ответить бот.

Добавили редактирование и управление промокодами. Администратор адаптирует, включает и отключает текст специальных предложений, обеспечивая неусыпный контроль за акциями:

Не забыли и про раздел статистики, предоставляющий важные метрики: количество активных пользователей, популярные запросы, общее количество взаимодействий. Подобная информация помогает в принятии решений и разработке новых стратегий продвижения продукции.

Технологический стек

При разработке умного собеседника в компонентах проекта использовали:

  1. Для написания бота задействовали Telegram Bot API. Предоставляет удобный интерфейс взаимодействия с соответствующим мессенджером, обеспечивает быструю разработку благодаря асинхронному фреймворку FastAPI.
  2. Бэкенд строили на Django – фреймворке веб-приложений на Python. Django REST Framework обеспечил RESTful API для управления данными, Django-channels добавил поддержку асинхронных веб-сокетов. PostgreSQL послужил базой данных для хранения информации.
  3. Для разработки интерфейса административной панели взяли Nuxt и Vue.js. Nuxt обеспечил удобную конфигурацию и быстрый старт проекта, Vue.js позволил создать динамичный и отзывчивый интерфейс пользователя.
  4. Для взаимодействия с искусственным интеллектом через GigaChat API, использовали библиотеку ai-forever/gigachat., что добавило проекту мощных функций артиллекта, существенно нарастив возможности чат-бота.

Подобный выбор гарантировал высокую функциональность, производительность и удобство в разработке и последующей поддержке проекта.

Почему GigaChat?

При изучении альтернатив Large Language Models (LLM) для проекта приняли решение в пользу GigaChat из-за ряда существенных плюсов:

  1. Готовая библиотека для API, снижающая сложность кодирования и интеграции функций искусственного интеллекта в чат-бот.
  2. Простота настройки и интуитивно понятная документация, способствующая скоростному освоению и задействованию в проекте.
  3. Отсутствие необходимости в VPN обеспечило быстрое внедрение: не потребовались дополнительные шаги для безопасного соединения с API, что позволило сосредоточиться на разработке функциональной части чат-бота.

Не всё шло гладко…

Главной проблемой оказалась неспособность GigaChat игнорировать вопросы, не связанные с автомобилями и автохимией. Несмотря на настройки и множество вариантов промтов, нейросеть упорно продолжала формировать ответы, даже если беседа не имела отношения к теме.

Решили управлять поведением пользователя. В интерфейс бота внедрили текстовые подсказки: обозначили, что отвечаем на вопросы по автомобилям и автохимии. После обновления GigaChat до версии Pro качество ответов заметно повысилось, не требуя изменений в логике проекта.

Результат

Чат-бот на базе GigaChat открыл новые горизонты в коммуникации Заказчика с потребителями, помогая задавать вопросы, получать рекомендации, оперативно решать насущные запросы.

Интеграция с Telegram создала мгновенный и доступный канал общения. QR-код, ссылающийся на чат-бот, был размещён на всех новых партиях антифриза и официальном сайте производителя.

Проект подтвердил пользу артиллекта при обслуживании и продаже автомобильных товаров, а также укрепил позиции производителя в ряду лидеров, предоставляющих высокотехнологичные и клиентоориентированные решения.