Сколько менеджеры интернет-магазина тратят времени на общение, которое не приводит к продажам? И как часто менеджер затрудняется быстро ответить на вопрос о наличии товара?
Зачастую, время сотрудников отдела продаж тратится совсем не на то, что приносит результат. И чтобы дать им возможность сосредоточиться на более важных задачах, можно поручить рутину искусственному интеллекту.
Наш заказчик обратился с проблемой: есть отдел продаж, но он не работает круглосуточно. В нерабочее время консультировать пользователей сайта некому. А в новогодние праздники вообще никто из менеджеров по продажам не будет на рабочем месте. Нужно, чтобы на сайте был чат-бот, который сможет в это время проконсультировать клиентов.
Мы взялись за задачу, взяв какое-то время на изучение. Прикинув различные варианты, поняли, что понадобится ИИ-ассистент с RAG. Ассистент - это не просто ИИ-модель, а дообученная модель, которой дали примеры того, как она должна работать и определили "зону ответственности" и должностные инструкции. А еще дали всю необходимую информацию: номенклатуру товаров, список заказов пользователей, знание как самостоятельно оформить или отредактировать заказ и т. д. Такой ИИ действительно способен помогать пользователям сайта, а не просто быть "для галочки".
Добиться корректного ответа от ИИ-модели - задача не из легких. Те, кто пробовал получить от того же ChatGPT что-то, применимое в реальной работе, уже столкнулись с этим. Мы составили несколько инструкций для модели. В одной - обучающие данные, в остальных - ограничения и жестко заданные рамки взаимодействия. После этого ассистент начал давать те ответы, которые мы могли использовать для реальных пользователей.
Функционал MVP-версии ассистента должен был уметь следующее:
- ответить на вопрос пользователя о наличии конкретного товара
- подобрать товар на основе пожеланий пользователя.
Сайт заказчика работает на Битрикс: Управление сайтом и размещен на shared хостинге, а значит есть некоторые ограничения на размещение кода на сервере. Да и ИИ-сервисы - это всегда про высокую нагрузку на "железо", способную мимоходом положить сам сайт. Поэтому весь код ИИ-ассистента был вынесен на один из наших серверов.
В качестве ИИ-модели мы выбрали YandexGPT, к которому обращались через API. В модель нам нужно было выгрузить список товаров, которые в наличии. Для этого мы на стороне сайта отслеживаем обмен с 1С - как только он проходит, мы "берем" список товаров и подгружаем его в модель. Но нужно смотреть на частоту обмена, т. к. обработка большого списка товаров занимает время - до нескольких часов.
Далее мы реализовали сам чат на стороне сайта - написали отдельный компонент для БУС, сохраняющий историю диалога пользователя в течении сессии. В чате добавили анимацию поиска ответа на время ожидания ответа от ассистента - пользователь может даже не догадаться, что общается не с человеком.
Теперь нужно было написать кодовую часть на Python, обрабатывающую запрос и применяющую все инструкции и правила для модели. Это самая объемная часть функционала, являющаяся отдельным сервисом. Важно грамотно распределить нагрузку на сервис - подгружать контекст модели, в нашем случае список товаров в наличии, не слишком часто. Иначе ИИ-модель "зависнет" на несколько часов для обработки контекста, а мы будем оставлять пользователей без ответа. Поэтому при частом обмене с 1С (он предполагается в будущем) требуется задавать рамки для подгрузки данных с сайта. Для того, чтобы отсеять откровенно неправдоподобные ответы, может использоваться вторая модель со своей инструкцией - ее задачей будет "проверять" ответы первой ИИ-модели. Также не забываем, что для нагруженных e-com проектов может понадобиться брокер сообщений - дополнительный слой логики в коде, который распределяет очередь из входящих запросов.
После тестирования и отладки мы задали временные рамки для показа чата с ИИ-ассистентом на сайте - в остальное время отображается чат с менеджерами по продажам.
Подводя итоги, можем сказать, что внедрение ИИ должно быть в первую очередь про реальную полезность и видимые результаты, как это и получилось у нас. ИИ-ассистент работает и помогает выбрать товары пользователям. В будущих итерациях добавим возможность оформить или изменить заказ через ассистента, получить информацию о существующих заказах и подгрузку информации о наличии товаров из 1С в режиме реального времени.
Нужнен такой же ИИ-ассистент или есть другая задача по искусственному интелекту? Напишите нам, и мы обсудим с Вами задачу.