Разработка чат-ботов

Зачем нужны виртуальные ассистенты?

Чат-боты позволяют минимизировать расходы, связанные с ежедневным и однотипным взаимодействием с большим количеством пользователей.

К примеру, чат-бот для торговой сети может рассказать клиенту, есть ли интересующий клиента товар в городе, в котором он находится, какие есть варианты доставки, помочь с оформлением заказа. Если покупатель в предыдущих диалогах уже интересовался какими-то товарами, чат-бот запомнит предпочтения, если клиент хочет отменить заказ, чат-бот может порекомендовать альтернативные варианты из каталога или другие способы доставки.

Также чат-боты могут выполнять роль HR-менеджера, к примеру, анализировать резюме и отбирать релевантные вакансии в чате, задавать вопросы, и таким образом, проводить первичный отбор кандидатов.

Кроме того, чат-боты могут выполнять консультацию клиентов в нерабочие и праздничные дни, а также сделать техническую поддержку круглосуточной.

Из каких компонентов состоит виртуальный ассистент?

База данных содержит информацию, на основе которой виртуальный ассистент будет вести диалог (в БД может входить, к примеру, описание продуктов компании, или персональные предпочтения клиента).

Сценарий - логика взаимодействия ассистента с пользователем (к примеру, какие вопросы ассистент должен задать пользователю, какие действия выполнить, в каком стиле вести диалог и т. д.).

LLM - модель (ChatGPT, GPT-4, GigaChat, LLaMa2, Mistral), которая генерирует текст на основе БД и сценария.

Компоненты для интеграции с мессенджерами или сайтом компании.

База данных

Для того, чтобы чат-бот понимал сферу деятельности компании и мог предоставить клиенту необходимую справочную информацию, необходимо составить базу данных. В базу данных может входить описание товаров компании, включая цены, акции, скидки и т. д. Если чат-бот должен консультировать пользователя по вопросам использования различной техники, к примеру, принтера, в базе будет храниться информация из инструкции к этому прибору. В наших чат-ботах база данных формируется автоматически на основе подгружаемых файлов.

Сценарий

Сценарий - это логика взаимодействия ассистента с пользователем. Рассмотрим упрощенный пример сценария для сети кинотеатров. Сначала чат-бот спрашивает зрителя, в каком городе он находится. Далее извлекает из базы данных информацию о кинотеатрах в указанном городе и сообщает зрителю. Затем чат-бот узнает у клиента, в какое время он хотел бы посетить кинотеатр и извлекает из базы информацию о фильмах, которые будут идти в указанный день или в указанный интервал времени. Если клиент ранее уже заказывал билеты через чат-бота, он может запомнить его предпочтения (к примеру, какие жанры его больше интересуют) и предложить персональную подборку фильмов. После выбора сеанса, чат-бот проверит, есть ли в зале свободные места. Далее чат-бот пришлет в чате ссылку на онлайн-оплату, а если мест нет - предложит другой сеанс. Также за несколько часов до фильма чат-бот может оправить сообщение с напоминанием.

LLMs (генерация текста)

OpenAI API
(ChatGPT, GPT-4)

не требует аренды сервера с видеокартой

недоступно из России (нужно настраивать proxy)

GigaChat API

не требует аренды сервера с видеокартой, полностью российское решение

LLaMa2, Mistral

не нужно отправлять данные на внешние API - можно запустить в закрытом контуре

нужен сервер с GPU для запуска

Наша компания в процессе использования LLaMa2 столкнулась с проблемой недостаточной фактологической точности при генерации реплик по данным, извлеченным из базы. Мы собрали датасет диалогов по контексту, дообучили на нем LLaMa2, что привело к значительному улучшению фактологической точности.

Наши тарифы