Автоматизация обработки заявок с помощью ИИ - успешное внедрение на базе ELMA365 и Yandex DataSphere

Всем привет! На связи команда TROFFCONS, и сегодня мы расскажем вам, как с помощью интеграции ELMA365 и Yandex DataSphere мы автоматизировали процесс обработки заявок и помогли нашему клиенту существенно повысить эффективность работы. Давайте разберемся, как технологии искусственного интеллекта (далее ИИ) могут улучшить бизнес-процессы и сэкономить время.

Yandex DataSphere — облачный сервис для анализа данных, разработки и эксплуатации моделей машинного обучения (ML) в составе платформы YandexCloud. Сервис предлагает интегрированную среду для работы с большим объемом данных, автоматизацию и управление вычислительными ресурсами. Yandex DataSphere предоставляет возможность использовать готовые конфигурации моделей искусственного интеллекта, что позволяет не тратить время на создания и настройки систем ИИ, а облачный сервис YandexCloud освобождает вычислительные ресурсы для решения задач пользователя.

Для работы в Yandex DataSphere необходимо зарегистрироваться и создать облако YandexCloud.

Для совместной работы над проектами и гибкого управления расходами в DataSphere необходимо создать сообщество и привязать к нему платежный аккаунт. Управление доступами и видимостью ресурсов осуществляется с помощью ролей. Для работы с нашим решением необходимо создать сервисный аккаунт и добавить его в сообщество, для того чтобы можно было обращаться к ИИ через API. В сообществе создается проект, в который мы добавляем необходимые нам ИИ модели и обучаем их при необходимости.

В рамках создания нашего решения была дообучена многоклассовая модель YandexGPT с помощью dataset на 1200 вариантов запросов с выбором одного из 12 вариантов (отделов), т.е. на каждый отдел было подготовлено по 100 заявок.

Dataset также был составлен при помощи нейросети, для чего были составлены промпты по каждому отделу с упоминанием специфики организации и функций каждого отдела.

Для запросов к ИИ через API необходима аутентификации через временный IAM-токен. Для создания такого токена был разработан микросервис в среде node.js и микросервис был поднят на сервере заказчика.

В ELMA365 создан модуль, который отправляет запрос на генерацию временного токена на наш сервис, затем обращается к модели ИИ, получает ответ и преобразовывает его. Для применения ИИ в рамках требуемой задачи создан бизнес-процесс по работе с заявкой, где на этапе определения отдела активируется работа модуля. На вход в модуль из бизнес-процесса передается ряд параметров (ID аккаунта, ID обученной модели, приватный ключ и т.д.), а на выходе из модуля мы получаем наименование отдела и его вероятность, и используем дальше в процессе.

ИИ модели выдает по запросу модуля массив объектов, в котором под ключами label содержаться все ответы, которыми она была обучена, и под ключами confidence вероятность этих ответов на текст запроса. Суммарная вероятность всех ответов составляет 1.

После получения такого ответа от ИИ в модуле происходит выбор самого вероятного отдела (путем сортировки), и на выход модуль отдает наиболее вероятный ответ на наш запрос в виде строки, и в виде числа - его вероятность в процентах с округлением до второго знака после запятой.

В ELMA365 был реализован функционал распределения заявок от сотрудников организации заказчика по отделам компании с применением искусственного интеллекта (ИИ) типа многоклассовая модель YandexGPT.

Сотрудник пишет заявку в произвольной форме, где излагает свою проблему.

Затем обученная модель ИИ определяет к какому отделу может относиться данная заявка.

На текущий момент предусмотрена модерация заявки человеком, который будет проверять насколько ИИ верно определил отдел. Модератор может переназначить отдел в случае его неверного определения. Модерация поможет накопить достаточное количество случаев для дообучения модели ИИ, таким образом, что в дальнейшем модерация человека не потребуется и определение отдела будет осуществлять только ИИ.

Модератору поступает информация по заявке и данные определенные ИИ – ответ на запрос и вероятность такого ответа.

После модерации заявка поступает супервайзеру отдела, который определит конкретного сотрудника, ответственного подготовить решение по данной заявке. Ответственный сотрудник готовит решение и предлагает его инициатору заявки, а инициатор принимает данное решение или запрашивает уточнение.

Таким образом, применение ИИ позволяет не только автоматизировать процесс обработки запросов сотрудников в крупной компании, но и значительно сократить время на их распределение, повысить точность обработки данных и освободить ресурсы для решения более стратегически важных задач, что в конечном итоге повышает общую эффективность и прибыльность бизнеса.

Предусматривается накопление базы заявок для дообучения ИИ, в целях повышения точности ответов, что в свою очередь позволит отказаться от модерации человеком.

Кроме того, планируется собрать наиболее частые обращения для написания готовых решений, таким образом, чтобы после определения отдела мы могли использовать ИИ для выдачи готового ответа на запрос, без привлечения ответственного сотрудника от отдела. В случае, если ответ от ИИ не подойдет инициатору заявки, то он сможет отправить заявку на обработку человеку.

Описанное решение с определением отделов по заявке пользователя может служить примером определения тематики текста с использованием многоклассовая модели YandexGPT.

У Yandex DataSphere доступны и другие модели ИИ, вот лишь некоторые примеры использования ИИ от Yandex:

1. Тематика текста: автоматическое распределение текста по категориям. Например, можно определить, к какому типу контента относится текст: новости, спорт, технологии, здоровье и пр.

2. Анализ тональности: определение эмоциональной окраски текста (позитивная, негативная, нейтральная). Это полезно для анализа отзывов, комментариев в соцсетях, обзоров продуктов и т.д.

3. Распознавание спама: классификация сообщений как спам или не спам.

4. Определение тематики контента для рекламы: анализ содержания и сопоставление с темой рекламы для лучшего таргетинга.

5. Подведение итогов встреч: модель может анализировать транскрипты встреч или звонков и выдавать основные выводы или ключевые моменты.

6. Краткие обзоры: создание кратких сводок или резюме длинных текстов (например, новостей, отчетов или юридических документов).

Спасибо большое за внимание! Мы постарались подробно описать нашу работу, и надеемся, что вам было полезно. Если вы ищете подобное решение с применением ИИ для оптимизации и автоматизации бизнес-процессов, мы с радостью вам поможем. Свяжитесь с нами любым удобным для вас способом — будем рады обсудить ваши задачи и предложить лучшие решения!