Целью проекта была трансформация процессов анализа клиентских коммуникаций в колл-центре за счёт применения больших языковых моделей и технологий интеллектуальной обработки данных.

В рамках проекта требовалось решить следующие задачи:

• Автоматизация интеллектуальной классификации звонков — создание системы, способной классифицировать обращения по типу проблемы, способам решения и намерениям клиентов без ручного вмешательства; 
  
  

• Внедрение прогнозирующего обнаружения проблем — выявление операционных узких мест до того, как они начинают влиять на качество сервиса, включая проблемы маршрутизации, закономерности повреждения товаров и сигналы ухудшения клиентского опыта;
  
  

• Генерация аналитики в режиме реального времени — формирование автоматизированных рекомендаций по оптимизации процессов, повышению эффективности операторов и улучшению качества обслуживания клиентов;
  
  

• Структурированный анализ данных — преобразование неструктурированных записей и текстовых обращений в аналитическую информацию, пригодную для бизнес-аналитики и управленческих решений;
  
  

• Тестирование эффективности различных LLM-моделей при обработке больших массивов клиентских коммуникаций.

Для реализации проекта использовался ETL/ELT-инструмент Luxms Data Boring, в котором были построены пайплайны обработки клиентских коммуникаций с использованием ASR- и LLM-моделей.

На платформе были реализованы процессы получения и подготовки данных, обработки аудиозаписей, распознавания речи, интеллектуальной классификации обращений, анализа клиентских коммуникаций с возможностью дальнейшей передачи результатов в Luxms BI для визуализации и анализа.

Оркестрация всех этапов обработки выполнялась средствами Luxms Data Boring, что позволило автоматизировать полный цикл работы с обращениями — от поступления записи разговора до формирования аналитики для руководителей клиентского сервиса.

СКВОЗНОЙ ПАЙПЛАЙН ОБРАБОТКИ ОБРАЩЕНИЙ

Решение было ориентировано на обработку больших массивов коммуникаций и построение аналитики по всему потоку обращений, а не по отдельным выборкам данных. Поэтому был реализован сквозной контур интеллектуальной обработки клиентских коммуникаций:

Такой подход позволил автоматизировать полный цикл работы с клиентскими обращениями — от получения записи разговора до формирования аналитики для руководителей и специалистов клиентского сервиса.

Решение поддерживает как потоковую обработку обращений, так и выполнение сценариев по расписанию, обеспечивая регулярное обновление аналитики без участия специалистов по разметке данных.

А именно:

• потоковую обработку клиентских обращений;

• непрерывное обновление аналитики;

• семантический поиск по истории коммуникаций;

• интеграцию с корпоративными базами знаний;

• автоматическое создание тикетов и рекомендаций по результатам анализа;

• поддержку мультиагентных сценариев обработки запросов.

Для обеспечения высокого качества распознавания речи была выполнена адаптация ASR-модели под особенности записей колл-центра:

• предварительная очистка аудиозаписей;

• диаризация речи для разделения реплик операторов и клиентов;

• дообучение модели распознавания речи на специализированном датасете;

• подготовка модели к работе с шумными и искажёнными записями разговоров;

• автоматическая обработка и передача данных между сервисами через API.

После преобразования речи в текст данные автоматически передавались в контур LLM-аналитики.

Большие языковые модели использовались для:

• определения тональности обращений;

• анализа намерений клиентов;

• классификации причин обращений;

• оценки качества обработки запросов;

• выявления проблемных сценариев обслуживания;

• анализа динамики коммуникаций между клиентом и оператором;

• формирования структурированной аналитики для дальнейшей визуализации и принятия управленческих решений.

Это позволило преобразовывать большие объёмы неструктурированных данных колл-центра в аналитическую информацию, которая автоматически передавалась в Luxms BI для визуализации и дальнейшего анализа. 

Для различных аналитических задач использовались несколько LLM-моделей. В рамках проекта был проведён подбор оптимальных моделей с учётом качества анализа, скорости обработки и стоимости эксплуатации. Для этого реализована система мониторинга использования ресурсов и контроля затрат на обработку данных. Такой подход позволил определить оптимальные сценарии применения различных моделей и обеспечить баланс между качеством аналитики и стоимостью эксплуатации решения.

Другой задачей проекта было снижение стоимости использования LLM-моделей без потери качества аналитики. Для этого использовались:

• дообученные модели распознавания речи;

• оптимизированный пайплайн обработки данных;

• подбор LLM-моделей под конкретные аналитические задачи;

• контроль вычислительных затрат и использования токенов.

Такой подход позволил существенно снизить стоимость эксплуатации решения по сравнению со сценариями, основанными исключительно на использовании внешних API-сервисов.

Результаты обработки клиентских коммуникаций автоматически агрегировались и передавались в LLM для подготовки итоговых аналитических материалов. На основе полученных данных система формировала структурированные отчёты в формате PDF без участия аналитиков.

В отчёты автоматически включались:

• основные причины обращений клиентов;

• распределение обращений по категориям;

• анализ тональности коммуникаций;

• выявленные проблемные сценарии обслуживания;

• рекомендации по улучшению процессов клиентского сервиса;

• сводные выводы по качеству обработки обращений.

Такой подход позволил автоматизировать подготовку аналитических материалов для руководителей и значительно сократить время получения результатов анализа.

Ключевые особенности решения:

• использование LLM непосредственно внутри пайплайнов обработки данных;

• дообученная ASR-модель, адаптированная для работы с записями колл-центра;

• возможность выбора и сравнения различных LLM-моделей по качеству анализа и стоимости использования;

• автоматическая классификация обращений, определение тональности и анализ клиентских намерений;

• поддержка потоковой и регламентной обработки обращений;

• контроль вычислительных затрат и потребления токенов;

• масштабирование на большие объёмы клиентских коммуникаций;

• интеграция результатов анализа в единый контур корпоративной аналитики.

Решение обеспечило непрерывный контроль качества клиентских коммуникаций и позволило перейти от выборочного анализа обращений к анализу всего потока взаимодействий с клиентами.

Руководители получили возможность оперативно выявлять причины роста обращений, контролировать качество работы операторов и принимать решения на основе полной картины клиентского сервиса.

Использование LLM в связке с ETL- и BI-инструментами позволило:

• выявлять ключевые операционные проблемы, включая ошибки маршрутизации обращений и несоответствие квалификации операторов, влияющие на время обработки запросов;

• анализировать структуру и динамику клиентских коммуникаций, определяя успешные и проблемные сценарии обслуживания;

• автоматически преобразовывать неструктурированные обращения в данные, пригодные для аналитики и принятия решений;

• сократить объём ручного анализа клиентских коммуникаций;

• ускорить выявление причин снижения качества сервиса;

• обеспечить построение аналитики клиентского сервиса в режиме, близком к реальному времени;

• создать основу для интеллектуальной маршрутизации обращений и автоматизации клиентской поддержки.

Дополнительным результатом стала оптимизация стоимости обработки коммуникаций. За счёт использования дообученной модели распознавания речи и оптимизации пайплайна удалось снизить стоимость обработки обращений на 50–85% по сравнению со сценариями, основанными исключительно на использовании внешних API-сервисов.