IT_One: Решение для классификации корпоративной почты на основе большой языковой модели

Основные статьи:

• Распознавание речи (технологии, рынок)
• Речевые технологии: на пути от распознавания к пониманию

2025: Представление решения для автоматической маршрутизации корпоративной почты в крупных компаниях

Компания IT_ONE разработала «умное» решение для автоматической маршрутизации корпоративной почты в крупных компаниях. Большая языковая модель (LLM) анализирует письма и переадресует их в профильное подразделение к нужным специалистам. Решение ускоряет обработку входящих сообщений, уменьшает количество ошибок из-за человеческого фактора, снижает затраты на маршрутизацию писем. Об этом компания сообщила 17 января 2025 года.

В крупных компаниях с разветвленной структурой — большой поток внутренней корреспонденции. Письма от разных подразделений поступают в единый центр сортировки, а его операторы передают входящие запросы на исполнение в соответствующую службу. Ручной процесс часто сопровождается ошибками, которые приводят к срывам сроков выполнения задач и финансовым потерям. Кроме того, компании вынуждены содержать штат операторов, который не всегда просто укомплектовать. В итоге на рынке появился запрос на автоматизацию маршрутизации корпоративной почты.Как развивается российский рынок систем мониторинга и управления ИТ-инфраструктурой. Обзор TAdviser 7.4 т

Компания IT_ONE разработала способ дообучения открытой LLM для классификации писем в крупном холдинге. Тестовая версия модели обучена на 33 тыс. сообщений с 55 тыс. вложений, имеющих разный формат (документы, архивы, сканы, изображения и т.д.).

Задача требовала научить модель обрабатывать около 500 тысяч потенциальных сочетаний классов при наличии в данных 2,2 тыс. уникальных комбинаций целевых записей.

Разработчики дообучали модель в условиях существенной несбалансированности предоставленных данных — от 1 до ~8 500 экземпляров на класс. Кроме этого, обучение модели затруднялось сложным составом данных — ошибками разметки сообщений и схожими названиями классов при разных объектах.

По словам Антона Шалина, ведущего ИИ-разработчика IT_ONE, готовая модель классифицирует одно письмо за 3-12 секунд в зависимости от размера сообщения и вложения. Точность классификации составляет 90%.

Решение может быть дообучено на датасете любой компании и развернуто внутри ее периметра в короткие сроки. При этом заказчик получает полный локальный контроль за решением и защиту данных, а также независимость от внешних факторов.

В процессе создания решения мы использовали несколько ноу-хау при работе с самой LLM, ее дообучении и взаимодействии с дообученной моделью в режиме конечной классификации. В итоге мы создали решение, которое существенно ускоряет маршрутизацию корпоративных писем, снижает количество ошибок и сокращает затраты на поддержание этой функции в компании, — комментирует Антон Шалин.

По его словам, автоматизация только одной функции маршрутизации входящих обращений позволяет компаниям получить плюсы, связанные с оптимизацией бизнес-процессов и повышением скорости и качества принятия решений.