Датасет
Почистили предоставленные данные от остатков html-разметки и стилей, оставили только чистый текст, который есть смысл индексировать
Забрали у сотрудника
Рутину, отдали на подряд нейронке. Теперь можно сконцентрироваться на чем-то более важном
Посмотрите качество ответов и их скорость, мы замерили, работает прекрасно
Если вкратце
Поймет даже моя бабушка
-
Запрос
Текст или голос
-
Обработка
Расшифровка речи, поиск по базе знаний, обработка найденных данных, ответ
-
Ответ
Структурированный результат, в формате карточки сайта, которой соответствует запрос
Либо "информация не найдена" если ничего не нашлось
Для наших коллег
Чтобы поняли как мы это сделали в деталях
Индекс
При помощи embedding-модели (Qwen/Qwen3-Embedding-4B) проиндексировали базу знаний об услугах МФЦ, получили векторную базу данных
По ней ходит RAG-сервер, который ищет самые подходящие фрагменты. Дальше найденные куски информации идут на вход в LLM
Системный промпт
Задали нейросети правила работы и какая ее функция при ответе, чтобы снизить шанс нежелаемого поведения
Голосовой ввод
Расшифровка речи сделана на базе GigaAM-v3, модели с лучшим распознаванием русской речи (среди открытых)
Сама модель очень легкая, поэтому для ее запуска хватает даже небольшого объема оперативной памяти/видеопамяти
Промпт
Свободный русский язык, проверяли самые разные варианты, в итоге работает и формальный запрос, и максимально неформальный, даже мат
LLM
Выбрали передовую для российского рынка модель Сбера GigaChat-3-Ultra, протестировав ее на джейлбрейкинг и следование инструкциям, и для подобных задач на русском языке она действительно идеально подходит
Интерфейс
Сделали максимально простой и не перегруженный UI
Про деньги
Посчитали какая выгода
0,21₽
Стоимость
Один запрос к нейросети в нашей конфигурации стоит 0.21₽ и экономит минуту
30 ч
А сотрудники?
Тысяча сотрудников сэкономит за 1000 запросов (то есть по одному на человека) 30 рабочих часов, которые уйдут в более важное направление рабочих задач
«А мне что?»
За счет оптимизации процессов вырастет качество обслуживания, при этом уменьшится его стоимость
Ну или сотрудники просто пойдут покурить