Ассистент, отвечающий по вашим данным
Структура и пользовательские сценарии под вашу потребность.
Мы создаем ассистентов, работающих с корпоративными знаниями, обработку документов и прогнозные модели: ответы по вашим собственным данным, дообучение открытой модели на ваших данных и запуск на ваших серверах, модели прогноза спроса и выявления аномалий; до этого — подготовка и разметка данных, после — автоматизация с подтверждением человеком.
“Мне нужен ассистент, работающий со знаниями моей компании.”
Мы определяем объём с учётом вашего сценария использования и проектируем каждую часть как элемент работающего целого.
Структура и пользовательские сценарии под вашу потребность.
Разработка, совместимая с тем, как вы уже работаете.
Тестирование и проверка в условиях реального использования.
Передача, документация и план дальнейшего развития.
Проект по ИИ начинается не с вопроса «какую модель взять». Сначала мы обсуждаем, какая задача съедает время, кто и как выполняет ее сегодня и как выглядит правильный ответ. Выбор модели идет после этого, и чаще выигрывает не самая впечатляющая модель, а метод, который решает задачу дешевле и предсказуемее.
На практике мы используем четыре метода. Ответы по вашим данным (RAG): ваши документы и записи становятся доступными для поиска, модель не угадывает ответ, а формирует его из найденного источника. Дообучение (fine-tuning): открытая модель обучается на ваших данных и осваивает язык компании, структуру форм и метки. Прогнозные и аналитические модели: классическое машинное обучение для числовых задач — спрос, запасы, задержки, аномалии; большая языковая модель здесь часто не нужна вовсе. Подготовка и разметка данных: обязательное условие для остальных трех; без сбора и очистки разрозненных данных не работает ничего.
Вопрос, где будет работать модель, тоже решается заранее. Возможна работа через API облачного провайдера либо установка открытой модели на ваш сервер, и тогда данные не покидают компанию. Стоимость, скорость и результат по приватности у этих вариантов разные; что подходит вам, определяем на первой встрече.
CM Apps применяет этот подход и в собственных продуктах: ассистентов и автоматизации в нашей операционной работе мы строим и обслуживаем сами. То есть нагрузку по сопровождению того, что предлагаем клиенту, сначала несем сами.
ИИ так же уверенно выдает и неверный ответ. Поэтому в каждом нашем сценарии показывается источник, на котором основан ответ, а операции с последствиями привязаны к подтверждению человеком. Сценарий, который нельзя измерить, мы в продуктив не выводим.
Модель строится поверх ваших данных, а не вместо них. Источник остается у вас; слой только читает, формирует и при необходимости отправляет на подтверждение.
Сколько занимает операция, где лежат данные, как выглядит правильный ответ? Результат этого шага — не модель, а измеримое определение успеха.
Ответ содержится в документе или это числовой прогноз? В зависимости от этого выбираем RAG, дообучение, классическую модель или простой движок правил. Излишне большая модель лишь раздувает расходы.
Строим конвейер данных, модель и интерфейс; результат подключается к вашей панели, текущему ПО или потоку WhatsApp. На этом шаге задаются права и журнал аудита.
Тестируем на реальных вопросах, собираем ошибочные ответы, исправляем данные или модель. Улучшение — процесс постоянный, а не разовый.
Архив договоров становится доступным для поиска; ассистент находит пункт и указывает, какой это документ и какая статья.
Поля извлекаются из документа, бухгалтерская запись готовится как черновик; сотрудник не вводит, а проверяет.
По истории продаж, сезону и акциям строится прогноз спроса; предложение по заказу появляется в панели.
Частые вопросы закрываются знаниями компании; исключения уходят человеку, команда занимается только сложным.
На данных датчиков и производства настраивается выявление аномалий; при превышении порога уходит уведомление.
Открытая модель устанавливается на ваш сервер и дообучается на ваших данных; в интернет не уходит ни одна запись.
По умолчанию нет. При работе через облачный API мы включаем отказ от обучения; при установке открытой модели на ваш сервер данные и так не покидают компанию. Выбранная схема фиксируется в договоре.
Если ответ содержится в ваших документах и контент часто меняется, RAG точнее и дешевле. Если модели нужно освоить ваш язык, формы и метки, подключается дообучение. Их используют и вместе; решаем, глядя на данные.
Зависит от метода: RAG работает с уже имеющимися документами, дополнительно собирать ничего не нужно. Для дообучения и прогнозных моделей нужны исторические записи; мы смотрим, что есть, и прямо говорим, достаточно ли этого или сначала нужна подготовка данных.
GPU или мощный сервер по размеру модели. Небольшие модели могут работать на текущем оборудовании, крупные требуют отдельных вложений. После определения объема мы письменно даем требования к оборудованию и альтернативы.
Источник ответа показывается всегда, поэтому ошибка видна. Операции с последствиями привязаны к подтверждению человеком. Ошибочные ответы собираются, данные или модель корректируются — это постоянная часть работы.
Как правило, нет. Слой ИИ строится поверх вашей системы и читает данные через API или базу. Результат подключается к вашей панели, текущему ПО или потоку WhatsApp.
Да. Разработанный код, конвейер данных и веса дообученной модели передаются вам. Установка продолжит работать, даже если вы не продолжите с нами.
Зависит от объема: ассистент под узкий набор вопросов запускается быстро, а многоисточниковые схемы и дообучение требуют подготовки данных. На первой встрече мы сужаем объем и выстраиваем реалистичный порядок.
Вы можете прийти с идеей или с существующей системой. Начнём с этих вопросов и наметим реалистичную дорожную карту.
Спланируем вместе