Возвращаем часы, которые уходят на почту и заявки

Бесплатный аудит кейса

Данные и своя нейросеть

Где обрабатываются письма, кто подключается к серверу и где стоит своя нейросеть.

Где обрабатываются данные и кто подключается

  • Модель по API или локальная нейросетьЗакрытые данные обрабатывает своя нейросеть.

    Базово письма разбирает модель по API у внешнего провайдера. Если данные людей наружу отдавать нельзя, ставим локальную нейросеть: на ваш сервер, на выделенный GPU-сервер в российском облаке или гибридом. Требования к железу называем после бесплатного аудита кейса, до подписания опции.

  • Обезличивание перед внешним сервисомНаружу уходит текст с метками.

    Во внешнюю модель уходит текст без имён, компаний, контактов, сумм и реквизитов, вместо них стоят метки. Подстановка обратно идёт на вашей стороне. Если обезличить не удалось, запрос не уходит.

  • Настройка и сопровождение удалённоVPN или SSH в согласованные окна.

    Устанавливаем, настраиваем и сопровождаем систему через защищённый доступ к вашему серверу: VPN или SSH. Окна работ и права согласуем заранее, по окончании работ или по вашему решению доступ отзывается.

  • 0 утечекна 30 тестах
  • 10 из 10сквозная проверка
  • 13документов на стенде до 5 000 строк

NDA до передачи архива.

  1. Почта и формы
  2. Защищённый канал (ваш контур)
  3. Агент в вашем контуре (ваш контур)
  4. Результат в вашей CRM (ваш контур)
Схема: Почта и формы → Защищённый канал → Агент в вашем контуре → Результат в вашей CRM.

Локальная нейросеть: на вашем сервере или в облаке по требованию

Где стоит модель

  1. На вашем сервере

    данные остаются в вашей сети

    1. Ваши документы (ваш контур)
    2. Нейросеть на вашем сервере (ваш контур)
    3. Ответ остаётся у вас (ваш контур)
    Схема: Ваши документы → Нейросеть на вашем сервере → Ответ остаётся у вас.
  2. В облаке по требованию

    платите за часы работы

    1. Пришёл запрос
    2. Сервер поднялся и работает
    3. Простой: сервер выключенпосле 5 минут без работы
    Схема: Пришёл запрос → Сервер поднялся и работает → Простой: сервер выключен.
  3. Гибрид с обезличиванием

    наружу только метки

    1. Документ с данными у вас (ваш контур)
    2. Агент меняет данные на метки (ваш контур)
    3. Наружу уходят только метки
    Схема: Документ с данными у вас → Агент меняет данные на метки → Наружу уходят только метки.

Как работает обезличивание

  1. Правила

    Пришло в письме

    Анна Соколова из ООО «Ромашка»

    счёт на 148 500 ₽ → ⟦SUM_1⟧

    тел. +7 900 000-00-00 → ⟦PHONE_1⟧

  2. Локальная модель

    ИИ-агент

    1. Анна Соколова → ⟦PERSON_1⟧
    2. ООО «Ромашка» → ⟦ORG_1⟧
  3. Проверка на выходе

    Ушло во внешнюю модель

    ⟦PERSON_1⟧ из ⟦ORG_1⟧ просит счёт

    на ⟦SUM_1⟧ за коммутатор SW-410

    телефон ⟦PHONE_1⟧

  4. Обратная подстановка

    Данные на месте Падежи согласовала модель

Наружу уходят только метки, модель прибора остаётся в тексте. Данные вымышлены.
Как работает каждый шаг
  1. Правила

    Находят телефоны, почты, ИНН, счета и суммы ещё до модели. На нашем стенде этот слой спрятал 47 175 значений из 47 431.

  2. Локальная модель

    Дочищает имена, компании и адреса в свободном тексте. Модели приборов и технические термины остаются: без них внешняя модель не поймёт вопрос.

  3. Проверка на выходе

    Наружу уходит только текст с метками, каждый внешний вызов проходит проверку. Вложения docx, xlsx, pdf и csv обезличиваем тоже.

  4. Обратная подстановка

    Ответ возвращается, метки разворачиваются в имена, локальная модель согласует падежи. Если обезличить не удалось, запрос не уходит, и вы получаете отказ.

Сервер по требованию

  • ≈2 минзапуск с сохранённого диска, с нуля 3 мин 43 с
  • 32⁠–⁠34токена в секунду выдаёт прогретая модель
  • 5 минутпростоя, и сервер выключается
Как устроен и что его страхует

Так устроен наш собственный сервер: открытая модель на 27 млрд параметров, одна видеокарта 24 ГБ, арендованный GPU-сервер в облаке. Пришёл запрос, сервер поднялся; 5 минут без работы, и он гаснет. Платим за часы работы, простой не оплачивается.

Предохранители: лимит часов в сутки, алерты в Telegram, резервная цепочка из нескольких типов видеокарт. Занята одна карта, берём следующую. Машину с узким каналом или без видимой карты система меняет сама.

Ограничения
  • Открытая модель на одной видеокарте отвечает на сложные вопросы слабее сильных внешних моделей. Для таких задач собираем гибрид: локальная модель прячет данные, внешняя думает над текстом с метками.
  • Свой сервер с видеокартой стоит денег. При небольшом потоке дешевле облако по требованию, при постоянной нагрузке выгоднее свой сервер.
  • Первый запрос после простоя ждёт запуска сервера, от 2 до 4 минут. Пока очередь не разобрана, сервер не гаснет.
  • Если модель не поднялась или обезличить не вышло, запрос не уходит наружу. Необезличенный текст во внешние сервисы не отправляется.

Вопросы о данных

Где обрабатываются данные и кто к ним подключается?

В базовых пакетах письма разбирает модель по API у внешнего провайдера. С опцией локальной нейросети модель работает на вашем сервере или на выделенном GPU-сервере в российском облаке. Если задаче нужна сильная внешняя модель, данные до отправки обезличиваются. Настройку ведём удалённо по VPN или SSH: окна работ и права согласуем, доступ отзывается по вашему решению.

Как оплачивается своя нейросеть?

Зависит от варианта. Свой сервер покупаете и обслуживаете вы, требования к нему называем после бесплатного аудита кейса. Облачный сервер включается только на запрос и выключается через 5 минут простоя, поэтому вы платите за часы работы.

Локальная нейросеть отвечает хуже облачной?

На сложных вопросах сильные внешние модели точнее. Для таких задач собираем гибрид: локальная модель прячет персональные данные за метками, внешняя отвечает по тексту без них. Прогретая локальная модель у нас выдаёт 32⁠–⁠34 токена в секунду, первый запрос после простоя ждёт запуска сервера 2⁠–⁠4 минуты.

Обезличивание снимает требования 152-ФЗ?

Нет. Оно сокращает то, что видит внешний сервис: имён, контактов и реквизитов там нет. Персональные данные вы при этом обрабатываете по-прежнему, поэтому мы готовим описание потока данных и регламент, а решения по уведомлениям и согласиям принимает ваш юрист. С 30 мая 2025 года штраф для компании за утечку данных 1⁠–⁠10 тысяч человек составляет 3⁠–⁠5 млн ₽ (ч. 12 ст. 13.11 КоАП), и тест на утечку входит в приёмку.

Разберём ваш поток на цифрах

Отвечает инженер, который будет вести проект.

NDA до передачи примеров, после отчёта их удаляем.

  1. Вы пишете входит
  2. Бесплатный аудит кейса в работе
  3. Стоимость и решение готово