Данные и доступ
Данные и своя нейросеть
Где обрабатываются письма и документы, кто подключается к серверу и как своя нейросеть держит данные у вас.
Где обрабатываются данные и кто подключается
Перед проектом с почтой и документами спрашивают о двух вещах: где обрабатываются данные и как мы подключаемся к серверу. Ниже оба ответа.
-
Модель по API или локальная нейросеть
Базово письма разбирает модель по API у внешнего провайдера. Если данные людей наружу отдавать нельзя, ставим локальную нейросеть: на ваш сервер, на выделенный GPU-сервер в российском облаке или гибридом. Требования к железу называем после бесплатного разбора архива, до подписания опции.
-
Обезличивание перед внешним сервисом
Во внешнюю модель уходит текст без имён, компаний, контактов, сумм и реквизитов, вместо них стоят метки. Подстановка обратно идёт на вашей стороне. Если обезличить не удалось, запрос не уходит.
-
Настройка и сопровождение удалённо
Устанавливаем, настраиваем и сопровождаем систему через защищённый доступ к вашему серверу: VPN или SSH. Окна работ и права согласуем заранее, по окончании работ или по вашему решению доступ отзывается.
Обезличивание проверяем тестами: 0 утечек персональных данных на 30 тестах, сквозная проверка 10 из 10, стенд из 13 документов от письма до таблицы на 5 000 строк. NDA подписываем до передачи архива, с персональными данными работаем по вашему поручению.
Локальная нейросеть: на вашем сервере или в облаке по требованию
Если данные людей нельзя отдавать во внешние сервисы, ставим открытую модель туда, где вам разрешено их обрабатывать. Мы сами так работаем с сентября 2026 года: через нашу локальную модель идёт закрытый режим двух ИИ-сервисов в проде.
Где стоит модель
-
данные остаются в вашей сети
На вашем сервере
Открытая модель работает в вашей сети, письма и документы не выходят за её пределы. Требования к серверу называем после бесплатного разбора архива, до подписания опции.
-
платите за часы работы
В облаке по требованию
Выделенный GPU-сервер в российском облаке. Пришёл запрос, и сервер включился; 5 минут без работы, и он выключился. Простой не оплачивается.
-
наружу только метки
Гибрид с обезличиванием
Локальная модель прячет персональные данные за метками, сильная внешняя модель отвечает по тексту с метками. Метки разворачиваются обратно на вашей стороне.
Как работает обезличивание
Правила
Находят телефоны, почты, ИНН, счета и суммы ещё до модели. На нашем стенде этот слой спрятал 47 175 значений из 47 431.
Локальная модель
Дочищает имена, компании и адреса в свободном тексте. Модели приборов и технические термины остаются: без них внешняя модель не поймёт вопрос.
Проверка на выходе
Наружу уходит только текст с метками, каждый внешний вызов проходит проверку. Вложения docx, xlsx, pdf и csv обезличиваем тоже.
Обратная подстановка
Ответ возвращается, метки разворачиваются в имена, локальная модель согласует падежи. Если обезличить не удалось, запрос не уходит, и вы получаете отказ.
Пришло в письме
Анна Соколова из ООО «Северный ветер» просит счёт на 148 500 ₽ за коммутатор SW-410, телефон +7 900 000-00-00
Ушло во внешнюю модель
⟦PERSON_1⟧ из ⟦ORG_1⟧ просит счёт на ⟦SUM_1⟧ за коммутатор SW-410, телефон ⟦PHONE_1⟧
Модель прибора осталась в тексте, по ней внешняя модель и отвечает. Данные вымышлены.
Сервер по требованию
Так устроен наш собственный сервер: открытая модель на 27 млрд параметров, одна видеокарта 24 ГБ, арендованный GPU-сервер в облаке. Пришёл запрос, сервер поднялся; 5 минут без работы, и он гаснет. Платим за часы работы, простой не оплачивается.
- ≈2 минзапуск с сохранённого диска, с нуля 3 мин 43 с
- 32–34токена в секунду выдаёт прогретая модель
- 5 минутпростоя, и сервер выключается
Предохранители: лимит часов в сутки, алерты в Telegram, резервная цепочка из нескольких типов видеокарт. Занята одна карта, берём следующую. Машину с узким каналом или без видимой карты система меняет сама.
Ограничения
- Открытая модель на одной видеокарте отвечает на сложные вопросы слабее сильных внешних моделей. Для таких задач собираем гибрид: локальная модель прячет данные, внешняя думает над текстом с метками.
- Свой сервер с видеокартой стоит денег. При небольшом потоке дешевле облако по требованию, при постоянной нагрузке выгоднее свой сервер.
- Первый запрос после простоя ждёт запуска сервера, от 2 до 4 минут. Пока очередь не разобрана, сервер не гаснет.
- Если модель не поднялась или обезличить не вышло, запрос не уходит наружу. Необезличенный текст во внешние сервисы не отправляется.
Вопросы о данных
Где обрабатываются данные и кто к ним подключается?
В базовых пакетах письма разбирает модель по API у внешнего провайдера. С опцией локальной нейросети модель работает на вашем сервере или на выделенном GPU-сервере в российском облаке. Если задаче нужна сильная внешняя модель, данные до отправки обезличиваются. Настройку ведём удалённо по VPN или SSH: окна работ и права согласуем, доступ отзывается по вашему решению.
Сколько стоит держать свою нейросеть?
Зависит от варианта. Свой сервер покупаете и обслуживаете вы, требования к нему называем после бесплатного разбора архива. Облачный сервер включается только на запрос и выключается через 5 минут простоя, поэтому вы платите за часы работы. Внедрение опции стоит 400 000–700 000 ₽ сверх пакета.
Локальная нейросеть отвечает хуже облачной?
На сложных вопросах сильные внешние модели точнее. Для таких задач собираем гибрид: локальная модель прячет персональные данные за метками, внешняя отвечает по тексту без них. Прогретая локальная модель у нас выдаёт 32–34 токена в секунду, первый запрос после простоя ждёт запуска сервера 2–4 минуты.
Обезличивание снимает требования 152-ФЗ?
Нет. Оно сокращает то, что видит внешний сервис: имён, контактов и реквизитов там нет. Персональные данные вы при этом обрабатываете по-прежнему, поэтому мы готовим описание потока данных и регламент, а решения по уведомлениям и согласиям принимает ваш юрист. С 30 мая 2025 года штраф для компании за утечку данных 1–10 тысяч человек составляет 3–5 млн ₽ (ч. 12 ст. 13.11 КоАП), и тест на утечку входит в приёмку.
Разберём ваш поток на цифрах
Напишите, что у вас происходит с почтой и заявками. Отвечает инженер, который будет вести проект, без прослойки менеджеров.
Архив передаёте только нам. NDA подпишем до передачи данных, после отчёта архив удалим.
Что дальше
- Спросим три вещи: сколько писем и заявок приходит в месяц, кто их сейчас разбирает и какая CRM или учётная система у вас стоит.
- Бесплатно разберём архив и назовём точную цену.
- По отчёту решим вместе, нужен ли вообще проект.