Закрытый контур
ИИ на вашем сервере: данные не выходят наружу
Закрытый контур — это когда ИИ-агент и сама модель работают внутри вашей сети: на вашем сервере, с вашими доступами, без единого запроса во внешний сервис. Это нужно не всем. Но там, где переписку с клиентами, документы или данные пациентов нельзя отдавать наружу по договору, политике безопасности или здравому смыслу, это единственный честный вариант. И он у меня не строчка в списке, а работающий проект.
19 проектов в проде
Первый расчёт утечки — за мой счёт
Работаю по договору, NDA до обсуждения
Что закрытый контур умеет, а чего — нет?
Честно: локальная модель слабее флагманских облачных. Поэтому в контуре я отдаю ей не «свободный разговор с клиентом», а работу, где нужна аккуратность, а не эрудиция: извлечь из письма номер заказа и позиции, разложить претензию по полям, сверить документ с базой, классифицировать входящее. На таких задачах локальная модель работает надёжно. И именно эти задачи обычно съедают часы сотрудников.
- Хорошо: извлечение данных из писем и документов, классификация, сверка с 1С, черновики типовых ответов
- С оговорками: длинные рассуждения, редкие языки, сложные диалоги — нужна проверка человеком
- Не стоит: продавать голосом или вести свободную переписку без подтверждения
| Облачная модель | Закрытый контур | Гибрид |
| Где обрабатываются данные | На стороне внешнего сервиса | Только на вашем сервере | Имена, суммы, условия — внутри; обезличенный минимум — наружу |
| Нужен ли интернет для обработки | Да | Нет | Только для обезличенной части |
| За что платите | За каждый запрос | За железо один раз | И то и другое, но наружу уходит мало |
| Сила модели | Максимальная | Ниже флагманов: аккуратные задачи | Сильная там, где данные позволяют |
| Кому подходит | Данные можно выпускать | Запрет по договору, политике, 152-ФЗ | Часть данных нельзя, часть можно |
Если задача требует сильной облачной модели, есть гибрид: наружу уходит обезличенный минимум, а всё, что содержит имена, суммы и условия, остаётся внутри. Какой вариант нужен вам — вопрос расчёта, а не веры.