Локальные ИИ-модели для бизнеса: облако, сервер или контур
Облако, свой сервер или закрытый контур с локальными ИИ-моделями: что выбрать бизнесу, сколько стоит железо, где компромиссы и как перейти без простоя.
Совещание у финансового директора. На экране — предложение подключить ИИ-помощника к договорам, зарплатным ведомостям и переписке с банком. Юрист молчит, потом задаёт один вопрос: «А куда уходят эти документы, когда ИИ их читает?» Ответа в комнате ни у кого нет, и проект откладывают на квартал.
Знакомая сцена. Именно здесь возникает разговор про локальные ИИ-модели для бизнеса: модель, которая работает на вашем сервере, а не у чужого поставщика. Ниже — без рекламы и без страшилок: какие есть три варианта размещения, сколько стоит железо, где честные компромиссы и как выбрать.
Три варианта: облако, свой сервер, закрытый контур
В PRANUS все три варианта доступны, и выбор не навсегда: можно начать в облаке и переехать позже. Разница — в том, где живут данные и где работает модель.
| Облако PRANUS | Свой сервер | Закрытый контур с локальными моделями | |
|---|---|---|---|
| Где данные | на серверах PRANUS | на вашем сервере | на вашем сервере, в отдельном контуре |
| Где работает ИИ | у облачных поставщиков моделей через единую дверь ИИ | облачные модели, свои ключи или локальные модели | локальные модели на вашем железе |
| Запуск | быстрее всего | нужен сервер и администратор | нужен сервер с видеокартами под модель |
| Обновления | приходят сами | по согласованному графику | по согласованному графику |
| Кому подходит | большинству компаний на старте | тем, кому данные нужно держать у себя | банкам, медицине, госзаказу, производствам с коммерческой тайной |
| Главный компромисс | данные у поставщика | своя ответственность за сервер | дороже железо, локальная модель медленнее крупных облачных |
Подробно про каждый вариант, сроки и порядок переезда — на странице варианты размещения PRANUS.
Что меняется, когда модель работает у вас
Главное: ИИ-сотрудники и поиск по базе знаний продолжают работать так же. Меняется только то, кто отвечает «под капотом».
Все обращения к ИИ в PRANUS идут через одну дверь. Сервисы просят не конкретную модель, а задачу: «ответить клиенту», «разобрать документ», «составить итог звонка». Дверь сама решает, какая модель ответит. Локальная модель подключается к этой двери как ещё один поставщик. Подходят привычные инструменты для запуска открытых моделей — LM Studio, Ollama, vLLM и похожие.
Дальше несколько правил, которые важны руководителю:
- Режим «организация только на локальных моделях». Все разговорные задачи компании идут на её модели, даже если какой-то сервис по умолчанию просил облачную. Не нужно перенастраивать каждый модуль.
- Если модель недоступна — решаете вы. Варианты: понятная ошибка «ИИ временно недоступен», очередь до возвращения модели или переход в облако. Для закрытого контура обычно выбирают первые два.
- Проверка доступности каждые ~30 секунд. Сервер выключили на обслуживание — система сама перестаёт слать туда запросы и сама возвращает адрес, когда он ожил.
- Медленный ответ не дублируется в облако. Локальная модель думает дольше — система ждёт её, а не отправляет тот же запрос облачной модели «на всякий случай». Вы не платите дважды и не отправляете данные туда, куда не собирались.
- Другие организации ваших моделей не видят. Даже если на одной установке работает группа компаний.
Права при этом работают одинаково во всех вариантах. В базе знаний MEMUS права проверяются до поиска: модель просто не получает документы, к которым у сотрудника нет доступа. Бухгалтер не «увидит через ИИ» договоры отдела продаж, где бы ни стояла модель.
Как устроена сама дверь ко всем моделям — запасные цепочки, лимиты, учёт расхода — мы разобрали в статье одна дверь ко всем ИИ-моделям.
Честно о компромиссах
Локальная модель — не бесплатная копия облачной. Перед решением стоит знать три вещи.
Скорость. Мы проверяли открытую модель примерно на 27 млрд параметров на рабочем компьютере с 64 ГБ памяти. Она отвечает и умеет работать с инструментами, но на длинных задачах — минуты, а не секунды, и одновременно тянет один-два запроса. Это нормально для пробы, для одного руководителя или небольшой группы. Для всей компании нужен сервер с видеокартами.
Качество. Крупные облачные модели пока сильнее открытых в сложных рассуждениях. Для большинства рабочих задач — ответ по документу, итог встречи, черновик письма — открытых моделей хватает. Для сложного анализа разумно оставить облако или взять модель покрупнее.
Железо и люди. Сервер нужно купить или арендовать, кто-то должен за ним следить. Это не повод отказываться, а строка бюджета.
Сколько стоит железо под свою модель
Ниже ориентиры по уличным ценам 2025–2026 годов. Это оценка, а не коммерческое предложение: точная конфигурация зависит от задач и числа сотрудников.
| Что нужно | Ориентир по цене |
|---|---|
| Модель около 70 млрд параметров: 2–4 карты H100 или 4 карты RTX PRO 6000 | около $70–150 тыс., аренда — $3,5–7 тыс. в месяц |
| Модели на 235–400 млрд параметров: сервер на 8 карт старшего класса | около $320–500 тыс. |
| Электричество и обслуживание | плюс ~15–20% в год |
Как считать нагрузку: в компании на 1 000 человек одновременно с ИИ работают обычно 5–10% сотрудников, то есть 50–100 человек. Один экземпляр модели на ~70 млрд параметров держит 20–50 одновременных пользователей. Отсюда и число карт.
Для компании на 50–200 человек часто хватает одного сервера средней мощности или аренды. А начать можно ещё скромнее — с одной машины под пробную группу.
Что предлагает рынок (на ноябрь 2026)
Свою установку с локальной моделью внутри бизнес-системы предлагают немногие:
- у Zoho, Salesforce, HubSpot, monday, ClickUp и Notion своей установки нет вообще — только облако;
- у Bitrix24 коробочная версия есть, но ИИ в ней ходит в облако самого Bitrix24;
- у Odoo локальную модель подключают сторонние модули.
Это не значит, что облачные системы плохие. Это значит, что вопрос юриста из нашей сцены они закрывают договором, а не местом, где стоит сервер.
Как выбрать: вопросы-чек-лист
Ответьте на шесть вопросов. Чем больше «да» в первой половине, тем ближе вам закрытый контур.
- Требует ли закон или отраслевой регулятор хранить данные клиентов внутри страны? Например, в Казахстане персональные данные граждан нужно хранить в стране. В Узбекистане с 27.03.2026 требование ослаблено, но чувствительные данные по-прежнему должны оставаться внутри страны. Перед решением сверьтесь с юристом.
- Есть ли у вас коммерческая тайна, которую нельзя показывать внешним поставщикам ИИ: рецептуры, чертежи, условия крупных контрактов?
- Есть ли крупные заказчики или банки-партнёры, которые проверяют, где обрабатываются их данные?
- Есть ли у вас администратор или подрядчик, готовый обслуживать сервер?
- Готовы ли вы вложить деньги в железо сейчас, а не платить помесячно?
- Насколько критична скорость ответа ИИ — секунды или допустимы минуты на сложных задачах?
Если на первые три вопроса ответ «нет» — начинайте с облака. Если «да» хотя бы на один, а на четвёртый и пятый тоже «да» — смотрите на свой сервер или закрытый контур.
Гибрид: необязательно выбирать одно
Самый практичный вариант для многих — смешанный. Правила выбора модели задаются по задачам и по уровням: для всей организации, для отдела, для сервиса.
Пример, условный: отдел кадров и бухгалтерия работают только на локальной модели, потому что там зарплаты и паспортные данные. Отдел маркетинга пишет тексты через облачную модель, потому что там скорость важнее, а данных клиентов нет. Поиск по регламентам идёт локально.
Так железо покупается под ту часть работы, где оно действительно нужно, а не под всю компанию сразу. ИИ-сотрудники AGENTUS при этом не замечают разницы: у каждого своя роль, права и бюджет, а какая модель ответила — решает дверь ИИ по вашим правилам.
Как перейти: шаги
- Начните в облаке. Запустите систему, оргструктуру, базу знаний и ИИ-сотрудников. Так вы быстро увидите, какие задачи ИИ реально решает и сколько их.
- Посчитайте нагрузку. Сколько людей пользуются ИИ одновременно, какие задачи самые частые, где данные самые чувствительные. В PRANUS расход ИИ виден по сотрудникам и задачам — считать есть по чему.
- Выберите контур для чувствительного. Отделы и задачи, которые должны работать только локально.
- Проведите пробу на одной машине. Подключите локальную модель для пробной группы и сравните качество и скорость на ваших настоящих задачах.
- Подберите сервер. По результатам пробы — покупка или аренда под нужное число пользователей.
- Переезд. Перенос данных на ваш сервер или в закрытый контур по согласованному плану, включение режима «только локальные модели» для нужных отделов.
Первые шаги совпадают с обычным внедрением PRANUS за 14 дней: ИИ-агент строит оргструктуру, заводит сотрудников, собирает базу знаний. Вопрос размещения можно решать параллельно и не тормозить работу команды.
Вывод
Локальные модели — не мода и не панацея. Это способ ответить на вопрос «куда уходят наши документы» местом, где стоит сервер, а не только пунктом договора. Цена — железо, обслуживание и чуть меньшая скорость на сложных задачах.
Для большинства компаний правильный путь — облако на старте, затем гибрид: чувствительное локально, остальное — где удобнее. А тем, для кого закрытый контур — условие сделки, он доступен сразу.
Если хотите разобрать свой случай — какие данные куда, сколько железа и с чего начать, — оставьте заявку на демонстрацию. Покажем систему и посчитаем вариант размещения под вашу компанию.