PRANUS

Локальные ИИ-модели для бизнеса: облако, сервер или контур

Облако, свой сервер или закрытый контур с локальными ИИ-моделями: что выбрать бизнесу, сколько стоит железо, где компромиссы и как перейти без простоя.

7 мин чтенияEN

Совещание у финансового директора. На экране — предложение подключить ИИ-помощника к договорам, зарплатным ведомостям и переписке с банком. Юрист молчит, потом задаёт один вопрос: «А куда уходят эти документы, когда ИИ их читает?» Ответа в комнате ни у кого нет, и проект откладывают на квартал.

Знакомая сцена. Именно здесь возникает разговор про локальные ИИ-модели для бизнеса: модель, которая работает на вашем сервере, а не у чужого поставщика. Ниже — без рекламы и без страшилок: какие есть три варианта размещения, сколько стоит железо, где честные компромиссы и как выбрать.

Три варианта: облако, свой сервер, закрытый контур

В PRANUS все три варианта доступны, и выбор не навсегда: можно начать в облаке и переехать позже. Разница — в том, где живут данные и где работает модель.

Облако PRANUS Свой сервер Закрытый контур с локальными моделями
Где данные на серверах PRANUS на вашем сервере на вашем сервере, в отдельном контуре
Где работает ИИ у облачных поставщиков моделей через единую дверь ИИ облачные модели, свои ключи или локальные модели локальные модели на вашем железе
Запуск быстрее всего нужен сервер и администратор нужен сервер с видеокартами под модель
Обновления приходят сами по согласованному графику по согласованному графику
Кому подходит большинству компаний на старте тем, кому данные нужно держать у себя банкам, медицине, госзаказу, производствам с коммерческой тайной
Главный компромисс данные у поставщика своя ответственность за сервер дороже железо, локальная модель медленнее крупных облачных

Подробно про каждый вариант, сроки и порядок переезда — на странице варианты размещения PRANUS.

Что меняется, когда модель работает у вас

Главное: ИИ-сотрудники и поиск по базе знаний продолжают работать так же. Меняется только то, кто отвечает «под капотом».

Все обращения к ИИ в PRANUS идут через одну дверь. Сервисы просят не конкретную модель, а задачу: «ответить клиенту», «разобрать документ», «составить итог звонка». Дверь сама решает, какая модель ответит. Локальная модель подключается к этой двери как ещё один поставщик. Подходят привычные инструменты для запуска открытых моделей — LM Studio, Ollama, vLLM и похожие.

Дальше несколько правил, которые важны руководителю:

  • Режим «организация только на локальных моделях». Все разговорные задачи компании идут на её модели, даже если какой-то сервис по умолчанию просил облачную. Не нужно перенастраивать каждый модуль.
  • Если модель недоступна — решаете вы. Варианты: понятная ошибка «ИИ временно недоступен», очередь до возвращения модели или переход в облако. Для закрытого контура обычно выбирают первые два.
  • Проверка доступности каждые ~30 секунд. Сервер выключили на обслуживание — система сама перестаёт слать туда запросы и сама возвращает адрес, когда он ожил.
  • Медленный ответ не дублируется в облако. Локальная модель думает дольше — система ждёт её, а не отправляет тот же запрос облачной модели «на всякий случай». Вы не платите дважды и не отправляете данные туда, куда не собирались.
  • Другие организации ваших моделей не видят. Даже если на одной установке работает группа компаний.

Права при этом работают одинаково во всех вариантах. В базе знаний MEMUS права проверяются до поиска: модель просто не получает документы, к которым у сотрудника нет доступа. Бухгалтер не «увидит через ИИ» договоры отдела продаж, где бы ни стояла модель.

Как устроена сама дверь ко всем моделям — запасные цепочки, лимиты, учёт расхода — мы разобрали в статье одна дверь ко всем ИИ-моделям.

Честно о компромиссах

Локальная модель — не бесплатная копия облачной. Перед решением стоит знать три вещи.

Скорость. Мы проверяли открытую модель примерно на 27 млрд параметров на рабочем компьютере с 64 ГБ памяти. Она отвечает и умеет работать с инструментами, но на длинных задачах — минуты, а не секунды, и одновременно тянет один-два запроса. Это нормально для пробы, для одного руководителя или небольшой группы. Для всей компании нужен сервер с видеокартами.

Качество. Крупные облачные модели пока сильнее открытых в сложных рассуждениях. Для большинства рабочих задач — ответ по документу, итог встречи, черновик письма — открытых моделей хватает. Для сложного анализа разумно оставить облако или взять модель покрупнее.

Железо и люди. Сервер нужно купить или арендовать, кто-то должен за ним следить. Это не повод отказываться, а строка бюджета.

Сколько стоит железо под свою модель

Ниже ориентиры по уличным ценам 2025–2026 годов. Это оценка, а не коммерческое предложение: точная конфигурация зависит от задач и числа сотрудников.

Что нужно Ориентир по цене
Модель около 70 млрд параметров: 2–4 карты H100 или 4 карты RTX PRO 6000 около $70–150 тыс., аренда — $3,5–7 тыс. в месяц
Модели на 235–400 млрд параметров: сервер на 8 карт старшего класса около $320–500 тыс.
Электричество и обслуживание плюс ~15–20% в год

Как считать нагрузку: в компании на 1 000 человек одновременно с ИИ работают обычно 5–10% сотрудников, то есть 50–100 человек. Один экземпляр модели на ~70 млрд параметров держит 20–50 одновременных пользователей. Отсюда и число карт.

Для компании на 50–200 человек часто хватает одного сервера средней мощности или аренды. А начать можно ещё скромнее — с одной машины под пробную группу.

Что предлагает рынок (на ноябрь 2026)

Свою установку с локальной моделью внутри бизнес-системы предлагают немногие:

  • у Zoho, Salesforce, HubSpot, monday, ClickUp и Notion своей установки нет вообще — только облако;
  • у Bitrix24 коробочная версия есть, но ИИ в ней ходит в облако самого Bitrix24;
  • у Odoo локальную модель подключают сторонние модули.

Это не значит, что облачные системы плохие. Это значит, что вопрос юриста из нашей сцены они закрывают договором, а не местом, где стоит сервер.

Как выбрать: вопросы-чек-лист

Ответьте на шесть вопросов. Чем больше «да» в первой половине, тем ближе вам закрытый контур.

  1. Требует ли закон или отраслевой регулятор хранить данные клиентов внутри страны? Например, в Казахстане персональные данные граждан нужно хранить в стране. В Узбекистане с 27.03.2026 требование ослаблено, но чувствительные данные по-прежнему должны оставаться внутри страны. Перед решением сверьтесь с юристом.
  2. Есть ли у вас коммерческая тайна, которую нельзя показывать внешним поставщикам ИИ: рецептуры, чертежи, условия крупных контрактов?
  3. Есть ли крупные заказчики или банки-партнёры, которые проверяют, где обрабатываются их данные?
  4. Есть ли у вас администратор или подрядчик, готовый обслуживать сервер?
  5. Готовы ли вы вложить деньги в железо сейчас, а не платить помесячно?
  6. Насколько критична скорость ответа ИИ — секунды или допустимы минуты на сложных задачах?

Если на первые три вопроса ответ «нет» — начинайте с облака. Если «да» хотя бы на один, а на четвёртый и пятый тоже «да» — смотрите на свой сервер или закрытый контур.

Гибрид: необязательно выбирать одно

Самый практичный вариант для многих — смешанный. Правила выбора модели задаются по задачам и по уровням: для всей организации, для отдела, для сервиса.

Пример, условный: отдел кадров и бухгалтерия работают только на локальной модели, потому что там зарплаты и паспортные данные. Отдел маркетинга пишет тексты через облачную модель, потому что там скорость важнее, а данных клиентов нет. Поиск по регламентам идёт локально.

Так железо покупается под ту часть работы, где оно действительно нужно, а не под всю компанию сразу. ИИ-сотрудники AGENTUS при этом не замечают разницы: у каждого своя роль, права и бюджет, а какая модель ответила — решает дверь ИИ по вашим правилам.

Как перейти: шаги

  1. Начните в облаке. Запустите систему, оргструктуру, базу знаний и ИИ-сотрудников. Так вы быстро увидите, какие задачи ИИ реально решает и сколько их.
  2. Посчитайте нагрузку. Сколько людей пользуются ИИ одновременно, какие задачи самые частые, где данные самые чувствительные. В PRANUS расход ИИ виден по сотрудникам и задачам — считать есть по чему.
  3. Выберите контур для чувствительного. Отделы и задачи, которые должны работать только локально.
  4. Проведите пробу на одной машине. Подключите локальную модель для пробной группы и сравните качество и скорость на ваших настоящих задачах.
  5. Подберите сервер. По результатам пробы — покупка или аренда под нужное число пользователей.
  6. Переезд. Перенос данных на ваш сервер или в закрытый контур по согласованному плану, включение режима «только локальные модели» для нужных отделов.

Первые шаги совпадают с обычным внедрением PRANUS за 14 дней: ИИ-агент строит оргструктуру, заводит сотрудников, собирает базу знаний. Вопрос размещения можно решать параллельно и не тормозить работу команды.

Вывод

Локальные модели — не мода и не панацея. Это способ ответить на вопрос «куда уходят наши документы» местом, где стоит сервер, а не только пунктом договора. Цена — железо, обслуживание и чуть меньшая скорость на сложных задачах.

Для большинства компаний правильный путь — облако на старте, затем гибрид: чувствительное локально, остальное — где удобнее. А тем, для кого закрытый контур — условие сделки, он доступен сразу.

Если хотите разобрать свой случай — какие данные куда, сколько железа и с чего начать, — оставьте заявку на демонстрацию. Покажем систему и посчитаем вариант размещения под вашу компанию.

Читайте дальше

Наведём порядок за две недели

Расскажите о компании — мы покажем PRANUS на ваших задачах и, если подходим друг другу, внедрим бесплатно.