ИИ-сервер для строительства мостов: расчёт конфигурации
Для проекта в строительстве мостов рассчитали подход к собственному ИИ-контуру с одной и двумя видеокартами. Задача — работать с документами и сметными материалами на инфраструктуре компании. Ниже описаны требования и варианты комплектации с Qwen; поставка, фактическая скорость и результат дообучения относятся к отдельным этапам внедрения.
Задача расчёта ИИ-сервера для мостостроительной компании
Компания, которая занимается строительством мостов, рассматривает собственное оборудование для работы со строительными документами. Важны контроль размещения материалов, воспроизводимая конфигурация и возможность расширить станцию. Вместо выбора видеокарты по названию проверяем, какую модель и какую рабочую нагрузку должна поддержать система.
Для расчёта выделяем обработку текста, поиск по внутреннему архиву и подготовку ответа с источниками. Скан, таблица и текстовый документ проходят разные стадии. Даже если языковая модель подходит по памяти, качество распознавания исходных материалов может ограничить весь процесс. Поэтому оборудование рассчитывается под конвейер, а не только под генерацию текста.
Статус этого материала — расчёт вариантов контура. Он показывает предмет выполненной проработки и предлагаемое продолжение: комплектация, поставка, настройка и обучение. Здесь не заявлены установленные у заказчика модели GPU, завершённое дообучение или измеренная скорость обработки: эти параметры подтверждаются после испытаний и приёмки.
Qwen для строительных документов: нижняя оценка памяти
Расчётный нижний предел только для весов языковой части: число параметров × битность / 8. Это не полный расход VRAM: дополнительно нужны зрительный энкодер, метаданные квантования, кэш контекста и память движка. GB здесь десятичные, GiB — двоичные.
| Модель | 4 бита, веса | 8 бит, веса | 16 бит, веса |
|---|---|---|---|
| Qwen3.8-27B | ≈13,5 GB / 12,6 GiB | ≈27 GB / 25,1 GiB | ≈54 GB / 50,3 GiB |
| Qwen3.6-27B | ≈13,5 GB / 12,6 GiB | ≈27 GB / 25,1 GiB | ≈54 GB / 50,3 GiB |
| Qwen3.6-35B-A3B | ≈17,5 GB / 16,3 GiB | ≈35 GB / 32,6 GiB | ≈70 GB / 65,2 GiB |
Варианты ИИ-контура с одной и двумя GPU
Планируем конкретную сборку модели и запас под обработку документов. Размер контекста и число одновременных заданий задаются до испытания. Таблица является инженерной оценкой, а не замером скорости на площадке заказчика.
| Вариант | Предлагаемое применение | Что проверяется |
|---|---|---|
| 1 × RTX 4090, 24 GB | Кандидат для Qwen 27B в 4-битном представлении | Ограничить контекст и параллельность; проверить полную сборку на реальных документах |
| 1 × RTX 5090, 32 GB | Qwen 27B в 4 битах с большим запасом под рабочую нагрузку | FP8 требует отдельного замера: близкий размер весов не гарантирует достаточно свободной памяти |
| 2 × RTX 4090, по 24 GB | Разделение подходящей модели или два независимых обработчика | 48 GB — сумма физических ресурсов; это не единый автоматический буфер |
| 2 × RTX 5090, по 32 GB | Планирование FP8/8-битного запуска или разделение LLM и OCR | Проверить поддержку multi-GPU, PCIe, охлаждение, питание и нагрузку; 64 GB не означают гарантированный BF16 |
Почему для смет недостаточно одной установленной LLM
Помощник должен сохранять связь извлечённой позиции с исходным документом. Неясная единица измерения, пропущенная строка таблицы или разные версии спецификации передаются на проверку. Стоимость и объёмы рассчитываются по утверждённым правилам и справочникам; языковая модель помогает извлечь и объяснить данные, но не заменяет расчётный алгоритм.
Поиск аналогов строится поверх разрешённого архива. Сначала проверяем, какие документы считаются авторитетными, как отражаются отменённые версии и у кого есть доступ. Для ответа нужен источник, который инженер может открыть и проверить. Общий продукт для такого сценария — RAG-система.
В ранее опубликованном кейсе строительной компании описана поставка собственного сервера и работа со сметами, где подготовка сократилась с нескольких дней до часа. Эта метрика не переносится на расчёт мостостроительного контура: у нового сценария собственные документы, границы замера и критерии приёмки.
От расчёта GPU к поставке и обучению команды
Следующие этапы фиксируются в составе проекта. Каждый из них требует отдельного проверяемого результата.
Проверка Qwen на документах
Сравнить компактные модели актуальной и предыдущей линейки, квантованные сборки и настройки контекста. Измерить качество извлечения, подтверждённость ответа и пиковую VRAM. Отдельно проверить многопользовательскую нагрузку и случаи, где система должна отказаться от вывода.
Согласование оборудования
Зафиксировать GPU, RAM, накопители, охлаждение, питание и место под расширение. Проверить физическую совместимость двух карт и поддержку распределённого запуска. Оценить оборудование по актуальным предложениям и указать гарантию поставщика, срок и состав монтажных работ.
Настройка закрытого контура
Развернуть модельные сервисы, обработку файлов, поиск и рабочий интерфейс. Проверить роли, журналы, резервные копии и отсутствие внешнего модельного маршрута. Документировать версии и порядок восстановления, чтобы контур можно было обслуживать после передачи заказчику.
Обучение пользователей и приёмка
Показать инженерам проверку источников, обработку спорных позиций и передачу ошибок. При необходимости отдельно подготовить данные для дообучения. Принять систему по согласованному набору рабочих задач, включая восстановление после сбоя и корректную обработку неполных материалов.
Результат расчёта и критерии следующего этапа
Результат проработки — понятный выбор между одной и двумя GPU и разделение аппаратных ограничений, качества модели и готовности документов. Компактная Qwen 27B позволяет рассматривать рабочую станцию, но запас памяти определяется полной сборкой и задачей. Большие флагманы требуют другого класса инфраструктуры.
Для следующего этапа нужен тестовый набор строительных материалов, список пользователей и норматив времени на обработку. По нему проверяются память, задержка и качество. Поставку и настройку можно заказать как ИИ-сервер под ключ; состав оборудования и границы результата входят в отдельное предложение.
Как перейти от расчёта ИИ-сервера к приёмке оборудования
Расчёт конфигурации задаёт кандидатов для проверки, а не гарантирует производительность будущего контура. До закупки согласуйте релиз модели, формат весов, длину контекста и число параллельных заданий. Приёмка должна включать рабочие документы, память, скорость и восстановление. Поставка и результат дообучения относятся к отдельным этапам, которые нельзя считать выполненными по одному расчёту.
Источники по моделям и технологиям
Официальные карточки и документация, на которые опираются технические сведения на этой странице.
Вопросы о расчёте контура для строительства мостов
Это уже поставленная станция с конкретными GPU?
В этом материале опубликован расчёт вариантов. Он не подтверждает закупку и установку перечисленных карт у заказчика. Финальная спецификация и сведения о приёмке публикуются только после подтверждения соответствующего этапа.
Почему сравниваются две линейки Qwen?
Новая версия должна подтвердить пользу на строительных материалах, а не только в публичной таблице тестов. Предыдущий кандидат сохраняется для сравнения качества и затрат. Увеличение номера модели не отменяет проверки единиц измерения, таблиц и ссылок на документы.
Нужна ли обязательно вторая видеокарта?
Это определяется нагрузкой. Для одного ограниченного сценария может хватить одной карты. Вторая рассматривается для другой точности весов, параллельной обработки или разделения сервисов. При этом проверяются платформа и выбранный движок.
Можно ли использовать тот же контур в другом строительном направлении?
Да, как основу архитектуры после проверки документов нового процесса. Сметные шаблоны, терминология, доступы и критерии качества отличаются. Конфигурацию и правила нельзя переносить автоматически только потому, что обе компании относятся к строительству.
Как использовать расчёт ИИ-сервера для московского офиса и региональных объектов?
Сначала определяем, где будут модель, документы и пользователи. Для площадок оцениваем сеть и допустимый режим доступа. Конфигурацию проверяют на фактической нагрузке; кейс описывает расчёт, а условия поставки, внедрения и эксплуатации согласуются отдельно.
Обсудим вашу задачу и посчитаем эффект внедрения ИИ
Бесплатная диагностика, 30–40 минут. Разберём процесс, доступные данные и ограничения. На выходе — первые сценарии, ориентир по внедрению и расчёт на ваших цифрах.