ITGlobal.com, входящий в корпорацию ITG, запустил облачный сервис на видеокартах Nvidia RTX Pro 6000 Blackwell Server Edition в дата-центре уровня Tier III в Амстердаме. Ресурсы предназначены для задач машинного обучения и инференса моделей, а запуск расширяет географию вычислительной инфраструктуры компании. Об этом CNews сообщили представители ITGlobal.com.
Мощности можно арендовать частями: доступны профили с объемом видеопамяти 24, 48 и 96 ГБ. Конфигурация подбирается под конкретную задачу и может быть изменена по мере роста нагрузки. Такой подход подходит как для небольших экспериментов и прототипов, так и для постоянной эксплуатации моделей в продуктивной среде.
Разделение ресурсов реализовано с помощью технологии MIG-Backed vGPU. В этом случае карта делится на аппаратно изолированные доли, каждая из которых получает гарантированную производительность. Это отличается от программного разграничения, при котором нагрузка одного клиента может влиять на соседние виртуальные машины, размещенные на той же карте.
Управление ресурсами осуществляется через VMware Cloud Director — стандартный инструмент облачной инфраструктуры ITGlobal.com, корпорация ITG. Компании, которые уже используют облачные сервисы провайдера, работают с новой площадкой через тот же интерфейс и те же механизмы управления, что и с другими локациями.
Дата-центр в Амстердаме спроектирован по стандарту Tier III. Он предполагает резервирование инженерных систем — электропитания, охлаждения и каналов связи, а также возможность проводить плановое обслуживание без остановки оборудования. Площадка ориентирована на два сегмента заказчиков: зарубежные ИИ-стартапы и исследовательские команды, которым нужен доступ к вычислительным мощностям без закупки собственных серверов, а также российские компании, работающие с заказчиками, чьи требования предполагают размещение данных и вычислений в европейской юрисдикции.
«Инфраструктура для ИИ сегодня требует от бизнеса сложных решений: выбрать конфигурацию до того, как проект показал результат, и зафиксировать ее на годы вперед. Пока идет закупка, задача успевает измениться. Мы считаем правильным другой порядок — сначала проект доказывает свою состоятельность, потом под него подбирается инфраструктура. Именно это облако и должно давать бизнесу — возможность начать сразу, без капитальных вложений», — сказал Евгений Свидерский, вице-президент по облачным сервисам ITGlobal.com, корпорация ITG.