Как бизнесу внедрить ИИ и машинное обучение без лишних затрат: подбор конфигурации сервера с GPU и аренда с правом выкупа

Применение технологий на базе искусственного интеллекта (ИИ) способно значительно повысить эффективность бизнеса и создать условия для перехода на качественно новый уровень. Многие предприятия уже оценили потенциал искусственного интеллекта и начали внедрять его в свою деятельность. Но столкнулись с необходимостью модернизации серверного оборудования, так как обычные серверы не способны справляться с повышенными рабочими нагрузками, связанными с применением ИИ. Поскольку обновление ИТ-ресурсов – это дорогостоящее мероприятие. Если у компании нет возможности единовременно вложить крупную сумму, при этом интегрировать ИИ и машинное обучение необходимо в ближайшее время, выходом станет аренда мощного сервера, оснащенного высокопроизводительными графическими процессорами (GPU), с правом выкупа. Экономическая целесообразность этого решения при ограниченном бюджете подтверждается возрастающим спросом на такие услуги.

Новый ИИ-кластер для гемблинг-платформы

Гемблинг-компания на протяжении четырех лет размещает инфраструктуру во Франкфурте, у одного из ведущих сервис-провайдеров Германии. Когда возникла необходимость внедрить ИИ в бизнес-процессы и для этого потребовался отдельный сервер, вполне естественно, что клиент обратился к своему постоянному поставщику услуг.

Компания была нацелена на оптимизацию внутренних процедур с помощью бизнес-моделирования. Искусственному интеллекту уделялась в этом процессе ключевая роль. Соответственно, департамент развития бизнеса поставил перед сервис-провайдером комплексную задачу: рассчитать стоимость сервера с GPU, подходящего для ИИ и глубокого машинного обучения, договориться с поставщиком об условиях поставки и предоставить оборудование в долгосрочную аренду с правом последующего выкупа.

Сервер должен был стать первым в новом ИИ-кластере, а после успешных испытаний на специально купленной для этого тестовой платформе клиент планировал увеличение мощностей.

Производитель и конфигурация – важнейшие критерии выбора серверного оборудования для ИИ

Готовая конфигурация ИИ-сервера у клиента уже была, однако она включала устаревшие модели видеокарт NVIDIA, на которых проводилось предварительное тестирование. Тесты дали отличные результаты, по мощности GPU и цене видеокарты NVIDIA полностью устраивали, поэтому других производителей компания не рассматривала. Но у сервис-провайдера появились сомнения в целесообразности использования именно этих моделей, поэтому технический инженер обратился за консультацией к поставщику. Сомнения подтвердились, оказалось, что есть более актуальные версии NVIDIA с мощными GPU, способными многократно ускорить процедуры, связанные со сложными вычислениями, точными расчетами, обработкой больших данных, машинным обучением и другими ИИ-задачами.

Сервис-провайдер предложил несколько вариантов комплектации с видеокартами нового поколения. Клиент выбрал оптимальный по цене и производительности вариант с NVIDIA L40 48GB PCI Express:

• HPE DL380a Gen11 4DW.
• 2x Intel Xeon-Gold 6444Y 3.6GHz 16-core.
• 8x HPE (1x64GB) Dual Rank x4 DDR5-4800.
• 2x HPE 7.68TB NVMe.
• Intel E810-XXVDA2 Ethernet 10/25Gb 2-port SFP28.
• 4x NVIDIA L40 48GB PCIe.
• 4x HPE 1800W-2200W.

Скорректированная конфигурация была утверждена, и проект пошел в работу. Надо отметить, что для предполагавшихся рабочих нагрузок эта конфигурация подходила лучше всего. В ИИ сервер было сразу включено четыре блока питания и максимальное количество видеокарт с высокой вычислительной мощностью.

Для выполнения параллельных задач клиенту требовалось большое хранилище с возможностью расширения. Сервер-провайдер добавил сразу два NVMe-диска – на первое время этого количества хватит, а при необходимости можно будет добавить дополнительные.

Видеокарта играла ведущую роль при подборе комплектации, но большое значение имел также выбор производителя серверного оборудования. На выбор влияет много факторов, в первую очередь специфика задачи, бюджет, требования к производительности, масштабируемость. Наиболее подходящим в конкретной ситуации является сервер HPE ProLiant DL380a Gen11, оснащенный процессорами четвертого поколения Intel® Xeon® Scalable.

Особенности сервера DL380a

• Имеющий увеличенное количество ядер и улучшенные характеристики CPU по сравнению с предыдущим поколением, оперативную память DDR5 и PCIe Gen5, ИИ-сервер обеспечивает высокую вычислительную мощность, производительность, и плавную работу даже при интенсивных нагрузках.
• Уникальный дизайн с передней загрузкой GPU позволил увеличить плотность процессоров. В DL380a можно одновременно использовать до четырех двойных и до восьми одиночных GPU. Такое количество идеально подходит для задач обработки естественного языка, машинного обучения глубоких нейросетей и других ИИ-нагрузок. Кроме того, благодаря конструктивным изменениям обеспечивает эффективное охлаждение, снижая риск перегрева и запуска принудительного теплового троттлинга, значительно снижающего производительность.
• Встроенная система управления HPE iLO обеспечивает безопасное удаленное управление сервером и дистанционный мониторинг состояния всех критически важных компонентах сервера.

В указанной комплектации сервер HPE ProLiant DL380a Gen11 способен поддерживать сложные ИИ-приложения, обрабатывать большие массивы данных, в том числе визуальную информацию. Это делает его идеальным решением, которое полностью отвечает потребностям гемблинговой компании не только в настоящее время, но и с расчетом на будущий рост.

Как взять сервер с GPU для машинного обучения в аренду с правом выкупа и сэкономить до 20% от базовой стоимости

Вся ИТ-инфраструктура компании находится на обслуживании у этого сервис-провайдера и располагается в одном из ведущих ЦОД Франкфурта (уровень Tier III). Безопасное сетевое подключение уже выстроено, редундантное электроснабжение обеспечено, система имеет высокую отказоустойчивость и надежность. Клиента все устраивает, поэтому новый ИИ-сервер он решил разместить в том же ЦОД.

Таким образом, проект включал целый комплекс услуг, куда вошли:

• помощь в подборе конфигурации;
• переговоры с вендором и организация поставки;
• сборка и предварительная настройка серверного оборудования;
• сетевое подключение в соответствии с регламентами и правилами безопасности ЦОД Tier III;
• предоставление клиенту администраторского доступа к ресурсам через защищенный VPN;
• круглосуточная техническая поддержка и мониторинг.

Важно также отметить, что сервер-провайдер помог не только собрать высокопроизводительный ИИ-сервер с GPU для машинного обучения, но и предоставил его на очень выгодных для заказчика условиях.

Благодаря многолетнему партнерству с производителем у сервис-провайдера есть возможность закупать оборудование по льготным ценам и предлагать скидки своим постоянным клиентам. К примеру, в типовой комплектации ИИ-сервер HPE стоит около 100 тыс. евро, представленная конфигурация с 4 топовыми GPU NVIDIA, подходящая для машинного обучения, обойдется покупателю в ~140 тыс. евро, если оплачивать по обычному прайсу. Гемблинговой компании удалось сэкономить примерно 20% с учетом стоимости обслуживания. При этом не пришлось сразу оплачивать полную сумму, так как по договору с сервис-провайдером GPU-сервер предоставлялся в аренду с правом выкупа.

Умное управление ИТ-активами: какие преимущества получил клиент от реализации проекта

1. Инновационное серверное решение, открывающее новые горизонты развития в области ИИ и машинного обучения, по привлекательной цене. Сервис-провайдер поставляет оборудование под заказ, учитывая при закупке специфические потребности клиентского бизнеса. Такой подход позволяет предоставлять клиентам актуальные модели в пределах выделенного на проект бюджета, что исключает быстрое устаревание ИТ-ресурсов и помогает не выходить за рамки финансовых ограничений. При этом провайдер берет на себя ответственность за вероятные задержки в поставке, обеспечивая компанию за свой счет подменным фондом и поддержкой в процессе вынужденной миграции.
2. Возможность добавить дорогостоящий и очень перспективный ИТ-актив, избежав крупных единовременных трат и сэкономив как минимум 20% от цены, предлагаемой производителем обычным покупателям.
3. Поставка и комплекс профессиональных услуг под ключ – бережет время и собственные ресурсы заказчика.
4. Интеграция ИИ-сервера в существующую ИТ-инфраструктуру, которая безотказно работает на протяжении четырех лет. Безопасность и высокая отказоустойчивость оборудования гарантируется стандартами дата-центра, включающими, например, задвоенное энергоснабжение, благодаря которому даже при сбое в подаче электроэнергии система продолжает работать.
5. Защищенное VPN-соединение для доступа к управлению системой обеспечивает сетевую безопасность.

Участники, сроки и нюансы реализации

В проекте участвовало не менее 10 специалистов. В команде гемблинг-компании состояли представители трех департаментов (ИТ-инфраструктуры, программистов, развития бизнеса), а также главный инженер. Со стороны сервис-провайдера в работе принимали участие менеджер проекта, технический инженер, технический архитектор и управляющий директор. Консультативную помощь оказали специалисты вендора.

Что касается проблем, их в процессе реализации практически не возникало. Стоит отметить лишь небольшой нюанс. Когда к сервис-провайдеру поступил запрос, он уже включал желаемую конфигурацию серверного оборудования и техническое задание. Однако, формулируя задачу, сотрудники гемблинг-компании упустили из виду быстрое устаревание технологий. И здесь провайдер проявил гибкость и показал высокую клиентоориентированность, предложив несколько альтернатив, которые были более современными и не выходили за рамки бюджета. В результате гемблинг-компания получила в распоряжение выделенный ИИ-сервер с GPU, который на 100% подходит для работы искусственного интеллекта и машинного обучения, а главное, рассчитан на растущие потребности бизнеса.

Аренда сервера с GPU – оптимальный вариант для внедрения ИИ и машинного обучения

Кастомная сборка ИИ-сервера и аренда с последующим выкупом может стать отличным решением для начала работы с искусственным интеллектом. Плюсы не только в том, что предприятие получает возможность поэтапно оплачивать дорогостоящее оборудование, но и в масштабируемости и производительности таких ресурсов.

В описываемом кейсе клиенту было добавлены конкретные модели видеокарт в максимальном количестве, что было обусловлено текущими целями бизнеса. В данном случае наращивание мощностей будет осуществляться за счет прироста ИИ-серверов (VPS или VDS) с аналогичными параметрами. Но можно пойти другим путем – сначала взять минимальную комплектацию и добавлять компоненты по мере расширения или использовать другие видеокарты с GPU. А оптимизировать расходы при внедрении ИИ и машинного обучения позволит аренда GPU-сервера с последующим выкупом.

Альтернативные конфигурации сервера HPE DL380a Gen11, предназначенного для работы с ИИ

В каждой модификации предусмотрено 8 слотов SFF NVMe U.3 с возможностью замены на 12 слотов EDSFF NVMe. Дополнительно предусмотрена опция добавления лицензий для ОС, включая Windows Server, SUSE Linux Enterprise Server и Red Hat Enterprise Linux Server.

Ключевой фактор успешной интеграции искусственного интеллекта в бизнес

Интеграция искусственного интеллекта в бизнес-процессы привлекает все больше компаний, стремящихся к инновациям и совершенствованию своих услуг. Чтобы максимально полно использовать потенциал ИИ, необходимо оснащение, специально адаптированное для работы с ним, что подразумевает наличие оборудования с соответствующей конфигурацией. Удачным решением с точки зрения функциональности, затрат и перспектив во многих случаях является лизинг, то есть долгосрочная аренда выделенного GPU-сервера у сервис-провайдера с правом последующего выкупа.

В партнерстве с надежным поставщиком услуг бизнес может получить не только профессиональную техподдержку, но и гибкость в управлении ИТ-ресурсами, что особенно важно в условиях динамичного рынка. Поставщик, в свою очередь, получает возможность более тесно взаимодействовать с клиентом, предлагая инновационные решения, которые могут быть быстро адаптированы под изменяющиеся требования бизнеса.

Такое сотрудничество позволяет клиенту не только экономить на первоначальных капиталовложениях, но и оптимизировать операционные расходы, так как лизинговые платежи часто включают в себя обслуживание и обновление оборудования. Кроме того, использование искусственного интеллекта требует соответствующих знаний и навыков, поэтому сервис-провайдер может предложить обучение персонала или даже полностью взять на себя управление ИИ-инфраструктурой.

При таком подходе компания может полностью сосредоточиться на своем основном бизнесе, делегируя технические аспекты профессионалам и обеспечивая бесперебойную работу своих ИИ-систем. Это создает условия для внедрения инноваций и постоянного развития, что является ключевым фактором успеха в современной экономике.

SET UP A CALL

Автор статьи

Ольга Буянова

Консультант по серверному оборудованию, сетевым и облачным технологиям

Кейс: Как компания в Европе может сэкономить более 15 % на услугах центра обработки данных за счет миграции своей ИТ-инфраструктуры

ПОДРОБНЕЕ