Содержание
- 1 Новый ИИ-кластер для гемблинг-платформы
- 2 Производитель и конфигурация – важнейшие критерии выбора серверного оборудования для ИИ
- 3 Как взять сервер с GPU для машинного обучения в аренду с правом выкупа и сэкономить до 20% от базовой стоимости
- 4 Умное управление ИТ-активами: какие преимущества получил клиент от реализации проекта
- 5 Участники, сроки и нюансы реализации
- 6 Аренда сервера с GPU – оптимальный вариант для внедрения ИИ и машинного обучения
- 7 Ключевой фактор успешной интеграции искусственного интеллекта в бизнес
Применение технологий на базе искусственного интеллекта (ИИ) способно значительно повысить эффективность бизнеса и создать условия для перехода на качественно новый уровень. Многие предприятия уже оценили потенциал искусственного интеллекта и начали внедрять его в свою деятельность. Но столкнулись с необходимостью модернизации серверного оборудования, так как обычные серверы не способны справляться с повышенными рабочими нагрузками, связанными с применением ИИ. Поскольку обновление ИТ-ресурсов – это дорогостоящее мероприятие. Если у компании нет возможности единовременно вложить крупную сумму, при этом интегрировать ИИ и машинное обучение необходимо в ближайшее время, выходом станет аренда мощного сервера, оснащенного высокопроизводительными графическими процессорами (GPU), с правом выкупа. Экономическая целесообразность этого решения при ограниченном бюджете подтверждается возрастающим спросом на такие услуги.
Новый ИИ-кластер для гемблинг-платформы
Гемблинг-компания на протяжении четырех лет размещает инфраструктуру во Франкфурте, у одного из ведущих сервис-провайдеров Германии. Когда возникла необходимость внедрить ИИ в бизнес-процессы и для этого потребовался отдельный сервер, вполне естественно, что клиент обратился к своему постоянному поставщику услуг.
Компания была нацелена на оптимизацию внутренних процедур с помощью бизнес-моделирования. Искусственному интеллекту уделялась в этом процессе ключевая роль. Соответственно, департамент развития бизнеса поставил перед сервис-провайдером комплексную задачу: рассчитать стоимость сервера с GPU, подходящего для ИИ и глубокого машинного обучения, договориться с поставщиком об условиях поставки и предоставить оборудование в долгосрочную аренду с правом последующего выкупа.
Сервер должен был стать первым в новом ИИ-кластере, а после успешных испытаний на специально купленной для этого тестовой платформе клиент планировал увеличение мощностей.
Производитель и конфигурация – важнейшие критерии выбора серверного оборудования для ИИ
Готовая конфигурация ИИ-сервера у клиента уже была, однако она включала устаревшие модели видеокарт NVIDIA, на которых проводилось предварительное тестирование. Тесты дали отличные результаты, по мощности GPU и цене видеокарты NVIDIA полностью устраивали, поэтому других производителей компания не рассматривала. Но у сервис-провайдера появились сомнения в целесообразности использования именно этих моделей, поэтому технический инженер обратился за консультацией к поставщику. Сомнения подтвердились, оказалось, что есть более актуальные версии NVIDIA с мощными GPU, способными многократно ускорить процедуры, связанные со сложными вычислениями, точными расчетами, обработкой больших данных, машинным обучением и другими ИИ-задачами.
Сервис-провайдер предложил несколько вариантов комплектации с видеокартами нового поколения. Клиент выбрал оптимальный по цене и производительности вариант с NVIDIA L40 48GB PCI Express:
- HPE DL380a Gen11 4DW.
- 2x Intel Xeon-Gold 6444Y 3.6GHz 16-core.
- 8x HPE (1x64GB) Dual Rank x4 DDR5-4800.
- 2x HPE 7.68TB NVMe.
- Intel E810-XXVDA2 Ethernet 10/25Gb 2-port SFP28.
- 4x NVIDIA L40 48GB PCIe.
- 4x HPE 1800W-2200W.
Скорректированная конфигурация была утверждена, и проект пошел в работу. Надо отметить, что для предполагавшихся рабочих нагрузок эта конфигурация подходила лучше всего. В ИИ сервер было сразу включено четыре блока питания и максимальное количество видеокарт с высокой вычислительной мощностью.
Для выполнения параллельных задач клиенту требовалось большое хранилище с возможностью расширения. Сервер-провайдер добавил сразу два NVMe-диска – на первое время этого количества хватит, а при необходимости можно будет добавить дополнительные.
Видеокарта играла ведущую роль при подборе комплектации, но большое значение имел также выбор производителя серверного оборудования. На выбор влияет много факторов, в первую очередь специфика задачи, бюджет, требования к производительности, масштабируемость. Наиболее подходящим в конкретной ситуации является сервер HPE ProLiant DL380a Gen11, оснащенный процессорами четвертого поколения Intel® Xeon® Scalable.
Особенности сервера DL380a
- Имеющий увеличенное количество ядер и улучшенные характеристики CPU по сравнению с предыдущим поколением, оперативную память DDR5 и PCIe Gen5, ИИ-сервер обеспечивает высокую вычислительную мощность, производительность, и плавную работу даже при интенсивных нагрузках.
- Уникальный дизайн с передней загрузкой GPU позволил увеличить плотность процессоров. В DL380a можно одновременно использовать до четырех двойных и до восьми одиночных GPU. Такое количество идеально подходит для задач обработки естественного языка, машинного обучения глубоких нейросетей и других ИИ-нагрузок. Кроме того, благодаря конструктивным изменениям обеспечивает эффективное охлаждение, снижая риск перегрева и запуска принудительного теплового троттлинга, значительно снижающего производительность.
- Встроенная система управления HPE iLO обеспечивает безопасное удаленное управление сервером и дистанционный мониторинг состояния всех критически важных компонентах сервера.
В указанной комплектации сервер HPE ProLiant DL380a Gen11 способен поддерживать сложные ИИ-приложения, обрабатывать большие массивы данных, в том числе визуальную информацию. Это делает его идеальным решением, которое полностью отвечает потребностям гемблинговой компании не только в настоящее время, но и с расчетом на будущий рост.
Как взять сервер с GPU для машинного обучения в аренду с правом выкупа и сэкономить до 20% от базовой стоимости
Вся ИТ-инфраструктура компании находится на обслуживании у этого сервис-провайдера и располагается в одном из ведущих ЦОД Франкфурта (уровень Tier III). Безопасное сетевое подключение уже выстроено, редундантное электроснабжение обеспечено, система имеет высокую отказоустойчивость и надежность. Клиента все устраивает, поэтому новый ИИ-сервер он решил разместить в том же ЦОД.
Таким образом, проект включал целый комплекс услуг, куда вошли:
- помощь в подборе конфигурации;
- переговоры с вендором и организация поставки;
- сборка и предварительная настройка серверного оборудования;
- сетевое подключение в соответствии с регламентами и правилами безопасности ЦОД Tier III;
- предоставление клиенту администраторского доступа к ресурсам через защищенный VPN;
- круглосуточная техническая поддержка и мониторинг.
Важно также отметить, что сервер-провайдер помог не только собрать высокопроизводительный ИИ-сервер с GPU для машинного обучения, но и предоставил его на очень выгодных для заказчика условиях.
Благодаря многолетнему партнерству с производителем у сервис-провайдера есть возможность закупать оборудование по льготным ценам и предлагать скидки своим постоянным клиентам. К примеру, в типовой комплектации ИИ-сервер HPE стоит около 100 тыс. евро, представленная конфигурация с 4 топовыми GPU NVIDIA, подходящая для машинного обучения, обойдется покупателю в ~140 тыс. евро, если оплачивать по обычному прайсу. Гемблинговой компании удалось сэкономить примерно 20% с учетом стоимости обслуживания. При этом не пришлось сразу оплачивать полную сумму, так как по договору с сервис-провайдером GPU-сервер предоставлялся в аренду с правом выкупа.
Умное управление ИТ-активами: какие преимущества получил клиент от реализации проекта
- Инновационное серверное решение, открывающее новые горизонты развития в области ИИ и машинного обучения, по привлекательной цене. Сервис-провайдер поставляет оборудование под заказ, учитывая при закупке специфические потребности клиентского бизнеса. Такой подход позволяет предоставлять клиентам актуальные модели в пределах выделенного на проект бюджета, что исключает быстрое устаревание ИТ-ресурсов и помогает не выходить за рамки финансовых ограничений. При этом провайдер берет на себя ответственность за вероятные задержки в поставке, обеспечивая компанию за свой счет подменным фондом и поддержкой в процессе вынужденной миграции.
- Возможность добавить дорогостоящий и очень перспективный ИТ-актив, избежав крупных единовременных трат и сэкономив как минимум 20% от цены, предлагаемой производителем обычным покупателям.
- Поставка и комплекс профессиональных услуг под ключ – бережет время и собственные ресурсы заказчика.
- Интеграция ИИ-сервера в существующую ИТ-инфраструктуру, которая безотказно работает на протяжении четырех лет. Безопасность и высокая отказоустойчивость оборудования гарантируется стандартами дата-центра, включающими, например, задвоенное энергоснабжение, благодаря которому даже при сбое в подаче электроэнергии система продолжает работать.
- Защищенное VPN-соединение для доступа к управлению системой обеспечивает сетевую безопасность.
Участники, сроки и нюансы реализации
В проекте участвовало не менее 10 специалистов. В команде гемблинг-компании состояли представители трех департаментов (ИТ-инфраструктуры, программистов, развития бизнеса), а также главный инженер. Со стороны сервис-провайдера в работе принимали участие менеджер проекта, технический инженер, технический архитектор и управляющий директор. Консультативную помощь оказали специалисты вендора.
Что касается проблем, их в процессе реализации практически не возникало. Стоит отметить лишь небольшой нюанс. Когда к сервис-провайдеру поступил запрос, он уже включал желаемую конфигурацию серверного оборудования и техническое задание. Однако, формулируя задачу, сотрудники гемблинг-компании упустили из виду быстрое устаревание технологий. И здесь провайдер проявил гибкость и показал высокую клиентоориентированность, предложив несколько альтернатив, которые были более современными и не выходили за рамки бюджета. В результате гемблинг-компания получила в распоряжение выделенный ИИ-сервер с GPU, который на 100% подходит для работы искусственного интеллекта и машинного обучения, а главное, рассчитан на растущие потребности бизнеса.
Аренда сервера с GPU – оптимальный вариант для внедрения ИИ и машинного обучения
Кастомная сборка ИИ-сервера и аренда с последующим выкупом может стать отличным решением для начала работы с искусственным интеллектом. Плюсы не только в том, что предприятие получает возможность поэтапно оплачивать дорогостоящее оборудование, но и в масштабируемости и производительности таких ресурсов.
В описываемом кейсе клиенту было добавлены конкретные модели видеокарт в максимальном количестве, что было обусловлено текущими целями бизнеса. В данном случае наращивание мощностей будет осуществляться за счет прироста ИИ-серверов (VPS или VDS) с аналогичными параметрами. Но можно пойти другим путем – сначала взять минимальную комплектацию и добавлять компоненты по мере расширения или использовать другие видеокарты с GPU. А оптимизировать расходы при внедрении ИИ и машинного обучения позволит аренда GPU-сервера с последующим выкупом.
Альтернативные конфигурации сервера HPE DL380a Gen11, предназначенного для работы с ИИ
В каждой модификации предусмотрено 8 слотов SFF NVMe U.3 с возможностью замены на 12 слотов EDSFF NVMe. Дополнительно предусмотрена опция добавления лицензий для ОС, включая Windows Server, SUSE Linux Enterprise Server и Red Hat Enterprise Linux Server.
Ключевой фактор успешной интеграции искусственного интеллекта в бизнес
Интеграция искусственного интеллекта в бизнес-процессы привлекает все больше компаний, стремящихся к инновациям и совершенствованию своих услуг. Чтобы максимально полно использовать потенциал ИИ, необходимо оснащение, специально адаптированное для работы с ним, что подразумевает наличие оборудования с соответствующей конфигурацией. Удачным решением с точки зрения функциональности, затрат и перспектив во многих случаях является лизинг, то есть долгосрочная аренда выделенного GPU-сервера у сервис-провайдера с правом последующего выкупа.
В партнерстве с надежным поставщиком услуг бизнес может получить не только профессиональную техподдержку, но и гибкость в управлении ИТ-ресурсами, что особенно важно в условиях динамичного рынка. Поставщик, в свою очередь, получает возможность более тесно взаимодействовать с клиентом, предлагая инновационные решения, которые могут быть быстро адаптированы под изменяющиеся требования бизнеса.
Такое сотрудничество позволяет клиенту не только экономить на первоначальных капиталовложениях, но и оптимизировать операционные расходы, так как лизинговые платежи часто включают в себя обслуживание и обновление оборудования. Кроме того, использование искусственного интеллекта требует соответствующих знаний и навыков, поэтому сервис-провайдер может предложить обучение персонала или даже полностью взять на себя управление ИИ-инфраструктурой.
При таком подходе компания может полностью сосредоточиться на своем основном бизнесе, делегируя технические аспекты профессионалам и обеспечивая бесперебойную работу своих ИИ-систем. Это создает условия для внедрения инноваций и постоянного развития, что является ключевым фактором успеха в современной экономике.
![](https://solutions-cloud.net/ru/wp-content/uploads/sites/3/2024/04/boujanova-1.jpg)
Автор статьи
Ольга Буянова
Консультант по серверному оборудованию, сетевым и облачным технологиям