Как оптимизация ИИ влияет на проектирование центров обработки данных

Jun 25, 2023

Колин Райан

2 дня назад

Тейт Кантрелл. Изображение: Павел Свидер

Тейт Кантрелл из Verne Global обсуждает влияние искусственного интеллекта на проектирование центров обработки данных: от сложных требований к охлаждению до протоколов безопасности уровня НАТО.

Недавно Meta поделилась подробностями своих планов по развитию искусственного интеллекта, включая оптимизированный для искусственного интеллекта дизайн центра обработки данных, заявив, что новый дизайн будет поддерживать «оборудование искусственного интеллекта с жидкостным охлаждением и высокопроизводительную сеть искусственного интеллекта, соединяющую тысячи чипов искусственного интеллекта для центра обработки данных». крупномасштабные учебные кластеры по искусственному интеллекту».

Компания также заявила, что новая конструкция будет быстрее и экономичнее в создании. Но как оптимизация ИИ на самом деле влияет на тонкости проектирования центров обработки данных?

Чтобы выяснить это, мы поговорили с Тейтом Кантреллом, техническим директором Verne Global, который рассказал нам о многих способах изменения конструкции центров обработки данных для обеспечения подходящей работоспособности ИИ.

«Проектирование центра обработки данных — это сложная задача, обеспечивающая баланс между энергопотреблением, требованиями к охлаждению, высокой безопасностью, высочайшим уровнем надежности и высокоскоростным доступом к сетям», — сказал Кантрелл.

«Модели искусственного интеллекта требуют гораздо более высокой интенсивности и плотности вычислений, что добавляет новое измерение сложности к проблемам традиционного проектирования центров обработки данных».

По словам Кантрелла, некоторые из основных параметров, на которые влияет размещение моделей ИИ, — это источник питания и надежность; потребность в серверных стойках более высокой плотности; и масштабируемость.

«Традиционный центр обработки данных, не рассчитанный на такие экстремальные условия, не сможет обеспечить надежную работу. В конечном счете, индустрия центров обработки данных нуждается в модифицированной конструкции центров обработки данных, если она хочет идти в ногу с требованиями технологий искусственного интеллекта».

Но почему модели ИИ нуждаются в вычислениях высокой плотности? Кантрелл сказал, что это связано с тем, что вычисления с использованием искусственного интеллекта требуют «сетевых соединений с чрезвычайно низкой задержкой между серверами в центре обработки данных».

«Несколько лет назад средняя плотность стоек составляла 5 кВт на стойку. Но последнее поколение суперкомпьютеров с искусственным интеллектом требует гораздо большего от инфраструктуры центров обработки данных.

«Всего четыре таких системы в одной стойке могут потреблять более 40 кВт, занимая при этом всего 60% пространства типичной вычислительной стойки. Таким образом, если центры обработки данных хотят эффективно управлять оборудованием искусственного интеллекта, они должны быть способны выполнять такого рода вычисления с высокой плотностью».

По словам Кантрелла, большинство традиционных центров обработки данных не способны справиться с «огромными» вычислениями, необходимыми для обучения нейронных сетей искусственного интеллекта, особенно с точки зрения охлаждения.

В то время как традиционные центры обработки данных полагаются на широко разнесенные серверные стойки для обеспечения охлаждения, приложениям машинного обучения требуются стойки, расположенные близко друг к другу, поскольку это оптимизирует задержку и пропускную способность между серверами, одновременно сводя к минимуму общую стоимость развертывания.

«Что еще больше усложняет ситуацию, системы с воздушным охлаждением, расположенные слишком близко друг к другу, могут привести к недостаткам охлаждения, поскольку экстремальные требования к воздушному потоку высокопроизводительных серверов могут дуть друг на друга и создавать противодавление на охлаждающих вентиляторах внутри оборудования», — Кантрелл добавлен.

«Поэтому центры обработки данных должны сбалансировать финансовые трудности, связанные с уменьшением площади зала обработки данных, с необходимостью обеспечить достаточное пространство для надлежащего охлаждения.

«Это будет одной из причин, по которой мы видим ускорение внедрения жидкостного охлаждения».

Как будто сложных требований к охлаждению недостаточно, Кантрелл говорит, что центры обработки данных также должны быть «конструктивно способны выдерживать тяжелое оборудование», чтобы обеспечить возможность перемещения тяжелых вычислительных шкафов искусственного интеллекта, которые в полной конфигурации могут весить более 1,5 тонны.

«ИИ сам по себе также играет определенную роль, когда речь идет о безопасности центров обработки данных»

Кантрелл говорит, что инфраструктура центров обработки данных должна соответствовать требованиям «подключения, гибкости и масштабируемости», чтобы иметь возможность размещать и анализировать все более крупные наборы данных, на которых обучаются модели ИИ.