Nvidia представляет Hopper и H100: мощный преемник Ampere для ИИ в центрах обработки данных

Nvidia представляет мощный графический процессор H100. Ускоритель искусственного интеллекта построен на совершенно новой архитектуре Nvidia Hopper, пришедшей на смену Ampere.

На конференции GTC Nvidia представляет графический процессор H100. Это мощный ускоритель для рабочих нагрузок ИИ в центрах обработки данных. Nvidia H100 приходит на смену A100. Как следует из буквы H в названии, новый чип больше не основан на архитектуре Ampere. Nvidia H100 — первый представитель нового поколения чипов Nvidia, основанных на архитектуре Hopper. Он назван в честь ученого-компьютерщика Грейс Хоппер, чье имя Nvidia использует для будущий процессор†

монстр чип

Nvidia Hopper H100 снова должен стать самым мощным ускорителем в мире. Nvidia сжимает 80 миллиардов транзисторов на чипе с помощью новейшего 4-нм процесса запуска TSMC. Графический процессор поддерживает PCIe Gen 5 и является первым в мире чипом, использующим память HBM3, обеспечивающую пропускную способность памяти 3 ТБ/с. Nvidia предоставляет 80 ГБ на чип. С точки зрения классической вычислительной мощности Nvidia H100 в три раза быстрее, чем Nvidia A100. Чип имеет вычислительную мощность 2000 терафлопс (FP16). При всей этой вычислительной мощности TDP H100 составляет 700 Вт.

Для реализации машинного обучения с использованием моделей-трансформеров, таких как Мегатрон Чтобы облегчить это, H100 был оснащен новым двигателем-преобразователем. Это повышает эффективность и скорость обучения моделей естественного языка в шесть раз без ущерба для точности.

МиГ 2

MIG, сокращение от Multi-Instance GPU, возвращается. Nvidia представила MIG с A100 в 2020 году. С помощью MIG вы можете разделить H100 на семь отдельных разделов, которые могут работать независимо друг от друга.

Nvidia предлагает новый уровень конфиденциальности, разработанный для поставщиков облачных услуг. До семи пользователей могут использовать часть емкости H100 без доступа к данным третьих лиц. Сравните эту технологию с тем, как классический процессор, содержащий множество вычислительных ядер, делится на центр обработки данных для запуска множества виртуальных машин.

более лучше

Nvidia объединяет восемь графических процессоров H100 в один Nvidia DGX H100. Система поставляется с 640 ГБ памяти HBM3. Nvidia представила системы DGX с A100. Небольшие компактные суперкомпьютеры идеально подходят для рабочих нагрузок ИИ в организациях или образовательных учреждениях. То Университет Антверпена Такую систему она купила в 2019 году, например. Новый DGX H100 имеет вычислительную мощность в полпетафлопса FP64, что снова в три раза быстрее, чем у его предшественника.

Если этого недостаточно, есть DGX SuperPOD с DGX H100. Для этой машины Nvidia объединяет 32 DGX H100 с 8 графическими процессорами на человека для установки HPC с 256 графическими процессорами. Специалист по микросхемам исправляет их вместе с новой системой NVLink Switch. У каждого есть один экзафлопс вычислительной мощности ИИ.

Больше жадности? Тогда есть система Nvidia Eos. Это схема суперкомпьютера с искусственным интеллектом с вычислительной мощностью 9 экзафлопс FP16. Система представляет собой негабаритный SuperPod с 576 DGX H100 и 360 коммутаторами NVLink. Функция MIG гарантирует, что несколько пользователей могут одновременно безопасно использовать вычислительную мощность.

Доступность

Nvidia H100 подходит для центров обработки данных и поставщиков облачных услуг. Графический процессор Hopper доступен в виде карты PCIe или CNX для основных серверов в системе DGX или SuperPod. Конфигурации суперкомпьютера Eos могут быть добавлены в будущем.

Как и в случае с Ampere, вы можете поспорить, что H100 — это только начало для Hopper. Модели ускорителей начального уровня, несомненно, последуют за ними. Затем вы можете рассчитывать на более традиционные карты, построенные на архитектуре, включая рабочие станции.