Nvidia B200 — ускоритель из двух кристаллов для нейросетей
Если раздать транзисторы одного ускорителя Nvidia B200 всем людям на Земле, каждому достанется примерно по 25 штук. Всего их 208 миллиардов, и уместились они на двух кремниевых кристаллах, поставленных вплотную друг к другу.

Два кристалла вместо одного
Nvidia показала B200 18 марта 2024 года на своей конференции GTC. Ускоритель относится к поколению Blackwell, названному в честь Дэвида Блэкуэлла — математика, который занимался теорией игр и статистикой и первым из чернокожих учёных стал членом Национальной академии наук США.
Под крышкой B200 не один кристалл, а два. В каждом по 104 миллиарда транзисторов. У предшественника, кристалла H100 поколения Hopper, их было 80 миллиардов: новый кристалл крупнее на 30%, а вместе два кристалла дают в два с половиной раза больше.
Два кристалла поставили не от хорошей жизни. Каждый кристалл уже упирается в предел литографии — наибольшую площадь, которую установка на фабрике может засветить за один раз. Сделать цельный чип ещё больше нельзя, поэтому Nvidia поставила два рядом и соединила их каналом на 10 терабайт в секунду. Программы видят их как один графический процессор.
Кристаллы печатает тайваньская TSMC по техпроцессу 4NP — улучшенному варианту того, на котором делали Hopper. Оба лежат на кремниевой подложке-посреднике, рядом с ними стоит память HBM3e: у B200 её 192 гигабайта. Для сравнения, в игровой видеокарте Intel Arc B580, вышедшей в том же 2024 году, памяти 12 гигабайт.

По 25 транзисторов на человека
Арифметика честная. Людей на Земле около 8,2 миллиарда, и 208 миллиардов делятся на них примерно по 25 на каждого.
Есть сравнение и поинтереснее. В первом коммерческом микропроцессоре, Intel 4004 1971 года, было 2300 транзисторов. В одном B200 их примерно в 90 миллионов раз больше — за полвека с небольшим.

Зачем нейросетям такой чип
В одиночку B200 почти не работает. В модуле GB200 два таких ускорителя подключены к процессору Grace, а стойка GB200 NVL72 собирает 36 модулей: 72 ускорителя и 36 процессоров, всё с жидкостным охлаждением. Для такой стойки Nvidia заявляет 1,4 экзафлопса в задачах искусственного интеллекта и ответы больших языковых моделей до 30 раз быстрее, чем у того же числа H100. Это цифры самой компании, независимой проверки у них нет.
Будущих покупателей Nvidia назвала ещё на презентации: Amazon, Google, Meta, Microsoft, OpenAI, Oracle, Tesla и xAI. Путь к ним оказался не гладким. В кристалле нашли конструктивную ошибку, и исправлять её вместе с TSMC пришлось до октября 2024 года. Спрос это не охладило: в ноябре того же года аналитики Morgan Stanley сообщили, что весь выпуск B200 на 2025 год уже распродан.
Стоят такие стойки в дата-центрах, а у тех аппетиты растут вместе с нейросетями. По оценке ООН,дата-центры уже расходуют столько электричества, сколько Саудовская Аравия, а к 2030 году их доля должна удвоиться.

Сам B200 тоже недолго был вершиной. Следом вышли Blackwell Ultra и стойки GB300 NVL72, а в каталоге Nvidia уже стоит следующее поколение — Rubin.
Редакция LifeGlobe.netПросмотров: 7
Стил Дрэгон 2000 — горка, которая 25 лет была длиннее всех
Зачем в Бельгии накрыли скоростную железную дорогу у леса
Акустическая кошка: как ЦРУ делало шпиона из кошки
Самый тяжёлый поезд в мире: 682 вагона BHP
BMW Isetta — машина с дверью вместо капота
Тамагочи — японский электронный питомец, которому 30 лет
Tatra 77 — обтекаемый автомобиль 1934 года
Шанхайская башня: высота 632 метра, этажи и смотровая
«Формула Росса» в Абу-Даби: 240 км/ч за 4,9 секунды
Необычные железные дороги мира: сквозь дом и через аэродром