Компания AMD снимает перчатки в гонке вооружений в области искусственного интеллекта | ENBLE

Компания AMD раздвигает границы в битве за искусственный интеллект шедевр ENBLE

Генеральный директор AMD представляет MI300X AI GPU.
AMD

AMD выглядит готовым сразиться. На своем мероприятии Advancing AI компания, наконец, запустила свою графическую карту Instinct MI300X AI, о которой мы слышали несколько месяцев назад. Волнующим развитием событий является производительность, которую AMD заявляет в сравнении с зеленой AI-слоновой костью в комнате: Nvidia.

Спецификация за спецификацией, AMD утверждает, что MI300X обходит AI GPU H100 от Nvidia по объему памяти и полосе пропускания памяти, и способен выполнять теоретическую производительность H100 в операциях FP8 и FP16 на 1,3 раза. AMD продемонстрировала это на двух моделях больших языков (LLM), используя среднее и большое ядро. MI300X показал улучшение от 1,1x до 1,2x по сравнению с H100.

Генеральный директор AMD представляет производительность MI300X AI GPU.
AMD

На мгновение, которое выглядит как заимствованное с конференции Nvidia, генеральный директор AMD Лиза Су представила платформу MI300X, которая объединяет восемь графических процессоров на одной плате. AMD говорит, что эти платы предлагают ту же обучающую производительность, что и H100 HGX от Nvidia, и в 1,6 раза большую производительность вывода. Кроме того, AMD говорит, что вы можете запустить две LLM на одной системе, в то время как H100 HGX может справиться только с одной.

Для наглядности того, насколько это важно, AMD привела главного технического директора Microsoft Кевина Скотта, чтобы поговорить о том, как AMD и Microsoft сотрудничают в области искусственного интеллекта. Важно подчеркнуть, что популярный ChatGPT работает на серверах Microsoft и изначально обучался на тысячах графических процессоров Nvidia.

Сравнение между MI300X от AMD и H100 от Nvidia.
AMD

В дополнение к MI300X, AMD анонсировала MI300A, который является первым APU для AI, по словам AMD. Он сочетает в себе графическую архитектуру AI GPU CDNA 3 от AMD с 24 ядрами процессора Zen 4, а также с 128 ГБ памяти HBM3. AMD говорит, что это является балансом между производительностью AI и высокопроизводительным компьютерным оборудованием, предлагая процессорные возможности, которые мы недавно видели на Threadripper 7000 для центров обработки данных.

Несмотря на присоединение к волне искусственного интеллекта вместе со всем высокотехнологичным миром, AMD до сих пор занимала заднее место по сравнению с Nvidia. Nvidia начала инвестировать в AI много лет назад, что дало ей огромное преимущество перед AMD и Intel. Эти ранние инвестиции позволили Nvidia стать триллионной компанией в этом году.

С GPU кластером, готовым конкурировать с H100 от Nvidia, а также партнерствами с Meta и Microsoft, AMD, наконец, входит в ринг. AMD может выйти из поединка изможденной и кровоточащей, но все же AMD выглядит готовой сражаться.