AWS, yeni Trainium AI çipini ve Graviton 4'ü tanıttı, Nvidia ortaklığını genişletiyor

İkinci nesil Trainium çipi, bir trilyondan fazla parametreye sahip sinir ağı modelleri için tasarlanmıştır.

Soldaki Graviton 4 çipi, SAP ve diğerleri tarafından büyük iş yükleri için kullanılan genel amaçlı bir mikroişlemci çipidir; Trainium 2 ise üretken yapay zeka gibi çok büyük sinir ağı programları için özel amaçlı bir hızlandırıcı çiptir.

Amazon, Salı günü Las Vegas'ta düzenlenen yıllık AWS re:Invent geliştirici konferansında, sinir ağlarını eğitmeye yönelik özel çipi olan Trainium 2'nin yeni bir sürümünü duyurdu. Trainium 2, özellikle büyük dil modelleri (LLM'ler) olarak adlandırılan ve temel modellerin (OpenAI'nin GPT-4'ü gibi üretken yapay zeka programlarının türleri) eğitimi için ayarlanmıştır.

Şirket ayrıca özel mikroişlemcisi Graviton 4'ün yeni bir versiyonunu da tanıttı ve Nvidia'nın bulut bilişim hizmetinde en gelişmiş çiplerini çalıştırmak için Nvidia ile olan ortaklığını genişlettiğini söyledi.

Trainium 2, genel anlamda ona ölçek ve güç veren programın algoritmasının işlevleri olan trilyonlarca parametreye veya sinir ağırlığına sahip sinir ağlarını yönetecek şekilde tasarlanmıştır. Giderek daha büyük parametrelere ölçeklendirme, tüm yapay zeka endüstrisinin odak noktasıdır.

Trilyon parametreli sayım, insan beyninin 100 trilyon nöronal bağlantı içerdiğine inanılması nedeniyle endüstride bir takıntı haline geldi; trilyon parametreli bir sinir ağı programının, insan beyniyle ilişkili gibi görünmesine neden oluyor. gerçek.

Amazon, çiplerin "önceki modellere göre dört kata kadar daha hızlı eğitim performansı ve üç kat daha fazla bellek kapasitesi sunacak şekilde tasarlandığını" ve "enerji verimliliğini (performans/watt) iki kata kadar artırdığını" söyledi.

Amazon, çipleri "Trn2" bulut sunucuları olarak bilinen EC2 bulut bilişim hizmetinin bulut sunucularında kullanıma sunuyor. Amazon, örneğin uyum içinde çalışan 16 Trainium 2 çipini sunduğunu ve bunların 100.000 örneğe genişletilebileceğini söyledi. Bu daha büyük örnekler, toplam 65 exaFLOP bilgi işlem gücü sağlayabilen, Elastik Yapı Adaptörü adı verilen şirketin ağ sistemi kullanılarak birbirine bağlanıyor. (Bir exaFLOP, saniyede bir milyar, milyar kayan nokta işlemidir.)

Amazon, bu hesaplama ölçeğinde "Müşteriler 300 milyar parametreli bir LLM'yi haftalar yerine aylar içinde eğitebilir" dedi.

Amazon'un müşterilere hizmet vermenin yanı sıra yapay zeka silikonunda sınırları zorlamaya devam etmek için ek teşvikleri var. Şirket, OpenAI'den ayrılan bir grup olan özel sektöre ait üretken yapay zeka girişimi Anthropic'e 4 milyar dolar yatırım yaptı. Bu yatırım, şirketi Microsoft'un OpenAI ile yaptığı özel anlaşmayla rekabet edebilecek bir konuma getiriyor.

ARM Holdings'in mikroişlemci fikri mülkiyeti üzerine inşa edilen Graviton 4 çipi, eski x86 çip standardını temel alan Intel ve Advanced Micro Devices işlemcileriyle rekabet ediyor. Amazon, Graviton 4'ün "%30 daha iyi bilgi işlem performansına" sahip olduğunu söyledi.

AI için Trainium çiplerinin aksine, Graviton işlemcilerin daha geleneksel iş yüklerini çalıştırması amaçlanıyor. Amazon AWS, Datadog, DirecTV, Discovery, Formula 1, Nielsen, Pinterest, SAP, Snowflake, Sprinklr, Stripe ve Zendesk dahil müşterilerinin Graviton çiplerini "veritabanları, analizler gibi çok çeşitli iş yüklerini çalıştırmak için" kullandığını söyledi , web sunucuları, toplu işleme, reklam sunma, uygulama sunucuları ve mikro hizmetler."

SAP, hazırladığı açıklamalarda, HANA bellek içi veritabanını Graviton yongaları üzerinde çalıştırarak "analitik iş yükleri için %35 daha iyi fiyat performansı" elde edebildiğini ve "Graviton4'ü ve getirebileceği faydaları değerlendirmeyi sabırsızlıkla beklediğimizi" söyledi. ortak müşterilerimize."

Yeni çipler, 2021'de Graviton 3 ve orijinal Trainium'un piyasaya sürülmesinden iki yıl sonra geliyor.

Amazon'un haberi, Microsoft'un geçen hafta yapay zekaya yönelik ilk çiplerini tanıtmasının ardından geldi. Amazon ve Microsoft'un yanı sıra diğer bulut devi Alphabet'in Google'ı, 2016 yılında AI için ilk bulut çipi, TPU veya Tensör İşleme Birimi ile her ikisinden de önce geldi ve o zamandan beri birden fazla nesil sundu.

Amazon, iki yeni çipin yanı sıra AI çip devi Nvidia ile stratejik ortaklığını genişlettiğini söyledi. AWS, Nvidia'nın Grace ARM tabanlı CPU ile Hopper H100 GPU çipini birleştiren yakında çıkacak GH200 Grace Hopper çoklu çip ürününü çalıştıran ilk bulut hizmeti olacak.

Gelecek yıl sevkiyata başlaması beklenen GH200 çipi, bu yılın başında duyurulan ve Dell ve diğer bilgisayarlarda ilk versiyonuyla satışa sunulan Grace Hopper birleşik çipinin bir sonraki versiyonu.

GH200 çipleri, Nvidia'nın özel olarak tasarlanmış yapay zeka bilgisayarları DGX aracılığıyla AWS'de barındırılacak ve iki şirket, bunun bir trilyondan fazla parametreye sahip sinir ağlarının eğitimini hızlandıracağını söyledi.

Nvidia, AWS'yi "ML araştırma ve geliştirmesi için birincil bulut sağlayıcısı" yapacağını söyledi.