HPE, 'anahtar teslimi' GenAI geliştirme ve dağıtımı sunmak için Nvidia ile ortaklık kuruyor

HPE tarafından Nvidia AI Computing olarak adlandırılan ürün ve hizmet portföyü, yapay zeka iş yüklerinin geliştirilmesini ve yönetimini basitleştirmeyi amaçlıyor.

Hewlett Packard Enterprise (HPE), üretken yapay zekayı (GenAI) benimsemek isteyen ancak bu tür iş yüklerini geliştirmenin ve yönetmenin karmaşıklığı nedeniyle erteleyen kuruluşlar için entegre "anahtar teslimi" bir çözüm olarak öne sürdükleri çözümü sunmak üzere Nvidia ile iş birliği yaptı.

HPE tarafından Nvidia AI Computing olarak adlandırılan ürün ve hizmet portföyü, ortak geliştirilen AI uygulamalarını kapsıyor ve her iki şirketin ortaklaşa çözümler sunup müşterilere sunmasını sağlayacak. Bunu Deloitte, Infosys ve Wipro gibi kanal ortaklarıyla birlikte yapacaklar.

On yıllara yayılan HPE-Nvidia ortaklığının genişletilmesi, HPE başkanı ve CEO'su Antonio Neri'nin bu hafta Las Vegas'taki Sphere'de düzenlenen HPE Discover 2024'teki açılış konuşmasında duyuruldu. Sahneye Nvidia'nın kurucusu ve CEO'su Jensen Huang da katıldı.

Neri, GenAI'nin önemli bir dönüştürücü güce sahip olduğunu ancak parçalanmış AI teknolojisinin karmaşıklığının, büyük ölçekli işlerin benimsenmesini engelleyen çok fazla riski beraberinde getirdiğini belirtti. Benimseme konusunda acele etmenin, özellikle bir şirketin en pahalı varlığı olan verileri açısından maliyetli olabileceğini söyledi.

Huang, yapay zekada üç temel bileşenin bulunduğunu, yani büyük dil modelleri (LLM'ler), bu modelleri ve verileri işleyecek bilgi işlem kaynakları olduğunu ekledi. Bu nedenle şirketlerin bir bilgi işlem yığınına, bir model yığınına ve bir veri yığınına ihtiyacı olacak. Bunların her birinin konuşlandırılması ve yönetilmesinin karmaşık olduğunu söyledi.

HPE-Nvidia ortaklığı, Nvidia NIM çıkarım mikro hizmetleri de dahil olmak üzere Nvidia'nın AI Enterprise yazılım platformundan ve merkezi bir kontrol panelinin yanı sıra seçilmiş yapay zeka ve veri temeli araçları sağlayan HPE AI Essentials yazılımından faydalanarak bu modelleri ürün haline getirmek için çalıştı.

Neri, "anahtar teslimi" çözümün, eğitim modelleri de dahil olmak üzere tüm yetenekleri bir araya getirmeye zamanı veya uzmanlığı olmayan kuruluşların, kaynaklarını yeni yapay zeka kullanım senaryoları geliştirmek yerine odaklamalarına olanak tanıyacağını söyledi.

Bunun anahtarının, Nvidia Spectrum-X Ethernet ağı, dosya depolama için HPE GreenLake ve Nvidia'nın L40S, H100 NVL Tensor Core GPU'larını desteklemek üzere optimize edilmiş HPE ProLiant sunucularından oluşan entegre bir AI yığını sunan HPE Private Cloud AI olduğunu söyledi. ve GH200 NVL2 platformu.

Neri, Mart ayında Nvidia GTC'de söylediklerini tekrarlayarak, AI'nın GenAI'yi etkili bir şekilde ve tüm AI yaşam döngüsü boyunca sunabilmesi için tasarım gereği hibrit bir buluta ihtiyaç duyduğunu söyledi. "Şirket içinde, ortak yerleşim tesisinde veya genel bulutta modellerin eğitimi ve ayarlanmasından uçta çıkarım yapmaya kadar yapay zeka, hibrit bir bulut iş yüküdür" dedi.

Entegre HPE-Nvidia teklifiyle Neri, kullanıcıların yapay zeka dağıtımlarını yalnızca üç tıklama ve 24 saniyede kurabileceklerini öne sürüyor.

Huang şunları söyledi: "Her sektör endüstriyel devrime katılmak için yarışırken, GenAI ve hızlandırılmış bilgi işlem temel bir dönüşümü körüklüyor. Nvidia ve HPE, daha önce hiç bu kadar derinlemesine entegre etmemişti; tüm Nvidia AI bilgi işlem yığınını HPE'nin özel bulut teknolojisiyle birleştirdi. "

Karmaşıklıkları ortadan kaldırmak ve bağlantıyı kesmek

HPE'nin Asya-Pasifik ve Hindistan HPC ve Yapay Zeka genel müdürü Joseph Yang, ortak çözümün kuruluşlara entegre edilmesi gerekmeyen teknolojileri ve ekipleri bir araya getirdiğini söyledi.

Yang, HPE Discover'ın oturum aralarında ZDNET ile yaptığı bir röportajda, AI ekiplerinin (bunlara sahip şirketlerde) genellikle BT ekiplerinden bağımsız olarak çalıştığını ve hatta BT'ye rapor vermeyebileceğini söyledi. Yapay zeka modellerinin nasıl oluşturulacağını ve eğitileceğini biliyorlar; BT ekipleri ise genel amaçlı iş yüklerini barındıran bulut mimarilerine aşinadır ve yapay zeka altyapılarını anlamayabilir.

Yapay zeka ve bulut altyapılarının belirgin şekilde farklı olduğuna dikkat çekerek, ikisi arasında bir kopukluk olduğunu söyledi. Örneğin bulut iş yükleri küçük olma eğilimindedir; bir sunucu birden fazla sanal makineyi barındırabilir. Buna karşılık, yapay zeka çıkarım iş yükleri büyüktür ve yapay zeka modellerini çalıştırmak önemli ölçüde daha büyük altyapılar gerektirir, bu da bu mimarilerin yönetimini karmaşık hale getirir.

Yang, BT ekiplerinin aynı zamanda yönetimin yapay zekayı benimseme konusunda artan baskısıyla karşı karşıya olduğunu ve bunun da GenAI'yi konuşlandırmanın baskısını ve karmaşıklığını daha da artırdığını söyledi.

Mevcut donanım altyapıları eskimiş olabilecek sunuculardan oluşan bir karmaşa olduğundan, kuruluşların yapay zeka planlarında ilerlemek için hangi mimariye ihtiyaç duyduklarına karar vermeleri gerektiğini ekledi. Yapay zeka iş yüklerini çalıştırmak için özel bir buluta veya sunucu grubuna yatırım yapmamış olabilecekleri için, mevcut ortamları ölçeklenebilir olmadığından yapabilecekleri konusunda sınırlamalarla karşı karşıya kalıyorlar.

Yang, "Şirketlerin, GenAI ile ilgili karmaşıklıkları ve riskleri en aza indirirken aynı zamanda inovasyonu hızlandırmalarını sağlayacak doğru bilgi işlem altyapısına ve yeteneklere ihtiyacı olacak" dedi. "HPE portföyünden Nvidia AI Computing, yeni fırsatları ve büyümeyi teşvik etmek için kuruluşların GenAI ile değer elde etme süresini hızlandırmalarını sağlayacak."

Neri ayrıca, özel bulut dağıtımının kuruluşların veri güvenliği ve egemenliği konusundaki endişelerini de gidereceğini belirtti.

HPE'nin tüm yerel düzenlemelere ve uyumluluk gereksinimlerine uyduğunu, dolayısıyla yapay zeka ilke ve politikalarının yerel pazar ihtiyaçlarına göre uygulanacağını ekledi.

HPE'ye göre özel bulut yapay zeka teklifi, özel verilerden yararlanan çıkarım, ince ayar ve RAG (geri almayla artırılmış nesil) yapay zeka iş yüklerinin yanı sıra veri gizliliği, güvenlik ve uyumluluk kontrolleri için destek sağlıyor. Aynı zamanda bulut ITOps ve AIOps yetenekleri de sunar.

HPE GreenLake bulut hizmetleri tarafından desteklenen özel bulut yapay zeka teklifi, işletmelerin hibrit ortamlar genelinde uç noktaları, iş yüklerini ve verileri otomatikleştirmesine ve düzenlemesine olanak tanıyacak.

HPE Private Cloud AI, Nvidia H200 NVL Tensor Core GPU'lara sahip HPE ProLiant DL380a Gen12 sunucu ve çift Nvidia GH200 NVL2'ye sahip HPE ProLiant DL384 Gen12 sunucunun yanı sıra sonbaharda genel kullanıma sunulacak.

Nvidia H200 NVL'ye sahip HPE Cray XD670 sunucusunun yaz aylarında genel kullanıma sunulması planlanıyor.

Eileen Yu, Hewlett Packard Enterprise'ın daveti üzerine Las Vegas'taki HPE Discover 2024'ten ZDNET için rapor verdi.