Nvidia, büyük dil modeli AI için Snowflake ile iş birliği yapıyor
Snowflake, Snowflake'te depolanan müşteri verileri konusunda daha fazla eğitim almak amacıyla Nvidia'nın NeMo çerçevesindeki temel modelleri çalıştırmak için Snowpark teklifini GPU örnekleriyle genişletiyor.
Snowflake'in Pazartesi günü Las Vegas'ta düzenlenen Snowflake Summit 2023 kullanıcı konferansında bulut veritabanı üreticisi, yapay zeka için temel modellerin işlenmesine yönelik güçleri birleştiren çip devi Nvidia ile bir ortaklık yaptığını duyurdu.
Anlaşmaya göre Snowflake müşterileri, Snowflake'in veri ambarı kurulumlarında bulut GPU kapasitesini kiralayabilecek ve bu kapasiteyi, Nvidia'nın geçen sonbaharda tanıtılan NeMo çerçevesiyle sinir ağlarını iyileştirmek için kullanacaklar. Temel modeller, büyük dil modelleri gibi, geleneksel olarak "önceden eğitilmiş" olan, yani belirli bir yetenek düzeyine göre zaten geliştirilmiş olan çok büyük sinir ağlarıdır.
Bir müşteri, NeMo temel modelinin ihtiyaçlarına uyacak özel bir versiyonunu geliştirmek amacıyla müşterinin kendi verilerini kullanmak için Snowflake'in veri ambarını kullanacak.
Nvidia'nın kurumsal bilişimden sorumlu başkan yardımcısı Manuvir Das bir basın toplantısında "Bu iki şirket için çok doğal bir kombinasyon" dedi. Das şöyle devam etti:
"Nvidia ve Snowflake'in bir araya gelip şunu söylemeleri gerekiyor: Kurumsal şirketlerin kendi verilerine dayalı olarak üretken yapay zeka için özel modeller oluşturması gerekiyorsa ve veriler Snowflake'in veri bulutunda duruyorsa o zaman neden Nvidia'nın model motorunu getirmiyoruz? NeMo'yu Snowflake'in veri bulutuna dönüştürüyoruz, böylece kurumsal müşteriler, kendi veri bulutlarında, daha sonra işlerindeki kullanım durumları için kullanabilecekleri bu modelleri üretebiliyorlar."
Duyuru, yapay zekanın ve özellikle üretken yapay zekanın bir iş aracı olarak kullanılmasına yönelik artan eğilimin bir parçası. Pazartesi günü, Apache Spark geliştiricisi Databricks, temel modellerin eğitilmesi ve dağıtılmasına yönelik bir hizmet yürüten startup MosaicML'in 1,3 milyar dolarlık satın alımıyla teknoloji endüstrisini şaşkına çevirdi.
Snowflake, halihazırda birlikte çalıştığı bulut hizmet sağlayıcılarından Nvidia GPU örneklerini temin ederek hizmeti uygulayacak. Das, "Şimdi bu [ilişkinin] GPU tabanlı örnekleri içerecek şekilde genişletilmesinden bahsediyoruz" dedi.
Salı günü yayınlanan ayrı bir sürümde Snowflake, Snowpark geliştirici platformunu, şu anda özel bir ön izleme aşamasında olan Snowpark Konteyner Hizmetleri olarak adlandırdığı hizmetle genişleteceğini söyledi. Şirket, "Snowpark'ın kapsamını genişletiyor, böylece geliştiriciler, Snowflake'in güvenli ve yönetimli platformunda daha fazla iş yükünü karmaşıklık olmadan çalıştırmak için Nvidia GPU'lar ve AI yazılımı ile hızlandırılmış bilgi işlem gibi daha geniş altyapı seçeneklerinin kilidini açabiliyorlar". Yapay zeka ve makine öğrenimi (ML) modelleri, API'ler, şirket içinde geliştirilen uygulamalar ve daha fazlası."
ZDNET'in ikili arasındaki anlaşmada müşteri verilerinin nasıl korunacağı sorusuna yanıt veren Das, asıl sorumluluğun Snowflake'e ait olduğunu belirtti.
Das, "Snowflake'in, bir müşteri Snowflake veri bulutu üzerinde hesaplama yapmayı seçtiğinde, bunun o müşterinin sınırları dahilinde kalmasını sağlayacak bir tasarım yapısı var" dedi Das, "ve ardından NeMo motoru bu modele tam olarak uyuyor."
Das şunu ekledi: "Elbette NeMo'nun da güvenlik konusunda bir sorumluluğu var ve bu yüzden ortak mühendislik çalışması."
Ortaklık, Nvidia'nın ServiceNow ile yaptığı yakın zamanda NeMo'nun ServiceNow müşterileriyle BT hizmetlerinde kullanılmasına ilişkin duyurunun ardından geldi. Das, Snowflake düzenlemesinin "genel amaçlı" olduğu yerde, ServiceNow ortaklığının "daha çok ISV (bağımsız yazılım satıcısı) türü bir model olduğunu" söyledi. ServiceNow, müşterilerinin her biri için müşteri modellerini eğitmek amacıyla NeMo kodunu kullanıyor; "böylece her müşteri BT işini yaptığında ve [sorun] bildirimlerini açtığında, o müşteriye özel yanıtlar alacak."
Nvidia CEO'su Jensen Huang, yazılımı, şirketi için önemli bir büyüme vektörü olarak konumlandırdı; bu, sinir ağları geliştirmek için milyarlarca dolarlık GPU donanımı satıyor. NeMo, şirketin büyük ölçüde bulut sağlayıcılarıyla yaptığı ortaklıklar aracılığıyla teşvik ettiği kurumsal yazılım yığınının bir parçası.
Mart ayında, Nvidia CFO'su Colette Kress, Morgan Stanley konferansında yatırımcılara şunları söyledi: "Şu anda yazılım işimiz yüz milyonlarca [dolar] gelir seviyesinde ve biz bunu ilerledikçe hala bir büyüme fırsatı olarak görüyoruz."