Google'ın kuantum atılımı 'gerçekten dikkate değer' ancak yapılacak daha çok şey var

Yapay zeka bilişimi, tamamen yeni, çoklu gigawatt'lık yapay zeka veri merkezleri gerektirecek şekilde çıkarımlarla yükselmeye devam edecek.

Çip girişimi Lightmatter'ın kurucu ortağı Thomas Graham, Bloomberg Intelligence'dan Mandeep Singh'e, New York City'nin sekiz katına eşdeğer veri merkezlerinin yapay zekanın konuşlandırılmasına hizmet etmek üzere 2026'da yapım aşamasında olacağını söyledi.

Nvidia ile ortakları ve müşterileri, GPT-4 gibi dev yapay zeka (AI) programlarının eğitiminin yoğun bilgi işlem ihtiyaçlarını karşılamak için dünya çapında giderek daha büyük bilgisayar tesisleri inşa etti. Teknoloji devlerine hizmet veren bir startup, daha fazla yapay zeka modelinin üretime alınmasıyla bu çabanın öneminin artacağını söylüyor.

Optik bilgi işlem girişimi Lightmatter'ın kurucu ortağı Thomas Graham, geçen hafta New York'ta Mandeep Singh ile yaptığı röportajda "İnsanlar daha fazla bilgi işlem isteyecek, bunun nedeni ölçeklendirme yasaları değil, ancak bunları şimdi konuşlandırdığınız için" dedi. Bloomberg Intelligence'da kıdemli bir teknoloji analisti.

Singh, Graham'a GPT-4 gibi büyük dil modellerinin (LLM'ler) "ölçeklenmeye" devam edip etmeyeceğini, yani OpenAI ve diğerleri daha iddialı modeller elde etmeye çalıştıkça boyutlarının büyüyüp büyümeyeceğini sordu.

Graham soruyu tersine çevirerek yapay zekanın bilgi işlem iştahının bir sonraki aşamasının eğitimli sinir ağlarını üretime geçirmek olduğunu öne sürdü.

Graham, "Eğitimi Ar-Ge olarak görürseniz, çıkarım yapmak aslında dağıtımdır ve bunu dağıtırken modellerinizi çalıştırmak için büyük bilgisayarlara ihtiyacınız olacak" dedi. Tartışma, Bloomberg Intelligence'ın ev sahipliği yaptığı "Gen AI: Üretkenlik vaadini yerine getirebilir mi?" başlıklı bir gün süren konferansın bir parçasıydı.

Graham'ın görüşü, son aylarda Wall Street'e yapay zekanın "fail" biçimlerinin "ölçeklendirilmesinin" hem [AI modellerinin] daha karmaşık eğitimini hem de giderek daha karmaşık çıkarımları gerektireceğini söyleyen Nvidia CEO'su Jensen Huang'ın görüşünü yansıtıyor. " ve sonuç olarak "çıkarsama hesaplaması üstel olarak ölçeklenir."

Graham, "Eğitimi Ar-Ge olarak görürseniz, çıkarım yapmak aslında dağıtımdır ve bunu dağıtırken modellerinizi çalıştırmak için büyük bilgisayarlara ihtiyacınız olacak" dedi.

2018 yılında kurulan Lightmatter, yapay zeka veri merkezleri oluşturmak için gereken düzinelerce, yüzlerce ve hatta binlerce çip arasındaki geleneksel ağ bağlantılarının yerini alabilecek, optik bağlantıları kullanarak tek bir yarı iletken kalıp üzerinde birden fazla işlemciyi bir araya getirebilecek bir çip teknolojisi geliştiriyor. Optik ara bağlantılar, çok daha düşük bir enerji tüketimiyle verileri bakır tellerden daha hızlı taşıyabilir.

Graham, Singh'e, teknolojinin bir veri merkezi rafındaki bilgisayarlar arasında ve bilgisayar ağını basitleştirmek için raflar arasında kullanılabileceğini, böylece tüm veri merkezinin daha ekonomik hale getirilebileceğini söyledi.

"Yani, veri merkezlerinde, hem yazıcı devre kartındaki sunucuda hem de raflar arasındaki kablolarda bulunan bakır izlerini gerçekten ortadan kaldırmak veya bunların tamamını fiberle, tamamı optikle değiştirmek, bu da bant genişliğini gerçekten önemli ölçüde artırır. alın" dedi Graham.

Graham, Lightmatter'ın yeni veri merkezlerine yönelik planlar üzerinde çok sayıda teknoloji şirketiyle çalıştığını söyledi. "Veri merkezleri sıfırdan inşa ediliyor" dedi. Lightmatter, New York'un kuzeyinde tesisleri bulunan ve Advanced Micro Devices da dahil olmak üzere çok sayıda çip üreticisine hizmet veren sözleşmeli yarı iletken üreticisi Global Foundries ile bir ortaklık yaptığını zaten duyurdu.

Bu işbirliğinin dışında Graham, ortakların ve müşterilerin isimlerini vermeyi reddetti. Konuşmasının anlamı, şirketinin Google, Amazon ve Microsoft gibi veri merkezleri için kendi işlemcilerini tasarlayan teknoloji devleri için özel entegre parçalar üretmek amacıyla Broadcom veya Marvell gibi silikon sağlayıcılarıyla ortaklık kurduğuydu.

Dağıtımın ölçeği hakkında fikir sahibi olmak için Graham, çalıştırmak için bir gigawatt'lık güce ihtiyaç duyan en az bir düzine yeni yapay zeka veri merkezinin planlandığını veya şu anda yapım aşamasında olduğunu belirtti.

"Bağlam açısından bakıldığında, New York City ortalama bir günde beş gigawatt enerji çekiyor. Yani birden fazla NYC." Kendisi, 2026 yılına gelindiğinde dünyadaki yapay zeka işlemlerinin "özellikle yapay zeka veri merkezleri için, yani sekiz NYC için" 40 gigawatt güç gerektirmesinin beklendiğini söyledi.

Lightmatter yakın zamanda 400 milyon dolarlık bir risk sermayesi aldı ve şirketin değeri 4,4 milyar dolar. Graham, Lightmatter'ın "önümüzdeki birkaç yıl içinde" üretime geçmeyi planladığını söyledi.

Singh ona şirketin planlarını neyin altüst edebileceğini sorduğunda Graham, yapay zeka bilgi işlem altyapısını genişletme ihtiyacının devam ettiğine olan güvenini dile getirdi.

"Önümüzdeki birkaç yıl içinde araştırmacılar, çok daha az hesaplama gerektiren, bugün sahip olduğumuzdan çok daha performanslı, AGI'ye (yapay genel zeka) çok daha hızlı ulaşan, yapay zeka yapmak için yeni bir algoritma geliştirirlerse, bu çok büyük bir hata olur. herkesin üstel hesaplamaya yatırım yapmaya devam etmek istediğine dair varsayımlarını boşa çıkarıyor" dedi.