ChatGPT uygulamanız için yapay zeka tarafından oluşturulan kod üretiyorsa bu kod gerçekte kime aittir?

Yapay zekalı bilgisayar üreticisi, araştırma topluluğuna kaynak olarak OpenAI'nin GPT'si gibi yedi açık kaynaklı model yayınladı.

Cerebras'ın Andromeda süper bilgisayarı, OpenAI'nin ChatGPT'sine benzer yedi dil programını eğitmek için kullanıldı.

Yapay zeka dünyası, özellikle de onun son derece popüler olan ve yazı ve görselleri otomatik olarak yaratan "üretken yapay zeka" olarak bilinen kısmı, şirketlerin ayrıntıları yayınlamamaya karar vermesinin caydırıcı etkisi nedeniyle ufkunu kapatma riskiyle karşı karşıya. araştırmalarından.

Ancak gizliliğe dönüş, yapay zeka dünyasındaki bazı katılımcıların devreye girip açıklama boşluğunu doldurmasına neden olmuş olabilir.

Salı günü, özel bir yapay zeka bilgisayarının ve dünyanın en büyük bilgisayar çipinin yapımcısı olan yapay zeka öncüsü Cerebras Systems, kısıtlama olmaksızın kullanılabilecek üretken yapay zeka programlarının çeşitli versiyonlarını açık kaynak olarak yayınladı.

Programlar Cerebras tarafından "eğitiliyor", yani şirketin güçlü süper bilgisayarını kullanarak optimum performansa getiriliyor, böylece dışarıdaki araştırmacıların yapması gereken işlerin bir kısmı azaltılıyor.

Cerebras'ın kurucu ortağı ve CEO'su Andrew Feldman, ZDNET ile yaptığı röportajda ChatGPT'nin yaratıcısı OpenAI'nin kararına atıfta bulunarak, "Şirketler bir veya iki yıl önce aldıkları kararlardan farklı kararlar veriyor ve biz bu kararlara katılmıyoruz" dedi. Bu ay en son üretken yapay zeka programı GPT-4'ü açıkladığında teknik ayrıntıları yayınlamamak, yapay zeka araştırma dünyasında geniş çapta eleştirilen bir hamleydi.

"Açık, canlı bir topluluğa inanıyoruz - yalnızca araştırmacılardan ve yalnızca üç, dört, beş veya sekiz yüksek lisans mezunundan oluşan bir topluluk değil, aynı zamanda startup'ların, orta ölçekli şirketlerin ve işletmelerin büyük dil modelleri eğittiği canlı bir topluluk - - bizim için de iyi, başkaları için de iyi" dedi Feldman.

Büyük dil modeli terimi, bir sinir ağının örnek verilerdeki kelimelerin istatistiksel dağılımını yakaladığı makine öğrenimi ilkelerine dayalı yapay zeka programlarını ifade eder. Bu süreç, büyük bir dil modelinin sıradaki bir sonraki kelimeyi tahmin etmesine olanak tanır. Bu yetenek, ChatGPT gibi popüler üretken yapay zeka programlarının temelini oluşturuyor.

Aynı tür makine öğrenimi yaklaşımı, önerilen bir ifadeye dayalı olarak görüntüler üreten OpenAI'nin Dall-E'si gibi diğer alanlardaki üretken yapay zeka için de geçerlidir.

Cerebras, 2018 yılında üretken yapay zeka çılgınlığını başlatan OpenAI'nin GPT programıyla aynı tarzda yedi büyük dil modeli yayınladı. Kod, yapay zeka girişimi Hugging Face'in web sitesinde ve GitHub'da mevcut.

Programların boyutları 111 milyon parametreden veya sinir ağırlığına kadar, on üç milyara kadar değişmektedir. Genel olarak konuşursak, daha fazla parametre bir yapay zeka programını daha güçlü hale getirir, böylece Cerebras kodu bir dizi performans sağlar.

Şirket, açık kaynak Apache 2.0 lisansı kapsamında yalnızca programların Python ve TensorFlow formatındaki kaynağını değil, aynı zamanda programların gelişmiş bir işlevsellik durumuna getirilmesini sağlayan eğitim rejiminin ayrıntılarını da yayınladı.

Bu açıklama, araştırmacıların Cerebras'ın çalışmasını incelemesine ve çoğaltmasına olanak tanıyor.

Feldman, Cerebras sürümünün, GPT tarzı bir programın "en son teknolojiye sahip eğitim verimliliği teknikleri kullanılarak" ilk kez kamuoyuna duyurulduğu zaman olduğunu söyledi.

Yayınlanan diğer AI eğitim çalışmaları ya OpenAI'nin GPT-4'ü gibi teknik verileri gizlemiştir ya da programlar geliştirilme aşamasında optimize edilmemiştir; bu, açıklandığı gibi programa beslenen verilerin programın boyutuna göre ayarlanmadığı anlamına gelir. Cerebras'ın teknik blog yazısında.

Bu tür büyük dil modellerinin bilgi işlem açısından yoğun olduğu biliniyor. Salı günü yayınlanan Cerebras çalışması, AI tarzı programlar için özel olarak ayarlanmış yatakhane buzdolapları büyüklüğündeki bilgisayarlar olan on altı CS-2 bilgisayarından oluşan bir küme üzerinde geliştirildi. Şirket tarafından daha önce açıklanan küme, Andromeda süper bilgisayarı olarak biliniyor ve bu, yüksek lisans öğrencilerinin binlerce Nvidia GPU çipi üzerinde eğitilme işini önemli ölçüde azaltabiliyor.

Salı günkü açıklamanın bir parçası olarak Cerebras, ilk açık kaynak ölçeklendirme yasası olduğunu söylediği şeyi sundu; açık kaynak verilerine dayalı programların boyutu arttıkça bu tür programların doğruluğunun nasıl arttığına dair bir kıyaslama kuralı. Kullanılan veri seti, 2020 yılında kar amacı gütmeyen Eleuther laboratuvarı tarafından tanıtılan, çoğunlukla profesyonel ve akademik metinlerden oluşan 825 gigabaytlık bir metin koleksiyonu olan açık kaynaklı The Pile'dır.

OpenAI ve Google DeepMind'ın önceki ölçeklendirme yasalarında açık kaynak olmayan eğitim verileri kullanılıyordu.

Cerebras geçmişte sistemlerinin verimlilik avantajlarını öne çıkarmıştı. Feldman, zorlu doğal dil programlarını verimli bir şekilde eğitme yeteneğinin açık yayıncılık konularının özünde yer aldığını söyledi.

Feldman, "Verimliliğe ulaşabilirseniz, işleri açık kaynak topluluğuna koymayı göze alabilirsiniz" dedi. "Verimlilik, bunu hızlı ve kolay bir şekilde yapmamızı ve toplum için üzerimize düşeni yapmamızı sağlıyor."

OpenAI ve diğerlerinin işlerini dünyanın geri kalanına kapatmaya başlamasının temel nedeninin, yapay zekanın artan eğitim maliyeti karşısında kâr kaynağını korumak zorunda olmaları olduğunu söyledi.

"Çok pahalı, bunun stratejik bir varlık olduğuna karar verdiler ve onlar için stratejik olduğu için bunu toplumdan saklamaya karar verdiler" dedi. "Ve bunun çok makul bir strateji olduğunu düşünüyorum.

Feldman, "Eğer bir şirket büyük miktarda zaman, çaba ve para yatırımı yapmak ve sonuçlarını dünyanın geri kalanıyla paylaşmak istemiyorsa bu makul bir stratejidir" diye ekledi.

Ancak "Bunun ekosistemi daha az ilgi çekici hale getirdiğini ve uzun vadede araştırmaların yükselişini sınırladığını düşünüyoruz" dedi.

Feldman'ın gözlemine göre şirketler, veri kümeleri veya model uzmanlığı gibi kaynakları istifleyerek "stoklayabilir".

"Soru, bu kaynakların arazide stratejik olarak nasıl kullanıldığıdır" dedi. "Herkesin görebileceği verileri kullanarak açık modeller ortaya koyarak yardımcı olabileceğimize inanıyoruz."

Açık kaynak sürümünün ürününün ne olabileceği sorulduğunda Feldman şunları söyledi: "Yüzlerce farklı kurum, bu GPT modelleriyle başka türlü yapamayacakları çalışmalar yapabilir ve aksi takdirde bir kenara bırakılabilecek sorunları çözebilir."