Google'ın DataGemma'sı, RAG'a sahip ilk büyük ölçekli Nesil Yapay Zekadır - neden önemlidir?

Google'ın Data Commons'ı, üretken yapay zekaya yararlanılabilecek bilgiler sağlamanın temelini oluşturur.

Geri getirmeyle artırılmış nesil (ya da kısaca RAG) olarak bilinen, giderek daha popüler hale gelen üretken yapay zeka tekniği, işletmelerin gözde projesi oldu, ancak şimdi yapay zeka ana aşamasına geliyor.

Google geçen hafta, Google'ın Gemma açık kaynaklı büyük dil modelleri (LLM'ler) ile halka açık veriler için Data Commons projesinin bir birleşimi olan DataGemma'yı tanıttı. DataGemma, bir sorgu istemine yanıt vermeden önce verileri almak için RAG yaklaşımlarını kullanır.

Google, "LLM'nin gerçekliğini ve muhakemesini geliştirmek için Data Commons'ın bilgisinden yararlanarak" "halüsinasyonları" önlemek için üretken yapay zekayı temellendirmek gerektiğini söylüyor.

RAG, kuruluşların LLM'leri kendi özel kurumsal verilerine dayandırmasını sağlamak için popüler bir yaklaşım haline gelirken, Data Commons'ın kullanılması, RAG'nin bulut tabanlı Gen AI ölçeğinde bugüne kadarki ilk uygulamasını temsil ediyor.

Data Commons, herkesin kamuya açık veritabanları oluşturmasına olanak tanıyan açık kaynaklı bir geliştirme çerçevesidir. Aynı zamanda Birleşmiş Milletler gibi verilerini kamuya sunan kurumlardan gerçek verileri de toplar.

Google, ikisini birbirine bağlarken "iki farklı yaklaşımın" benimsendiğini belirtiyor.

İlk yaklaşım, "Dünyada yenilenebilir enerji kullanımı arttı mı?" gibi soru istemine girilen belirli soruların doğruluğunu kontrol etmek için Data Commons'ın kamuya açık istatistiksel verilerini kullanmaktır. Google'ın Gemma'sı bu isteğe belirli istatistiklere atıfta bulunan bir iddiayla yanıt verecek. Google bunu "geri alma-aralıklı nesil" veya RIG olarak adlandırır.

Google, ikinci yaklaşımda, veri kaynaklarının belirtilmesi ve "daha kapsamlı ve bilgilendirici çıktıların sağlanması" için tam RAG'ın kullanıldığını belirtiyor. Gemma AI modeli, Google'ın kapalı kaynak modeli Gemini 1.5'in "uzun bağlam penceresinden" yararlanıyor. Bağlam penceresi, yapay zeka modelinin işlem yapmak için geçici bellekte depolayabileceği jeton (genellikle kelimeler) cinsinden giriş miktarını temsil eder.

Gemini, Gemini 1.5'i 128.000 tokenlik bir bağlam penceresinde tanıtıyor, ancak versiyonları girdiden bir milyona kadar token ile hokkabazlık yapabiliyor. Daha büyük bir bağlam penceresine sahip olmak, Data Commons'tan alınan daha fazla verinin bellekte tutulabileceği ve sorgu istemine bir yanıt hazırlanırken model tarafından incelenebileceği anlamına gelir.

Google, "DataGemma, model yanıt oluşturmayı başlatmadan önce Data Commons'tan ilgili bağlamsal bilgileri alıyor" diyor ve "böylece halüsinasyon riskini en aza indiriyor ve yanıtların doğruluğunu artırıyor."

Araştırma halen geliştirilme aşamasındadır; Google araştırmacısı Prashanth Radhakrishnan ve meslektaşlarının hazırladığı resmi araştırma makalesinde ayrıntıları inceleyebilirsiniz.

Google, DataGemma'nın Gemma ve Google'ın kapalı kaynak modeli Gemini'de halka açık hale getirilmesinden önce yapılması gereken daha fazla test ve geliştirme olduğunu söylüyor.

Google, RIG ve RAG'ın şimdiden çıktı kalitesinde iyileşmelere yol açtığını, böylece "kullanıcıların araştırma, karar verme veya sadece merakı giderme sırasındaki kullanım durumlarında daha az halüsinasyon deneyimleyeceğini" iddia ediyor.

DataGemma, Google ve diğer baskın yapay zeka firmalarının, yüksek lisans derecelerinin ötesine geçen şeylerle tekliflerini nasıl geliştirdiklerinin en son örneğidir.

OpenAI geçen hafta, "Çilek" kod adlı dahili projesini, "düşünce zinciri" adı verilen bir makine öğrenimi tekniğini kullanan iki model olarak açıkladı; burada AI modeli, belirli bir tahmine giren faktörleri ifadelerle açıklamaya yönlendirildi. yapma.