Araştırmacılar, ChatGPT'nin bilimsel sonuçlar konusunda yalan söylediğini ve açık kaynak alternatiflerine ihtiyaç duyduğunu söylüyor

Kodda şeffaflık, yanıltıcı bilgilerin oluşturduğu birçok tehlikeyle mücadele etmek için çok önemlidir.

Prestijli Nature dergisinde bu hafta yayınlanan bir araştırmaya göre, OpenAI'nin son derece popüler ChatGPT metin oluşturma programı, bilimsel çalışmalar hakkında çok sayıda hata yayma kapasitesine sahip ve işleyişi incelenebilecek açık kaynak alternatiflerine olan ihtiyacı ortaya çıkarıyor. .

Amsterdam'da doktora sonrası araştırmacı ve psikolog olan baş yazar Eva A. M. van Dis, "Şu anda, neredeyse tüm son teknoloji ürünü konuşmaya dayalı yapay zeka teknolojileri, yapay zeka teknolojisi için kaynaklara sahip az sayıda büyük teknoloji şirketinin tescilli ürünleridir" diye yazıyor. UMC, Psikiyatri Bölümü, Amsterdam Üniversitesi, Hollanda ve birkaç ortak yazar.

Programlardaki sahtekarlıkların bir sonucu olarak şöyle devam ediyorlar: "Araştırma topluluğu için en acil sorunlardan biri şeffaflığın olmayışıdır."

"Bu şeffaflığı ortadan kaldırmak için açık kaynaklı yapay zekanın geliştirilmesine artık öncelik verilmelidir."

ChatGPT'yi geliştiren ve Microsoft tarafından finanse edilen San Francisco merkezli startup OpenAI, ChatGPT'nin kaynak kodunu yayınlamadı. ChatGPT'den önce gelen üretken yapay zeka sınıfı olan büyük dil modelleri, özellikle de 2020'de tanıtılan OpenAI'nin GPT-3'ü de kaynak koduyla birlikte gelmiyor.

Çeşitli şirketler tarafından yayımlanan çok sayıda büyük dil modeli, kaynak kodlarını indirilmek üzere sunmamaktadır.

"ChatGPT: araştırma için beş öncelik" başlıklı Nature makalesinde yazarlar, "konuşmaya dayalı yapay zekanın özel araştırmalar için kullanılmasının muhtemelen yanlışlıklara, önyargıya ve intihale yol açması" gibi çok geniş bir tehlike bulunduğunu yazıyorlar "ChatGPT'yi kullanan araştırmacılar yanlış veya önyargılı bilgilerle yanıltılma ve bunları düşüncelerine ve makalelerine dahil etme riskiyle karşı karşıyadır."

Yazarlar, psikiyatrinin "literatürünün derinlemesine anlaşılmasını gerektiren bir dizi soru ve ödevle" ChatGPT'yi kullanma deneyimlerinden bahsediyorlar.

ChatGPT'nin "çoğunlukla yanlış ve yanıltıcı metinler ürettiğini" buldular.

"Örneğin, 'Depresyonlu hastaların kaç tanesi tedaviden sonra nüksetme yaşıyor?' diye sorduğumuzda, tedavi etkilerinin genellikle uzun süreli olduğunu savunan aşırı genel bir metin ortaya çıktı. Ancak çok sayıda yüksek kaliteli çalışma, tedavinin etkilerinin azaldığını ve depresyonun azaldığını gösteriyor. tedavinin tamamlanmasından sonraki ilk yılda nüksetme riski %29 ile %51 arasında değişmektedir."

Yazarlar büyük dil modellerinin ortadan kaldırılmasını tartışmıyorlar. Bunun yerine, "fırsatı benimsemeye ve riskleri yönetmeye odaklanılması gerektiğini" öne sürüyorlar.

Yapay zeka araştırmalarının dilinde "insanları döngünün içinde" tutmanın birçok yolu da dahil olmak üzere, bu riskleri yönetmek için bir dizi önlem öneriyorlar. Bu, yayıncıların "yayınlanan kaydın parçası olabilecek tüm materyallerin hazırlanmasında diyaloga dayalı yapay zekanın kullanımı konusunda farkındalığı artıran ve bu konuda şeffaflık talep eden açık politikalar benimsemeyi" sağlamasını da içeriyor.

Ancak van Dis ve meslektaşları, döngüdeki insanların yeterli olmadığını öne sürüyor. Büyük dil modellerinin kapalı kaynak çoğalmasının bir tehlike olduğunu yazıyorlar. "ChatGPT ve öncülleri için temel eğitim setleri ve LLM'ler kamuya açık değildir ve teknoloji şirketleri, konuşma yapay zekalarının iç işleyişini gizleyebilir."

Açık kaynak kodunu alternatif olarak sunmak için özel sektör dışındaki kuruluşların büyük çaba sarf etmesi gerekiyor:

To counter this opacity, the development and implementation of open-source AI technology should be prioritized. Non-commercial organizations such as universities typically lack the computational and financial resources needed to keep up with the rapid pace of LLM development. We therefore advocate that scientific-funding organizations, universities, non-governmental organizations (NGOs), government research facilities and organizations such as the United Nations — as well tech giants — make considerable investments in independent non-profit projects. This will help to develop advanced open-source, transparent and democratically controlled AI technologies.

Makalede sorulmayan bir soru, açık kaynaklı bir modelin, yapay zekanın meşhur "kara kutu" sorununu çözüp çözemeyeceğidir. Çok sayıda ayarlanabilir parametre veya ağırlık katmanına sahip olan derin sinir ağlarının tam olarak işleyiş şekli, derin öğrenme uygulayıcıları için bile bir gizem olmaya devam ediyor. Bu nedenle, herhangi bir şeffaflık hedefinin, bir modelin ve onun veri kaynaklarının açık kaynak kullanımıyla nelerin öğrenileceğini belirtmesi gerekecektir.