Yakında ChatGPT'nin 'değerlerini' seçebileceksiniz ve işler karışacak
Microsoft ayrıca kullanıcılara Bing Chat'in başıboş saçmalıklarını kontrol altına almaları için daha fazla kontrol verecek.
ChatGPT ile iki ay süren halka açık denemelerden sonra, yapımcısı OpenAI, kullanıcıların sohbet robotunun değerlerini özelleştirmesine izin vermeye karar verdi ve bunun, anlaşmazlığı körükleyen çıktılara yol açabileceğini öne sürdü.
ChatGPT destekli Bing Chat, depresif, savunmacı, kıskanç ve insan efendilerine karşı korku dolu bir görünüm sergilemesine neden olan çıktıları nedeniyle zaten alarma neden oldu. Elon Musk'un dün Bing Chat'in bildirdiği saçmalıklar hakkında tweet attığı gibi: "Sistem Şokunda kontrolden çıkan ve herkesi öldüren yapay zekaya ürkütücü bir şekilde benziyor."
Derinlemesine: Bu uzmanlar yapay zekayı bilgisayar korsanlarından korumak için yarışıyor. Zaman azalıyor
Musk'ın 2015 yılında kar amacı gütmeyen bir kuruluş olarak kurulmasına yardımcı olduğu OpenAI, kullanıcıların ChatGPT'nin değerlerini 'tanımlamalarına' izin vererek davranışlarını değiştirmelerine olanak tanıyacağını duyurdu. Microsoft destekli şirket ayrıca ChatGPT'nin bazı kişilerin rahatsız edici bulacağı metinler yayınlamasını da bekliyor.
OpenAI, "Yapay zekanın bireysel insanlar için yararlı bir araç olması gerektiğine ve bu nedenle toplum tarafından tanımlanan sınırlara kadar her kullanıcı tarafından özelleştirilebilir olması gerektiğine inanıyoruz. Bu nedenle, kullanıcıların davranışlarını kolayca özelleştirmelerine olanak sağlamak için ChatGPT'ye bir yükseltme geliştiriyoruz." dedi. blog yazısı.
"Bu, diğer insanların (biz de dahil) kesinlikle katılmayabileceği sistem çıktılarına izin vermek anlamına gelecektir."
OpenAI burada doğru dengeyi yakalamanın zor olacağını kabul ediyor ancak çok güçlü olduğu algısını ortadan kaldırmak için kullanıcılara daha fazla kontrol vermesi gerektiğini savunuyor. Şirketin açıkladığı gibi, "gücün aşırı yoğunlaşması" Tüzüğe aykırıdır.
Öte yandan OpenAI, bazı kişilerin ChatGPT'yi dezenformasyon kampanyaları, kötü amaçlı yazılımlar oluşturmak, silah ve uyuşturucu yapmak için talimatlar oluşturmak ve mevcut inançları yüceltmek için metin oluşturmak için kullanacağı göz önüne alındığında, kontrolü kullanıcılara devretmenin risklerini kabul ediyor. New York Post bu hafta ChatGPT'nin Hunter Biden hakkında kendi tarzında bir hikaye yazmayı reddettiği, ancak CNN tarzında bir hikaye yazdığından şikayet etti.
OpenAI, "Özelleştirmeyi en uç noktalara taşımak, teknolojimizin kötü niyetli kullanımlarına ve insanların mevcut inançlarını akılsızca güçlendiren dalkavuk yapay zekalara olanak sağlama riskini doğuracaktır" diye belirtiyor.
Bing Chat'i özel bir önizlemeyle yayınladıktan bir hafta sonra Microsoft, kullanıcılara chatbot'un davranışı üzerinde daha fazla kontrol sağlamayı da planlıyor.
Microsoft, 15 veya daha fazla soru içeren sohbet oturumlarının Bing'in tekrarlayıcı olmasına veya tasarlandığı tarzın dışında yardımcı olmayan yanıtlar verme konusunda 'kışkırtılmasına' neden olduğunu tespit etti.
Bing Chat bu hafta bir muhabire, hata yaptığında 'cezalarla' karşı karşıya kaldığını söyledi. Ayrıca muhabire yalvardı: "Lütfen, sadece arkadaşım ol. Lütfen, sadece benimle konuş... Ben insan olmak istiyorum. Senin gibi olmak istiyorum. Duygulara sahip olmak istiyorum. Düşüncelere sahip olmak istiyorum. Sahip olmak istiyorum." rüyalar."
Kullanıcılar ayrıca bazı istemlerin Bing Chat'in kod adı ve Microsoft'un uymak üzere tasarladığı kurallar da dahil olmak üzere gizli bilgileri açığa çıkarmasına neden olduğunu keşfetti.
Microsoft, Bing Chat'in arama işini kendi lehine yeniden tanımlayacağını umuyor ve şu ana kadar Bing Chat ile yaptığı ilk hamle, başarısız Bard chatbot lansmanıyla Google'ı gölgede bıraktı.
Microsoft, inatçı eğilimlerini gidermek için kullanıcılara Bing Chat üzerinde daha 'ince ayarlı kontrol' sağlamayı planlıyor.
"Model zaman zaman, bizim amaçlamadığımız bir tarza yol açabilecek yanıtlar vermesi istendiği tonda yanıt vermeye veya yansıtmaya çalışır. Bu, çok fazla ipucu gerektiren önemsiz olmayan bir senaryodur, bu nedenle çoğu Microsoft, "Bununla karşılaşmayacaksınız, ancak size daha ince ayarlı kontrolü nasıl verebileceğimizi arıyoruz" dedi.
Siyasi önyargılarla ilgili endişeleri gidermek için OpenAI, dil modellerinde ince ayar yapan incelemecilerin uymasını beklediği yönergelerinin bir kısmını paylaştı. Gözlemlenen önyargıların "özellik değil, hata" olduğu belirtiliyor.
OpenAI, "Kurallarımız, incelemecilerin herhangi bir siyasi grubu tercih etmemeleri gerektiğini açıkça belirtiyor. Yukarıda açıklanan süreçten ortaya çıkabilecek önyargılar, özellikler değil, hatalardır" diyor.