Yapay zeka tarafından oluşturulan kodunuz hatalı olursa en fazla sorumlulukla kim karşı karşıya kalır?
OpenAI'nin resmi GPT-4 makalesi, bir programın teknik ayrıntılarını açıklamaya yönelik yapay zeka uygulamasından kopuyor.
Yapay zeka araştırmalarının yaygın bir konusu, alandaki diğer kişilerin programları anlayabilmesi ve onlardan öğrenebilmesi için yazılımın teknik ayrıntılarının araştırma makalelerinde açıklanmasıdır.
Bu gelenek, Salı günü, son derece popüler ChatGPT sohbet robotunun kalbini oluşturan bir dizi programdaki en son teknoloji olan OpenAI'nin GPT-4 programının piyasaya sürülmesiyle bir eşiği aştı.
OpenAI'nin blog yazısının yanı sıra Salı günü yayınlanan GPT-4 teknik raporunda firma, rekabet ve güvenlik kaygıları nedeniyle teknik ayrıntıları sunmaktan kaçındığını belirtiyor.
"GPT-4 gibi büyük ölçekli modellerin hem rekabet ortamı hem de güvenlik açısından sonuçları göz önüne alındığında" şöyle yazıyor: "Bu rapor mimari (model boyutu dahil), donanım, eğitim hesaplaması, veri seti oluşturma, eğitim yöntemi hakkında daha fazla ayrıntı içermiyor veya benzeri."
"Mimari" terimi, bir yapay zeka programının temel yapısını, yapay nöronlarının nasıl düzenlendiğini ifade eder ve herhangi bir yapay zeka programının temel unsurudur. Bir programın "boyutu", bir programı diğerinden ayıran anahtar öğe olan sinirsel "ağırlıkların" veya parametrelerin sayısıdır.
Bu tür ayrıntılar olmadan GPT-4 programı tam bir muammadır. Bu anlamda araştırma makalesi araştırmanın hiçbirini açıklamamaktadır.
Makalede programın nasıl oluşturulduğunu çok geniş bir şekilde açıklayan yalnızca iki cümle sunulmaktadır.
"GPT-4, hem kamuya açık verileri (internet verileri gibi) hem de üçüncü taraf sağlayıcılardan lisanslanan verileri kullanarak bir belgedeki bir sonraki jetonu tahmin etmek için önceden eğitilmiş Transformer tarzı bir modeldir. Model daha sonra kullanılarak ince ayar yapıldı. İnsan Geri Bildiriminden Takviyeli Öğrenme."
Her iki cümle de sıradan bir gözlemcinin program hakkında zaten anlayamayacağı hiçbir şey sunmuyor.
Açıklamanın yapılmaması çoğu yapay zeka araştırmacısının alışkanlıklarından bir kopuş anlamına geliyor. Diğer araştırma laboratuvarları genellikle yalnızca ayrıntılı teknik bilgileri değil aynı zamanda kaynak kodunu da yayınlar, böylece diğer araştırmacılar sonuçlarını çoğaltabilirler.
Üstelik açıklamanın olmaması, OpenAI'nin sınırlı açıklama alışkanlıklarıyla bile çelişiyor.
GPT-4, adından da anlaşılacağı gibi, "üretken önceden eğitilmiş dönüştürücü" olarak bilinen, insan dilini yönetmek için oluşturulmuş bir programın dördüncü versiyonudur. Programın ilk sürümü 2018'de piyasaya sürüldüğünde OpenAI kaynak kodu sunmuyordu. Ancak şirket, GPT-1'in mimarisini oluşturan çeşitli çalışma parçalarını nasıl oluşturduklarını ayrıntılı olarak açıkladı.
Bu teknik açıklama, birçok araştırmacının, programın yapısını kopyalayamasalar bile programın işleyişi hakkında akıl yürütmesine olanak tanıdı.
GPT-1, 2018'de araştırmacıların programın temel özelliklerini anlamalarını sağlayan bir sistem şemasıyla açıklandı. GPT-4'ün teknik belgesinde böyle bir açıklama yer almıyor ve açıklayıcı ifadeler de GPT-4'ün mimarisini veya diğer temel özelliklerini ele vermiyor.
14 Şubat 2019'da yayınlanan GPT-2 ile OpenAI yalnızca kaynak kodu sunmamakla kalmadı, aynı zamanda bitmiş programın dağıtımını da kısıtladı. Şirket, programın yeteneklerinin, onu yayınlamanın kötü niyetli kişilerin programı kötü amaçlarla kullanmasına olanak verme riskini göze alamayacak kadar aşırı olduğunu vurguladı.
OpenAI, "Teknolojinin kötü amaçlı uygulamalarına ilişkin endişelerimiz nedeniyle eğitilmiş modeli yayınlamıyoruz" dedi.
OpenAI araştırmacıları Alec Radford ve ekibi, kod veya eğitilmiş modeller yayınlamamakla birlikte, ilk GPT'yi nasıl değiştirdiklerini önceki sürüme göre biraz daha az ayrıntılı olarak açıkladılar.
2020'de OpenAI üçüncü GPT'yi yayınladığında Radford ve ekibi yine kaynak kodunu sakladılar ve programın herhangi bir indirmesini sağlamadılar, bunun yerine bekleme listesi içeren bir bulut hizmetine başvurdular. Bunu hem GPT-3'ün kötü aktörler tarafından kullanımını sınırlamak hem de erişim için ücret talep ederek para kazanmak için yaptıklarını söylediler.
Bu kısıtlamaya rağmen OpenAI, diğerlerine GPT-3'ün önceki iki sürüme göre ne kadar büyük bir ilerleme olduğu konusunda fikir veren bir dizi teknik spesifikasyon sağladı.
Bu geçmiş performansa karşılık GPT-4 belgesi, açıklama eksikliği konusunda yeni bir dönüm noktasına işaret ediyor. Yalnızca kaynak kodunu saklama ve bitmiş programı saklama kararı değil, aynı zamanda dışarıdaki araştırmacıların programın bileşimi hakkında tahminde bulunmalarına olanak tanıyacak teknik ayrıntıları da saklama kararı, yeni bir tür ihmaldir.
98 sayfa uzunluğundaki GPT-4 belgesi, teknik ayrıntılardan yoksun olmakla birlikte, farklı bir açıdan yenidir. Programın işlemesini sağlamak için ayrılan muazzam kaynakların kabul edilmesiyle çığır açmaktadır.
Ön sayfadaki olağan yazar alıntıları yerine, teknik raporun sonunda, OpenAI'deki finans departmanına kadar herkes de dahil olmak üzere yüzlerce katkıda bulunanın alıntılandığı üç sayfalık bir atıf yer alıyor:
"Ayrıca yönetici asistanı, finans, pazara giriş, insan kaynakları, hukuk, operasyonlar ve işe alım ekiplerindeki harika insanlar da dahil olmak üzere, yukarıda açıkça belirtilmeyen her OpenAI ekip üyesini anıyor ve teşekkür ediyoruz. Şirketteki herkesi işe almaktan, emin olmaya kadar. Harika bir ofis alanımız var. İşimizi en iyi şekilde yapmamızı sağlayacak idari, İK, hukuki ve mali yapıların oluşturulmasına kadar OpenAI'deki herkes GPT-4'e katkıda bulundu."
Makalede, OpenAI'nin belirtilmemiş bir zamanda daha fazla açıklama sunabileceği ve belki de hala şeffaflık yoluyla bilimsel ilerlemeye kararlı olduğu yönünde bir öneri var:
Teknolojilerimizin bağımsız denetimine kendimizi adadık ve bu sürümle birlikte gelen sistem kartında bu alandaki bazı ilk adımları ve fikirleri paylaştık. Yukarıdaki rekabet ve güvenlik hususlarını daha fazla şeffaflığın bilimsel değeriyle nasıl karşılaştıracağımız konusunda bize tavsiyelerde bulunabilecek ek üçüncü taraflara daha fazla teknik ayrıntı sunmayı planlıyoruz.