Süper zeki bir yapay zeka kötüye giderse ne olur? OpenAI öğrenmek istemiyor
OpenAI, süper akıllı bir yapay zekanın 'insanlığın güçsüzleşmesine ve hatta yok olmasına yol açabileceği' konusunda uyarıyor. Yani bunu durdurmak için bir ekip kuruyor.
En zeki insanlardan daha akıllı bir süper zeki yapay zeka, bir gün haydut olursa ne olurdu? OpenAI'deki yeni bir ekip bunu asla öğrenemeyeceğimizden emin olmak için yola çıktı.
Bu hafta yapılan bir duyuruda OpenAI, "AI sistemlerini bizden çok daha akıllı bir şekilde yönlendirmek ve kontrol etmek" için bir ekip kurduğunu söyledi.
Yapay zeka laboratuvarı, önümüzdeki on yıl içinde ortaya çıkabilecek süper zekanın şimdiye kadar yaratılmış en etkili teknoloji olacağını ve dünyanın en önemli sorunlarının çözümüne yardımcı olabileceğini söyledi. Ancak bunu, "aynı zamanda çok tehlikeli olabileceği ve insanlığın güçsüzleşmesine ve hatta insanlığın yok olmasına yol açabileceği" şeklinde oldukça vahim bir uyarıyla takip etti.
Şirket, şu anki haliyle insanların daha akıllı oldukları için yapay zekayı kontrol altında tutabileceğini söylüyor. Peki yapay zeka insanları geçtiğinde ne olur?
Araştırma laboratuvarının mevcut baş bilim adamı ve mevcut uyum başkanının liderliğindeki yeni ekip tam da burada devreye giriyor. Bu liderliğe ek olarak ekip, OpenAI'nin en iyi araştırmacılarından ve mühendislerinden ve ayrıca mevcut bilgi işlem gücünün %20'sinden oluşacak.
Nihai hedef, "kabaca insan seviyesinde otomatikleştirilmiş bir hizalama araştırmacısı" veya belirlenmiş bir hedefe ulaşan ve belirlenen parametrelerin dışına çıkmayan bir yapay zeka sistemi oluşturmak olacaktır. Ekip bunu üç adımda gerçekleştirmeyi planlıyor:
- Yapay zekanın insan etkileşimi olmadan diğer yapay zekayı nasıl analiz ettiğine dair bir anlayış geliştirin
- Sorunlu alanları veya açıkları aramak için yapay zekayı kullanın
- Tespit edilip edilmeyeceğini görmek için bazı yapay zekaları kasıtlı olarak yanlış eğitin
Kısacası, OpenAI'deki insanlardan oluşan bir ekip, süper akıllı yapay zekayı kontrol altında tutacak şekilde yapay zekayı eğitmelerine yardımcı olmak için yapay zekayı kullanıyor. Ve bunu dört yıl içinde halledeceklerini düşünüyorlar. Bunun iddialı bir hedef olduğunu ve başarının garanti edilmediğini kabul ediyorlar, ancak işlerine güveniyorlar.