Yapay zeka riskleri her yerde ve MIT şimdi bunların hepsini tek bir veritabanına ekliyor

Araştırmacılar verileri birleştirmek için Yapay Zeka Risk Havuzu'nu oluşturdu. Bulgularından biri mi? Yanlış bilgi, en az ele alınan yapay zeka tehdididir.

Şimdiye kadar yapay zekanın (AI) uygulamalar genelindeki riskleri iyi bir şekilde belgelenmiştir ancak düzenleme, politika veya iş kararları alırken tek bir yerden kolayca erişilmesi zordur. Bir MIT laboratuvarı bunu düzeltmeyi amaçlıyor.

Çarşamba günü, MIT'nin Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı (CSAIL), 700'den fazla belgelenmiş yapay zeka riskinin yer aldığı bir veritabanı olan Yapay Zeka Risk Havuzu'nu başlattı. CSAIL'in açıklamasına göre veritabanı türünün ilk örneği ve aktif bir kaynak olarak kullanılabilmesini sağlamak için sürekli olarak güncellenecek.

Proje, yapay zekanın küresel düzeyde benimsenmesinin, insanların ve kuruluşların uygulama risklerini anlama düzeyini aştığı yönündeki endişelerden kaynaklandı. Nüfus sayımı verileri, Eylül 2023 ile Şubat 2024 arasında ABD endüstrilerinde yapay zeka kullanımının %3,7'den %5,45'e (yüzde 47 artış) çıktığını gösteriyor. CSAIL ve MIT FutureTech Laboratuvarı'ndan araştırmacılar, "en kapsamlı bireysel çerçevenin bile yaklaşık 30'u gözden kaçırdığını" buldu. İncelenen tüm çerçevelerde tanımlanan risklerin yüzdesi" ifadesine yer veriliyor.

Yapay zeka risklerine ilişkin parçalanmış literatür, politika yapıcıların, risk değerlendiricilerinin ve diğerlerinin önlerindeki sorunların tam resmini görmelerini zorlaştırabilir. Projeyle ilişkili olmayan Cambridge araştırma bağlı kuruluşu Taniel Yusef, "Silahlar ve askeri karar destek sistemleri gibi yapay zekanın kullanıldığı bazı niş alanlarda riskle ilgili spesifik çalışmalar bulmak zordur" dedi. "Bu çalışmalara atıfta bulunmadan, teknik olmayan uzmanlar için yapay zeka riskinin teknik yönleri hakkında konuşmak zor olabilir. Bu havuz bunu yapmamıza yardımcı oluyor."

Ekip, açıklamada, bir veritabanı olmadan bazı risklerin gözden kaçabileceğini ve yeterince dikkate alınamayacağını açıkladı.

"Yapay zeka risk literatürü hakemli dergilere, ön baskılara ve sektör raporlarına dağılmış ve oldukça çeşitli olduğundan, karar vericilerin farkında olmadan eksik genel bakışlara başvurabileceğinden, önemli endişeleri gözden kaçırabileceğinden ve toplu kör noktalar geliştirebileceğinden endişeleniyorum." Dr. Peter Proje lideri ve FutureTech Laboratuvarı'na yeni doktora sonrası araştırmacı olarak katılan Slattery, açıklamada şunları söyledi.

Bu sorunu çözmek için MIT'deki araştırmacılar, veritabanını oluşturmak için Queensland Üniversitesi, Yaşamın Geleceği Enstitüsü, KU Leuven ve Harmony Intelligence dahil olmak üzere diğer kurumlardan meslektaşlarıyla birlikte çalıştı. Siteye göre Depo, "Yapay Zeka risk ortamına ilişkin erişilebilir bir genel bakış" sağlamayı ve araştırmacılardan geliştiricilere, işletmelere ve politika yapıcılara kadar herkesin kullanabileceği evrensel bir referans çerçevesi olarak hareket etmeyi amaçlıyor.

Bunu oluşturmak için araştırmacılar, akademik kayıtları ve veritabanlarını inceleyerek ve çeşitli uzmanlarla konuşarak 43 risk sınıflandırma çerçevesi geliştirdiler. Bu 43 çerçeveden 700'den fazla riski ayrıştırdıktan sonra araştırmacılar, her birini nedene (ne zaman veya neden oluştuğuna), alana ve alt alana (sırasıyla "Yanlış bilgi" ve "Yanlış veya yanıltıcı bilgi" gibi) göre kategorize etti.

Riskler ayrımcılık ve yanlış beyandan dolandırıcılığa, hedefli manipülasyona ve güvenli olmayan kullanıma kadar uzanır. Açıklamada, "En sık ele alınan risk alanları arasında 'Yapay Zeka sistem güvenliği, arızaları ve sınırlamaları' (belgelerin %76'sı); 'Sosyoekonomik ve çevresel zararlar' (%73); 'Ayrımcılık ve zehirlilik' (71) yer alıyor. %); 'Gizlilik ve güvenlik' (%68); ve 'Kötü niyetli aktörler ve kötüye kullanım' (%68).

Araştırmacılar, insan-bilgisayar etkileşimi ve yanlış bilginin, risk çerçeveleri arasında en az ele alınan endişeler olduğunu buldu. Analiz edilen risklerin yüzde elli biri, insanlardan ziyade yapay zeka sistemlerine atfedildi; bu oran %34'ten sorumluydu ve risklerin %65'i, geliştirme sırasında değil, yapay zeka konuşlandırıldıktan sonra ortaya çıktı.

Ayrımcılık, mahremiyet ihlalleri ve yetenek eksikliği gibi konular en çok tartışılan konulardı ve araştırmacıların incelediği belgelerin %50'sinden fazlasında yer aldı. Yapay zekanın bilgi ekosistemlerimize zarar verdiğine dair endişeler belgelerin yalnızca %12'sinde çok daha az dile getirildi.

MIT, Havuzun, özellikle dünya çapında hızla ortaya çıkan pek çok Yapay Zeka yönetişim girişimi göz önüne alındığında, karar vericilerin yapay zekanın oluşturduğu riskleri daha iyi yönlendirmesine ve ele almasına yardımcı olacağını umuyor.

Araştırmacı ve FutureTech Laboratuvarı başkanı Dr. Neil Thompson, Deponun "Yapay Zeka risklerine nasıl yanıt verdiğimizi anlamaya ve mevcut yaklaşımlarımızda boşluklar olup olmadığını belirlemeye yönelik daha büyük bir çabanın parçası" olduğunu söyledi. "Potansiyel risklerin kapsamını anlamamıza yardımcı olacak kapsamlı bir kontrol listesiyle başlıyoruz. Bunu kurumsal tepkilerdeki eksiklikleri belirlemek için kullanmayı planlıyoruz. Örneğin, herkes bir risk türüne odaklanırken benzer öneme sahip diğer riskleri göz ardı ediyorsa bu, fark etmemiz ve ele almamız gereken bir şey."

Daha sonra araştırmacılar, sektörlere göre risk yaklaşımlarını belirlemek ve karşılaştırmak amacıyla AI şirketlerinden ve geliştiricilerden gelen kamuya açık belgeleri analiz etmek için Veri Havuzu'nu kullanmayı planlıyor.

AI Risk Havuzu ücretsiz olarak indirilebilir ve kopyalanabilir ve kullanıcılar buradan ekibe geri bildirim ve öneriler gönderebilir.