Anthropic, hükümetlerin 18 ay içinde düzenleme yapmaması durumunda yapay zeka felaketi konusunda uyardı

Şirket, 'Proaktif risk önleme penceresi hızla kapanıyor' diyor. İşte nedeni.

ABD başkanlık seçimlerine yalnızca birkaç gün kala yapay zeka şirketi Anthropic, çok geç olmadan kendi düzenlemesini savunuyor.

Sektörde güvenliğe odaklanmasıyla öne çıkan şirket, perşembe günü hükümetlere "hedefe yönelik düzenleme" uygulaması yönünde tavsiyelerde bulundu ve "yıkıcı" yapay zeka risklerinin artışına ilişkin potansiyel olarak endişe verici veriler yayınladı.

Riskler

Bir blog yazısında Anthropic, yapay zeka modellerinin kodlama ve siber saldırı alanında yalnızca bir yılda ne kadar ilerleme kaydettiğini belirtti. "SWE-bench yazılım mühendisliği görevinde modeller, gerçek dünyadaki kodlama problemlerinden oluşan bir test setinin %1,96'sını (Claude 2, Ekim 2023) %13,5'e (Devin, Mart 2024) ve %49'a ( Claude 3.5 Sonnet, Ekim 2024)," diye yazdı şirket. "Dahili olarak Frontier Red Ekibimiz, mevcut modellerin siber suçlarla ilgili geniş bir görev yelpazesinde halihazırda yardımcı olabileceğini buldu ve uzun, çok adımlı görevleri planlayabilecek yeni nesil modellerin de bu konuda yardımcı olmasını bekliyoruz. - daha da etkili olacak."

Ek olarak blog yazısı, GPQA kıyaslama testine göre yapay zeka sistemlerinin bilimsel anlayışlarını yalnızca bu yılın haziran ayından eylül ayına kadar yaklaşık %18 oranında geliştirdiğini belirtti. OpenAI o1, testin en zor bölümünde %77,3 elde etti; insan uzmanlar %81,2 puan aldı.

Şirket ayrıca, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün kimyasal, biyolojik, radyolojik ve nükleer (KBRN) kötüye kullanımına yönelik çeşitli modeller üzerinde yaptığı risk testinden de alıntı yaptı; bu testte "modellerin biyoloji ve kimya hakkında uzman düzeyinde bilgi elde etmek için kullanılabileceğini" tespit etti. Ayrıca birçok modelin bilim sorularına verdiği yanıtların "doktora düzeyindeki uzmanların verdikleri yanıtlarla aynı" olduğu da ortaya çıktı.

Bu veriler, Anthropic'in siber ve KBRN risklerinin iki ila üç yıl içinde artacağı yönündeki 2023 öngörüsünü gölgede bırakıyor. Blog, "Yukarıda açıklanan ilerlemeye dayanarak, artık bu tür risklere önemli ölçüde daha yakın olduğumuza inanıyoruz" dedi.

Hükümetler için yönergeler

Blog, "Akıllı, dar hedefli düzenleme, her iki açıdan da en iyisini elde etmemize olanak tanıyabilir: riskleri azaltırken yapay zekanın faydalarını fark etmek" diye açıkladı. "Ayaklarımızı sürüklemek her iki dünyanın da en kötüsüne yol açabilir: kötü tasarlanmış, düşüncesizce yapılan düzenleme, ilerlemeyi engellerken aynı zamanda etkili olamamaktadır."

Anthropic, kendi Sorumlu Ölçeklendirme Politikasını (RSP) bir "prototip" olarak kullanarak, ancak bunun yerine geçmeyerek, bilim ve ticarette yenilikçiliği engellemeden riski azaltmaya yönelik hükümet eylemi için yönergeler önerdi. Korkulukların ne zaman uygulanacağını tahmin etmenin zor olabileceğini kabul eden Anthropic, RSP'sini yapay zekanın artan yeteneklerine rutin testler yoluyla uyum sağlayan orantılı bir risk yönetimi çerçevesi olarak tanımladı.

Anthropic, "'Eğer-o halde' yapısı, güvenlik ve güvenlik önlemlerinin uygulanmasını gerektirir, ancak yalnızcamodeller bunları garanti edecek yeterliliğe sahip olduğunda." diye açıkladı.

Şirket, başarılı yapay zeka düzenlemesi için üç bileşen belirledi: şeffaflık, güvenliği teşvik etmek, basitlik ve odaklanma.

Şu anda halk, bir yapay zeka şirketinin kendi güvenlik kurallarına uyup uymadığını doğrulayamıyor. Anthropic, daha iyi kayıtlar oluşturmak için hükümetlerin şirketlerden "RSP benzeri politikalara sahip olmalarını ve yayınlamalarını" talep etmesi, hangi önlemlerin ne zaman tetikleneceğini tanımlaması ve sistemlerinin her nesli için risk değerlendirmeleri yayınlaması gerektiğini söyledi. Elbette hükümetlerin aynı zamanda tüm bu şirket beyanlarının gerçekten doğru olduğunu doğrulayacak bir yöntemi olması gerekir.

Anthropic ayrıca hükümetlerin daha yüksek kalitede güvenlik uygulamalarını teşvik etmesini de tavsiye etti. Şirket, "Düzenleyiciler, ayrıntıları şirketlere bırakarak RSP'lerin belirli bir makul standart çerçevesinde ele alması gereken tehdit modellerini belirleyebilir. Veya yalnızca bir RSP'nin karşılaması gereken standartları belirleyebilir" dedi.

Bu teşvikler dolaylı olsa bile Anthropic, hükümetleri bu teşvikleri esnek tutmaya çağırıyor. Blog, "Düzenleyici süreçlerin statik olmaktan ziyade, geliştikçe en iyi uygulamalardan ders alması önemlidir" dedi; ancak bürokratik sistemler için bunu başarmak zor olabilir.

Söylemeye gerek yok ama Anthropic aynı zamanda mevzuatın anlaşılması ve uygulanmasının kolay olması gerektiğini de vurguladı. İdeal düzenlemeleri "cerrahi" olarak tanımlayan şirket, tavsiyelerinde "basitlik ve odaklanma"yı savundu ve hükümetleri yapay zeka şirketleri için dikkat dağıtıcı olabilecek gereksiz "yükler" yaratmamaya teşvik etti.

Blogda, "Felaket riski önlemenin başına gelebilecek en kötü şeylerden biri, riskleri önlemek için gerekli olan düzenlemeler ile külfetli veya mantıksız kurallar arasında oluşan bir bağlantıdır" ifadesine yer verildi.

Endüstri tavsiyesi

Anthropic ayrıca diğer AI şirketlerini düzenlemeyi destekleyen RSP'leri uygulamaya çağırdı. Bilgisayar güvenliğini ve emniyetini, riskler hasara yol açtıktan sonra değil, önceden konumlandırmanın önemine ve bunun, bu hedefe yönelik işe alımların ne kadar kritik olduğuna dikkat çekti.

Blogda, "Düzgün bir şekilde uygulandığında RSP'ler organizasyon yapısını ve öncelikleri yönlendirir. Yalnızca kağıt üzerinde bir politika olmaktan ziyade ürün yol haritalarının önemli bir parçası haline gelirler" diye belirtildi. Anthropic, RSP'lerin ayrıca geliştiricileri, soyut olsalar bile tehdit modellerini keşfetmeye ve yeniden gözden geçirmeye teşvik ettiğini söyledi.

Peki sırada ne var?

Anthropic, "Önümüzdeki yıl politika yapıcıların, yapay zeka endüstrisinin, güvenlik savunucularının, sivil toplumun ve yasa koyucuların yukarıdaki koşulları karşılayan etkili bir düzenleyici çerçeve geliştirmek için birlikte çalışması kritik önem taşıyor" dedi. "ABD'de bu ideal olarak federal düzeyde gerçekleşecek, ancak aciliyet bunun yerine bireysel eyaletler tarafından geliştirilmesini gerektirebilir."