Google ve Microsoft, AI güvenlik izleme grubu oluşturmak için OpenAI ile iş birliği yapıyor
Frontier Model Forum olarak adlandırılan ortaklık, geçen hafta aynı şirketlerin yanı sıra Amazon ve Meta ile gelecekteki yapay zekanın güvenli ve şeffaf gelişimini tartışmak üzere Beyaz Saray'da yapılan toplantının ardından geldi.
Teknolojideki en büyük isimlerden bazıları yapay zekayı güvende tutmaya yardımcı olmak için bir araya geliyor. Teknoloji devleri Google ve Microsoft, yapay zeka teknolojisinin "güvenli ve sorumlu" bir şekilde ilerlemesini sağlamak için OpenAI ve Anthropic ile ortaklık kuruyor.
Bu ortaklık, geçen hafta aynı şirketlerin yanı sıra Amazon ve Meta ile gelecekteki yapay zekanın güvenli ve şeffaf gelişimini tartışmak üzere Beyaz Saray'da yapılan toplantının ardından geldi.
Frontier Model Forum olarak adlandırılan gözlemci grubu, dünyadaki bazı hükümetlerin yapay zekayı güvende tutmak için önlemler almasına rağmen bu önlemlerin yeterli olmadığını kaydetti. Bunun yerine iş teknoloji şirketlerine kalmış.
Google'ın sitesindeki bir blog yazısında forum dört ana hedefi sıraladı:
- Gelecekteki riskleri en aza indirmek için yapay zeka güvenlik araştırmalarının iyileştirilmesi
- Gelecek modellerin sorumlu bir şekilde geliştirilmesi ve devreye alınması için en iyi uygulamaların belirlenmesi
- Yapay zeka güvenlik riskleri hakkındaki bilgileri paylaşmak için politika yapıcılar, akademisyenler ve diğer kişilerle birlikte çalışmak
- İklim değişikliği ve kanser tespiti gibi insanlığın en büyük sorunlarının çözümünde yapay zeka kullanımlarının geliştirilmesinin desteklenmesi
Bir OpenAI temsilcisi, forumun politika yapıcılarla çalışacağını ancak hükümet lobi faaliyetlerine karışmayacağını ekledi.
Foruma üyelik üç kriteri karşılayan her şirkete açıktır: Sınır modelleri geliştirmek ve uygulamak, sınır modeli güvenliğine güçlü bir bağlılık göstermek ve diğer üyelerle ortak girişimlere katılma isteği. "Sınır modeli" nedir? Forum bunu "mevcut yeteneklerin ötesine geçen ve geniş bir yetenek yelpazesine sahip herhangi bir büyük ölçekli makine öğrenimi modeli" olarak tanımlıyor.
Yapay zekanın dünyayı değiştirme potansiyeli olmasına rağmen forumda "risklerin azaltılması için uygun korkulukların gerekli olduğu" belirtiliyor. OpenAI'nin küresel ilişkilerden sorumlu başkan yardımcısı Anna Makanju bir açıklama yaptı: "Yapay zeka şirketlerinin, özellikle de en güçlü modeller üzerinde çalışan şirketlerin, ortak bir zeminde bir araya gelmesi hayati önem taşıyor. Bu acil bir iştir. Ve bu forum iyi konumlandırılmış. Yapay zeka güvenliğinin durumunu ilerletmek için hızlı hareket etmek."
Microsoft Başkanı Brad Smith de bu duyguları yineledi ve kendilerini güvende ve insan kontrolü altında tutmanın nihai olarak yapay zeka teknolojisi yaratan şirketlere bağlı olduğunu söyledi.