OpenAI, yapay zeka güvenliğinin üstesinden gelmek için kırmızı bir ekip ağı oluşturuyor; başvurabilirsiniz
OpenAI'nin Kırmızı Takım Ağı üyelerine harcadıkları zaman karşılığında ödeme yapılacak ve dil modelleriyle ilgili önceden deneyim sahibi olmaları gerekmiyor.
OpenAI'nin ChatGPT'si dünya çapında 100 milyondan fazla kullanıcı biriktirdi ve bu durum hem yapay zekanın olumlu kullanım durumlarını hem de daha fazla düzenleme ihtiyacını vurguladı. OpenAI şimdi daha güvenli ve daha sağlam modeller oluşturmaya yardımcı olacak bir ekip oluşturuyor.
Salı günü OpenAI, daha güvenli modeller uygulamak için şirketin risk değerlendirmesi ve azaltma stratejilerini bilgilendirmek amacıyla içgörü sağlamaya yardımcı olabilecek uzmanlardan oluşan OpenAI Kırmızı Takım Ağı'nı başlattığını duyurdu.
OpenAI'ye göre bu ağ, OpenAI'nin risk değerlendirmelerini yürütme şeklini, "büyük model dağıtımlarından önceki tek seferlik katılımlar ve seçim süreçlerinin" aksine, model ve ürün geliştirme döngüsünün çeşitli aşamalarını içeren daha resmi bir sürece dönüştürecek.
OpenAI, ekibi oluşturmak için yalnızca birkaçını saymak gerekirse eğitim, ekonomi, hukuk, diller, siyaset bilimi ve psikoloji alanlarındaki alan uzmanlığı da dahil olmak üzere tüm farklı geçmişlere sahip uzmanlar arıyor.
Ancak OpenAI, AI sistemleri veya dil modelleriyle ilgili önceden deneyime gerek olmadığını söylüyor.
Üyelere harcadıkları zaman karşılığında ödeme yapılacak ve gizlilik anlaşmalarına (NDA) tabi olacaklardır. Her yeni model veya projeye dahil olmayacakları için kırmızı takımda yer almak, yılda beş saatlik bir zaman taahhüdü kadar küçük olabilir. OpenAI'nin sitesi üzerinden ağın bir parçası olmak için başvuruda bulunabilirsiniz.
Blog gönderisine göre, OpenAI'nin kırmızı takım kampanyalarına ek olarak uzmanlar genel "kırmızı takım uygulamaları ve bulguları" hakkında birbirleriyle iletişim kurabilecekler.
OpenAI, "Bu ağ, daha güvenli yapay zeka teknolojileri ve politikalarının geliştirilmesini ve yapay zekanın yaşama, çalışma ve etkileşim şeklimiz üzerindeki etkisini şekillendirmek için eşsiz bir fırsat sunuyor" diyor.
Kırmızı ekip oluşturma, yeni teknolojinin etkinliğini test etmek ve güvenliğini sağlamak için önemli bir süreçtir. Google ve Microsoft dahil diğer teknoloji devleri yapay zeka modelleri için özel kırmızı ekiplere sahip.