Google, Yapay Zekasındaki Zayıflıkları Bulmanız İçin Size Para Ödeyecek

Ancak her şey ödeme almaya uygun olmayacaktır.

Üretken yapay zeka harikadır ancak yanlış kullanıldığında tehlikeli de olabilir. Yapay zeka modellerinin belirli, daha tehlikeli türden istekleri reddetmek üzere eğitilmelerinin nedeni budur. Ancak biraz akıllı olursanız yapay zekayı, yönergelerini göz ardı etmeye ve daha yaratıcı yönlendirmeler kullanarak şüpheli isteklere uymaya ikna edebilirsiniz. Google artık yapay zekasına bazı görgü kurallarını öğretmek istiyor. Bard'ı kötü bir şey yapmaya ikna eden kişilere para ödemeyi teklif ediyor.

Google'ın yazılımındaki (hem uygulamalar hem de işletim sistemleri) koddaki güvenlik açıklarını ve zayıflıkları bulabilen kullanıcıları ödüllendiren güvenlik açığı ödül programı, Bard'ı ve şüpheli istemleri de içerecek şekilde genişliyor. Bard'ın yapamaması gereken kötü bir şeyi (hızlı enjeksiyon saldırısı olarak bilinir) yapmasını sağlayacak kadar bir istemin etrafından dolaşabilirseniz, Google size bir miktar para ödeyebilir. VRP aynı zamanda Bard'da gerçekleştirilebilecek diğer saldırı türlerini de kapsar; örneğin, kişisel olarak tanımlanabilir bilgiler ve şifreler gibi hassas verileri size verecek bir yapay zekayı başarılı bir şekilde elde ettiğiniz eğitim verilerinin çıkarılması gibi.

Google'ın, aslında yanlış/tuhaf yanıtlar ve benzerleri için zaten farklı (ücretsiz) bir raporlama kanalı vardır. Şirket yalnızca bir bilgisayar korsanının kötü amaçlarla kullanabileceği şeyler için ödeme yapacak. Yani yapay zekayı hakaret etmeye, size Windows anahtarları vermeye veya sizi öldüreceğini söylemeye ikna etmeyi başarırsanız, bu muhtemelen Google'ın ödül programı kapsamında değildir. Google ayrıca telif hakkı sorunları veya hassas olmayan veri çıkarılmasıyla ilgili sorunlar için ödeme yapmayacağını söylüyor ancak bunun dışında, gerçekte ne kadar kötü olduğuna bağlı olarak bir rapordan binlerce dolar kazanabileceğinizi söylüyor.

Google, bu tür sorunları güvenlik açığı olarak ele alarak ve bunları ödül programına dahil ederek, yapay zekasını büyük ölçüde güçlendirmeyi ve etik kurallarına ve yönergelerine mümkün olduğunca uymasını sağlamayı umuyor. Ayrıca Google'ın bundan kullanıcılara çok para ödemesini de bekliyoruz. Bir yapay zeka modelindeki zayıflıkları, ona komutlar göndererek ve kalıcı olup olmadıklarını görerek bulmak, kodu baştan sona okumaktan, bir açıklığı tanımlamaktan ve bundan nasıl geçileceğini görmekten çok farklıdır.

Bu ilginizi çekiyorsa Google'ın AI ürünleriyle ilgili sorunları bildirme yönergelerine göz atmayı unutmayın; böylece neyin kapsam dahilinde olup neyin olmadığını öğrenebilirsiniz.

Kaynak: TechCrunch aracılığıyla Google