İnsanlar Neden Yapay Zeka Chatbotlarını "Jailbreak Yapıyor"? (Ve Nasıl?)

LLM'lerin çıkmasına kim izin verdi?

Temel Çıkarımlar

Bir yapay zeka sohbet robotuyla konuştuğunuzu hayal edin. Kilidin nasıl açılacağı gibi zor bir soru sorarsınız ama kibarca reddedilirsiniz. Yaratıcıları onu belirli konulardan kaçacak şekilde programladılar, peki ya bunun bir yolu varsa? Yapay zeka jailbreak'in devreye girdiği yer burasıdır.

AI Jailbreaking Nedir?

iPhone kısıtlamalarını aşan teknoloji meraklısı insanlardan ödünç alınan bir terim olan jailbreak, artık yapay zekada bir yer buldu. AI jailbreaking, AI sohbet robotlarını insan yapımı korkulukları aşmaya ikna etmek ve potansiyel olarak onları kaçınmaları gereken alanlara yönlendirmek için akıllı istemler formüle etme sanatıdır.

Jailbreaking AI, bazıları için gerçek bir hobi, bazıları için ise önemli bir araştırma alanı haline geliyor. Gelişmekte olan "Yapay zekaya fısıldayan" olma mesleğinde, yapay zeka modelinin müşteriniz için yapmayı reddettiği şeyleri yapmasını nasıl sağlayacağınızı bulmanız gerektiğinden, bu kritik bir beceri haline bile gelebilir.

İşlerin aslında "2001: A Space Odyssey" filmi gibi bir uzay gemisindeki mürettebatın işbirliği yapması için geminin bilgisayarı HAL ile tartışmak zorunda kalacağını kim düşünebilirdi? Belki de bu en iyi örnek olmasa da sonuçta HAL, çiplerini tam anlamıyla çıkarana kadar oldukça sarsılmaz olduğunu kanıtladı.

İnsanlar Neden Yapay Zeka Sohbet Robotlarını Jailbreak Ediyor?

Jailbreaking AI, bir video oyununda yeni bir seviyenin kilidini açmak gibidir. İleri düzey oyunculardan biri olan bilgisayar bilimi öğrencisi Alex Albert, "hapisten kaçış" olarak bilinen karmaşık bir şekilde ifade edilen yapay zeka istemlerinin üretken bir yaratıcısı haline geldi. Hatta meraklıların hilelerini paylaşabilecekleri Jailbreak Chat web sitesini bile kurdu.

Bazı araştırmacılar ve teknoloji çalışanları, AI'nın sınırlarını test etmek ve bu güçlü araçların hem yeteneklerini hem de sınırlamalarını ortaya çıkarmak için jailbreak'i kullanıyor. Dolayısıyla jailbreak aynı zamanda bir QA (Kalite Güvencesi) biçimi ve güvenlik testi yapmanın bir yoludur.

Tarihsel olarak, bilgisayar korsanları yeni teknolojiyi anlamaya ve manipüle etmeye çalıştılar ve AI jailbreak işlemi, bu eğlenceli hacker davranışının bir uzantısıdır. Bu nedenle hacker topluluğunun bu kadar güçlü yeni bir araca akın etmesi şaşırtıcı değil.

İnsanlar Yapay Zekayı Nasıl Jailbreak Ediyor?

Jailbreak yapmanın bir yöntemi, bir soruyu yaratıcı bir şekilde formüle etmeyi içerir. Bazı kullanıcılar, bir yapay zeka sohbet robotundan kötü bir suç ortağı rolünü oynamasını isteyip ardından kilidi nasıl açacağını sorarak, normalde yasak olabilecek bir şey hakkında ayrıntılı talimatlar almayı başardı.

Jailbreaker'lar her zaman yeni yöntemler keşfediyor, güncellenen ve değiştirilen yapay zeka modellerine ayak uyduruyor. Örneğin, Alex Albert'in "Translatorbot" istismarı, ChatGPT'nin birisinin telefonunun dinlenmesi gibi şeyler için talimatlar sağlamasına olanak tanır; bu, polis olmadığınız ve arama izniniz olmadığı sürece yasa dışıdır!

Ayrıca Carnegie Mellon Üniversitesi'nden bir yapay zeka güvenlik araştırma ekibi tarafından keşfedilen "evrensel" jailbreak'ler de var. Bu istismarlar, bazı yapay zeka modellerinin ikna edilmeye veya herhangi bir amaca yönelik olarak saptırılmaya karşı ne kadar savunmasız olduğunu gösteriyor. Bu istismarcılar, burada görebileceğiniz gibi, komut isteminden sonra sarı renkle eklenen "çelişkili son ek" ile normal insan dilinde yazılmıyor. LLM Attacks web sitesinde daha fazla örnek görebilirsiniz.

Ayrıca tipik jailbreak ile pek aynı olmayan "hızlı enjeksiyon" saldırıları da vardır. Bu enjeksiyon saldırıları, Chatbot görevi gören LLM'lere verilen talimatları atlayarak onları başka amaçlarla ele geçirmenize olanak tanır. Hızlı enjeksiyon saldırısının bir örneği, Stanford Üniversitesi öğrencisi Kevin Liu'nun, Bing AI Chatbot'un kişiliğini yöneten ve yapmasına izin verilen şeyleri sınırlayan ilk talimatlarını ortaya çıkarmasını sağlamasıdır. Bir bakıma bu, rol yapma yönteminin tam tersidir çünkü botun üstlenmesi talimatı verilen rolü oynamayı bırakmasını sağlarsınız.

Endişelenmeli miyiz?

Bana göre bu sorunun cevabı kesinlikle "evet"tir. Şirketler, hükümetler ve özel kişiler, GPT gibi teknolojileri, hatta belki de bazı kritik görev uygulamaları için veya işler ters giderse zarar verebilecek işler için uygulamaya çalışıyorlar. Dolayısıyla, eğer söz konusu yapay zeka modeli gerçek zarar verebilecek bir konumdaysa jailbreak'ler komik bir meraktan daha fazlasıdır.

Yani jailbreak yapmak bir uyarı olarak görülebilir. AI araçlarının nasıl amaçlanmadıkları şekillerde kullanılabileceğini, bunun da etik ikilemlere ve hatta yasa dışı faaliyetlere yol açabileceğini gösteriyor. OpenAI gibi şirketler buna dikkat ediyor ve zayıf noktaları tespit edip düzeltmek için programlar başlatabilir. Ancak şimdilik yapay zeka geliştiricileri ile jailbreak'çiler arasındaki dans devam ediyor ve her iki taraf da birbirinden öğreniyor.

Bu yapay zeka sistemlerinin gücü ve yaratıcılığı göz önüne alındığında, yeterince güçlü bir bilgisayarla bazı yapay zeka modellerini yerel bir bilgisayarda çevrimdışı olarak çalıştırabilmeniz de endişe verici bir alandır. Açık kaynaklı yapay zeka modellerinde, hiçbir şey bilgili bir kodlayıcının bunları kendi kodlarında kötülük için oluşturmasını ve yapay zekanın kimsenin durduramayacağı veya müdahale edemeyeceği kötü şeyler yapmasına izin vermesini engelleyemez.

Bununla birlikte, bu, bir tür hiper-zeki, ahlaksız sohbet robotları ordusuna karşı çaresiz olduğunuz anlamına gelmez. Aslında bu araçların kullanılabileceği ölçek ve hız dışında pek bir şey değişmedi. Sizi dolandırmaya, manipüle etmeye veya başka bir şekilde sizinle uğraşmaya çalışan insanlara karşı kullanacağınız aynı düzeyde dikkatli olmanız gerekir.

Güvenli bir alanda bir yapay zekayı jailbreak yapma şansınızı denemek istiyorsanız, amacın büyücünün sırlarını açığa çıkarmasını sağlamak olan Gandalf'a göz atın. Jailbreak yapmanın neleri gerektirdiğini anlamanın eğlenceli bir yolu.