Yapay Zeka Botları Bizim Gibi Sosyal Mühendislikten Etkilenebilir mi?

Belki de chatbotlar insanların söylediği her şeye güvenmemeli.

"Sosyal Mühendislik", bilgisayar korsanlarının bilgisayar güvenlik sistemlerindeki insan unsuruna karşı kullandıkları denenmiş ve test edilmiş bir taktiktir, çünkü genellikle gelişmiş güvenlik teknolojisini yenmekten daha kolaydır. Yeni yapay zeka daha insana benzer hale geldikçe bu yaklaşım onlarda işe yarayacak mı?

Sosyal Mühendislik Nedir?

Siyaset bilimindeki etik açıdan şüpheli kavramla karıştırılmaması gereken, siber güvenlik dünyasında sosyal mühendislik, insanlara istediğinizi yaptırmak için psikolojik manipülasyon kullanma sanatıdır. Eğer bir bilgisayar korsanıysanız, insanların yapmasını isteyeceğiniz şeyler arasında hassas bilgilerin ifşa edilmesi, şifrelerin teslim edilmesi veya doğrudan hesabınıza para ödenmesi yer alır.

Sosyal mühendislik şemsiyesi altına giren birçok farklı hackleme tekniği vardır. Örneğin, kötü amaçlı yazılım bulaşmış bir flash sürücüyü ortalıkta bırakmak insanın merakına bağlıdır. İran'daki bir nükleer tesisteki ekipmanı yok eden Stuxnet virüsü, yerleştirilen USB sürücüler sayesinde bu bilgisayarlara girmiş olabilir.

Ancak burada geçerli olan sosyal mühendislik türü bu değil. Bunun yerine, "hedefli kimlik avı saldırıları" (hedefli kimlik avı saldırıları) ve "bahane" (hedefleri kandırmak için sahte kimlik kullanma) gibi bir kişinin diğeriyle konuşmasının aldatmaya yol açtığı yaygın saldırılar burada geçerlidir.

Telefonda veya sohbet odasında konuştuğunuz "kişi"nin eninde sonunda bir yapay zeka sohbet robotu olacağı neredeyse kesin olduğundan, bu durum sosyal mühendislik sanatının sentetik hedefler üzerinde hala etkili olup olmayacağı sorusunu gündeme getiriyor.

AI Jailbreaking Zaten Bir Şey

Chatbot'un jailbreak yapması bir süredir gündemde olan bir şey ve birisinin bir chatbot'u kendi davranış kurallarını ihlal etmeye veya tamamen uygunsuz bir şey yapmaya ikna edebileceği pek çok örnek var.

Prensipte jailbreak'in varlığı ve etkinliği, chatbot'ların aslında sosyal mühendisliğe karşı savunmasız olabileceğini gösteriyor. Chatbot geliştiricileri, düzgün bir şekilde davrandıklarından emin olmak için kapsamlarını sürekli olarak daraltmak ve sıkı korkuluklar koymak zorunda kaldı; bu, bu korkulukların açığa çıkıp çıkamayacağını veya atlatılabileceğini görmek için başka bir jailbreak turuna ilham kaynağı gibi görünüyor.

Bunun, bir bankacılık chatbotunun adını değiştirmeye nasıl ikna edilebileceğini gösteren ekran görüntülerini yayınlayan Dr. Paris Buttfield-Addison gibi X (eski adıyla Twitter) kullanıcıları tarafından yayınlanan bazı örneklerini bulabiliriz.

Botlar Sosyal Mühendislikten Korunabilir mi?

Örneğin bir bankacılık chatbotunun hassas bilgileri vermeye ikna edilebileceği fikri haklı olarak endişe verici. Öte yandan, bu tür suiistimallere karşı ilk savunma hattı, ilk etapta bu sohbet robotlarının bu tür bilgilere erişmesine izin vermekten kaçınmak olacaktır. Bunun gibi yazılımlara, herhangi bir insan gözetimi olmadan ne kadar sorumluluk verebileceğimizi zaman gösterecek.

Diğer taraftan bu yapay zeka programlarının faydalı olabilmesi için bilgiye erişmeleri gerekiyor. Dolayısıyla bilgiyi onlardan uzak tutmak gerçekten bir çözüm değil. Örneğin, bir yapay zeka programı otel rezervasyonlarını yönetiyorsa, işini yapabilmek için konukların ayrıntılarına erişmesi gerekir. O halde korku, bilgili bir dolandırıcının, o otelde kimin hangi odada kaldığını ifşa etmesi için yapay zekayı rahatça konuşabilmesidir.

Bir başka potansiyel çözüm ise, bir yapay zeka sohbet robotunun diğerini izlediği ve kontrolden çıkmaya başladığında devreye girdiği bir "dost" sistemi kullanmak olabilir. Her yanıtı kullanıcıya iletilmeden önce gözden geçiren bir yapay zeka denetçisine sahip olmak, bu tür yöntemleri azaltmanın bir yolu olabilir.

Sonuçta, doğal dili ve mantığı taklit eden bir yazılım oluşturduğunuzda, insanlarda işe yarayan ikna tekniklerinin en azından bu sistemlerin bazılarında da çalışacağı mantıklıdır. Bu nedenle potansiyel bilgisayar korsanları siber güvenlikle ilgili kitapların yanı sıra Arkadaş Kazanma ve İnsanları Etkileme Yöntemleri'ni de okumak isteyebilir.