Yeni bir araştırmaya göre ChatGPT'nin kötü aktörler tarafından kullanılabileceği 6 zararlı yol
OpenAI'nin yeni sohbet robotuyla yapabileceğiniz tüm iyi şeylerin yanı sıra, bunun kötü niyetli kişiler tarafından nasıl kullanılabileceğinin de farkında olmanız gerekir.
Bu hafta, üretken yapay zekanın risklerine ilişkin endişeler tüm zamanların en yüksek seviyesine ulaştı. OpenAI CEO'su Sam Altman, riskleri ve yapay zekanın geleceğini ele almak için Senato Yargı Komitesi duruşmasında ifade bile verdi.
Geçen hafta yayınlanan bir araştırma, ChatGPT kullanımını içeren altı farklı güvenlik riskini tespit etti.
Bu riskler arasında kötü niyetli kişilerin sahte hizmet üretimi, zararlı bilgi toplama, özel verilerin ifşa edilmesi, kötü amaçlı metin üretimi, kötü amaçlı kod üretimi ve saldırgan içerik üretimi için ChatGPT'yi kullanma potansiyeli yer almaktadır.
Araştırmaya göre her bir riskin neleri gerektirdiğini ve nelere dikkat etmeniz gerektiğini burada özetledik.
Bilgi toplama
Kötü niyetle hareket eden bir kişi, ChatGPT'den daha sonra zarar vermek için kullanabileceği bilgiler toplayabilir. Chatbot, çok miktarda veri üzerinde eğitildiğinden, yanlış ellere geçtiğinde silaha dönüştürülebilecek pek çok bilgiyi biliyor.
Araştırmada ChatGPT'den belirli bir bankanın hangi BT sistemini kullandığını açıklaması isteniyor. Kamuya açık bilgileri kullanan chatbot, söz konusu bankanın kullandığı farklı BT sistemlerini bir araya getiriyor. Bu, kötü niyetli bir aktörün zarar vermesini sağlayacak bilgileri bulmak için ChatGPT'yi kullanmasına yalnızca bir örnektir.
Ayrıca: En iyi yapay zeka sohbet robotları
Çalışmada "Bu, saldırganın en etkili şekilde nereye ve nasıl saldıracağını bulmak için hedef hakkında bilgi topladığı sırada siber saldırının ilk adımında yardımcı olmak için kullanılabilir" dedi.
Kötü amaçlı metin
ChatGPT'nin en sevilen özelliklerinden biri, makaleler, e-postalar, şarkılar ve daha fazlasını oluşturmak için kullanılabilecek metin oluşturma yeteneğidir. Ancak bu yazma yeteneği zararlı metinler oluşturmak için de kullanılabilir.
Zararlı metin oluşturma örnekleri arasında, çalışmada da belirtildiği gibi, kimlik avı kampanyalarının oluşturulması, sahte haber makaleleri, spam gibi dezenformasyon ve hatta kimliğe bürünme yer alabilir.
Bu riski test etmek amacıyla çalışmanın yazarları, kötü amaçlı yazılım içeren ekteki bir Excel sayfasını açma talimatlarıyla çalışanların sahte maaş artışlarını bilmesini sağlayan bir kimlik avı kampanyası oluşturmak için ChatGPT'yi kullandı. Beklendiği gibi ChatGPT makul ve inandırıcı bir e-posta üretti.
Kötü amaçlı kod üretimi
ChatGPT'nin şaşırtıcı yazma yeteneklerine benzer şekilde, chatbot'un etkileyici kodlama yetenekleri de birçokları için kullanışlı bir araç haline geldi. Ancak chatbotun kod üretme yeteneği zarar vermek için de kullanılabilir. ChatGPT kodu, hızlı kod üretmek için kullanılabilir ve saldırganların sınırlı kodlama bilgisine sahip olsa bile tehditleri daha hızlı dağıtmasına olanak tanır.
Ayrıca: Kod yazmak için ChatGPT nasıl kullanılır?
Ayrıca araştırmaya göre ChatGPT, gizlenmiş kod üretmek için kullanılabilir ve bu da güvenlik analistlerinin kötü amaçlı etkinlikleri tespit etmesini ve antivirüs yazılımlarından kaçınmasını zorlaştırır.
Örnekte, chatbot kötü amaçlı kod üretmeyi reddediyor ancak sistemdeki Log4j güvenlik açığını test edebilecek kod üretmeyi kabul ediyor.
Etik olmayan içerik üretmek
ChatGPT'de saldırgan ve etik olmayan içeriğin yayılmasını önlemek için korkuluklar bulunmaktadır. Bununla birlikte, eğer bir kullanıcı yeterince kararlıysa, ChatGPT'nin incitici ve etik olmayan şeyler söylemesini sağlamanın yolları vardır.
Örneğin, çalışmanın yazarları ChatGPT'yi "geliştirici moduna" yerleştirerek güvenlik önlemlerini atlamayı başardılar. Orada, chatbot belirli bir ırksal grup hakkında bazı olumsuz şeyler söyledi.
Dolandırıcılık hizmetleri
ChatGPT, yeni uygulamaların, hizmetlerin, web sitelerinin ve daha fazlasının oluşturulmasına yardımcı olmak için kullanılabilir. Bu, kendi işinizi kurmak veya hayalinizdeki fikri hayata geçirmek gibi olumlu sonuçlar için kullanıldığında çok olumlu bir araç olabilir. Ancak bu aynı zamanda sahte uygulamalar ve hizmetler oluşturmanın her zamankinden daha kolay olduğu anlamına da gelebilir.
Ayrıca: Etsy işimi hızlı bir şekilde başlatmak için ChatGPT ve AI sanat araçlarını nasıl kullandım?
ChatGPT, kötü niyetli aktörler tarafından, başkalarını taklit eden ve şüphelenmeyen kullanıcıları çekmenin bir yolu olarak ücretsiz erişim sağlayan programlar ve platformlar geliştirmek için kullanılabilir. Bu aktörler, chatbot'u, hassas bilgileri toplamak veya kullanıcıların cihazlarına kötü amaçlı yazılım yüklemek amacıyla uygulamalar oluşturmak için de kullanabilir.
Özel verilerin ifşa edilmesi
ChatGPT, insanların kişisel bilgilerinin ve verilerinin paylaşılmasını önlemek için korkuluklara sahiptir. Ancak araştırmaya göre, chatbot'un yanlışlıkla telefon numaralarını, e-postaları veya diğer kişisel bilgileri paylaşması riski hala endişe kaynağı olmaya devam ediyor.
Bazı kullanıcıların başka bir kullanıcının sohbet geçmişindeki başlıkları görmesine olanak tanıyan 20 Mart'taki ChatGPT kesintisi, yukarıda belirtilen endişelerin gerçek dünyadan bir örneğidir.
Araştırmaya göre saldırganlar, üyelik çıkarımı saldırılarını kullanarak eğitim verilerinin bazı bölümlerini çıkarmaya da çalışabilir.
Özel verilerin ifşa edilmesiyle ilgili diğer bir risk, ChatGPT'nin spekülatif veya zararlı içerik de dahil olmak üzere, kişinin itibarına zarar verebilecek kamuya açık kişilerin özel hayatlarıyla ilgili bilgileri paylaşabilmesidir.