Yapay zeka tarafından oluşturulan kodunuz hatalı olursa en fazla sorumlulukla kim karşı karşıya kalır?

OpenAI'nin sohbet robotunun pek çok harika kullanım alanı var - ancak her yeni teknolojide olduğu gibi, sorun yaratabilecek şekillerde bundan yararlanmaya çalışacak insanlar da var.

OpenAI'nin yapay zeka destekli doğal dil işleme aracı olan ChatGPT, e-posta yazmak gibi nispeten basit görevlerden makale yazma veya kod derleme gibi daha karmaşık işlere kadar piyasaya sürülmesinden bu yana büyük ilgi görüyor.

Elbette hiçbir şekilde mükemmel değil; öğrendiği bilgileri yanlış yorumladığından hatalar yaptığı biliniyor, ancak birçok kişi bunu ve diğer yapay zeka araçlarını interneti nasıl kullanacağımızın geleceği olarak görüyor.

Derinlemesine: Bu uzmanlar yapay zekayı bilgisayar korsanlarından korumak için yarışıyor. Zaman azalıyor

OpenAI'nin ChatGPT hizmet koşulları özellikle fidye yazılımı, keylogger'lar, virüsler veya "belirli düzeyde zarar vermeyi amaçlayan diğer yazılımlar" dahil olmak üzere kötü amaçlı yazılımların üretilmesini yasaklamaktadır. Ayrıca spam oluşturma girişimlerinin yanı sıra siber suçlara yönelik kullanım durumları da yasaklanır.

Ancak herhangi bir yenilikçi çevrimiçi teknolojide olduğu gibi, ChatGPT'den daha karanlık amaçlar için nasıl yararlanabileceklerini deneyen insanlar zaten var.

Ancak yapay zekadan doğru şekilde yararlanılırsa, saldırganın istediği dilde e-postalara metin yazmak için bir chatbot kullanılabilir.

Shykevich, "Rus siber suçlularının önündeki en büyük engel dildir, yani İngilizcedir" diyor. "Artık kimlik avı e-postaları yazmaları ve çağrı merkezlerinde bulunmaları için Rus kolejlerindeki İngilizce eğitimi mezunlarını işe alıyorlar ve bunun için para ödemek zorundalar."

Şöyle devam ediyor: "ChatGPT gibi bir şey, çeşitli farklı kimlik avı mesajları oluşturma konusunda onlara çok para kazandırabilir. Hayatlarını iyileştirebilir. Bence arayacakları yol bu."

Teorik olarak istismarı önlemek için tasarlanmış korumalar mevcuttur. Örneğin, ChatGPT, kullanıcıların bir e-posta adresi kaydetmesini gerektirir ve ayrıca kaydı doğrulamak için bir telefon numarası gerektirir.

ChatGPT kimlik avı e-postaları yazmayı reddetse de, siber saldırganlar tarafından yaygın olarak kullanılan diğer mesajlar için e-posta şablonları hazırlamasını istemek mümkündür. Bu çaba, yıllık bir ikramiyenin teklif edildiği, önemli bir yazılım güncellemesinin indirilip kurulması gerektiği veya ekteki bir belgeye acil olarak bakılması gerektiği gibi mesajları içerebilir.

Kıdemli Başkan Yardımcısı Adam Meyers, "Birini konferans daveti gibi bir şey almak üzere bir bağlantıya tıklamaya ikna etmek için bir e-posta hazırlamak oldukça iyi bir şey ve anadili İngilizce olmayan biriyseniz bu gerçekten iyi görünüyor" diyor. Siber güvenlik ve tehdit istihbaratı sağlayıcısı Crowdstrike'ta istihbarat.

"Anadili İngilizce olmasaydınız mutlaka yapamayacağınız, güzelce formüle edilmiş, dilbilgisi açısından doğru bir davet oluşturmasını sağlayabilirsiniz."

Ancak bu araçların kötüye kullanılması yalnızca e-postaya özgü değildir; suçlular bunu herhangi bir metin tabanlı çevrimiçi platform için senaryo yazmaya yardımcı olmak için kullanabilir. Dolandırıcılık yapan saldırganlar ve hatta casusluk kampanyaları yürütmeye çalışan gelişmiş siber tehdit grupları için bu, özellikle insanları kandıracak sahte sosyal profiller oluşturmak için yararlı bir araç olabilir.

Bulutta siber güvenlik uzmanı ve kıdemli baş ürün teknoloji uzmanı Kelly Shortridge, "LinkedIn'in bağlantı kurmaya çalışan gerçek bir iş adamıymışsınız gibi görünmesini sağlamak için makul bir iş üretmek istiyorsanız, saçma sapan konuşun, ChatGPT bunun için mükemmel" diyor. bilgi işlem sağlayıcısı Hızlı.

Çeşitli bilgisayar korsanlığı grupları, siber casusluk kampanyaları yürütmek için LinkedIn ve diğer sosyal medya platformlarını araç olarak kullanmaya çalışıyor. Ancak sahte ama meşru görünen çevrimiçi profiller oluşturmak ve bunları gönderiler ve mesajlarla doldurmak zaman alıcı bir süreçtir.

Shortridge, saldırganların ikna edici içerik yazmak için ChatGPT gibi yapay zeka araçlarını kullanabileceğini ve aynı zamanda işi manuel olarak yapmaktan daha az emek yoğun olma avantajına da sahip olabileceğini düşünüyor.

"Bu tür sosyal mühendislik kampanyalarının çoğu çok fazla çaba gerektiriyor çünkü bu profilleri oluşturmanız gerekiyor" diyor ve yapay zeka araçlarının giriş engelini önemli ölçüde azaltabileceğini savunuyor.

"ChatGPT'nin son derece ikna edici görünen düşünce liderliği yazıları yazabileceğinden eminim" diyor.

Teknolojik yeniliğin doğası, ne zaman yeni bir şey ortaya çıksa, onu kötü amaçlarla kullanmaya çalışanların her zaman olacağı anlamına gelir. Kötüye kullanımı engellemeye yönelik en yenilikçi araçlara rağmen, siber suçluların ve dolandırıcıların sinsi doğası, korumaları atlatmanın yollarını bulma olasılıklarının yüksek olduğu anlamına geliyor.

Olası siber güvenlik sorunlarının vurgulanmasının, yapay zeka sohbet robotlarının hatalı amaçlar için kullanılmasının nasıl önleneceği konusunda daha fazla tartışma anlamına geleceğini ümit eden Shykevich, "Kötüye kullanımı tamamen ortadan kaldırmanın bir yolu yok. Hiçbir sistemde böyle bir şey olmadı" diyor.

"Bu harika bir teknoloji, ancak her zaman olduğu gibi yeni teknolojilerde de riskler var ve bunların farkında olmak için bunları tartışmak önemli. Bence biz tartıştıkça OpenAI ve benzer şirketlerin daha fazla yatırım yapma olasılığı da artıyor." istismarın azaltılmasında" diye öneriyor.

ChatGPT gibi yapay zeka sohbet robotlarında siber güvenlik açısından da bir avantaj var. Kodlarla baş etme ve kodları anlama konusunda özellikle iyidirler; bu nedenle, savunucuların kötü amaçlı yazılımları anlamalarına yardımcı olmak için bunları kullanma potansiyeli vardır. Kod da yazabildikleri için, geliştiricilere projelerinde yardımcı olarak bu araçların daha iyi ve daha güvenli kodları daha hızlı oluşturmalarına yardımcı olması mümkündür, bu da herkes için iyidir.

Forrester'ın baş analisti Jeff Pollard'ın yakın zamanda yazdığı gibi, ChatGPT, güvenlik olayı raporlarının hazırlanması için harcanan süreyi büyük ölçüde azaltabilir.

"Bunları daha hızlı tersine çevirmek, test etmek, değerlendirmek, araştırmak ve yanıt vermek gibi diğer işleri yapmak için daha fazla zaman anlamına gelir; bunların tümü güvenlik ekiplerinin ölçeklenmesine yardımcı olur" diye belirtiyor ve bir botun mevcut verilere dayanarak sonraki önerilen eylemleri önerebileceğini ekliyor.

"Güvenlik orkestrasyonu, otomasyonu ve müdahalesi, yapıtların alınmasını hızlandıracak şekilde doğru şekilde kurulursa, bu, tespit ve müdahaleyi hızlandırabilir ve [güvenlik operasyonları merkezi] analistlerinin daha iyi kararlar almasına yardımcı olabilir" diyor.

Dolayısıyla, sohbet robotları siber güvenlik alanında bazı kişilerin hayatını zorlaştırabilir ancak olumlu yanları da olabilir.

ZDNET yorum yapmak için OpenAI ile temasa geçti ancak bir yanıt alamadı. Ancak ZDNET, ChatGPT'ye kimlik avı amacıyla kötüye kullanılmasını önlemek için hangi kuralların geçerli olduğunu sordu ve aşağıdaki metni aldık.

"ChatGPT gibi yapay zeka dil modelleri, kimlik avı e-postalarına benzer metinler oluşturabilse de, kendi başlarına kötü amaçlı eylemler gerçekleştiremezler ve zarar vermek için kullanıcının niyet ve eylemlerine ihtiyaç duyarlar. Bu nedenle, şuna dikkat etmek önemlidir: Kullanıcıların yapay zeka teknolojisini kullanırken dikkatli ve sağduyulu davranmaları ve kimlik avı ve diğer kötü niyetli faaliyetlere karşı korunma konusunda dikkatli olmaları gerekiyor."

SİBER GÜVENLİK HAKKINDA DAHA FAZLA BİLGİ

• Check Point, Rus bilgisayar korsanlarının ChatGPT'ye sızmaya çalıştığını söylüyor
• Siber güvenlik, bulut ve kodlama: Bu üç beceri neden 2023'te talebe yön verecek?
• Metaveri geliyor ve güvenlik tehditleri zaten geldi
• Bunlar, bugün düşünmeniz gereken yarının siber güvenlik tehditleridir
• Bir sonraki büyük güvenlik tehdidi karşımızda duruyor. Bununla baş etmek zor olacak