ChatGPT ve yeni yapay zeka, heyecan verici ve korkutucu şekillerde siber güvenliğe zarar veriyor
Recorded Future CEO'su Christopher Ahlberg, etik veya kanunlarla sınırlandırılmayan siber suçluların yenilikçi yeni hack'ler bulmak için yapay zekayı kullanma konusunda yarıştığını söylüyor.
Üretken yapay zeka, hem saldırganlara hem de savunuculara yardımcı olarak siber güvenliği dönüştürüyor. Siber suçlular, büyük ölçekte karmaşık ve yeni saldırılar başlatmak için yapay zekadan yararlanıyor. Tehdit istihbaratı platformu Recorded Future'ın CEO'su Christopher Ahlberg, savunucuların kritik altyapıyı, devlet kuruluşlarını ve kurumsal ağları korumak için aynı teknolojiyi kullandığını söyledi.
Üretken yapay zeka, kötü aktörlerin yenilik yapmasına ve yeni saldırı stratejileri geliştirmesine yardımcı olarak siber güvenlik savunmalarından bir adım önde olmalarını sağladı. Yapay zeka, siber suçluların saldırıları otomatikleştirmesine, saldırı yüzeylerini taramasına ve çeşitli coğrafi bölgeler ve demografik özelliklere uygun içerik üretmesine yardımcı olarak farklı ülkelerdeki daha geniş bir potansiyel kurban yelpazesini hedeflemelerine olanak tanır. Siber suçlular, ikna edici kimlik avı e-postaları oluşturmak için bu teknolojiyi benimsedi. Yapay zeka tarafından oluşturulan metin, saldırganların yüksek düzeyde kişiselleştirilmiş e-postalar ve kısa mesajlar üretmesine yardımcı olur ve hedefleri yanıltma olasılığı daha yüksektir.
Ahlberg, "Bunun aslında siber suçluların yazar olmasına yardımcı olabileceğini anlamak için çok yaratıcı düşünmenize gerek olmadığını düşünüyorum, bu da bir sorun," dedi.
Savunmacılar saldırıları savuşturmak için yapay zekayı kullanıyor. Kuruluşlar, sızıntıları önlemek ve ağdaki güvenlik açıklarını proaktif bir şekilde bulmak için teknolojiyi kullanıyor. Ayrıca, belirli anahtar kelimeler için uyarıların ayarlanması ve hassas bilgilerin çevrimiçi olarak tespit edilmesi gibi görevleri de dinamik olarak otomatikleştirir. Tehdit avcıları, alışılmadık kalıpları tespit etmek ve büyük miktarda veriyi özetlemek için yapay zekayı kullanıyor, birden fazla bilgi kaynağındaki ve gizli kalıplardaki noktaları birleştiriyor.
Bu iş hâlâ uzmanlara ihtiyaç duyuyor ancak Ahlberg, ChatGPT gibi projelerde gördüğümüz üretken yapay zeka teknolojisinin yardımcı olabileceğini söylüyor.
"Düşünce hızında analiz yapmamıza yardımcı olmak için analiz döngüsünü hızlandırmak istiyoruz" dedi. "Bunu yapmak çok zor bir şey ve bence burada bir atılım görüyoruz ki bu oldukça heyecan verici."
Ahlberg ayrıca son derece akıllı makinelerin getirebileceği potansiyel tehditlerden de bahsetti. Dünya giderek daha dijital ve birbirine bağlı hale geldikçe, gerçekliği bükme ve algıları şekillendirme yeteneği kötü niyetli aktörler tarafından istismar edilebilir. Bu tehditler ulus devletlerle sınırlı değil, bu da manzarayı daha da karmaşık ve asimetrik hale getiriyor.
Yapay zeka, ortaya çıkan bu tehditlere karşı korunmaya yardımcı olma potansiyeline sahip ancak aynı zamanda kendi risklerini de beraberinde getiriyor. Örneğin, yüksek işleme kapasitesine sahip makineler, sistemleri insanlardan daha hızlı ve daha etkili bir şekilde hackleyebilir. Bu tehditlere karşı koymak için yapay zekanın savunma amaçlı ve kontrolün kimin elinde olduğunu net bir şekilde anlayarak kullanılmasını sağlamamız gerekiyor.
Yapay zeka toplumla daha fazla bütünleştikçe kanun yapıcıların, yargıçların ve diğer karar vericilerin teknolojiyi ve sonuçlarını anlaması önem kazanıyor. Teknik uzmanlar ve politika yapıcılar arasında güçlü ittifaklar kurmak, tehdit avcılığı ve ötesinde yapay zekanın geleceğine yön vermede hayati önem taşıyacak.
Yapay zekanın siber güvenlik alanındaki fırsatları, zorlukları ve etik hususları karmaşık ve gelişmektedir. Tarafsız yapay zeka modellerinin sağlanması ve karar alma sürecine insanın katılımının sürdürülmesi, etik zorlukların yönetilmesine yardımcı olacaktır. Dikkatli olmak, işbirliği yapmak ve teknolojiyi net bir şekilde anlamak, son derece akıllı makinelerin uzun vadeli potansiyel tehditlerini ele almada çok önemli olacaktır.
Ahlberg ayrıca Çin, Rusya ve ekonomik rakiplerin otonom makineler konuşlandırmasıyla ilgili endişelerini de dile getirdi. Bu ülkeler muhtemelen yapay zeka gelişimini yavaşlatmayacak veya etik hususları paylaşmayacaktır. Bu tür makinelerin "fişi çekme" yeteneğine sahip olmak akıllı bir koruma olsa da, teknolojinin topluma ve küresel ekonomiye entegrasyonunun, ayrılmayı muhtemelen zorlaştıracağını öne sürüyor. Ahlberg, ürünleri ve makineleri kimin kontrol edeceği konusunda net bir şekilde tasarlama ihtiyacını vurguluyor.
Ahlberg, "İnternetin tüm bunlarda yaptığı en büyük şey, internetin bir nevi dünyadaki tüm bilgilerin taşındığı yer haline gelmesidir" dedi. "Bu büyük dil modelleri, bu düşünme döngüsünü hızlandırmak için oldukça sihirli şeyler yapıyor."
"Önümüzdeki 25 yılda dünya internetin bir yansıması haline gelecek" diye ekledi.