Yapay zeka destekli yanlış bilginin en büyük küresel risk olmasının nedeni budur
Önümüzdeki iki yıl içinde 3 milyar vatandaş sandık başına gidecek. Bu kişilerin yapay zekanın ürettiği yanlış bilgilerden ve dezenformasyondan korunması gerekiyor.
Pek çok ülkenin önümüzdeki iki yıl içinde seçim yapması beklenirken, yapay zeka (AI) tarafından desteklenen yanlış bilgi ve dezenformasyonun kullanımı en ciddi küresel risk olacak.
Dünya Ekonomik Forumu (WEF) tarafından yayınlanan Küresel Riskler Raporu 2024'e göre vatandaşlar artan yaşam maliyeti konusunda endişelenmeye devam ederken, toplumsal uyum konusunda yapay zeka destekli yanlış bilgilendirmeden kaynaklanan riskler bu yıl genel tabloya hakim olacak. Raporda, "Yanlış bilgi ile toplumsal huzursuzluk arasındaki bağlantı, birkaç büyük ekonomide önümüzdeki iki yıl içinde yapılması planlanan seçimlerin ortasında sahneye çıkacak" ifadesine yer verildi.
Bu süre zarfında, yanlış bilgi ve dezenformasyon önde gelen küresel risk olarak ortaya çıkacak, bunu aşırı hava olayları ve toplumsal kutuplaşma takip edecek. Rapor daha sonra siber güvensizlik ve eyaletlerarası silahlı çatışmayı ilk beş küresel risk arasında sıralıyor.
Yanlış bilgi ve dezenformasyon Hindistan'da en büyük risk olarak yer alırken, ABD'de altıncı, Avrupa Birliği'nde ise sekizinci en yüksek risk olarak yer alıyor.
WEF, manipüle edilmiş bilgilerin yıkıcı özelliklerinin hızla arttığını belirtiyor. Bu yetenekler, giderek daha karmaşık hale gelen teknolojilere açık erişim ve bilgiye ve kurumlara olan güvenin azalmasıyla körükleniyor.
WEF, önümüzdeki birkaç yıl içinde çok sayıda aktörün sentetik içerik patlamasından yararlanarak toplumsal bölünmeleri, ideolojik şiddeti ve siyasi baskıyı artıracağını söyledi.
Hindistan, Endonezya, ABD ve Birleşik Krallık da dahil olmak üzere neredeyse üç milyar vatandaşın sandık başına gittiği bir dönemde, yanlış bilgi ve dezenformasyonun yaygın kullanımı ve bunları yayma araçları, yeni gelen hükümetlerin meşruiyetini zayıflatabilir.
WEF, kullanıcı dostu arayüzlere ve büyük ölçekli yapay zeka modellerine sahip araçlara erişmek için artık niş becerilere ihtiyaç duyulmadığını belirtti. Bu erişim, halihazırda sahte bilgi ve gelişmiş ses klonlama ve sahte web siteleri gibi "sentetik" içerikte bir patlamaya yol açmıştır.
"Sentetik içerik önümüzdeki iki yıl içinde bireyleri manipüle edecek, ekonomilere zarar verecek ve toplumları çeşitli şekillerde parçalayacak" dedi. "İklim aktivizminden çatışmaların tırmanmasına kadar çeşitli hedeflerin peşinde sahte bilgiler kullanılabilir."
WEF, rızaya dayalı olmayan derin sahte pornografi veya borsa manipülasyonu gibi yeni suç sınıflarının da çoğalacağını ekledi.
Sivil toplum kuruluşu, tüm bu sorunların şiddetli protestolara, nefret suçlarına, sivil çatışmalara ve terörizme yol açabileceği konusunda uyardı.
Yapay zeka tarafından üretilen bilgilerin riskleriyle mücadele etmek için bazı ülkeler, çevrimiçi bilgi ve yasa dışı içeriğin hem barındırıcılarını hem de yaratıcılarını hedef alan yeni ve gelişen düzenlemeleri uygulamaya başladı.
Üretken yapay zekaya yönelik yeni yeni ortaya çıkan düzenlemenin de muhtemelen bu tür çabaları tamamlayacağını ekledi ve örnek olarak Çin'de yapay zeka tarafından oluşturulan içeriğin filigranlanması gerekliliğine işaret etti. Bu tür kurallar, yapay zekanın halüsinasyona uğrattığı içerik yoluyla kasıtsız yanlış bilgilendirme de dahil olmak üzere yanlış bilgilerin tespit edilmesine yardımcı olabilir.
Ancak WEF, genel olarak düzenlemelerin hızı ve etkililiğinin kalkınma hızına uymasının pek mümkün olmadığını belirtti.
Son teknolojik ilerlemelerin, takip edilmesi, ilişkilendirilmesi ve kontrol edilmesi daha zor olan akışlarla birlikte, sahte bilgilerin hacmini, erişimini ve etkinliğini arttırdığını belirtmektedir. Platformun bütünlüğünü sağlamak için çalışan sosyal medya şirketleri de birden fazla örtüşen kampanya nedeniyle muhtemelen bunalıma girecek.
Buna ek olarak, dezenformasyon giderek alıcılarına göre kişiselleştirilecek ve azınlık toplulukları gibi belirli grupları hedef alacak ve WhatsApp veya WeChat gibi daha şeffaf olmayan mesajlaşma platformları aracılığıyla yayılacak.
WEF ayrıca, tespit mekanizmaları ve teknoloji meraklısı kişiler için dahi yapay zeka tarafından oluşturulan içerik ile insan tarafından üretilen içerik arasında ayrım yapmanın giderek zorlaştığını belirtiyor. Ancak bazı ülkeler bu zorluğun üstesinden gelmeye çalışıyor.
Singapur deepfake tespiti için tesis kuruyor
Singapur bu hafta, zararlı çevrimiçi içeriği engellemek için araçlar oluşturmakla görevli bir merkezi de içerecek bir çevrimiçi güven ve emniyet araştırma programına 20 milyon SG $(15,04 milyon $) yatırım yapmayı planladığını duyurdu. İletişim ve Enformasyon Bakanlığı (MCI) liderliğindeki girişimin 2028 yılına kadar sürmesi planlanıyor.
MCI, yeni Çevrimiçi Güvenlik İleri Teknolojiler Merkezi'nin, "daha güvenli bir internet için canlı bir ekosistem" oluşturmak üzere ülkenin çevrimiçi güven ve güvenlik sektöründen araştırmacıları ve kuruluşları bir araya getirmeyi amaçlayacağını söyledi. 2024'ün ilk yarısında piyasaya sürülmesi planlanan tesis, deepfake ve gerçek dışı iddialar gibi zararlı içerikleri tespit edecek araçlar oluşturmaya ve özelleştirmeye odaklanacak.
Merkez, toplumsal güvenlik açıklarını tespit etmeye ve çevrimiçi kullanıcıların zararlı kabul edilen içeriğe duyarlılığını azaltabilecek yanlış bilgileri işaretleme veya düzeltme gibi olası müdahaleleri geliştirmeye çalışacak. Tesis ayrıca filigranlama ve içerik kimlik doğrulaması gibi dijital güven teknolojilerini de test edecek.
Merkezde geliştirilen araçlar deneme ve kullanıma sunulacak.
MCI, yerel araştırmacılar ve teknoloji geliştiricilerle görüşmelerin hâlihazırda sürdüğünü, akademiden, kamu ve özel sektörden 100'den fazla profesyonelin hâlihazırda topluluk ağının bir parçası olduğunu söyledi.
Bu ağ, yeni merkezde gerçekleştirilecek çalışmalara katılan bilim insanları, mühendisler ve operasyon personeli gibi 30 katılımcıyı içeriyor.
Küresel nüfus, bu tür geliştirme çabalarının etkili tespit araçları üretmesini ummalı çünkü yanlış bilgi, ele alınmadığı takdirde iki farklı duruma yol açabilir.
WEF raporunda, "İfade özgürlüğünü ve sivil özgürlükleri korumayı amaçlayan bazı hükümetler ve platformlar, sahte bilgileri ve zararlı içerikleri etkili bir şekilde engellemek için harekete geçmede başarısız olabilir, bu da 'gerçeğin' tanımını toplumlar arasında giderek daha tartışmalı hale getirebilir." dedi. "Devlet ve devlet dışı aktörler, toplumsal görüşlerdeki çatlakları genişletmek, halkın siyasi kurumlara olan güvenini aşındırmak ve ulusal uyum ve tutarlılığı tehdit etmek için yanlış bilgilerden yararlanabilir."
Öte yandan, bazı ülkeler sorunu kontrolle çözmeyi tercih edebilir.
WEF, "Hakikatin altı oyuldukça, yurt içi propaganda ve sansür riski de artacaktır." dedi. "Yanlış bilgiye ve dezenformasyona yanıt olarak hükümetler, 'doğru' olduğunu belirledikleri bilgilere dayanarak bilgileri kontrol etme konusunda giderek daha fazla yetkilendirilebilir. İnternet, basın ve halihazırda düşüşte olan daha geniş bilgi kaynaklarına erişimle ilgili özgürlükler, risk daha geniş bir ülke grubu boyunca bilgi akışının daha geniş bir şekilde bastırılmasına doğru gidiyor."