Bir uzmana göre üretken yapay zekanın en büyük 5 riski
Yapay zeka hayatımızı birçok farklı şekilde kolaylaştırıyor. Ancak bu faydaların maliyetleri de olabilir.
ChatGPT gibi üretken yapay zekalar, yapay zekayla etkileşimde bulunma ve yapay zekayı görüntüleme şeklimizde devrim yarattı. Yazma, kodlama ve iş başvurusu yapma gibi aktiviteler çok daha kolay ve hızlı hale geldi. Ancak tüm olumlu yönleriyle birlikte oldukça ciddi riskler de var.
Yapay zekayla ilgili en büyük endişelerden biri güven ve güvenliktir ve bu, bazı ülkelerin ChatGPT'yi bir bütün olarak tamamen yasaklamasına veya kullanıcıları zarardan korumak için yapay zekaya ilişkin politikaları yeniden gözden geçirmesine bile neden olmuştur.
Ayrıca: Bu yeni teknoloji GPT-4'ü ve buna benzer her şeyi ortadan kaldırabilir
Gartner analisti Avivah Litan'a göre üretken yapay zekanın en büyük risklerinden bazıları güven ve güvenlikle ilgili olup halüsinasyonlar, derin sahtekarlıklar, veri gizliliği, telif hakkı sorunları ve siber güvenlik sorunları da bunlardan bazılarıdır.
1. Halüsinasyonlar
Halüsinasyonlar, yapay zeka modellerinin yapmaya eğilimli olduğu hataları ifade eder; çünkü gelişmiş olmalarına rağmen hala insan değildirler ve yanıt sağlamak için eğitime ve verilere dayanırlar.
Yapay zekalı bir sohbet robotu kullandıysanız bu halüsinasyonları muhtemelen isteminizin yanlış anlaşılmasından veya sorunuza bariz bir şekilde yanlış cevap verilmesinden dolayı yaşamışsınızdır.
Litan, eğitim verilerinin önyargılı veya gerçeklere dayalı olarak yanlış yanıtlara yol açabileceğini, bunun da insanlar bilgi için bu botlara güvenirken ciddi bir sorun olabileceğini söylüyor.
Litan, "Eğitim verileri önyargılı, temel dışı veya yanlış tepkilere yol açabilir, ancak özellikle çözümler giderek daha inandırıcı ve güvenilir hale geldikçe bunların fark edilmesi zor olabilir" diyor.
2. Deepfake'ler
Deepfake, sahte olan ancak başka bir bireyin görüntüsünü ve benzerliğini alan videolar, fotoğraflar ve ses kayıtları oluşturmak için üretken yapay zekayı kullanır.
Mükemmel örnekler, Papa Francis'in şişme ceketli yapay zeka tarafından oluşturulan viral fotoğrafı veya yüz binlerce dinlenme toplayan yapay zeka tarafından oluşturulan Drake and the Weeknd şarkısıdır.
Litan, "Bu sahte görüntüler, videolar ve ses kayıtları ünlülere ve politikacılara saldırmak, yanıltıcı bilgiler oluşturmak ve yaymak, hatta sahte hesaplar oluşturmak veya mevcut meşru hesapları ele geçirip bunlara sızmak için kullanıldı" diyor.
Halüsinasyonlar gibi deepfake'ler de sahte içeriğin kitlesel yayılmasına katkıda bulunarak ciddi bir toplumsal sorun olan yanlış bilgilerin yayılmasına yol açabilir.
3. Veri gizliliği
Kullanıcı verileri genellikle model eğitimi için saklandığından, gizlilik de üretken yapay zeka için önemli bir endişe kaynağıdır. Bu endişe, OpenAI'nin kullanıcı verilerini toplamaya yasal olarak yetkili olmadığını iddia ederek İtalya'yı ChatGPT'yi yasaklamaya iten genel faktördü.
Litan, "Çalışanlar, üretken yapay zeka sohbet robotu çözümleriyle etkileşimde bulunurken hassas ve özel kurumsal verileri kolayca açığa çıkarabilir" diyor. "Bu uygulamalar, kullanıcı girdileri yoluyla elde edilen bilgileri süresiz olarak saklayabilir ve hatta bilgileri diğer modelleri eğitmek için kullanabilir, bu da gizliliği daha da tehlikeye atabilir."
Litan, saklanan bilgilerin kullanıcı gizliliğinden ödün vermenin yanı sıra, bir güvenlik ihlali durumunda "yanlış ellere geçme" riski de taşıdığını vurguluyor.
4. Siber Güvenlik
Üretken yapay zeka modellerinin kodlama gibi gelişmiş yetenekleri de yanlış ellere düşerek siber güvenlik endişelerine neden olabilir.
Litan, "Daha gelişmiş sosyal mühendislik ve kimlik avı tehditlerine ek olarak, saldırganlar bu araçları daha kolay kötü amaçlı kod oluşturmak için kullanabilir" diyor.
Litan, üretken yapay zeka çözümleri sunan satıcıların genellikle müşterilerine modellerinin kötü niyetli siber güvenlik isteklerini reddedecek şekilde eğitildiğini garanti etmesine rağmen, bu tedarikçilerin son kullanıcılara uygulanan tüm güvenlik önlemlerini doğrulama yeteneği sağlamadığını söylüyor.
5. Telif hakkı sorunları
Telif hakkı büyük bir endişe kaynağıdır çünkü üretken yapay zeka modelleri, bir çıktı oluşturmak için kullanılan büyük miktarda internet verisi üzerinde eğitilir.
Bu eğitim süreci, orijinal kaynak tarafından açıkça paylaşılmayan çalışmaların daha sonra yeni içerik oluşturmak için kullanılabileceği anlamına gelir.
Telif hakkı, fotoğraflar ve müzik de dahil olmak üzere, yapay zeka tarafından üretilen her türlü sanat eseri için özellikle çetrefilli bir konudur.
DALL-E gibi yapay zeka oluşturma araçları, bir istemden görüntü oluşturmak için eğitim aldıkları fotoğraflardan oluşan geniş veritabanına başvuracaktır. Bu sürecin sonucu, nihai ürünün, bir sanatçının eserinin veya tarzının kendisine atfedilmeyen yönlerini içerebilmesidir.
Üretken yapay zeka modellerinin eğitildiği çalışmalar açıkça açıklanmadığından bu telif hakkı sorunlarını hafifletmek zordur.
Sırada ne var?
Üretken yapay zekayla ilişkili birçok riske rağmen Litan, kuruluşların teknolojiyi keşfetmeyi bırakması gerektiğini düşünmüyor. Bunun yerine yapay zekanın güvenini, riskini ve güvenlik yönetimini hedefleyen, kurum çapında bir strateji oluşturmaları gerekiyor.
Litan, "Yapay zeka geliştiricileri, üretken yapay zeka gözetimi ve risk yönetimine yönelik politikalar ve uygulamalar oluşturmak için ortaya çıkabilecek yeni düzenleyici otoriteler de dahil olmak üzere politika yapıcılarla acilen çalışmalıdır" diyor.