OpenAI'nin yeni aracı kendi DALL-E 3 AI görüntülerini algılayabiliyor ancak bir sorun var
Araç, DALL-E 3 oluşturucusu tarafından oluşturulan görüntülerin %98'ini tanımlamayı başardı ancak görüntüler değiştirilirse bu yüzde düştü.
Yapay zeka tarafından oluşturulan görüntüler, sizi sahte içeriğin gerçek olduğuna inandırmak için kullanılabilir. ChatGPT geliştiricisi OpenAI, bir görüntünün kendi DALL-E 3 görüntü oluşturucusunu kullanarak oluşturulup oluşturulmadığını tahmin etmeyi amaçlayan bir araç geliştirdi. Ancak görüntü algılama sınıflandırıcısının başarı oranı görüntünün değiştirilip değiştirilmediğine ve nasıl değiştirildiğine bağlıdır.
Salı günü OpenAI, ilk test grubuna yeni görüntü algılama aracına erişim izni verdi. Amaç, bağımsız araştırmacıların aracın etkinliğini değerlendirmesini, gerçek dünyadaki kullanışlılığını analiz etmesini, nasıl kullanılabileceğini belirlemesini ve yapay zeka tarafından oluşturulan içeriği belirleyen faktörlere bakmasını sağlamaktır. İlgilenen araştırmacılar, DALL-E Tespit Sınıflandırıcı Erişim Programı web sayfasından erişim için başvuruda bulunabilirler.
OpenAI, aracı dahili olarak test ediyor ve şu ana kadar elde edilen sonuçlar bazı açılardan umut verici, bazı açılardan ise hayal kırıklığı yaratıyor. Araç, DALL-E 3 tarafından oluşturulan görüntüleri analiz ederken bunları yaklaşık %98 oranında doğru bir şekilde tanımladı. Ayrıca, DALL-E 3 tarafından oluşturulmayan görüntüler analiz edilirken araç, bunların yalnızca %0,5 civarında DALL-E 3 tarafından oluşturulduğunu yanlış tanımladı.
OpenAI'ye göre görüntüde yapılan küçük değişikliklerin de çok az etkisi oldu. Dahili test uzmanları DALL-E 3 tarafından oluşturulan bir görüntüyü sıkıştırabildi, kırpabildi ve doygunluktaki değişiklikleri uygulayabildi ve araç daha düşük ancak yine de nispeten yüksek bir başarı oranı gösterdi. Şimdiye kadar, çok iyi.
Ne yazık ki araç, daha kapsamlı değişikliklere uğrayan görüntülerde pek başarılı olamadı. OpenAI, blog yazısında bu durumlardaki başarı oranını açıklamadı; yalnızca "diğer değişikliklerin performansı düşürebileceğini" söylemek dışında.
OpenAI araştırmacısı Sandhini Agarwal, The Wall Street Journal'a (abonelik gereklidir) aracın etkinliğinin, görüntünün renk tonunu değiştirmek gibi durumlarda düştüğünü söyledi. Agarwal, OpenAI'nin harici test uzmanlarına araca erişim izni vererek bu tür sorunları çözmeyi umduğunu ekledi.
Dahili testler ayrıca aracın diğer şirketlerin yapay zeka modelleri kullanılarak oluşturulan görüntüleri analiz etmesini de zorladı. Bu durumlarda OpenAI'nin aracı, bu dış modellerden gelen görüntülerin yalnızca %5 ila %10'unu tanımlayabildi. Agarwal, Journal'a bu tür görüntülerde renk tonu değiştirmek gibi değişiklikler yapmanın da etkinlikte keskin bir düşüşe yol açtığını söyledi. Bu, OpenAI'nin daha ileri testlerle düzeltmeyi umduğu başka bir sınırlamadır.
OpenAI'nin algılama aracının bir artısı, filigranlara dayanmamasıdır. Diğer şirketler, bir görüntünün kendi yapay zeka araçları tarafından oluşturulduğunu belirtmek için filigran kullanıyor ancak bunlar oldukça kolay bir şekilde kaldırılarak etkisiz hale getirilebiliyor.
Yapay zeka tarafından oluşturulan görüntüler özellikle seçim yılında sorunludur. Bir ülkenin hem içindeki hem de dışındaki düşman partiler, bu tür görüntüleri siyasi adayları veya davaları olumsuz bir şekilde göstermek için kolaylıkla kullanabilirler. Yapay zeka görüntü oluşturucularında devam eden gelişmeler göz önüne alındığında, neyin gerçek, neyin sahte olduğunu anlamak giderek daha da zorlaşıyor.
Bu tehdidi göz önünde bulundurarak OpenAI ve Microsoft, seçmenler ve savunmasız topluluklar arasında yapay zeka eğitimini ve okuryazarlığını genişletmek için 2 milyon dolarlık bir Toplumsal Dayanıklılık Fonu başlattı. Dünya çapında 2 milyar insanın bu yıl demokratik seçimlerde oy kullandığı veya kullanacağı göz önüne alındığında amaç, bireylerin dijital bilgilerde daha iyi gezinmesini ve güvenilir kaynaklar bulmasını sağlamaktır.
OpenAI ayrıca C2PA'nın (İçerik Kaynak ve Orijinallik Koalisyonu) Yönlendirme Komitesine katılacağını da söyledi. İçeriğin belirli bir kaynaktan geldiğinin kanıtı olarak kullanılan C2PA, yazılım sağlayıcılar, kamera üreticileri ve çevrimiçi platformlar tarafından benimsenen bir dijital içerik sertifikasyonu standardıdır. OpenAI, C2PA meta verilerinin DALL-E 3 ve ChatGPT'de oluşturulan ve düzenlenen tüm görüntülere dahil edildiğini ve yakında OpenAI'nin Sora video oluşturucusu tarafından oluşturulan videolarda görüneceğini söylüyor.