Google'ın yeni aracı yapay zeka tarafından oluşturulan görselleri tespit edebiliyor ancak bu o kadar basit değil

Araç, DeepMind ekibi tarafından sorumlu yapay zekaya doğru bir adım olarak oluşturuldu.

Araç, düzenleme, renk değiştirme veya filtre ekleme sonrasında bile yapay zeka tarafından oluşturulan görüntüleri algılayabiliyor.

Yapay zeka araçlarının ürettiği görüntülerin, insanların yarattığı görüntülerden ayırt edilmesi giderek zorlaşıyor. Yapay zeka tarafından oluşturulan görüntüler, yanlış bilgilerin büyük oranlarda çoğalmasına neden olabilir ve bu da yapay zekanın sorumsuzca kullanılmasına yol açabilir. Bu amaçla Google, yapay zeka tarafından oluşturulan görüntüleri insan tarafından oluşturulanlardan ayırt edebilen yeni bir SynthID aracını tanıttı.

DeepMind ekibi tarafından oluşturulan araç, yapay zeka tarafından oluşturulan görüntülere imza gibi algılanamayan bir dijital filigran ekliyor. Aynı araç daha sonra filtre ekleme, sıkıştırma, renkleri değiştirme ve daha fazlası gibi değişikliklerden sonra bile hangi görüntülerin yapay zeka tarafından oluşturulduğunu belirtmek için bu filigranı algılayabilir.

SynthID, iki derin öğrenme modelini tek bir araçta birleştirir. Biri filigranı orijinal içeriğe çıplak gözle fark edilemeyecek şekilde görsel olarak ekler, diğeri ise filigranlı görüntüleri tanımlar.

Şu anda SynthID, Google'ın metinden resme aracı Imagen ile oluşturulanlarla sınırlı olduğundan, AI tarafından oluşturulan tüm görselleri tespit edemiyor. Ancak bu, özellikle diğer şirketler SynthID'yi üretken yapay zeka araçlarına benimserse, sorumlu yapay zeka için umut verici bir geleceğin işaretidir.

Araç, Imagen kullanan Vertex AI müşterilerine kademeli olarak sunulacak ve yalnızca bu platformda mevcut olacak. Ancak Google DeepMind, bu özelliği yakında diğer Google ürünlerinde ve üçüncü tarafların kullanımına sunmayı umuyor.