OpenAI'nin yeni yapay zeka tespit aracı öğrencilerin kopya çekmesine son verecek mi?

OpenAI, yeni yönteminin birisinin bir makale veya araştırma makalesi yazmak için ChatGPT kullandığını %99,9 doğrulukla tespit edebildiğini iddia ediyor. İşte bu yüzden şüpheciyim.

BestColleges anketine göre öğrencilerin yarısından fazlası kopya çekmek için yapay zekayı kullanıyor. Bu rakamlar, Stanford Üniversitesi'nin öğrencilerin yüzde 60 ila 70'inin kopya çektiğini tespit eden bir çalışmasıyla uyumlu. Ancak yapay zeka, yakın zamanda tembel öğrencinin ödev yazmaya verdiği yanıt olmaktan çıkabilir. Bir Wall Street Journal (WSJ) haberi, "OpenAI'nin, birisinin bir makale veya araştırma makalesi yazmak için ChatGPT kullandığını güvenilir bir şekilde tespit edecek bir yöntemi olduğunu" bildiriyor (%99,9 doğrulukla).

Meslektaşım David Gewritz'in de belirttiği gibi, birçok program zaten yapay zeka tarafından yazılan metinleri tespit etme sözü veriyor. Ancak şu sonuca vardı: "Bu araçların sonuçlarına dayanarak bir öğrencinin akademik durumunu tehdit etmek veya onları kopya çekmekle suçlamak beni kesinlikle rahatsız etmez."

OpenAI, yeni yönteminin yapay zeka tarafından yazılan metni tanımlamada nasıl mükemmele yakın olabileceğini herhangi bir ayrıntıyla açıklamadı. Bunun nedeni kesinlikle AI halüsinasyonlarını tespit edebilmesi değil. Yapamaz. OpenAI kurucu ortağı John Schulman'ın geçen yıl söylediği gibi, "En büyük endişemiz gerçekçilikti çünkü model bir şeyler uydurmayı seviyor."

Bu asla değişmeyecek. Bir makine öğrenimi test hizmeti olan Kolena'nın kurucu ortağı ve genel müdürü Mohamed Elgendy'ye göre, "Halüsinasyonların oranı azalacak, ancak asla yok olmayacak - tıpkı yüksek eğitimli insanların bile yanlış bilgi verebilmesi gibi."

OpenAI, AI metnini tespit etmenin sihirli ve derin bir yolu yerine, AI tarafından yazılan metni tanımlamak için çok daha basit bir yol kullanıyor gibi görünüyor: Hizmet, sonuçlarına filigran ekliyor olabilir.

Yeni revize edilen bir blog yazısında, Çevrimiçi gördüğümüz ve duyduğumuz şeylerin kaynağını anlayan OpenAI, yapay zeka tarafından oluşturulan ürünleri tespit etmek için sınıflandırıcılar, filigranlar ve meta veriler kullanarak araştırma yaptığını ortaya koyuyor. Bu filigranın tam olarak nasıl çalıştığını henüz bilmiyoruz.

OpenAI'nin "son derece doğru olduğunu ve hatta başka kelimelerle ifade etme gibi yerel müdahalelere karşı etkili olduğunu" bildirdiğini biliyoruz. Ancak filigranlama "küreselleştirilmiş tahrifata karşı daha az dayanıklıdır."

Bu, özelliğin çevrilmiş metinde veya metne özel karakterler ekleyip sonra bunları silmek kadar akılsızca basit bir şeyde iyi çalışmadığı anlamına gelir. Ve elbette başka bir yapay zeka modeline ait çalışmaları tespit edemiyor. Örneğin, ChatAPT AI metin bulucuya Google Gemini veya Perplexity tarafından oluşturulan bir belgeyi beslerseniz, muhtemelen bunu yapay zeka tarafından oluşturulmuş bir belge olarak tanımlayamayacaktır.

Kısacası, biraz daha çaba sarf ederek öğrenciler ve yazarlar yapay zeka sohbet robotunun çalışmalarını kendilerininmiş gibi aktarabilecekler. Neyse yine de deneyebilirler. Yapay zekayla ilgili deneyimime göre sonuçlar hâlâ en iyi ihtimalle ikinci sınıf olma eğiliminde. Ancak bu size geçer not verecek kadar iyiyse, ihtiyacınız olan tek şey bu olabilir.

Reddit'te kendini profesör olarak tanımlayan en az bir kişi bundan etkilenmedi: "Sorun şu ki, metni kopyalayıp başka bir programa yapıştırabilir, başka bir dile çevirebilir ve sonra geri çevirebilirsiniz. Ama dürüst olmak gerekirse çoğu öğrenci bundan etkilenmiyor." bunu yapmayacağım, bu yüzden hemen hemen herkesin dikkatini çekecek."

Tabii ki bu, Harvard Gazette'e şunları söyleyen OpenAI CEO'su Sam Altman'ı rahatsız etmeyebilir: "Ödevlerde kopya çekmek kesinlikle kötü. Ancak kopya çekmekten kastımız ve beklenen kuralların ne olduğu zamanla değişiyor."

Bunu bilmiyorum. Hile, hile yapmaktır ancak OpenAI cephaneliğindeki bu yeni araç, bunu önlemeye pek yardımcı olacak gibi görünmüyor.

Tuhaf bir şekilde, OpenAI hala bu yeni hizmeti ne zaman yayınlayacağı veya yayınlayıp yayınlayamayacağı konusunda boğuşurken, şirket yakında DALL·E 3 kaynak sınıflandırıcısını yayınlayacak. Bu, sonuçta DALL-E ile yaptığınız hemen hemen her görüntünün bir DALL-E yapay zeka eseri olarak işaretleneceği anlamına gelir. OpenAI, görüntüleri işaretlemek ve tanımlamak için bir dijital içerik standardı olan C2PA meta verilerini kullanır. "Orijinal" grafikler oluşturmak için DALL-E'ye güvenen bir grafik tasarımcıysanız, Photoshop'a dönmenin zamanı gelmiş olabilir.