Yapay Zeka Teknolojisi Nihayet Çevrimiçi Oyunları Nasıl Daha Az Zehirli Hale Getiriyor?

Özet

Çevrimiçi oyun toplulukları, toksik metin ve sesli sohbet lobileri nedeniyle çoğu zaman oyuncuların kendilerini güvende hissetmelerini ve dahil olmalarını sağlayamaz.
Yapay zeka sohbet denetimi, insan moderatörlerden oluşan bir ekip tarafından incelenip ele alınabilmesi için potansiyel olarak toksik davranışları işaretler.
Yapay zeka sesli sohbet denetimi, Call of Duty, Among Us ve GTA Online gibi popüler çok oyunculu oyunlarda zaten kullanılıyor

Bir oyun lobisinde veya sohbette vakit geçirmek berbat hissettirebilir. Bazı topluluklar toksik hale geldi ve oyuncuları daha oyuna girmeden oyundan uzaklaştırdı. Bazı yayıncılar, oyunlarını tüm oyuncular için ulaşılabilir hale getirmenin çözümünün yapay zeka olabileceğini düşünüyor.

Oyunlarda Toksisite Sorunu Var

Ben eski tarz oyun camiasından biriyim, dolayısıyla gelişim yıllarımın çoğu tek oyunculu oyunlar oynayarak veya konsolda rekabete dayalı oyunlar oynayarak geçti. Saçma sapan konuşmak günün gündemiydi ama kanepede arkadaşlarınızın yanında otururken sınırlarınızı biliyordunuz ve hiç kimse bu saçma konuşmayı kişisel olarak algılamazdı. İnternet bunların hepsini değiştirdi.

Steam'de yerel çok oyunculu oyunlar oynayabilseniz de genellikle lobide çevrimiçi olarak oynarsınız. Valorant veya Call of Duty gibi çevrimiçi çok oyunculu nişancı oyunlarını oynuyorsanız, birçok çevrimiçi nişancı oyununun mücadele ettiği toksisite sorununun boyutunu hemen fark edeceksiniz. 2022 verileri, Call of Duty'in tüm hayran kitleleri arasında muhtemelen en zehirli olanı olduğunu ve oyunun yeni hayranların gözünde kötü görünmesine neden olduğunu gösterdi. Oyunun aynı zamanda, birkaç yıl önceki kötü şöhretli "swatting" eğilimi de dahil olmak üzere, kötü şöhretli bir zararlı davranış geçmişi var.

Call of Duty'in yayıncıları Activision bu durumdan memnun değildi ve bazı şeyleri değiştirme zamanının geldiğine karar verdi.

Oyuncular uzun süredir toksik olmayan oyunlar arıyorlar. Ancak çoğu oyun şirketi, oyuncu tabanları arasındaki toksisite sorununu nasıl çözeceklerini bilmiyor. Call of Duty kısa süre önce lobilerdeki zararlı davranışları yakalamak ve oyuncu tabanlarında olumsuz davranışları teşvik eden oyuncularla başa çıkmak için yapay zekayı kullanan bir sistemi uygulamaya koydu. Sonuçlar şaşırtıcı derecede etkiliydi.

Yapay Zeka Zehirli Oyuncularla Nasıl Başa Çıkıyor?

Yani bir oyun lobisindesiniz ve adamın biri sizin yüzünüze saçma sapan konuşmalar yapıyor. Sonunda iğrenç bir dil kullanıyor, sonra da hakaret ediyor. Adamı ihbar ediyorsunuz ama bu konuda bir şey yapılıp yapılmayacağını bile bilmiyorsunuz.

Bu, günümüzde birçok çevrimiçi oyun alanının gerçeğidir. Activision'a göre Ocak 2024 itibarıyla toksik davranışlar nedeniyle dört milyondan fazla hesaba yaptırım uygulandı, ancak bu davranış devam ediyor.

Activision'ın eski yaklaşımı işe yaramıyordu, bu yüzden vites değiştirmeye karar verdiler.

Şirket daha önce metin tabanlı denetim için Community Sift ile ortaklık kurmuştu ve bu da iyi çalışıyor gibi görünüyordu. Ancak konsol tabanlı lobilerde iletişimin çoğu ses yoluyla yapılır ve ses tabanlı denetim gereklidir. Şirketin yapay zeka tabanlı sesli sohbet moderatörünün devreye girdiği yer burasıdır.

ToxMod olarak bilinen moderatör, Moduulate.ai şirketindendir ve Call of Duty ekosistemi içerisinde oldukça fazla güce sahiptir. ToxMod, kullanıcının diğer lobi üyelerine zararlı bir şey söyleyip söylemediğini belirlemek için sesin nüanslarını, konuşma kalıplarını, vurguları ve diğer unsurları kullanır. Moderatör, insanlar tarafından yaptırım ve yasaklama yapılması durumunda uyarı verebilir ve oyuncu hesaplarını işaretleyebilir.

Şu anda AI Sohbet Moderatörünü Hangi Oyunlar Çalıştırıyor?

Among Us ve Grand Theft Auto Online gibi oyunların her ikisi de yapay zeka sohbet moderatörüne sahiptir. GTA Online oyuncuları ToxMod'un beta testini ilk kez Aralık 2023'te deneyimledi ancak birçok kullanıcı gizlilik konusunda endişeliydi. Oyunun yayıncısı Rockstar, oyunculara sadece sistemi test ettiklerini ve 2024'te yaptırım uygulamayı düşüneceklerini söyledi. Ancak bugüne kadar yapay zeka denetimiyle ilgili pek fazla güncelleme yapılmadı.

Among Us da sistemi Nisan 2024'teki VR sürümünde uyguladı. Bu popüler oyunlar, şüpheli konuşmalarla başa çıkma ve oyun lobilerini herkes için cazip tutma konusunda ToxMod'u çok popüler hale getirdi. Bu, çok oyunculu çevrimiçi oyunların zehirli geçmişinden kurtulmasına ve daha geniş sayıda insan için daha ulaşılabilir hale gelmesine yardımcı olma yolunda atılmış bir adımdır.

Neler İşaretlenir ve Sorun Nedir?

ToxMod'a göre yapay zeka ses moderatörü, saldırgan bir şeyin söylenip söylenmediğini belirlemek için duygusal ipuçlarını kullanıyor. Ancak saldırgan ifadeleri belirlemek için sohbet yanıtlarını da kullanır.

ToxMod, sesli konuşmanın ayrıntılı kayıtlarını insan moderatöre gönderdiğinden, sistem son sözü insanların söylemesi için tasarlanmıştır; bu, daha sonra, sohbetin davranış kurallarını ihlal ettiğini tespit ederse yasaklama uygulayabilir. Bu, tam otomatik bir denetleme sistemi yerine, sorunun yerini belirlemeye yardımcı olmak için tasarlanmış bir işaretleme aracıdır.

Peki, kullanıcıların zehirli oyuncular hakkında rapor göndermesinin zaten yolları varsa, ToxMod neden bu kadar önemli? Activision'ın sorunu rapor ekranına girmenin oyuncuları oyundan çıkarmasıdır. Bu olduğunda, oynamaya devam etmek istemeleri daha az olasıdır. ToxMod'un otomatik özelliği, oyuncuları onlar için rapor hazırlayarak oyunun içine dalmalarını sağlar.

Birçoğumuz sorunlu oyuncuları susturmaya ve devam etmeye alışkınız, oysa ToxMod kışkırtıcının ele alınabilmesi için bir rapor hazırlanmasını sağlıyor.

ToxMod Call of Duty'ye Nasıl Yardımcı Oldu?

Bir AI ses moderatörünün Call of Duty gibi oyunları daha az toksik hale getirebileceğini tahmin etmek kolay olsa da, somut gerçeklere sahip olmak çok daha iyidir. Bu durumda Activision, Kuzey Amerika'da Call of Duty: Modern Warfare III ve Call of Duty: Warzone oyunları için %50'ye kadar daha az zehirli sesli sohbet yaşandığını tahmin ediyor . Aynı kaynak, tekrarlanan suçlarda %8'lik bir azalma ve platformdaki toksisitede genel olarak %25'lik bir azalma olduğunu öne sürüyor.

Rakamlardan ToxMod'un sohbet ekosistemini olumlu yönde etkilediği açıkça görülüyor. Yine de buna ihtiyatla yaklaşılmalıdır. Yapay zeka ses denetimi, bazı bölgesel aksanlarla ilgili sorunlara sahip olma eğilimindedir; bu nedenle, herhangi bir sorundan kaçınmak için yasakları bir insanın vermesi hayati önem taşır.

Yine de bazı oyuncular sesli sohbet için onaylanmalarından memnun değiller. Yapay zekanın ses denetimi ne kadar harika olsa da yine de hatalar yapılabilir. Özellikle azaltılmış toksisiteyle yeni Call of Duty'e göz atmak için harika bir yıl olduğunu düşünüyoruz.

İstediğimiz Bir Oyun Geleceği İnşa Etmek

Yapay zekanın, PC'nizde güçlü bir görüntü oluşturmaktan onu kişisel bir fitness antrenörü olarak kullanmaya kadar birçok kullanımı vardır. Birisinin, çok oyunculu oyunlarda rahatsız edici sesli sohbetleri daha hoş bir atmosfer haline getirmek için denetlemenin bir yolunu bulması çok doğaldır.

İnsanların destekleyici olduğu ve diğer oyuncuları önyargılı bir şekilde istismar etmediği çok oyunculu bir oyun topluluğu görmek isterim. Saçma sapan konuşmanın bir yeri ve zamanı vardır ama kötü niyetli ve küfürlü olmaya dönüştüğü bir çizgi vardır.

Eğer AI sesli sohbet moderatörleri bizi oyunun yeniden eğlenceli olduğu bir yere götürmenin yoluysa, bunun uygulandığını görmekten yanayım.