Algoritmalar yakında hayatınızı yönetecek ve yanlış eğitilirse onu mahvedecek

Tanımlayıcı etiketlemeyle eğitilmiş verileri kullanan yapay zeka sistemleri, insanlardan çok daha sert kararlar verebilir. Sorunu çözmek için çok geç değil.

Toronto Üniversitesi'nden (UoT) üniversiteler arası bilgisayar bilimcilerden oluşan bir ekip tarafından yakın zamanda yapılan bir deneye göre, yapay zeka modellerinin tasarımında şu anda bir şeyler oluyor ve bu durum - yakında düzeltilmediği sürece - biz insanlar için feci sonuçlara yol açabilir. ve Massachusetts Teknoloji Enstitüsü (MIT).

Tüm yapay zeka modellerinin büyük miktarda veri üzerinde eğitilmesi gerekir. Ancak bunun yapılma şeklinin son derece kusurlu olduğuna dair raporlar var.

Etrafınıza bir bakın ve yapay zekanın halihazırda varlığınıza nüfuz ettiği birçok büyük ve küçük yolu görün. Alexa size randevularınızı hatırlatıyor, sağlık botları yorgunluğunuzu teşhis ediyor, cezalandırma algoritmaları hapis cezası öneriyor ve birçok yapay zeka aracı finansal kredileri taramaya başladı ve bunlardan sadece birkaçı.

Bundan on yıl sonra neredeyse yaptığınız her şeyin kapı bekçisi olarak bir algoritmaya sahip olacağını hayal edin.

Dolayısıyla, bir ev kiralamak veya kredi için başvuruda bulunduğunuzda veya bir cerrahi prosedür veya mükemmel olduğunuz bir iş için seçilmeyi beklediğinizde ve bunların hepsinden tekrar tekrar reddedildiğinizde, bu sadece bir gizemli ve talihsiz bir kötü şans dalgası.

Bunun yerine, bu olumsuz sonuçların nedeni, yapay zeka algoritmalarının arkasındaki şirketin onları eğitme konusunda kalitesiz bir iş yapmış olması olabilir.

Özellikle, bu bilim adamlarının (Aparna Balagopalan, David Madras, David H. Yang, Dylan Hadfield-Menell, Gillian Hadfield ve Marzyeh Ghassemi) Bilim'deki son makalelerinde vurguladıkları gibi, tanımlayıcı temeller üzerine eğitilmiş yapay zeka sistemleri veriler her zaman insanların alacağından çok daha sert kararlar verir.

Bu bulgular, düzeltilmediği sürece bu tür yapay zeka sistemlerinin karar verme alanlarında hasara yol açabileceğini gösteriyor.

Eğitim şaşkınlığı

Yapay zeka modellerinin tahminlerini nasıl doğruladığına odaklanan daha önceki bir projede, adı geçen bilim insanları, çalışmadaki insanlardan verilere bazen normatif etiketler yerine tanımlayıcı etiketler eklemeleri istendiğinde farklı yanıtlar verdiklerinin farkına vardılar.

Normatif iddialar, açıkça neyin olması veya olmaması gerektiğini söyleyen ifadelerdir ("Sınavı geçmek için çok daha fazla çalışması gerekir."). Burada iş başında olan şey bir değer yargısıdır. Betimleyici iddialar, hiçbir görüş eklenmeden "olduğu" üzerinde durur. ("Gül kırmızıdır.")

Bu durum ekibin kafasını karıştırdı ve başka bir deneyle konuyu daha da derinleştirmeye karar verdiler; bu sefer farklı politikaları test etmek için dört farklı veri kümesini bir araya getirdiler.

Bunlardan biri, varsayımsal bir apartman dairesinin agresif köpek dişlerine izin vermeme kuralına yönelik olarak kullanılan köpek görsellerinden oluşan bir veri setiydi.

Bilim insanları daha sonra verilerin nasıl eğitildiğini yansıtan bir süreçte verilere "tanımlayıcı" veya "normatif" etiketler eklemek için bir grup çalışma katılımcısını bir araya getirdi.

İşte işler burada ilginçleşti.

Tanımlayıcı etiketleyicilerden, köpeğin saldırgan mı yoksa dağınık mı olduğu gibi belirli gerçek özelliklerin mevcut olup olmadığına karar vermeleri istendi. Cevap "evet" ise, kural esasen ihlal edilmiş demektir; ancak katılımcılar tartılırken bu kuralın var olduğuna dair hiçbir fikre sahip değildi ve bu nedenle, verdikleri yanıtın talihsiz bir köpeği daireden fırlatacağının farkında değillerdi.

Bu arada, normatif etiketleyicilerden oluşan başka bir gruba saldırgan köpekleri yasaklayan politika anlatıldı ve ardından her görsele ilişkin değerlendirme yapmaları istendi.

İnsanların bir kuralın farkında olduklarında bir nesneyi ihlal olarak etiketleme olasılıklarının çok daha düşük olduğu ve bir şeyleri tanımlayıcı olarak etiketlemeleri istendiğinde bir köpeği (bilmeden de olsa) saldırgan olarak kaydetme olasılıklarının çok daha yüksek olduğu ortaya çıktı.

Fark da az bir farkla değildi. Betimleyici etiketleyiciler (apartman kuralını bilmeyen ancak saldırganlık konusunda değerlendirme yapmaları istenenler), aynı köpek görselinin apartman kuralını çiğneyip çiğnemediği sorulan kişilere göre farkında olmadan %20 daha fazla köpeği köpek hapishanesine mahkum etmişti.

Makine kargaşası

Bu deneyin sonuçları, insanların nasıl yaşadığına dair pratik olarak her açıdan ciddi sonuçlar doğuracaktır; özellikle de baskın bir alt grupta değilseniz.

Örneğin, doktora adaylarını değerlendirmek için bir algoritmanın tasarlandığı bir "makine öğrenimi döngüsünün" tehlikelerini düşünün. Algoritma binlerce önceki başvuruyu besliyor ve gözetim altında kimin başarılı aday olduğunu, kimin olmadığını öğreniyor.

Daha sonra başarılı bir adayın nasıl görünmesi gerektiğini özetliyor: Yüksek notlar, en iyi üniversite soyağacı ve ırksal olarak beyaz.

Algoritma ırkçı değil, ancak ona beslenen veriler aynı çarpık görüşün daha da sürdürülmesine neden olacak kadar önyargılı: "Örneğin, yoksul insanlar yoksul oldukları için krediye daha az erişime sahipler; krediye daha az erişimleri var, yoksul kalıyorlar" diyor hukuk uzmanı Francisco de Abreu Duarte.

Bugün bu sorun hepimizin etrafındadır.

Örneğin ProPublica, ABD'de sanıkları cezalandırmak için yaygın olarak kullanılan bir algoritmanın, tüm kanıtlar aksi yönde olmasına rağmen, beyaz sanıkların neredeyse iki katı oranda yeniden suç işleme olasılığı en yüksek olan siyah sanıkları yanlışlıkla seçeceğini bildirdi. cezanın verilme zamanı ve gelecek yıllar.

Beş yıl önce, MIT araştırmacısı Joy Buolamwini, üniversite laboratuvarının küresel olarak kullanılan algoritmalarının aslında onunki de dahil olmak üzere siyah bir yüzü nasıl tespit edemediğini ortaya çıkardı. Bu ancak beyaz bir maske taktığında değişti.

Yapay zekada cinsiyete, etnik kökene veya yaşa karşı diğer önyargılar da oldukça yaygın ancak onları önyargılı insan kararlarından daha da tehlikeli kılan büyük bir fark var.

MIT Elektrik Mühendisliği ve Bilgisayar Bilimleri ve Bilim Enstitüsü'nde yardımcı doçent olan Marzyeh Ghassemi, "Yapay zeka/makine öğrenimi araştırmacılarının çoğunun, veriler ve etiketlerdeki insan yargılarının önyargılı olduğunu varsaydığını düşünüyorum, ancak bu sonuç daha kötü bir şey söylüyor" diyor. Tıp Mühendisliği ve Bilimi.

"Bu modeller zaten önyargılı olan insan yargılarını bile yeniden üretmiyor çünkü üzerinde eğitildikleri verilerde bir kusur var: İnsanlar, bu özelliklerin bir karar için kullanılacağını bilselerdi, görüntülerin ve metinlerin özelliklerini farklı şekilde etiketlerlerdi" diye ekliyor .

Aslında mevcut toplumsal önyargılardan çok daha kötü kararlar veriyorlar ve bu da, eğer yanlış yapılırsa, yapay zeka veri kümesini etiketleyen nispeten ilkel süreci saatli bomba haline getiriyor.