Yapay zeka etik uzmanı, bugünün yapay zeka patlamasının, eğer şimdi harekete geçmezsek sosyal sorunları artıracağını söylüyor
İnternet verileriyle eğitilen yapay zeka sistemleri, olumsuz önyargıları güçlendirme ve toplumsal zarara neden olma tehlikesiyle karşı karşıyadır. Salesforce'tan Kathy Baxter bunun nasıl düzeltileceğini açıklıyor.
Salesforce Etik Yapay Zeka Uygulaması Baş Mimarı Kathy Baxter, yapay zeka geliştiricilerinin algoritmik önyargıyı ele alan sistemler geliştirmek ve dağıtmak için hızlı hareket etmeleri gerektiğini söyledi. ZDNET ile yaptığı bir röportajda Baxter, adil ve tarafsız yapay zeka sistemlerini sağlamak için veri kümelerinde ve kullanıcı araştırmalarında çeşitli temsillere duyulan ihtiyacı vurguladı. Ayrıca bireysel gizliliği korurken yapay zeka sistemlerini şeffaf, anlaşılır ve hesap verebilir hale getirmenin önemini vurguladı. Baxter, herkesin yararına olacak sağlam ve güvenli yapay zeka sistemleri geliştirebilmemiz için Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından kullanılan model gibi sektörler arası işbirliğine duyulan ihtiyacı vurguluyor.
Yapay zeka etiğindeki temel sorulardan biri, yapay zeka sistemlerinin mevcut sosyal önyargıları güçlendirmeden veya yenilerini yaratmadan geliştirilmesini ve konuşlandırılmasını sağlamaktır. Bunu başarmak için Baxter, yapay zeka teknolojisinden kimin yararlandığını ve kimin para ödediğini sormanın önemini vurguladı. Kullanılan veri setlerini dikkate almak ve bunların herkesin sesini temsil ettiğinden emin olmak çok önemlidir. Geliştirme sürecine kapsayıcılık ve kullanıcı araştırması yoluyla potansiyel zararların belirlenmesi de önemlidir.
Baxter, "Bu tartışmamız gereken temel sorulardan biri" dedi. "Özellikle farklı ırklardan kadınlar bu soruyu soruyor ve yıllardır bu alanda araştırma yapıyor. Birçok insanın özellikle üretken yapay zeka kullanımıyla ilgili olarak bu konu hakkında konuştuğunu görmek beni heyecanlandırıyor. Temel olarak bu teknolojiden kimin yararlandığı ve bunun için kimin para ödediği soruluyor.
Sosyal önyargı, onları eğitmek için kullanılan veri setleri aracılığıyla yapay zeka sistemlerine aşılanabilir. Ağırlıklı olarak tek bir ırka sahip olan veya kültürel farklılaşmanın eksik olduğu görüntü veri setleri gibi önyargılar içeren temsili olmayan veri setleri, önyargılı yapay zeka sistemlerine neden olabilir. Dahası, yapay zeka sistemlerinin toplumda eşitsiz bir şekilde uygulanması, mevcut stereotiplerin devam etmesine neden olabilir.
Yapay zeka sistemlerini ortalama bir kişi için şeffaf ve anlaşılır kılmak için geliştirme sürecinde açıklanabilirliğe öncelik vermek çok önemlidir. "Düşünce zinciri" gibi teknikler, yapay zeka sistemlerinin çalışmalarını göstermesine ve karar verme süreçlerini daha anlaşılır hale getirmesine yardımcı olabilir. Kullanıcı araştırması, açıklamaların net olmasını ve kullanıcıların yapay zeka tarafından oluşturulan içerikteki belirsizlikleri tespit edebilmesini sağlamak için de hayati öneme sahiptir.
Bireylerin mahremiyetini korumak ve sorumlu yapay zeka kullanımını sağlamak şeffaflık ve rıza gerektirir. Salesforce, veri kaynağına saygı gösterilmesini ve müşteri verilerinin yalnızca izin alınarak kullanılmasını içeren sorumlu üretken yapay zeka yönergelerini takip eder. Kullanıcıların veri kullanımlarına katılmalarına, vazgeçmelerine veya veri kullanımları üzerinde kontrol sahibi olmalarına izin vermek gizlilik açısından kritik öneme sahiptir.
Baxter, "Müşteri verilerini yalnızca onların rızasını aldığımızda kullanırız" dedi. "Birinin verilerini kullanırken şeffaf olmak, onların kaydolmasına izin vermek ve geri dönüp verilerinin artık dahil edilmesini istemediklerini söylemelerine izin vermek gerçekten önemli."
Üretken yapay zekada yenilik rekabeti yoğunlaştıkça, giderek daha otonom hale gelen yapay zeka sistemleri üzerinde insan kontrolünü ve özerkliği sürdürmek her zamankinden daha önemli. Kullanıcıların yapay zeka tarafından oluşturulan içeriğin kullanımı hakkında bilinçli kararlar vermelerine olanak sağlamak ve bir insanı döngünün içinde tutmak, kontrolün korunmasına yardımcı olabilir.
Yapay zeka sistemlerinin güvenli, güvenilir ve kullanılabilir olmasını sağlamak çok önemlidir; Bunu başarmak için sektör çapında işbirliği hayati önem taşıyor. Baxter, NIST tarafından oluşturulan ve çeşitli sektörlerden 240'tan fazla uzmanın yer aldığı yapay zeka risk yönetimi çerçevesine övgüde bulundu. Bu işbirliğine dayalı yaklaşım, risklerin belirlenmesi ve çözümlerin paylaşılması için ortak bir dil ve çerçeve sağlar.
Yüz tanıma hataları veya zararlı görüntülerin üretilmesi nedeniyle yapılan haksız tutuklama vakalarında görüldüğü gibi, bu etik yapay zeka sorunlarının ele alınmaması ciddi sonuçlara yol açabilir. Koruma önlemlerine yatırım yapmak ve yalnızca gelecekteki potansiyel zararlara odaklanmak yerine buraya ve şimdiye odaklanmak, bu sorunların azaltılmasına ve yapay zeka sistemlerinin sorumlu bir şekilde geliştirilmesine ve kullanılmasına yardımcı olabilir.
Yapay zekanın geleceği ve yapay genel zekanın olasılığı ilgi çekici konular olsa da Baxter, bugüne odaklanmanın önemini vurguluyor. Yapay zekanın sorumlu kullanımını sağlamak ve sosyal önyargıları bugünden ele almak, toplumu gelecekteki yapay zeka gelişmelerine daha iyi hazırlayacaktır. Etik yapay zeka uygulamalarına yatırım yaparak ve sektörler arası işbirliği yaparak yapay zeka teknolojisi için daha güvenli, daha kapsayıcı bir gelecek yaratılmasına yardımcı olabiliriz.
Baxter, "Zaman çizelgesinin çok önemli olduğunu düşünüyorum" dedi. "Gerçekten buraya ve şimdiye yatırım yapmamız ve bu kas hafızasını yaratmamız, bu kaynakları yaratmamız, ilerlemeye devam etmemizi ancak bunu güvenli bir şekilde yapmamızı sağlayacak düzenlemeler oluşturmamız gerekiyor."