Yapay zeka etiği araç seti daha fazla değerlendirme bileşeni içerecek şekilde güncellendi
Veritas Araç Takımının ikinci yinelemesi, finansal kurumlara yapay zekanın 'sorumlu' kullanımı konusunda rehberlik edecek hesap verebilirlik ve şeffaflığa yönelik değerlendirme metodolojilerini içeriyor.
Finansal kurumların yapay zekayı (AI) "sorumlu" kullanımlarını değerlendirmede daha fazla alanı kapsamasına yardımcı olmak için bir yazılım araç seti güncellendi.
İlk olarak geçen yıl Şubat ayında başlatılan değerlendirme araç seti, toplu olarak FEAT olarak adlandırılan adalet, etik, hesap verebilirlik ve şeffaflık hakkındaki dört temel ilkeye odaklanıyor. Finans sektöründeki işletmelerin yapay zeka ve veri analitiği kullanım hedeflerini tanımlamaları ve potansiyel önyargıları belirlemeleri için bir kontrol listesi ve metodolojiler sunar.
Araç seti, Singapur Para Otoritesi (MAS) liderliğindeki ve aralarında Bank of China, BNY Mellon, Google Cloud, Microsoft, Goldman Sachs, Visa, OCBC Bank, Amazon Web Services, IBM'in de bulunduğu 31 sektör oyuncusundan oluşan bir konsorsiyum tarafından geliştirildi. ve Citibank.
Araç setinin ilk sürümü, FEAT ilkelerindeki "adillik" bileşeni için değerlendirme metodolojisine odaklanmıştı; bu, metrik değerlendirmesinin otomatikleştirilmesini ve bu ilkenin görselleştirilmesini içeriyordu.
MAS, ikinci yinelemenin, diğer üç ilkeye ilişkin inceleme metodolojilerinin yanı sıra geliştirilmiş bir "adillik" değerlendirme metodolojisini içerecek şekilde güncellendiğini söyledi. Konsorsiyumdaki birçok banka araç setini test etmişti.
GitHub'da mevcut olan açık kaynak araç seti, eklentilerin finans kurumunun BT sistemleriyle entegrasyonu sağlamasına olanak tanır.
Veritas adı verilen konsorsiyum, metodolojinin nasıl uygulanabileceğini göstermek ve temel uygulama dersleri sunmak için yeni kullanım senaryoları da geliştirdi. Bunlar arasında, tahmine dayalı yapay zeka tabanlı sigortalama işlevi için şeffaflık değerlendirmesi yürüten İsviçre Reasürans'ı içeren bir vaka çalışması da vardı. Google ayrıca FEAT metodolojilerini Hindistan'daki sahtekarlık tespit ödeme sistemlerine uygulama ve yapay zeka ilkelerini ve süreçlerini haritalandırma deneyimini de paylaştı.
Veritas ayrıca, aralarında Standard Chartered Bank ve HSBC'nin de bulunduğu yedi finans kurumunun, AI değerlendirme metodolojisinin kendi iç yönetişim çerçeveleriyle entegrasyonu konusunda paylaştığı dersleri özetleyen bir teknik inceleme yayınladı. Bunlar arasında coğrafyaları kapsayan "sorumlu bir yapay zeka çerçevesi" ihtiyacı ve yapay zeka kullanım durumları için gereken yönetişimi belirlemek için risk bazlı bir model yer alıyor. Belgede ayrıca finans sektöründeki yeni nesil yapay zeka profesyonellerine yönelik sorumlu yapay zeka uygulamaları ve eğitimleri de ayrıntılarıyla anlatılıyor.
MAS Fintech Baş Sorumlusu Sopnendu Mohanty şunları söyledi: "Yapay zekadaki gelişmelerin hızlı temposu göz önüne alındığında, finans kurumlarının yapay zekanın sorumlu kullanımı için sağlam çerçevelere sahip olması kritik önem taşıyor. Veritas Araç Seti 2.0 sürümü, finansal kurumların ve fintech firmalarının, yapay zekayı etkin bir şekilde değerlendirmelerini sağlayacak. AI'nın adalet, etik, hesap verebilirlik ve şeffaflık için kullanım örnekleri. Bu, sorumlu bir AI ekosisteminin desteklenmesine yardımcı olacaktır."
Singapur hükümeti, üretken yapay zeka ile ilişkili en önemli altı riski belirledi ve bu sorunların nasıl ele alınabileceğine dair bir çerçeve önerdi. Ayrıca, yapay zekayı benimseme risklerini azaltan test araç kitleri geliştirmek için açık kaynak topluluğundan yararlanmayı amaçlayan bir temel de oluşturdu.
OpenAI CEO'su Sam Altman, bu ayın başlarında Singapur'a yaptığı ziyarette, kontrolün insanlarda kalmasıyla, halkın katılımının yanı sıra üretken yapay zekanın da geliştirilmesi çağrısında bulundu. Yapay zekanın benimsenmesiyle ilişkili olabilecek potansiyel riskleri veya zararları azaltmak için bunun gerekli olduğunu söyledi.
Altman, yapay zekanın ilgi görmesi ve ulusların ilgisini çekmesi nedeniyle önyargı ve veri yerelleştirmesiyle ilgili zorlukların ele alınmasının da kritik olduğunu söyledi. ChatGPT'nin arkasındaki beyin çocuğu olan OpenAI için bu, üretken yapay zeka platformunu "mümkün olduğunca çeşitli" ve diğerlerinin yanı sıra birçok kültürü, dili ve değeri kapsayan veri kümeleri üzerinde nasıl eğiteceğini bulmak anlamına geliyordu.