Yapay zeka önyargısını ortadan kaldırmak herkesin işidir

Yapay zeka dağıtımlarının arkasında daha fazla farkındalık ve eğitim çağrısı. Yalnızca geliştiriciler ve veri bilimcileri için değil, aynı zamanda ürün yöneticileri, yöneticiler, pazarlama yöneticileri ve satıcılar için de uygundur.

Yapay zeka tabanlı karar verme ve operasyonlara olan güven her geçen gün artarken, bir adım geri atmak ve adaleti sağlamak ve önyargıyı azaltmak için yapılabilecek her şeyin yapılıp yapılmadığını sormak önemlidir. Yapay zeka dağıtımlarının arkasında daha fazla farkındalık ve eğitim olması gerekiyor. Yalnızca geliştiriciler ve veri bilimcileri için değil, aynı zamanda ürün yöneticileri, yöneticiler, pazarlama yöneticileri ve satıcılar için de geçerlidir. Bu, yapay zekayı doğru bir şekilde elde etmenin aciliyeti hakkındaki görüşlerini paylaşan Acoustic'in baş teknoloji sorumlusu John Boezeman'ın sözü. 

S: Yapay zeka sonuçlarında adaleti sağlamak ve önyargıyı ortadan kaldırmak için kurumsal çabalar ne kadar ilerliyor?  

Boezeman:  Yapay zekadaki önyargıyı veya çarpıklığı belirlemeye çalışmak çok zor bir sorundur ve bu sorunları yalnızca tespit etmekle kalmayıp aynı zamanda düzeltebilmek ve telafi edebilmek için çok fazla ekstra bakım, hizmet ve finansal yatırım gerektirir. Birçok şirket, istemeden farklı modellerde önyargılı veya eksik veriler kullanmıştır; Bunu anlamak ve bu davranışı değiştirmek, bir şirket içinde kültürel değişiklikler ve dikkatli bir planlama gerektirir. 

Tanımlanmış veri etiği ilkeleri altında faaliyet gösterenler, yapay zekada önyargıdan kaçınmak için iyi bir konumda olacak veya en azından tanımlandığı takdirde ve tanımlandığında bunu tespit edip düzeltebileceklerdir. 

S: Şirketler yapay zeka sonuçlarını düzenli olarak gözden geçirmek için yeterince çaba gösteriyor mu? Bunu yapmanın en iyi yolu nedir?  

Boezeman:  Yapay zekanın denetlenebilirliği konusunda yeni araçlar sağlandıkça, çok daha fazla şirketin yapay zeka sonuçlarını düzenli olarak gözden geçirdiğini göreceğiz. Günümüzde birçok şirket ya yapay zeka özelliği veya yeteneği gömülü bir ürünü satın alıyor ya da bu, o ürünün denetlenebilirliğini ortaya çıkarmayan tescilli özelliğinin bir parçası. 

Şirketler ayrıca, genellikle yapay zekanın kullanım düzeyini keşfetme düzeyinde, belirli bir kullanım durumu için temel yapay zeka yeteneklerini de ortaya koyabilir. Bununla birlikte, bu durumların her birinde denetim genellikle sınırlıdır. Denetimin gerçekten önemli hale geldiği yer, yapay zekanın "tavsiye" ve "eylem" seviyeleridir. Bu iki aşamada, önyargı oluşturmamak ve sonuçları çarpıtmamak için bir denetim aracı kullanmak önemlidir. 

Yapay zeka denetimine yardımcı olmanın en iyi yollarından biri, daha büyük bulut hizmeti sağlayıcılarının yapay zeka ve makine öğrenimi hizmetlerinden birini kullanmaktır. Bu satıcıların çoğu, bu bilgileri izlemenize izin veren araçlara ve teknoloji yığınlarına sahiptir. Ayrıca, veri bilimcileri ve yapay zeka ve makine öğrenimi geliştiricileri için eğitimin bir parçası olmak üzere önyargı veya önyargı benzeri davranışların belirlenmesi de önemlidir. Nelere dikkat etmeleri gerektiği konusunda ne kadar çok insan eğitilirse, şirketler yapay zeka önyargısını belirlemeye ve azaltmaya o kadar hazırlıklı olacaktır.  

S: BT liderleri ve personeli, yapay zeka önyargısını azaltmak için daha fazla eğitim ve farkındalık almalı mı?  

Boezeman:  Kesinlikle. Hem veri bilimcileri hem de yapay zeka/makine öğrenimi geliştiricilerinin önyargı ve çarpıklık konusunda eğitime ihtiyacı vardır, ancak bu eğitimi ürün yöneticilerini, yöneticileri, pazarlama yöneticilerini ve satıcıları kapsayacak şekilde genişletmek de önemlidir. 

Her zaman yaptığınız şeyi yapma tuzağına düşmek veya geçmişte birçok endüstrinin yaptığı gibi yalnızca önyargı merkezli bir yaklaşımın peşinden gitmek kolaydır. Ancak yapay zeka önyargısını hafifletme konusunda eğitim vererek, kuruluşunuzdaki personel, yapay zekanın ürettiği her şeyin gerçek olduğuna güvenmek yerine önyargıyı tanımlayabilecektir. Oradan, şirketiniz etkisini azaltmaya yardımcı olabilir.  

S: Yapay zeka ve makine öğrenimi girişimleri birkaç yıldır devam ediyor. Kuruluşlar en verimli benimseme ve dağıtım açısından hangi dersleri öğreniyor?  

Boezeman: Yapay zeka her şeyi çözmek için her derde deva değil. Yapay zekanın doğru kullanım durumu olup olmadığından bağımsız olarak, yapay zekayı herhangi bir kullanım durumuna atmak için birçok girişimde bulundum, hepsi de gerçek değer sağlamadan bir pazarlama hikayesini etkinleştirmek için. Bir yapay zeka çözümünün başarılı bir şekilde devreye alınmasının püf noktası, verilerin kalitesi ile karar verme sürecini yönlendiren modellerin ve algoritmaların kalitesinin bir kombinasyonudur. Basitçe söylemek gerekirse, çöpleri koyarsanız, çöpleri dışarı çıkarırsınız. En başarılı dağıtımlar, net bir kullanım örneğine ve çalışmak için iyi tanımlanmış verilere sahiptir.  

S: Kuruluşun hangi alanları yapay zeka ile en çok başarı elde ediyor?  

Boezeman:  Yapay zekada birçok farklı aşama vardır, ancak bunlar çoğunlukla üç temel duruma indirgenebilir: keşfetme, önerme ve otomatik eylem. Şu anda, en çok kullanıldığını gördüğüm yerler keşfet -- içgörüler, uyarılar, bildirimler -- alanı. Sistemin size anormal veya bilinen kalıpların dışında bir şeyler olduğunu söylediği yer burasıdır. Ya da önemsemeniz gereken bir yönde bir şey trend oluyor. İnsanlar bu tür bir etkileşime ve modele güvenirler ve kanıt isterlerse kolayca işbirliği yapabilirler. 

Örneğin, pazarlamacılar kampanyalarının ne kadar başarılı olduğunu belirlemek için keşif alanında yapay zekadan yararlanır. Başka bir örnek, dolandırıcılığı veya müşteri yolculuğuyla ilgili sorunları tespit etmek için yapay zeka destekli bir çözüm uygulayabilen bir satıcıdır. 

Hala çok fazla tereddüt gördüğüm yer, tavsiye ve eylem durumlarında. Eskiden bir ürün için en iyi fiyatı hesaplayan bir ürünüm vardı ve miktardan karlılığa, indirim süresine, depoda kullanılan depolama alanına kadar birçok veri noktasına dayalı olarak bunları bir web mağazasında sergilemek için sipariş veriyordum. Ve bu ürün bile, eğer açarsanız, otomatik olarak harekete geçebilir. Bulduğumuz şey, birçok satıcının tavsiyeyi görmekten hoşlandığı, ancak kişisel olarak harekete geçmek istedikleri ve ayrıca birden fazla seçenek görmek istedikleri ve son olarak, sistemin neden bir seçenek önerdiğine dair karar ağacını görmek istedikleriydi. İlk başlattığımızda, "Sistem neden XYZ'yi önerdi?" işlevi. Satıcıya tavsiyenin neye dayandığını görmesine izin vermenin bir yolunu sağlayana kadar, buna güvenmediler.  

S: Hangi teknolojiler veya teknoloji yaklaşımları en çok fark yaratıyor?  

Boezeman:  Bu alanda faaliyet gösteren ve her gün yeni, etkili teknolojiler icat eden birçok şirket var. Spark ve Amazon Sagemaker iki örnektir. Yine de en çok fark yaratan teknolojiler, yapay zeka modellerinizdeki önyargıları belirlemenizi sağlayan teknolojilerdir. Yapay zeka algoritmaları önyargılı olduğunda, haksız ve yanlış sonuçlara yol açabilir. Sistemdeki önyargıyı görerek, durumu teşhis edebilir ve hafifletebilirsiniz. Sektör büyümeye devam ettikçe, bu, her teknoloji yığınının desteklemesi gereken önemli bir temel yetenek olacaktır.