Lenovo, dizüstü bilgisayarlar üretirken yapay zeka önyargısını ortadan kaldırmak için nasıl çalışıyor?

Ürün çeşitliliği yeniden tasarlandı: Lenovo'dan Ada Lopez, bu özel röportajda çeşitlilik içeren ekiplerin teknolojinin geleceğini ve herkes için erişilebilirliği nasıl şekillendirebileceğini ortaya koyuyor.

Ada Lopez, Kıdemli Müdür, Lenovo Ürün Çeşitliliği Ofisi

İşte Lenovo hakkında zaten biliyor olabileceğiniz şeyler: Çok uluslu teknoloji devi, diğer tüm şirketlerden daha fazla bilgisayar satıyor. Ayrıca Lenovo'nun çeşitli iş yatırımları arasında tabletler, monitörler, aksesuarlar, akıllı telefonlar, akıllı ev ve işbirliği çözümleri, yüksek performanslı bilgi işlem, artırılmış ve sanal gerçeklik, ticari Nesnelerin İnterneti, yazılım, hizmetler ve akıllı altyapı veri merkezi çözümleri yer alıyor.

Ancak Lenovo hakkında bilmiyor olabileceğiniz şeyler şunlar olabilir: Şirket aynı zamanda yapay zekaya da büyük yatırım yapıyor ve başka bir çeşitlilik türünü (insan çeşitliliğini) birinci öncelik haline getirdi. Şirketin Ürün Çeşitliliği Ofisi'nin Lenovo kıdemli yöneticisi Ada Lopez ile röportaj yapma fırsatı buldum. Zamanını paylaştı ve sonuçta şirketin yapay zeka önyargısını ortadan kaldırma ve katılımı teşvik etme çabalarına ilişkin bu büyüleyici, geniş kapsamlı sohbet ortaya çıktı.

Hemen içeri girelim.

ZDNET: Lütfen kendinizi tanıtın ve Lenovo'nun Ürün Çeşitliliği Ofisini nasıl yönetmeye başladığınıza dair bize biraz bilgi verin.

Ada Lopez: Adım Ada Lopez ve Lenovo'nun Ürün Çeşitliliği Ofisinin Kıdemli Müdürüyüm. Öğretmen, ürün ve proje yöneticisi olarak 18 yıldan fazla deneyime sahibim.

Küba'da doğan ve 5 yaşında ABD'ye göç eden bir çocuk olarak kültürel, dilsel ve ailevi dışlanma sorunlarıyla yüzleşmek ve bunları çözmek zorunda kaldım. Çeşitlilik ve kapsayıcılıkla ilgili konular, hatırlayabildiğim kadarıyla hayatta kalmam için çok önemliydi - kelimenin tam anlamıyla bunu kastediyorum. Lenovo'daki görevim gereği artık çabalarımı müşterilerimizden herhangi birini dışlayabilecek teknolojik engelleri veya önyargıları ortadan kaldırmak için kullanabilirim.

Lenovo ürünlerinin, diğer herkes için olduğu kadar, her düzeydeki kullanıcılar ve yeterli hizmet alamayan diğer nüfuslar için de erişilebilir olduğundan emin olmak istiyorum. Sürekli yeni bir çığır açtığımız için işim çok heyecan verici. Belirli bir yanıtın bulunmadığı, uzun süredir ihmal edilen bir alanda çalışıyoruz. Bu aynı zamanda biraz yıkıcı olmam gerektiği anlamına da geliyor çünkü şirket düzeyinde teknoloji uzmanlarından başarılı bir ürünün nelerden oluştuğuna dair görüşlerini genişletmelerini istiyorum.

ZDNET: Kontrol edilmeyen yapay zeka önyargısının uzun vadeli toplumsal etkilerini tartışabilir misiniz?

AL: Yapay zeka iş ortamını değiştiriyor ve Lenovo, yapay zekanın güvenli ve sorumlu bir şekilde uygulanmasının öneminin farkında. Bu ihtiyacı karşılamak için Lenovo, cinsiyet, etnik köken ve engellilik açısından farklı geçmişleri temsil eden 20 çalışandan oluşan bir grup olan Sorumlu Yapay Zeka Komitesi'ni kurdu.

Birlikte, çeşitlilik ve katılım, gizlilik ve güvenlik, hesap verebilirlik ve güvenilirlik, açıklanabilirlik, şeffaflık ve çevresel ve sosyal etki ilkeleri çerçevesinde dahili ürünleri ve harici ortaklıkları gözden geçirirler.

ZDNET: Teknoloji endüstrisinde yapay zeka önyargısına ilişkin yaygın yanlış kanılar nelerdir?

AL:Ön yargının yapay zeka sistemlerine sızmasını durdurmak için yapabileceğimiz hiçbir şey olmadığına dair bir yanlış kanı var.

Çeşitli geçmişlere veya yaşanmış deneyimlere sahip yeteneklere sahip olmamızı sağlayarak, bugün yapay zeka önyargı riskini azaltmaya başlayabiliriz. Programcıların veya tasarımcıların farklı bakış açılarının dahil edilmesini teşvik eden dahili protokoller oluşturmak, yapay zekanın çıktı üretmek için kullandığı veri kümesindeki önemli sayıda önyargıyı ele almanın ilk adımıdır.

Bu, işletmelerin bugün başlayabileceği bir şeydir!

ZDNET: Otomatik sistemlerdeki yapay zeka önyargısına ve bunun toplumsal etkisine bir örnek verebilir misiniz?

AL:Yapay zeka programlarına ilişkin bilgilerin önceden var olan internet kaynaklarından alındığı göz önüne alındığında, bu sistemlerin önyargılı görüş ve bakış açılarını filtreleyememesi mümkündür. Sonuçta bu durum, yapay zekanın daha büyük bir iyiliğe yönelik bir araç olarak tam potansiyeline asla ulaşamayabileceği dengesiz bir geleceğe yol açabilir.

Yaşadığımız yaygın bir örnek cinsiyet önyargısıdır. Çevrimiçi verilerin çoğunun erkeklere yönelik olduğu göz önüne alındığında, Boston Üniversitesi'nin Microsoft ile işbirliği içinde yürüttüğü araştırma, Google News ile eğitilen sistemlerin erkekleri "kaptan" ve "finansör" gibi unvanlarla ilişkilendirdiğini ortaya çıkardı. Bunun tersine, kadınlar "resepsiyonist" ve "ev hanımı" ile ilişkilendirilmektedir.

Çoğunlukla erkek ekipler tarafından oluşturulan, önyargılı verilerle eğitilen birçok yapay zeka sistemi, kadınlar için önemli sorunlar yarattı. Bu önyargılar, yanlış kararların insanların mali veya fiziksel sağlığına zarar verebileceği alanlar olan, erkeklere daha iyi seçenekler ve daha olumlu tarama araçları sunan kredi kartı şirketlerine de yansıyor.

Prolific'e göre, yapay zeka kullanan ABD sağlık sistemlerinde de ırk ayrımcılığı gördük. Yapay zeka sistemi, hangi hastaların ekstra tıbbi bakıma ihtiyacı olduğunu tahmin etmek ve sağlık hizmeti maliyet geçmişini analiz etmek için tasarlandı.

Sistem, maliyetin bir kişinin sağlık bakım ihtiyaçlarını gösterdiğini varsayıyor ancak Siyah ve beyaz hastalar arasındaki farklı ödeme şekillerini hesaba katmıyor. Bu tutarsızlık nedeniyle, Siyah hastalar daha düşük risk puanları aldılar (maliyet açısından daha sağlıklı beyaz insanlarla eşit olduğu varsayılıyor) ve aynı sorunları olan beyaz hastalarla aynı ekstra bakıma hak kazanamadılar.

ZDNET: Lenovo'nun yapay zeka önyargısı konusunda karşılaştığı sorunu ve bunun nasıl çözüldüğünü anlatabilir misiniz?

AL: Bir keresinde, güçlü üretken yapay zeka teknolojisini göstermek için bir çalışan etkinliği sırasında hiper gerçekçi, yapay zeka destekli bir avatarın tanıtımını yapmıştık.

Çalışanlardan olumsuz geri bildirimler almayı beklemiyorduk ancak gelecekte avatarların oluşturulmasını etkileyecek bir öğrenme fırsatı sağladı. Çalışanların ayrıntılı anketi, gelecekteki yinelemelerde kasıtsız önyargılarla ilgili endişeleri gidermemize yardımcı olmak için bize kullanıcı algılarına dair bir fikir verdi.

Çeşitliliğin, eşitliğin ve katılımın kanıtlanmış bir öncelik olması gereken kendi çözümlerimizin yanı sıra ortaklarımızın çalışmalarına da gerçek bir titizlik göstermeliyiz. Verilerdeki önyargıyı değerlendirmek ve az temsil edilen veya bir şekilde bölümlere ayrılmış olabilecek alt popülasyonları belirlemek için özel araçlar kullanıyoruz.

Farklı algoritmaları ve eğitim verilerini değerlendirmek ve önyargıyı azaltmak için AI Fairness 360 adlı açık kaynaklı yazılımı da kullanıyoruz. Bu, korunan sınıflardan da daha derinlere gidiyor; örneğin, gelir düzeyi veya kredi puanı gibi değişkenlere göre seçilen sosyoekonomik gruplara karşı önyargının kontrol edilmesi.

ZDNET: Lenovo'nun Ürün Çeşitliliği Ofisi, yapay zekadaki potansiyel önyargıları belirlemek ve düzeltmek için nasıl çalışıyor?

AL: Yapay zeka önyargısı nadiren tamamen ortadan kaldırılabilse de, eğitim veri kümesine farklı geçmişlere sahip kişileri dahil ederek bunu mümkün olduğunca yönetmeye ve hafifletmeye çalışıyoruz.

Lenovo'da, yapay zekanın kuruluşta desteklemesi gereken ilkelere karar vermek için farklı geçmişlere sahip 20 kişiyi bir araya getiren bir Sorumlu Yapay Zeka Komitesi kurduk.

ZDNET: Bir geliştirme ekibinin çeşitliliği yapay zeka önyargısının azaltılmasını nasıl etkiler?

AL:İşyerinde çeşitliliği teşvik etmek ve teşvik etmek çok önemlidir ve bu, farklı geçmişlere veya yaşanmış deneyimlere sahip yetenekleri işe almamızı sağlayacaktır. Yukarıda bahsettiğim gibi, programcıların veya tasarımcıların farklı bakış açılarının dahil edilmesini teşvik eden dahili protokoller oluşturmak, yapay zekanın çıktı üretmek için kullandığı veri kümesine önemli sayıda önyargının dahil edilmesi riskini azaltır.

İş dünyası liderleri, yapay zekanın neye benzediğini ve kilidini açabileceğini kontrol etmede büyük bir rol oynuyor. Kuruluşların sorumlu yapay zeka kullanımının ne anlama geldiğini kapsamlı bir şekilde planlaması ve bu ideali desteklemeye kararlı kalması zorunludur. Potansiyel sorunları belirlemek ve en iyi uygulamaları belirlemek için paydaşlarla etkileşime geçmek, liderliğin ve ilgili ekiplerin sürekli dikkatini gerektirecektir, ancak bunu yapmak çok önemlidir.

ZDNET: Yapay zeka önyargısının sürdürülmesinde veri kaynakları nasıl bir rol oynuyor ve bu durum nasıl ele alınabilir?

AL: Lenovo'nun İnsanlık İçin Veri raporu, iş liderlerinin %88'inin, önümüzdeki beş yıl içinde kuruluşlarının verilerinin değerini açığa çıkarmalarına yardımcı olmada yapay zeka teknolojisinin önemli bir faktör olacağını söylediğini ortaya çıkardı. Dolayısıyla bu şirketler verileri toplarken, işlerken veya kullanırken, bulguların önyargıyla şekillenmesi riski vardır.

ZDNET: Yapay zeka önyargısı, sağlık veya finans gibi çeşitli sektörlerde karar almayı nasıl etkileyebilir?

AL:Sağlık hizmetlerinde yapay zeka olsun ya da olmasın önyargının çok sayıda örneği var. Yapay zeka ile ilgili zorluk kısmen, bir algoritmanın verilerdeki kalıpları tanıyabilmesi ve yanlış sonuca varabilmesidir. Her ne kadar bu veri seti sonucu desteklese de anahtar değişkenler eksik olabilir. Veya çoğu zaman olduğu gibi bu model, belirli bir grup içindeki tarihsel yanlış teşhislerin veya ihmallerin ürünü olabilir.

Polislik verileri, veriyi güçlendiren önyargının yaygın bir örneğidir. Belirli topluluklara daha fazla polis denetimi uygulanırsa tutuklamalar daha yüksek olur. Yapay zeka için tutuklamalar suçla eşdeğerdir, dolayısıyla suçun daha büyük olduğu sonucuna varılabilir. Veriler önyargıları ve kalıpları barındırıyor. Burada bağlam her şeydir.

ZDNET: Önyargıyı tespit etmek ve düzeltmek için yapay zeka teknolojisinde ne gibi ilerlemeler kaydediliyor?

AL: Açıklanabilirlik hızla ilerliyor, dolayısıyla yapay zekanın bir şeyi nasıl ürettiğini daha iyi anlıyoruz. Doğrusal regresyon algoritmaları son derece açıklanabilir, ancak sinir ağı süreçlerinde her zaman gizli unsurlar bulunacaktır. Yine de yapay zekayı açığa çıkarmanın ve daha iyi açıklamanın yeni yolları var ve Lenovo gibi şirketlerin bu gelişmelerden faydalanması önemli.

Ayrıca kaynak verilerde ve yapay zekada kullanılan modelde daha fazla şeffaflık görüyoruz, böylece boşlukları ve eksiklikleri daha iyi tespit edip düzeltebiliyoruz. Şeffaflık olmadan eğitim verilerini ve algoritmalarını sorgulamak ve geliştirmek imkansızdır.

ZDNET: Yapay zeka önyargısını belirlemek ve düzeltmek için tüketici geri bildirimleri hangi şekillerde kullanılabilir?

AL: Çoğu durumda müşteri geri bildirimi son çare olmalıdır. Geliştirme sırasında ekiplerin önyargıyı azaltmak için çok bilinçli bir şekilde farklı gruplara danışması ve bunları temsil etmesi gerekir; bunun herhangi bir yapay zekanın temelinde olması gerekir.

Ancak müşteri geri bildirimi, daha küçük alt popülasyonlarda veya birden çok boyutun kesişimlerini ele alırken değerli olabilir; örneğin cinsellik, ırk veya cinsiyet kimliği.

ZDNET: Disiplinlerarası yaklaşımlar yapay zeka önyargısının anlaşılmasını ve azaltılmasını nasıl geliştirebilir?

AL: Lenovo'nun Sorumlu Yapay Zeka Komitesi, güvenlik, satış, gizlilik, hukuk, çeşitlilik ve katılım da dahil olmak üzere çok farklı geçmişlere ve uzmanlık alanlarına sahip kişilerden oluşur. Bu fikir çeşitliliğinden ve teknolojinin çok titiz bir şekilde incelenmesinden büyük ölçüde faydalanıyoruz.

Bunu da farklı amaç ve kapsamlarda yürütülen hakemli çalışmalar ve araştırmalarla tamamlıyoruz. Yapay zeka yeni değil ancak mevcut dağıtım ölçeği ve hızı emsalsiz; bu nedenle son derece düşünceli ve tetikte olmamız gerekiyor.

ZDNET: Yapay zeka önyargısı sorunuyla mücadelede diğer teknoloji şirketlerine ne gibi tavsiyelerde bulunursunuz?

AL: İnsanlar olarak, ne kadar çabalarsak çabalayalım, doğası gereği hem bilinçli hem de bilinçsiz önyargılara sahibiz. Programlamanın çeşitli düzeylerinde her zaman bir miktar önyargı olacaktır, ancak insanların önyargılarını anlamalarını ve tanımalarını sağlamak için gayretli kalabiliriz.

Farklı deneyimlere, geçmişlere ve bakış açılarına sahip ekipler oluşturmak da bu nedenle gereklidir.

ZDNET: ZDNET'in küresel kitlesiyle paylaşmak istediğiniz başka düşünceleriniz var mı?

AL:Yapay zeka, dünyamızın işleyiş şeklini tamamen değiştirme potansiyeline sahip. Her teknolojide olduğu gibi, yeteneklerinin yanı sıra kullanımının sakıncalarını da anlamalıyız. Özellikle bu teknoloji daha akıllı hale geldikçe yapay zekayı çok az denetime bırakmak sorunlu olabilir.

Bunun yerine çıktıları sorgulamamız, bunlara meydan okumamız ve girdileri kontrol edenleri incelememiz gerekiyor. Yapay zekayı keşfetmeli ve onu bir asistan olarak kullanmalıyız ancak henüz tam olarak güvenebileceğimiz noktaya gelmedi.

Son düşünceler

ZDNET editörleri ve ben, bu derinlemesine röportaja zaman ayırdığı için Ada'ya çok teşekkür etmek istiyoruz. Burada düşünülecek çok şey var. Teşekkür ederim Ada!

Ne düşünüyorsun? Ada'nın tavsiyeleri size kuruluşunuzda önyargı ve çeşitlilik sorunlarını nasıl iyileştirebileceğiniz konusunda fikir verdi mi? Aşağıdaki yorumlarda bize bildirin.

Günlük proje güncellemelerimi sosyal medyadan takip edebilirsiniz. Substack'taki haftalık güncelleme bültenime abone olmayı ve beni Twitter'da @DavidGewirtz adresinden, Facebook'ta Facebook.com/DavidGewirtz adresinden, Instagram'da Instagram.com/DavidGewirtz adresinden ve YouTube'da YouTube.com/DavidGewirtzTV adresinden takip etmeyi unutmayın.