Şirketlerin yapay zeka kullanımına yönelik etik kuralları var mı? Ankete göre profesyonellerin %56'sı emin değil

Deloitte'un ikinci baskı Teknoloji Güven Etiği raporundaki anket katılımcılarına göre, üretken yapay zeka gibi bilişsel teknolojiler hem toplumsal fayda hem de ciddi etik risk açısından en fazla potansiyele sahip.

Yapay zeka 1950'lerden bu yana ortalıkta olmasına rağmen, geçtiğimiz yıl içinde muazzam bir büyüme kaydetti. Teknoloji devleri yapay zekayı ürün ve hizmetlerine uygularken, bireyler de bunu hayatlarını biraz kolaylaştırmak için kullanıyor.

Deloitte, Teknoloji Güveni Etiği uygulaması öncülüğünde hazırlanan "Teknolojide Etik ve Güven Durumu" raporunun ikinci baskısında şirketler ve profesyonellerle anket yaptı. Rapora göre şirketlerin yüzde 74'ü üretken yapay zekayı test etmeye başladı, yüzde 65'i ise bunu şirket içinde kullanmaya başladı. Yapay zekanın yeni yeteneklerine ilişkin farkındalığın artması, kuruluşların bu teknolojiyi etik olarak nasıl kullanabilecekleri sorusunu gündeme getirdi.

Deloitte, sektör liderlerinin üretken yapay zeka da dahil olmak üzere yeni ortaya çıkan teknolojilerin etik kullanımına ilişkin endişeleri nasıl değerlendirdikleri hakkında bilgi toplamak için çeşitli sektörlerden 26 uzmanla görüştü.

Şirket daha sonra hipotezleri test etti ve daha fazla bilgi edinmek için 1.700'den fazla işletmeye ve teknik uzmana 64 soruluk bir anket sundu.

Deloitte Consulting LLP'nin genel müdürü ve Deloitte'un Teknoloji Güveni Etiği uygulamalarının lideri Beena Ammanath tarafından hazırlanan raporda, gelişen teknolojilerden şu şekilde bahsediliyor: Bilişsel teknolojiler (genel ve üretken yapay zeka ve sohbet robotları dahil), dijital gerçeklik, ortam deneyimleri, otonom araçlar , kuantum hesaplama, dağıtılmış defter teknolojisi ve robotik.

Ankete göre, iş liderleri ve gelişen teknolojilerin geliştiricilerinden oluşan anket katılımcılarının %39'u, bilişsel teknolojilerin sosyal fayda açısından en fazla potansiyele sahip olduğunu düşünürken, bu oran dijital gerçeklikte %12 ve ortam deneyimlerinde %12'dir.

Ancak ankete katılanların %57'si aynı zamanda bilişsel teknolojilerin ciddi etik risk açısından en büyük potansiyele sahip olduğunu düşünüyor.

En endişe verici istatistik, ankete katılanların yarısından fazlasının (%56) "şirketlerinin üretken yapay zeka kullanımına rehberlik eden etik ilkelere sahip olmadığını veya olup olmadığından emin olmadıklarını" söylemesidir.

Deloitte'un gelişen teknolojilerde etik ve güven hakkındaki 2022 raporuyla karşılaştırıldığında, bu yılki rapor "kuruluşların kendilerini bir kez daha bu yeni teknolojinin geniş çapta benimsenmesinin ortaya çıkardığı yeni etik sorunlarla boğuşurken bulduklarını" ortaya koyuyor.

Bu sorunlar, işletmelerin ve kuruluşların bu teknolojileri nasıl kullandıklarına ilişkin endişelerle bağlantılıdır.

Yapay zekanın birçok faydasına rağmen yanıt verenlerin %22'si veri gizliliği konusunda endişeliyken, %14'ü yapay zekanın çıktılarını üretmek için verilerle nasıl eğitildiğine ilişkin şeffaflıktan bahsetti.

Veri zehirlenmesinin yanı sıra fikri mülkiyet ve telif hakkı da ankete katılanların %12'sini ilgilendiren endişelerdi. Veri zehirlenmesi, veri eğitim setlerinin kötü aktörler tarafından "kirlenmesidir" ve yapay zeka tarafından üretilen hatalı sonuçlara yol açabilir.

Deloitte'un raporu ayrıca ankete katılanların etik ihlallerin ciddiye alınmaması durumunda ortaya çıkabileceğine inandıkları zarar türlerini de ayrıntılı olarak açıkladı.

Ankete katılanların %38'i en büyük endişe kaynağının itibar kaybı olduğunu belirtirken bunu yanlış teşhisler veya veri gizliliği ihlalleri gibi insani zararlar (%27), telif hakkı ihlali (%17) gibi düzenleyici cezalar, mali zarar (%9) ve çalışanların zararları takip ediyor. memnuniyetsizlik (%9).

Bu zararlar, gizlilik ihlalleri, telif hakkı ihlali ve yapay zekanın etik olmayan kullanımıyla ilgili diğer sorunlar nedeniyle halihazırda açılmış olan çeşitli davalarda açıkça görülmektedir.

Peki şirketler yapay zekayı güvenli bir şekilde kullandıklarından nasıl emin olabilirler? Deloitte, şirketlere yardım etmeye yönelik çok adımlı bir yaklaşımı şöyle sıralıyor:

• Keşif: Şirketler, ürün sahiplerinin, iş dünyasının liderlerinin ve yapay zeka/makine öğrenimi uygulayıcılarının atölye çalışmaları aracılığıyla üretken yapay zekanın kendi işletmeleri için nasıl değer yaratabileceğini görmelerine izin vererek başlayabilir. Bu şekilde şirketler yapay zekayı işlerine dahil etmenin maliyet ve faydalarını anlayabilir.
• Temel: Şirketler, üretken yapay zekayı işletmelerine uygulamak için yapay zeka platformları satın alabilir veya oluşturabilir. Ankete katılanların %30'u, ankete katılanların şirketlerinin büyük yapay zeka platformlarındaki mevcut yetenekleri kullanmayı tercih ettiğini belirtti. Katılımcıların %8'i kendi şirket içi yapay zeka platformlarını oluştururken, %5'i üretken yapay zekayı kullanmamaya karar verdi.
• Yönetim: Yapay zeka kullanımına yönelik standartlar ve protokoller oluşturmak, yapay zekanın olası zararlı etkilerini en aza indirebilir; bu nedenle şirketlerin ne tür etik ilkeleri desteklemeyi planladıklarını belirlemeleri gerekir.
• Eğitimler ve öğretim: Şirketler, yapay zeka kullanımının etik ilkelerini özetleyen eğitimler verilmesini zorunlu kılabilir. Ayrıca çalışanları çeşitli yüksek lisans eğitimlerinin kullanımı konusunda eğiten teknik eğitimler, şirketlere yapay zekanın etik kullanımı konusunda daha fazla rehberlik sağlayabilir.
• Pilotlar: Mühendisler ve ürün liderleri, kavramların ve pilot programların kanıtını test etmek ve ardından çok riskli olan hususları ortadan kaldırmak için çeşitli kullanım örnekleri üzerinde deneyler yapabilir.
• Uygulama: Şirketler, yeni geliştirilmiş bir ürünü pazara sunmak için bir plan taslağı hazırlamalı ve ürünün uygulanması ve sahiplenilmesi konusunda sorumluluk vermelidir. Şirketin ayrıca ortaya çıkabilecek sorunları çözmeye hazır uzmanlardan oluşan bir ekibe sahip olması gerekir. Şirketlerin kullanıcı verilerinin modele nasıl girildiğini, modelin çıktısına nasıl ulaştığını ve modelin halüsinasyon görme olasılığını açıklaması gerektiğinden şeffaflık da bu adım için çok önemlidir.
• Denetim: Görüşülen kişilerden birine göre şirketlerin, yapay zeka kullanımının risklerine bağlı olarak politikalarını değiştirmeleri gerekecek. Tüm kuruluşlar aynı kullanım senaryosu için yapay zekayı bünyesine dahil etmeyeceğinden, bu durum şirketten şirkete değişiklik gösterebilir.

Üretken yapay zekanın çalışanlar üzerindeki etkisi göz önüne alındığında, şeffaflık ve veri gizliliği gibi konular işten çıkarılmanın üzerinde sıralandı. Bununla birlikte raporda ayrıca "%49'u, kuruluşlarında yapay zeka nedeniyle yerinden edilen işçilerin farklı rollere geçtiğini, yeniden eğitildiğini ve becerilerinin artırıldığını söyledi." Ayrıca, Deloitte'a göre %11'inin işine son verildi, %13'ü yeniden eğitilmeden veya becerileri artırılmadan farklı bir role yerleştirildi ve %27'si kuruluşlarında yapay zeka nedeniyle herhangi bir iş değişikliği yaşamadı.

Ammanath, "Şirketler riskleri belirlemek ve yönetimi önceden kurmak için ne kadar erken birlikte çalışırsa, paydaş değeri yaratmaya, markalarını yükseltmeye, yeni pazarlar yaratmaya ve daha adil bir dünya inşa etmeye katkıda bulunma yetenekleri o kadar iyi olabilir" dedi.