Günümüzün mücadelesi: Yapay zekanın bulanık getirileri ve sorgulanabilir doğruluğu üzerinde çalışmak
Ne yazık ki yapay zekanın etkisini veya doğruluğunu grafiksel olarak gösteren net 'öncesi ve sonrası' resimleri yok.
Yapay zeka hakkında gerçekçi beklentiler belirlemek zorlaştı ve bu durum sonuçta yapay zeka çabalarının gerçek değerini anlama çabalarını karıştırabilir. Teknoloji kullanımı arttıkça, teknoloji profesyonelleri için kariyer ortamında daha yaratıcı düşünürlerin lehine değişiklikler yapılması anlamına geliyor.
Bu, Google'ın Dünya Çapındaki Kurumsal Ağının eski mimari ve mühendislik başkanı ve şu anda yapay zeka alanında zorlu bir yol gören Secomind.ai'nin CEO'su Ajay Malik'in sözleri. Arcitura Education başkanı Thomas Erl'in ev sahipliği yaptığı yakın tarihli bir podcast'te, yapay zekanın belki de bu noktada en zorlu yönlerinden birinin gerçekçi beklentiler belirlemek olduğunu söyledi.
Malik, yeni başlayanlar için yapay zekanın sağladığı potansiyel kazanımlar konusunda yeterli ölçüm veya farkındalık bulunmadığını söyledi. Karar vericiler "şirket içinde veya müşterilerle etkileşimde kullanacakları tüm bilgilerin doğru olduğundan emin olmak istiyorlar" dedi. "Şirketler yapay zekanın yaptığı şeyin doğruluğunu nasıl ölçecek? Peki yapay zeka bir şey yaptı; bunun doğru olduğunu her zaman nasıl anlarsınız? Ona %100 nasıl güvenebilirsiniz?"
Erl, bunun yapay zeka yoluyla iş hedeflerine ne kadar iyi ulaşılabileceğinin ağırlığını gösterdiğini söyledi. "Kuruluşlar başarılı olmazsa veya tökezlerse ya da büyüme yerine kayıpla sonuçlanan yapay zeka sistemlerine yatırım yaparlarsa, bu, yapay zekanın iş gücünü nasıl etkileyebileceğinin sonucunu erteleyebilir veya değiştirebilir. Şöyle düşünebilirler: 'Bu olmadı' 'Bu işe yaramıyor, hadi insan işçilere geri dönelim.'" Ancak fırsat gerçek ve etkisi ne olursa olsun kendimizi hazırlamalıyız."
Malik, maalesef yapay zekanın etkisini veya doğruluğunu grafiksel olarak gösteren net "öncesi ve sonrası" resimlerinin bulunmadığını söyledi. Bu sorunu çözmek için "Yapay zekanın cevabının doğru olup olmadığını görmek için yerleşik doğrulama, yerleşik açıklanabilirlik ve yerleşik kontroller ve dengeler tasarlamaları gerekiyor." Buna "cevabı doğrulayabilmeleri için bir teknik sağlayan alternatif bir yol, mekanizma ve model" de dahildir.
Malik, önemli olanın yapay zeka sisteminin tam olarak ne ürettiğini anlamak olduğunu tavsiye etti. "Yapay zekayı, hiç düşünmeden güvenebileceğiniz bir kara kutu olarak kullanmayın. Bugün orada değiliz." Ayrıca yanıtların doğru olması ve halüsinasyon içermemesi gerektiğinden işletmeler ChatGPT gibi hizmetlere güvenemez.
Bunun yerine, yapay zeka sistemlerinin "yanıtları doğrulayan, verileri doğrulayan ve açıklanabilirlik sunan yerleşik kontrol ve denge mekanizmalarına sahip olması gerektiğini tavsiye ediyor. Bunun için XAI veya açıklanabilir yapay zeka adı verilen bir terim var."
Malik, teknoloji odaklı kariyer gelişiminin de derin etkileri olduğunu sözlerine ekledi. "Büyük bir kaynak değişimi yaklaşıyor" dedi. Yapay zekayı kullanan çalışanlar, yapay zekayı kullanmayan çalışanlardan çok daha değerli olacak."
Yapay zekanın etkisi önümüzdeki aylarda ve yıllarda gelişecek iş türlerinde ve rollerde hissedilecek. Malik, "Yazılımda, programlamada, hatta testlerde bile bu işlerin çoğu ortadan kalkacak - bugün değil, zamanla" diye tahminde bulundu Malik. "Bu, yapay zekanın yapabileceği bir iş; çok alt düzey bir çalışma veya çok tekrarlı, gereksiz düzeyde bir çalışma."
Bunun özellikle kodlayıcı düzeyindeki işlere kıyasla daha yüksek düzeydeki yazılım mühendisliği işlerine uygulanacağını sözlerine ekledi. "Kodlayıcılar yalnızca bilinen bazı gerçeklere dayanarak kod yazıyor ve programlama daha fazla düşünmeyi gerektiriyor. Kendi şirketimde kodlamayı desteklemek, toplantıları, toplantı tutanaklarını, yapabilecekleri eylem öğelerini desteklemek için yapay zekanın kullanılması nedeniyle 20 ila 25 kat daha yüksek üretkenlik görüyoruz. artık daha az insanla çok daha fazla şey."
Malik, aynı zamanda "düşünenlere, problem çözenlere, yaratıcı insanlara" doğru bir değişim olacağını da sözlerine ekledi. "Yapay zeka, tekrarlayan veya iyi tanımlanmış işlerle ilgilenecek. Ancak yaratıcı insanlar, yüksek hızda, yüksek kalitede ve gerçekten yaratıcı bir şeyler üretmek için yapay zekayı kullanacak. Bu değişim yaklaşıyor."