Banka CIO'su, yapay zekaya meydan okumak için tembel yazarlara değil, cesur beyinlere ihtiyacımız olduğunu söylüyor

Aranıyor: Yapay zekanın ürettiği sonuçları yorumlayabilecek bakış açısına ve becerilere sahip eleştirel düşünürler. (ChatGPT'ye aşırı güvenenlerin başvurmasına gerek yoktur.)

Önde gelen firma Boston Consulting Group'un 2023 raporunda BT danışmanlarının Open AI'nin GPT-4 aracını kullanarak daha üretken olduklarını ortaya çıkardıktan sonra şirket ve diğer sektör devleri, bazı yorumculardan milyonlarca kişiye danışmanlık hizmetlerini sürdürmek yerine ChatGPT'yi ücretsiz olarak kullanmaları gerektiği yönünde tepki aldı. dolar.

Gerekçeleri şu: Yüksek maaşlı danışmanlar cevaplarını veya tavsiyelerini zaten ChatGPT'den alacaklar, bu yüzden üçüncü taraftan uzak durmalı ve doğrudan ChatGPT'ye gitmeliler.

Geliştiriciler, danışmanlar veya iş kullanıcıları olsun, yapay zeka yoğun işler için işe alım yapan veya işe alınmak isteyen herkes için değerli bir ders var. Bu eleştirinin mesajı şu: Sınırlı veya yetersiz becerilere sahip olsa bile herkes artık yapay zekayı kullanarak ilerleme kaydedebilir veya her şeyin zirvesindeymiş gibi görünebilir. Bu nedenle oyun alanı düzleştirildi. Yapay zekanın sağladığı bilgi ve sonuçlara perspektif ve eleştirel düşünme becerisi kazandırabilecek insanlara ihtiyaç duyulmaktadır.

Yetenekli bilim insanları, teknoloji uzmanları ve konu uzmanları bile çıktıları için kendi uzmanlıkları yerine yapay zekaya çok fazla güvenme tuzağına düşebilirler.

Nature dergisinde yayınlanan konuyla ilgili araştırmaya göre, "Yapay zeka çözümleri aynı zamanda bilişsel sınırlamalarımızdan da yararlanarak, dünya hakkında gerçekte anladığımızdan daha fazlasını anladığımıza inandığımız anlayış yanılsamalarına karşı bizi savunmasız hale getirebilir."

Yale Üniversitesi'nden araştırmacılar Lisa Messer ve Princeton Üniversitesi'nden M. J. Crockett, bilgileri eleştirel bir şekilde incelemek üzere eğitilmiş bilim adamlarının bile makine tarafından üretilen içgörülerin cazibesine kapıldıkları konusunda uyarıyor.

Araştırmada, "Bu tür yanılsamalar, bilim camiasının, bazı yöntem türlerinin, soruların ve bakış açılarının alternatif yaklaşımlara hükmettiği, bilimi daha az yenilikçi ve hatalara karşı daha savunmasız hale getirdiği bilimsel monokültürlerin oluşumunu görme yeteneğini gölgeliyor" dedi.

Messer ve Crockett, yapay zeka etiği, önyargı ve işten çıkarmayla ilgili endişelerin ötesinde, bir uzmanlık kaynağı olarak yapay zekaya aşırı güvenmenin risklerinin henüz yeni bilinmeye başladığını belirtiyor.

Ana akım iş ortamlarında, üretkenlik kaybı ve yanlış güven nedeniyle kullanıcıların yapay zekaya aşırı güvenmesinin sonuçları vardır. Örneğin, Microsoft'tan Samir Passi ve Mihaela Vorvoreanu'nun konuyla ilgili çalışmalara genel bir bakışında, kullanıcılar "yapay zeka önerileriyle uyumlu olacak şekilde eylemlerini değiştirebilir, değiştirebilir ve değiştirebilirler". Buna ek olarak, kullanıcılar "AI'nın performansını değerlendirmede ve AI'nın kararlarını nasıl etkilediğini anlamada zorluk çekecekler."

Bu, yapay zekayı müşteri etkileşimi için kritik bir araç olarak gören ve yapay zekanın insan deneyimi ve eleştirel düşüncenin yerine geçecek şekilde aşırı kullanımına karşı uyarıda bulunan Esquire Bank'ın baş inovasyon sorumlusu Kyall Mai'nin düşüncesidir. Esquire Bank, hukuk firmalarına özel finansman sağlıyor ve işi anlayan ve yapay zekanın işi ilerletmek için neler yapabileceğini anlayan kişileri istiyor. Kısa süre önce Salesforce'un New York konferansında AI konusundaki deneyimlerini ve bakış açılarını paylaşan Mai ile karşılaştım.

Kodlayıcılıktan çok yönlü CIO'ya kadar yükselen Mai, yapay zekanın belki de üretkenliği artıran en değerli araçlardan biri olduğunu iddia etmiyor. Ancak aynı zamanda içerik veya kod açısından üretken yapay zekaya çok fazla güvenmenin insanların düşünme kalitesini ve keskinliğini azaltacağından da endişe duyuyor.

"Fantastik beyinlere ve sonuçlara sahip olmanın, eleştirel düşünceye sahip olmaya ve yapay zeka ile üretken yapay zekanın tavsiyeler açısından size neler sunduğu konusunda kendi bakış açılarını sunmaya istekli biri kadar iyi olmadığının farkındayız" diyor. "Duygusal ve kişisel farkındalığa sahip insanların, 'hmm, bu pek doğru gelmiyor, döngüde bir insanın olduğundan emin olmak için biriyle sohbet edecek kadar cesurum' demesini istiyoruz."

Esquire Bank, yapay zekanın üretken ve tahmine dayalı her iki yönünü de kucaklamak için Salesforce araçlarını kullanıyor. CIO rolü hem müşteri katılımını hem de BT sistemlerini kapsayan Mai, tahmine dayalı yapay zekanın bankanın karar vericilerine "hangi avukatların sitelerini ziyaret ettiğine ve bu ziyaretlere dayalı olarak hizmetlerin kişiselleştirilmesine yardımcı olduğuna" dair bilgiler sağladığını söylüyor.

Tamamen sanal bir banka olan Esquire, yapay zeka sistemlerinin çoğunu pazarlama ekipleri genelinde kullanıyor ve yapay zeka tarafından sağlanan üretken içeriği arka uç tahmine dayalı yapay zeka algoritmalarıyla birleştiriyor.

Mai, "Deneyim herkes için farklıdır" diyor. "Dolayısıyla onlara sunulacak bir sonraki içeriğin ne olması gerektiğini tahmin etmek için yapay zekayı kullanıyoruz. Bunlar, söz konusu potansiyel müşteriyle neler yapabileceğimize ilişkin sistemin arkasındaki ve sistemdeki tüm analitiği temel alıyor."

Mai, yapay zeka ile yakın işbirliği içinde çalışırken insan doğasında ilginç bir değişiklik keşfetti: İnsanlar bu sistemlere bağımlı hale geldikçe kendi kararlarını ve çabalarını göz ardı etme eğiliminde oluyorlar. "Örneğin, bazı insanların tembelleştiğini gördük; bir şeyi teşvik ediyorlar ve sonra 'ah, bu gerçekten iyi bir yanıta benziyor' diye karar veriyorlar ve onu gönderiyorlar."

Mai, yapay zekaya aşırı güvenmenin bu düzeyde olduğunu hissettiğinde, "Onları ofisime götüreceğim ve 'Sana bakış açın için para ödüyorum, yapay zekada bana vereceğin bir uyarı ve yanıt için değil. Okuyun. Aradığım şey sadece sonuçları alıp bana geri vermek değil, eleştirel düşüncenizi bekliyorum."

Yine de teknoloji ekibi üyelerini, sıradan geliştirme görevlerini üretken yapay zeka araçlarına ve platformlarına aktarmaya ve işletmeyle daha yakın çalışmak için kendi zamanlarını ayırmaya teşvik ediyor. "Kodlayıcılar, yazmak için harcadıkları zamanın yüzde 60'ının, çığır açıcı olmayan idari kodlar için harcandığını keşfettiler. Yapay zeka, sesli komutlar aracılığıyla bunu onlar için yapabilir."

Sonuç olarak, "klasik bir kodlayıcı ile bir iş analisti arasındaki çizginin çok daha fazla birleştiğini görüyor, çünkü kodlayıcı gerçekten katma değeri olmayan şeyler yapmak için çok fazla zaman harcamıyor. Bu aynı zamanda iş analistlerinin de yazılım geliştiricisi olabilirim."

"Bir platformun önüne oturup 'Bunu, şunu, bunu ve şunu yapan bir sistem istiyorum' diyebilmek ilginç olacak ve o da bunu yapıyor."