Tamamen özerk yapay zeka aracılarına ve onları finanse eden risk sermayedarlarına yolculuk

Günümüzün yapay zeka ajanları olarak adlandırılan ajanları, kurumsal süreçlerde alınan kararlar üzerinde çok daha fazla kontrole sahip olan programlar tarafından geride bırakılacak.

"Ajantik AI" veya "yapay zeka ajanları" terimi hızla sıradan hale geliyor, öyle ki teknolojiye yatırım yapanlar ayrım yapma ihtiyacını görüyor.

Geçen hafta yayınlanan bir dizi blog yazısında, risk sermayesi şirketi Menlo Ventures'un ortakları (Anthropic gibi yapay zeka alanındaki yeni girişimleri finanse eden), "bir sonraki acente dalgasını" ve şimdiye kadar tanıtılan acenteleri nasıl geride bırakacaklarını tanımlıyor.

Yarının ajanlarının dört farklı yeteneğe sahip olduğunu yazıyorlar.

Yazarlar, "Tam otonom aracılar, bir arada tam aracılık kapasitesine ulaşan dört unsurla tanımlanır: muhakeme, harici bellek, yürütme ve planlama" diye yazıyor yazarlar.

"Açık olmak gerekirse, yarının tamamen özerk acenteleri dört yapı taşının hepsine sahip olabilir, ancak bugünün LLM uygulamaları ve acenteleri buna sahip değil" diye beyan ediyorlar.

Yazarlar Tim Tully, Joff Redfern, Deedy Das ve Derek Xiao, ilk blog yazılarında bir şeyin "ajantik" olmasının ne anlama geldiğini araştırıyorlar. Yazılımın, bir sorunu çözmek için atılacak olası adımlar arasında seçim yaparken sonuçta giderek daha fazla özerkliğe sahip olması gerektiğini yazıyorlar.

Yazarlar, "LLM'yi uygulamanızın kontrol akışına yerleştirdiğinizde aracılar ortaya çıkıyor ve hangi eylemlerin gerçekleştirileceğine, hangi araçların kullanılacağına ve girdilerin nasıl yorumlanıp yanıtlanacağına dinamik olarak karar vermesine izin veriyorsunuz" diye yazıyor.

Geleneksel bir büyük dil modeli, LLM'nin bir görevi gerçekleştirmesine olanak tanıyan harici programlar gibi "araçlara" erişime sahip olabilir. Anthropic bunu Araç Kullanımı özelliğiyle zaten yaptı ve OpenAI'de de benzer bir şey var.

Ancak yazarlar, bir aracı çağırmanın LLM'ye yalnızca sorunu çözme aracı sağladığını, sorunun nasıl çözülmesi gerektiğine karar verme kontrolünü vermediğini açıklıyor.

Yazarların yazdığı gibi, "Araç kullanımı güçlüdür, ancak tek başına 'aracı' olarak değerlendirilemez. Mantıksal kontrol akışları uygulama tarafından önceden tanımlanmış olarak kalır." Aksine, temsilcinin hangi aracın kullanılacağını seçme konusunda geniş bir yeteneğe, bir karar mantığına sahip olması gerekir.

Yazarlar, yazılımın birkaç sürümünün gerçek aracı olmaya yaklaştığını açıklıyor. Bunlardan biri, hangi aracın kullanılması gerektiğine karar veren bir dizi kural arasından seçim yapmak için geniş dil modelini kullanan bir "karar verme aracısıdır". Böyle bir karar verme sistemine örnek olarak sağlık yazılımı girişimi Anterior'u gösteriyorlar.

Daha sonra, "raylardaki temsilci" olarak adlandırılan üst düzey bir temsilciye "ulaşılması gereken daha yüksek düzey hedefler verilir (örneğin, 'bu faturayı genel muhasebe defteriyle mutabakat etmek'" diye yazıyorlar. Programa, eşleşmesi için daha fazla serbestlik veriliyor üst düzey istek ve hangi kural dizilerinin takip edileceği.

Yazarlar, aralarında müşteri hizmetleri firması Sierra ve yazılım geliştirme firması All Hands AI'nin de bulunduğu birden fazla startup'ın bu "araç üzerinde ajan" yaklaşımını izlediğini belirtiyor.

Fail yapay zekanın üçüncü ve en yüksek seviyesi olan kutsal kâse, kendi deyimiyle "dinamik akıl yürütmeye" ve büyük dil modelinin şirketin kural kitabını "içermesine" olanak tanıyan "özel kod oluşturmaya" sahiptir. Yazarlar, "genel yapay zeka aracısı" olarak bilinen bu tür bir yaklaşımın hâlâ araştırma aşamasında olduğunu belirtiyor. Örnekler arasında Cognition adlı startup tarafından yaratılan "ilk yapay zeka yazılım mühendisi" Devin yer alıyor.

"Botların Ötesinde: Yapay Zeka Aracıları Kurumsal Otomasyonun Sonraki Dalgasını Nasıl Yönlendiriyor?" başlıklı ikinci blog yazısında yazarlar, aracılı yapay zekanın işletmelerde nasıl uygulanacağını yansıtıyor.

Yazdıklarına göre, doğrudan etki, bazı temel insan görevlerini UiPath ve Zapier gibi firmalar tarafından satılan yazılımlarla değiştiren araçlar olan "robotik süreç otomasyonu"nun veya RPA'nın ötesine geçmek olacaktır.

İlk gönderide incelenen karar aracıları ve raylardaki aracılar, tedarikçi faturalarının genel muhasebe defteriyle mutabakatının sağlanması gibi iş görevlerinde pratik uygulamalar buluyor:

Diyelim ki bir şirketin uluslararası bir tedarikçiden gelen faturayı kendi defteriyle mutabakata varması gerekiyor. Bu süreç, fatura para birimi, defter para birimi, işlem tarihi, döviz kuru dalgalanmaları, sınır ötesi ücretler ve banka ücretleri dahil olmak üzere birden fazla hususu içerir ve ödemelerin mutabakatı için hepsinin birlikte alınması ve hesaplanması gerekir. Ajanlar bu tür istihbarata sahipken, bir RPA ajanı vakayı bir insana iletebilir.

Blog yazısının ana itici gücü, çok sayıda startup'ın halihazırda bu kadar yüksek temsilcilik işlevlerine yaklaşan şeyler satıyor olmasıdır. Onlar "sadece bilim kurgu da değiller" diye yazıyorlar. "Kategori hâlâ gelişmekte olsa da, yeni kurulan şirketlerden Fortune 500 şirketlerine kadar şirketler zaten bu sistemleri geniş ölçekte satın alıyor ve kullanıyor."

Yazarlar, acente programlarının özerklik derecesine ve dikey veya yatay pazar odaklanma derecesine göre düzenlenmiş çok sayıda teklifin kullanışlı bir tablosunu sunuyor:

Mevcut üretken yapay zeka (gen yapay zeka) sistemlerinde ortaya çıkan ve aracıların ilerlemesini engellemekle tehdit eden iki temel sınırlama, iki blog yazısında ele alınmamaktadır.

Birincisi, yazarların halüsinasyonlarla nasıl başa çıkılacağı konusunda ciddi bir tartışması yok, yanlış çıktıyı güvenle ileri sürdüler. Yapay zeka nesli tarafından kullanılan akıl yürütme süreci ve araçlar ne kadar zorlu olursa olsun, yapay zeka ajanlarının geleneksel sohbet robotları gibi hatalı çıktılar üretmeyeceğini varsaymak için hiçbir neden yok.

En azından karar vericilerin ve raylardaki aktörlerin halüsinasyonları azaltıp azaltmadığı sorusu açık bir araştırma sorusudur.

İkincisi, ajansal yapay zeka bir dizi kurumsal süreci makul bir şekilde otomatikleştirebilse de, bu otomasyonun etkisi ve bunun gerçekten bir gelişme olup olmadığı konusunda bugüne kadar çok az veri var. Bu kısmen halüsinasyonlarla ilgili ilk noktayla bağlantılı, ancak tamamen değil. Mantık yürütmesinde veya eylemlerinde hatalı olmayan bir temsilci, yine de kişinin yapacağına kıyasla idealin altında sonuçlara yol açabilir.

Princeton bilgisayar bilimi akademisyenleri Arvind Narayan ve Sayash Kapoor'un bu ay Princeton University Press tarafından yayınlanan "AI Snake Oil" adlı kitabında öne çıkan bir örnek tartışılıyor. Bir yapay zeka modeli, hastaneye girdiklerinde zatürre belirtileri gösteren astımlı hastaların geçmişini takip etti. Yapay zeka modeli, onların hastane popülasyonunda en düşük riske sahip hastalar arasında olduklarını buldu. Bu "akıl yürütmeyi" kullanarak bu tür hastalar taburcu edilebilir.

Ancak model nedensel bağlantıyı gözden kaçırıyordu: Astımlı ve zatürre semptomları olan hastalar, acil bakım aldıkları için en az riskli gruptu. Narayan ve Kapoor, basitçe onları taburcu etmenin bu tür bir bakımı atlayacağını ve sonuçların "felaket" olabileceğini söylüyor.

Karmaşık nedensel durumların olduğu gerçek dünya durumlarında büyük ölçüde idealin altında sonuçlara yol açabilen şey, nedensellik yerine bu tür bir korelasyondur.

Ayrıca işbirliği yapan aracılar da yazarların tartışma kapsamı dışında bırakılmıştır. Hubspot CTO'su Dharmesh Shah'ın yakın zamanda ZDNET'e söylediği gibi, ajansal yapay zekanın gelecekteki çalışmaları tek bir ajan tarafından değil, muhtemelen birbirleriyle işbirliği yapan yapay zeka ajanlarının ağları tarafından yapılacak.

Bu ihmaller göz önüne alındığında, risk sermayedarlarının araştırmalarının kapsamına rağmen, giderek daha güçlü hale gelen yapay zeka ajanlarının olduğu bir dünyada başarılabilecek şeylerin yalnızca yüzeyini çizdikleri oldukça açıktır.