Yapay zeka tarafından oluşturulan kodunuz hatalı hale gelirse, en çok kim sorumluluğa maruz kalır?

Yapay zekadaki son gelişmelerin kısa bir tarihçesi, ne anlama geldikleri ve neden önemsemeniz ya da önemsememeniz gerektiği.

DeepMind, Google, Meta ve OpenAI gibi şirketler tarafından piyasaya sürülen yeni yapay zeka modellerinin yaylım ateşi yoğunlaşıyor. Her biri bir şekilde farklıdır, her biri başarıları, uygulamaları ve etkileri hakkındaki konuşmayı yeniler.

Imagen, DALLE-2, Gato, GPT-3 ve onlardan önceki diğer AI modelleri gibi hepsi etkileyici, ancak belki de düşündüğünüz nedenlerden dolayı değil. İşte yapay zeka yarışında nerede olduğumuza ve şu ana kadar neler öğrendiğimize dair kısa bir açıklama.

Büyük dil modellerinin güçlü ve zayıf yönleri

Bu hızda, bırakın analiz etmeyi, yayınları takip etmek bile zorlaşıyor. Bu tür zaman çizelgesine GPT-3 ile başlayalım. Birkaç nedenden dolayı bu zaman çizelgesi için temel ve başlangıç noktası olarak GPT-3'ü seçiyoruz.

OpenAI'nin yaratılışı Mayıs 2020'de duyuruldu ve bu zaten bir ömür boyu önce gibi görünüyor. Bu, OpenAI'nin GPT-3 etrafında ticari bir hizmet oluşturması ve bunu Microsoft ile bir ortaklık yoluyla bir API olarak ortaya çıkarması için yeterli bir süre.

Şimdiye kadar, son kullanıcılara hizmet sunmak için GPT-3'ü kaputun altında kullanan artan sayıda uygulama var. Bu uygulamalardan bazıları, yüceltilmiş pazarlama kopyası oluşturucularından çok daha fazlası değildir - GPT-3'ün API'sinin etrafındaki ince sarmalayıcılar. Viable gibi diğerleri, GPT-3'ü kendi kullanımlarına göre uyarlamak ve kusurlarını atlamak için özelleştirdi.

GPT-3, bir Büyük Dil Modelidir (LLM) ve "Büyük", modelin sahip olduğu parametre sayısını ifade eder. Şu anda yapay zeka uzmanları arasındaki fikir birliği, model ne kadar büyükse, yani ne kadar çok parametre olursa, o kadar iyi performans göstereceği gibi görünüyor. Bir referans noktası olarak, GPT-3'ün 175 milyar parametreye sahip olduğunu, Google'ın 2018'de piyasaya sürdüğü ve bugün arama motoruna güç sağlamak için kullanılan ikonik LLM olan BERT'in ise 110 milyon parametreye sahip olduğunu belirtelim.

LLM'ler için fikir basittir: insanların dili nasıl kullandığını simüle eden modeller üretmek amacıyla makine öğrenimi algoritmalarını eğitmek için insan tarafından üretilen devasa bilgi veri kümelerini kullanmak. GPT-3'ün daha geniş bir kitle tarafından erişilebilir hale getirilmesinin yanı sıra ticari olarak da kullanılması onu hem övgülerin hem de eleştirilerin hedefi haline getirmiştir.

Steven Johnson'ın The New York Times'ta yazdığı gibi, GPT-3 "akıllara durgunluk veren bir akıcılıkla orijinal düzyazı yazabilir". Bu, Johnson da dahil olmak üzere insanları gerçekten "kabukta bir hayalet" olup olmadığını merak etmeye teşvik ediyor gibi görünüyor. Johnson, GPT-3'ün yalnızca metin kalıplarını taklit etmek yerine üst düzey kavramları manipüle ediyor ve bunları yeni kombinasyonlara yerleştiriyor gibi göründüğünü yazıyor. Ancak buradaki anahtar kelime "görünüyor" dur.

Johnson'ın da alıntı yaptığı Gary Marcus, Gary N. Smith ve Emily Bender gibi eleştirmenler, GPT-3'ün temel kusurlarına en temel düzeyde dikkat çektiler. Bender ve ortak yazarlarının, Timnit Gebru ve Margeret Mitchell'in Google'dan atılmasına neden olan ünlü araştırma makalesine başlık vermek için kullandıkları kelimeleri kullanmak için, LLM'ler "stokastik papağanlar" dır.

LLM'lerin düzyazılarını türetmek için kelimesi kelimeye tahmin etme mekanizmasının esasen kusma olduğunu yazıyor Marcus, ünlü dilbilimci Noam Chomsky ile yaptığı alışverişlere atıfta bulunarak. Marcus, bu tür sistemlerin kelimenin tam anlamıyla milyarlarca kelimelik dijital metin üzerinde eğitildiğini detaylandırıyor; Yetenekleri, eğitildiklerine uygun kalıplar bulmaktır. Bu, istatistiğin üstün bir başarısıdır, ancak örneğin, sistemin tahmin araçları olarak kullandığı kelimelerin ne anlama geldiğini bildiği anlamına gelmez.

Dilin frekansı ve çok anlamlılık gibi nitelikler, bir sinir ağının "birkaç atışlık öğrenme" olarak bilinen, özel olarak geliştirilmemiş görevleri aniden çözüp çözemeyeceğini etkileyebilir mi? DeepMind evet diyor.

GPT-3 ve diğer LLM'lere yönelik bir başka eleştiri dizisi de, ürettikleri sonuçların genellikle toksisite gösterme ve etnik, ırksal ve diğer önyargıları yeniden üretme eğiliminde olmasıdır. LLM'leri eğitmek için kullanılan verilerin nereden geldiğini göz önünde bulundurarak bu gerçekten şaşırtıcı değil: verilerin tamamı insanlar tarafından üretiliyor ve büyük ölçüde web'den toplanıyor. Düzeltici önlem alınmadıkça, LLM'lerin bu tür bir çıktı üretmesi tamamen beklenebilir.

Son olarak, LLM'leri eğitmek ve işletmek için çok fazla kaynak gerekir. Chomsky'nin GPT-3 hakkındaki aforizması, "tek başarısı Kaliforniya'nın enerjisinin çoğunu tüketmektir" şeklindedir. Ancak Chomsky buna işaret eden tek kişi değil. 2022'de DeepMind, analistlerin LLM'lerin eğitiminin son derece yetersiz bir hesaplama kullanımıyla yapıldığını iddia ettiği "Hesaplama-Optimal Büyük Dil Modellerinin Eğitimi" adlı bir makale yayınladı.

Tüm bunlar, GPT-3'ün bir bakıma eski bir haber olduğunu söyledi. Son birkaç ayda, bir dizi yeni LLM'nin duyurulduğu görüldü. Ekim 2021'de Microsoft ve Nvidia, 530 milyar parametreli Megatron - Turing NLG'yi duyurdu. Aralık 2021'de DeepMind, 280 milyar parametreli Gopher'ı duyurdu ve Google, 1,2 trilyon parametreli GLaM'i duyurdu.

Ocak 2022'de Google, 137 milyar parametreli LaMDA'yı duyurdu. Nisan 2022'de DeepMind, 70 milyar parametreli Chinchilla'yı duyurdu ve Google, 540 milyar parametreli PaLM'yi duyurdu. Mayıs 2022'de Meta, 175 milyar parametreli OPT-175B'yi duyurdu.

Boyut, performans, verimlilik, şeffaflık, eğitim veri kümesi bileşimi veya yenilik olsun, bu LLM'lerin her biri bazı yönlerden dikkat çekici ve benzersizdir. Bu LLM'lerin çoğu genel halk tarafından erişilemez olsa da, içeridekiler zaman zaman bu modellerin dili "anlama" konusundaki iddia edilen yetenekleri hakkında lirik bir şekilde cilaladılar . Bununla birlikte, bu tür iddialar oldukça abartılı görünüyor .

Yapay zekanın sınırlarını dilin ötesine taşımak

LLM'ler ölçeklendirme yetenekleri ve ürettikleri sonuçların kalitesi açısından uzun bir yol kat etmiş olsa da, temel öncülleri aynı kalmaktadır. Sonuç olarak, temel zayıflıkları da aynı kalır. Ancak, yapay zekadaki en son teknoloji söz konusu olduğunda LLM'ler şehirdeki tek oyun değil.

LLM'ler metin verilerini işlemeye odaklanırken, görsel ve işitsel verilere odaklanan başka AI modelleri de vardır. Bunlar, bilgisayarla görme ve konuşma tanıma gibi uygulamalarda kullanılır. Bununla birlikte, son birkaç yılda, yapay zeka model modaliteleri arasındaki sınırların bulanıklaştığı görüldü.

Sözde çok modlu öğrenme, çeşitli kaynaklardan gelen bağımsız verileri tek bir yapay zeka modelinde birleştirmekle ilgilidir. Çok modlu yapay zeka modelleri geliştirmenin umudu, daha akıllı içgörüler oluşturmak için öğrenmeye dayalı yöntemler kullanarak birden çok veri kümesini işleyebilmektir.

OpenAI, çok modluluğu yapay zekada uzun vadeli bir hedef olarak tanımlar ve bu alanda çok aktif olmuştur. OpenAI, en son araştırma duyurularında bu hedefi daha da yakınlaştırdığını iddia ettiği iki model sunuyor.

İlk yapay zeka modeli olan DALL· E, Ocak 2021'de duyuruldu. OpenAI, DALL-E'nin metni doğal dilde ifade edilebilen çok çeşitli kavramlar için başarılı bir şekilde uygun bir görüntüye dönüştürebildiğini ve GPT-3 için kullanılan yaklaşımın aynısını kullandığını belirtiyor.

Yine Ocak 2021'de duyurulan ikinci yapay zeka modeli CLIP, bir görüntüyü "sıfır çekim" yöntemiyle önceden tanımlanmış kategorilerden birine ait olarak anında sınıflandırabiliyor. CLIP'in, diğer görsel yapay zeka modellerinin çoğunda olduğu gibi, bu kategorilere özgü veriler üzerinde ince ayar yapılması gerekmezken, endüstri kıyaslaması ImageNet'te bunları geride bırakır.

Nisan 2022'de OpenAI , DALL· E 2. Şirket, selefine kıyasla DALL-E 2'nin 4 kat daha yüksek çözünürlükle daha gerçekçi ve doğru görüntüler ürettiğini belirtiyor.

Mayıs 2022'de Google, Imagen adlı DALL-E'ye benzer kendi çok modlu yapay zeka modelini duyurdu. Google'ın araştırması, insan puanlayıcıların hem örnek kalitesi hem de görüntü-metin hizalaması açısından yan yana karşılaştırmalarda Imagen'i diğer modellere tercih ettiğini gösteriyor.

DALL-E 2'nin zaten ikonik hale gelen ata binen bir astronot tasviri, "yapay zekanın dünyayı anlamlandırma yolculuğunda bir kilometre taşı" olarak selamlandı. Eleştirmenler bunun abartılı bir ifade olabileceğini savunuyorlar.

Görünüşe göre övünme hakları sürekli bir değişim içinde. Bu çok modlu yapay zeka modellerinin kaynak kullanımı ve yanlılık konusundaki eleştirileri ele almak için herhangi bir şey yapıp yapmadığına gelince, bu noktada pek bir şey bilinmese de, bilinenlere dayanarak cevaplar sırasıyla "muhtemelen değil" ve "bir tür" gibi görünüyor. Peki ya gerçek istihbarat kısmı? Bir an için kaputun altına bakalım.

OpenAI, "DALL· E 2, imgeler ve onları tanımlamak için kullanılan metin arasındaki ilişkiyi öğrenmiştir. Rastgele noktalardan oluşan bir desenle başlayan ve o görüntünün belirli yönlerini tanıdığında bu deseni bir görüntüye doğru kademeli olarak değiştiren "difüzyon" adı verilen bir süreç kullanır.

Google, "temel keşiflerinin, yalnızca metin derlemi üzerinde önceden eğitilmiş genel LLM'lerin (örneğin T5), görüntü sentezi için metin kodlamada şaşırtıcı derecede etkili olduğunu belirtiyor: Imagen'deki dil modelinin boyutunu artırmak, hem örnek doğruluğunu hem de görüntü-metin hizalamasını, görüntü difüzyon modelinin boyutunu artırmaktan çok daha fazla artırır".

Imagen, büyük ölçüde LLM'lere güveniyor gibi görünse de, DALL-E 2 için süreç farklıdır. Bununla birlikte, hem OpenAI'nin hem de Google'ın çalışanları ve bağımsız uzmanlar, bu modellerin insan anlayışıyla örtüşen bir "anlayış" biçimi gösterdiğini iddia ediyor. MIT Technology incelemesi, DALL-E 2 için ikonik hale gelen ata binen astronotu, yapay zekanın dünyayı anlamlandırma yolculuğunda bir kilometre taşı olarak adlandıracak kadar ileri gitti.

Ancak Gary Marcus ikna olmuş değil. Bir bilim adamı, çok satan yazar ve girişimci olan Marcus, yapay zeka çevrelerinde zekanın doğası ve derin öğrenmede neyin yanlış olduğu da dahil olmak üzere bir dizi konudaki eleştirisiyle tanınmaktadır. Hem DALL-E 2 hem de Imagen'deki eksikliklere dikkat çekti ve Google'dan insanlar da dahil olmak üzere halkla diyaloga girdi.

Marcus, görüşlerini uygun bir şekilde başlıklı "Ata binmek astronot" makalesinde paylaşıyor. Vardığı sonuç, bu modellerin sözdizimsel yapıyla ilgili olduğu için anlambilime tamamen duyarlı olmasını beklemenin hüsnükuruntu olduğu ve akıl yürütme yeteneğinin modern makine öğrenimi yöntemlerinin genel bir başarısızlık noktası ve yeni fikirler aramak için kilit bir yer olduğudur.

Son olarak, Mayıs 2022'de DeepMind, genel bir yapay zeka modeli olan Gato'yu duyurdu. ZDNet'ten Tiernan Ray'in belirttiği gibi , Gato farklı bir tür çok modlu AI modelidir. Gato, video oyunları oynamak, sohbet etmek, kompozisyon yazmak, resimlere altyazı eklemek ve robotik kol istifleme bloklarını kontrol etmek gibi birden çok türde görevi gerçekleştirmek için birden çok veri türüyle çalışabilir. 

Ray'in de belirttiği gibi, Gato pek çok şeyde çok iyi bir iş çıkarıyor. Ancak bu, Gato'yu inşa eden DeepMind ekibinden insanların "Oyun Bitti! Bu, bu modelleri daha büyük, daha güvenli, bilgi işlem açısından verimli, örneklemede daha hızlı, daha akıllı bellek ve daha fazla modalite haline getirmekle ilgili".

Dil, hedefler ve azınlığın pazar gücü

Peki tüm bunlar bizi nerede bırakıyor? Yutturmaca, metafizik inançlar ve coşkulu patlamalar bir yana, yapay zekanın mevcut durumu ayıklıkla incelenmelidir. Son birkaç ay içinde piyasaya sürülen modeller gerçekten etkileyici mühendislik başarıları olsa ve bazen şaşırtıcı sonuçlar üretebilse de, işaret ettikleri zeka gerçekten yapay değil.

Bu modelleri üreten etkileyici mühendisliğin arkasında insan zekası var. Alan Turing'in temel makalesi olan Computing Machinery and Intelligence 'ın "taklit oyunu" olarak adlandırdığı ve popüler olarak "Turing testi" olarak bilinen şeyde giderek daha iyi hale gelen modeller inşa eden insan zekasıdır.

Georgetown Hukuk Fakültesi'ndeki Gizlilik ve Teknoloji Merkezi'nin (CPT) İcra Direktörü Emily Tucker'ın yazdığı gibi, Turing "makineler düşünebilir mi?" sorusunu, bir insanın bir bilgisayarı başka bir insanla karıştırıp karıştıramayacağı sorusuyla değiştirdi.

Turing, ikinci soruyu, önceki soru için yardımcı bir sezgisel yöntem ruhuyla sunmaz; Bu iki sorunun birbirinin versiyonu olduğunu düşündüğünü söylemiyor. Daha ziyade, "makineler düşünebilir mi?" sorusunun hiçbir değeri olmadığı inancını ifade ediyor ve insanların kendilerine bu soruyu sormalarının imkansız olmasa da aslında çok zor olduğu yakın bir gelecek için olumlu bir umut veriyor gibi görünüyor.

Bazı açılardan, bu gelecek hızla yaklaşıyor olabilir. Imagen ve DALL-E gibi modeller, işlemek için insanların sahip olduğu türden zeka gerektiren istemlerle sunulduğunda bozulur. Bununla birlikte, çoğu niyet ve amaç için, bunlar uç durumlar olarak kabul edilebilir. Dünyanın DALL-E'lerinin üretebildikleri, en yetenekli sanatçılarla aynı seviyededir.

O zaman soru, tüm bunların amacının ne olduğudur. Kendi başına bir hedef olarak, Imagen gibi bir şeyin istediği zaman ve harika görüntüler üretebilmek için ihtiyaç duyduğu zaman ve kaynakları harcamak oldukça yanlış yerleştirilmiş gibi görünüyor.

Bunu "gerçek" yapay zekanın yaratılmasına yönelik bir ara hedef olarak görmek daha haklı olabilir, ancak yalnızca aynı şeyi giderek daha büyük bir ölçekte yapmanın bir şekilde farklı sonuçlara yol açacağı fikrine katılmaya istekliysek.

Bir sinir ağı, soldaki daireler olan girdiyi sağdaki çıktıya dönüştürür. Bunun nasıl gerçekleştiği, verilerin kendisindeki kalıplar için sıklıkla karıştırdığımız ağırlıkların, merkezin bir dönüşümüdür. 

Bu bağlamda, Tucker'ın "Yapay zeka" ve "makine öğrenimi" gibi terimleri kullanmak yerine, söz konusu teknolojinin ne olduğu ve nasıl çalıştığı konusunda mümkün olduğunca spesifik olma niyeti, bir düzeyde mantıklı olmaya başlıyor.

Örneğin, Tucker, "yüz tanıma yapay zeka kullanır" demek yerine, "teknoloji şirketleri, insan yüzlerinin görüntülerini eşleştirmek için algoritmaları eğitmek için devasa veri setleri kullanır" gibi bir şey diyebiliriz. Eksiksiz bir açıklamanın daha büyük argümanı rahatsız ettiği veya CPT'nin uzmanlığının ötesinde olduğu durumlarda, okuyucuları dış kaynaklara yönlendireceklerdir.

Gerçeği söylemek gerekirse, bu okunabilirlik açısından kulağa pek pratik gelmiyor. Bununla birlikte, "AI" dediğimizde, bunun gerçekten bir gelenek olduğunu, göründüğü gibi alınacak bir şey olmadığını akılda tutmakta fayda var. Gerçekten, insan zekasının taklitlerini gerçekleştirmek için algoritmaları eğitmek için devasa veri kümelerini kullanan teknoloji şirketleridir - bazen yararlı ve/veya etkileyici.

Bu da kaçınılmaz olarak, daha fazla soruya yol açar, örneğin -- neyi yapmak ve kimin yararına. Stanford Dijital Ekonomi Laboratuvarı'nın eğitim ve direktörü olan bir ekonomist olan Erik Brynjolfsson'un yazdığı gibi, insan benzeri yapay zekaya aşırı odaklanma, teknolojilere sahip olan ve kontrol eden "birkaç kişinin pazar gücünü artırsa bile" çoğu insan için ücretleri düşürüyor.

Bu bakımdan yapay zeka, kendisinden önce gelen diğer teknolojilerden farklı değildir. Bu sefer farklı olabilecek şey, olayların ortaya çıkma hızı ve azınlığın gücüne olan yükselme derecesidir.