Yapay zeka sizi 2025'te milyarder yapabilir mi?

Derin öğrenme uzmanı Gary Marcus, kendisinin ve Meta'nın baş yapay zeka bilimcisi Yann LeCun'un alanın karşı karşıya olduğu en önemli zorluklar konusunda uyum içinde olduklarını söylüyor.

Yapay zekayı çevreleyen yutturmacayı sık sık eleştiren NYU Profesörü Emeritus Gary Marcus, kısa süre önce Meta'nın baş yapay zeka bilimcisi Yann LeCun'un Eylül ayında LeCun ile yaptığı bir ZDNET röportajında yaptığı açıklamalara bir çürütme sunmak için ZDNET ile bir araya geldi. 

LeCun, Marcus'un daha sofistike yapay zekaya giden bir yol olarak sembol manipülasyonu lehine olan argümanı hakkında şüphe uyandırmıştı. LeCun ayrıca Marcus'un yapay zeka dergilerinde hakemli makalesi olmadığını da belirtti.

Marcus, aslında, bir listesi aşağıdaki röportajda bağlam içinde görünen hakemli makaleler yayınladı. Ancak Marcus'un çürütmesi, yıllardır sosyal medyada birbirleriyle tartışan ikisi arasındaki sürtüşmeyi daha somut bir şekilde ele alıyor.

NYU Profesörü Emeritus Gary Marcus, "Yapay zeka için olası mimariler için bir alan var" diyor. "Üzerinde çalıştığımız şeylerin çoğu, o alanın küçük bir köşesinde."

Marcus, LeCun'un Marcus'un fikirleriyle gerçekten ilgilenmediğini, sadece onları reddettiğini iddia ediyor. Ayrıca, LeCun'un, yapay zeka ve nedensellik hakkındaki görüşleri dikkate değer bir çalışma bütünü oluşturan Judea Pearl gibi diğer bilim adamlarına adil bir duruşma vermediğini de savunuyor.

Marcus, LeCun'un davranışının, derin öğrenme araştırmacılarının, eleştirilerini dile getiren veya diğer sorgulama yolları için baskı yapan derin öğrenmenin dışından gelen meslektaşlarını reddetme modelinin bir parçası olduğunu savunuyor. 

Marcus, LeCun ve diğer derin öğrenme akademisyenleri hakkında, "Bir ton parası ve bir sürü tanınırlığı olan, diğer insanları dışlamaya çalışan bazı insanlar var" dedi. Onlar, hesaplamalı dilbilimci Emily Bender'dan bir terim ödünç alarak, rakip fikirlerle meşgul olmayarak "odadaki oksijeni emiyorlar" dedi. 

Marcus'un görüşüne göre, Marcus ve LeCun arasındaki sürtüşme, Marcus'un LeCun'un nihayet Marcus'un yıllardır yaptığı birçok eleştiriyi kabul etmeye başladığını iddia ettiği göz önüne alındığında garip. 

Marcus, "Temelde benim söylediğim ve yanlış olduğunu söylediği her şeyin gerçek olduğunu söylüyor gibiydi" dedi. Marcus, derin öğrenme konusundaki güçlü görüşlerini her iki kitapta da dile getirdi, en sonuncusu 2019'da Ernie Davis ile birlikte Rebooting AI, çok daha eski bir çalışma olan The Algebraic Mind'da unsurlar olmasına rağmen; ve 2018'deki en kapsamlı eleştirisi de dahil olmak üzere çok sayıda makalede, "Derin Öğrenme: Eleştirel Bir Değerlendirme".

Aslında, iki bilim adamı arasındaki ortak noktalar öyledir ki, "Farklı bir dünyada, LeCun ve ben müttefik olurduk" dedi Marcus. 

Marcus, "LeCun ve benim aynı fikirde olduğumuz 1 numaralı nokta, ölçeklendirmenin tek başına yeterli olmadığıdır" dedi ve bununla, GPT-3 gibi sinir ağlarının daha büyük versiyonlarını yapmanın kendi başına önemli olan zeka türüne yol açmayacağını kastediyor. 

İki bilim adamı arasında da temel anlaşmazlıklar var. Marcus, Cebirsel Zihin'e kadar, "doğuştan gelenlik" dediği şeyi, zekaya yapılandırma kazandırmak için zihne bağlanan bir şeyi tutkuyla savundu. 

Marcus, "Benim görüşüme göre, biyolojiye bakarsanız, doğuştan gelen yapının büyük bir karışımıyız" dedi. LeCun, her şeyin öğrenilmesini istediğini söyledi.

Marcus, evrişimli sinir ağlarına atıfta bulunarak, "Bence büyük ironi, LeCun'un yapay zekaya en büyük katkısının, bazı insanların çeviri değişmezliği olarak adlandırdığı, doğuştan gelen evrişim öncülü olmasıdır" dedi. 

Her iki araştırmacıdan da daha büyük olan ve aralarındaki anlaşmazlıktan daha büyük olan tek şey, AI'nın bir çıkmazda olması ve alanın her zaman hayalini kurduğu türden bir zekaya ulaşmak için net bir yönü olmamasıdır. 

Marcus, "Yapay zeka için olası mimariler için bir alan var" dedi. "Çalıştığımız şeylerin çoğu o alanın küçük bir köşesinde; Alanın o köşesi pek çalışmıyor. Soru şu: O köşeden nasıl çıkarız ve başka yerlere bakmaya nasıl başlarız?"

Aşağıda, uzunluk için düzenlenmiş röportajın bir kopyası yer almaktadır.

Marcus'un yapay zeka hakkındaki mevcut yazılarına dalmak isterseniz, Alt Yığını'na göz atın. 

ZDNET: Bu konuşma, Meta'dan Yann LeCun ile yapılan ve sizden bahsedildiği son ZDNET röportajına yanıt olarak yapıldı. Ve her şeyden önce, LeCun ile yapılan bu röportaj hakkında bahsetmek için önemli olan nedir?

Gary Marcus: LeCun son zamanlarda ZDNET röportajında, Noema'daki bir makalede, Twitter ve Facebook'ta beni çok eleştirdi, ancak LeCun'un söylediklerimi ne kadar okuduğunu hala bilmiyorum. Ve bence buradaki gerginliğin bir kısmı, bazen çalışmalarımı okumadan, sadece başlıklar gibi şeylere dayanarak eleştirmesi. 2018'de "Derin Öğrenme: Eleştirel Bir Değerlendirme" adlı bu parçayı yazdım ve Twitter'da bulduğu ilk fırsatta bunu halka açık bir şekilde tokatladı. Bunun "çoğunlukla yanlış" olduğunu söyledi. Ve ben de onu neyin yanlış olduğu konusunda zorlamaya çalıştım. Hiç demedi. 

Sanırım o makalenin derin öğrenmeyi bir kenara atmamız gerektiğini söylediğini düşünüyor. Ve onu bu konuda defalarca düzelttim. [ZDNET röportajında] bu hatayı bir kez daha yaptı. Makaleyi gerçekten okursanız, derin öğrenmenin birçok araçtan sadece biri olduğunu ve başka şeylere de ihtiyacımız olduğunu düşünüyorum. 

Her neyse, daha önce bu gazeteye saldırdı ve o büyük bir kıdemli adam. O sırada [2018], Facebook AI'yı yönetiyordu. Şimdi Facebook'ta baş yapay zeka bilimcisi ve orada başkan yardımcısı. Turing Ödülü sahibidir. Bu yüzden sözleri ağırlık taşıyor. Ve birine saldırdığında, insanlar da aynı şeyi yapar. 

Tabii ki, hepimiz birbirimizin makalelerini okumak zorunda değiliz, ancak onları okumadan çoğunlukla yanlış olduklarını söylememeliyiz. Bu gerçekten adil değil. Ve bana biraz gücün kötüye kullanılması gibi geldi. Ve sonra onunla yaptığınız röportaj beni gerçekten hayrete düşürdü çünkü sanki o makalede ortaya koyduğum ve alay ettiği her şeyi savunuyor gibiydi: En azından mevcut derin öğrenme teknikleriyle oraya kadar gidemeyeceğiz. Örtüşen pek çok başka ince nokta vardı, öyle ki temelde benim söylediğim ve yanlış olduğunu söylediği her şeyin gerçek olduğunu söylüyor gibi görünüyordu. 

Ve bu, benim için yeterince rahatsız edici olurdu - hiçbir akademisyen alıntı yapılmamasını sevmez - ama sonra bana bir pot atışı yaptı ve hakemli bir AI dergisinde hiçbir şey yayınlamadığımı söyledi. Bu doğru değil. Bunu kontrol etmemiş olmalı. Korkarım sen de yapmadın. Nazikçe düzelttiniz.

ZDNET: Gerçeği kontrol edemediğim için özür dilerim.

GM: Böyle şeyler olur. Demek istediğim, bunun bir kısmı, sanki bir otorite bir şey söylüyor ve siz sadece ona inanıyorsunuz. Sağ. Yani, o Yann LeCun.

ZDNET: Doğruluğu kontrol edilmeli. Sana katılıyorum.

GM: Her neyse. O söyledi. Onu düzelttim. Asla kamuoyu önünde özür dilemedi. Her neyse, orada gördüğüm şey, temelde bir süredir söylediğim şeylerin aynısını söylemenin ve bana saldırmanın birleşimi, yeniden konumlandırma çabasının bir parçasıydı. Ve bu Substack parçasında bunun durumunu gerçekten ortaya koyuyorum: "Yann LeCun'un 'Yeni' Fikirleri Ne Kadar Yeni?"

Ve orada öne sürdüğüm durum, aslında tarihi yeniden yazmaya çalıştığıdır. Sayısız örnek verdim; bugünlerde dedikleri gibi, makbuz getirdim. Merak edenler gidip okuyabilir. Buradaki tüm argümanları tekrarlamak istemiyorum, ancak bunu çok boyutlu olarak görüyorum. Şimdi, bazı insanlar bunu gördü ve "LeCun bunun için cezalandırılacak mı?" diye sordular. Ve tabii ki, cevap, hayır, olmayacak. O güçlü. Güçlü insanlar hiçbir zaman bir şeyler için cezalandırılmazlar ya da nadiren cezalandırılırlar. 

Ama daha derin bir dizi nokta var. Biliyorsun, kişisel olarak sinirlenmem ve ürkmem dışında, yalnız değilim. [Substack makalesinde] [Jürgen] Schmidhuber'in [IDSIA Dalle Molle Yapay Zeka Enstitüsü'nde yardımcı profesör] aynı şekilde hissettiğine dair bir örnek verdim. Aradan geçen bir haftada, kendisi gibi Turing Ödülü sahibi olan Judea Pearl'ün de çalışmalarının ana akım makine öğrenimi topluluğu tarafından dile getirilmediğini hissettiği ortaya çıktı. Pearl bunu oldukça acı bir şekilde söyledi ve "LeCun, Marcus'a kötü davrandı ama benden bahsetmeye bile tenezzül etmedi" diyerek aşağı yukarı Pearl'ün söylediği şeydi. Ve bu, bir Turing Ödülü sahibinin diğerinden alıntı bile yapmaması oldukça üzücü

LeCun nedensellik hakkında düşünüyor ve hepimiz nedenselliğin liderinin Pearl olduğunu biliyoruz. Bu, Pearl'ün tüm sorunları çözdüğü anlamına gelmez, ancak makine öğreniminin neden önemli olduğuna dikkat çekmek için herkesten daha fazlasını yaptı. Buna daha fazla, bir tür resmi mekanizma ile katkıda bulundu. Bu sorunu çözdüğünü sanmıyorum, ama bu sorunu çözdü. [LeCun'un] dünya modelleri inşa edeceğim demesi, dünya modelleri nedenselliği anlamakla ilgilidir ve Pearl'ü ihmal etmek şok edicidir. 

Ve bu, "Burada icat edilmedi" tarzının bir parçası. Şimdi, bir ironi şu ki, sanırım LeCun'un röportajınızda söylediği her şey - benimle ilgili şeyler değil, alanın bu tür bir durumu hakkında - muhtemelen kendi başına geldi. Benden intihal yaptığını sanmıyorum. Ve bunu [Substack] makalesinde söylüyorum. Ancak, NYU komşunuzun söyleyecek bir şeyleri varken neden bu şeyleri öğrenmek için dört yıl bekleyesiniz? 

Marcus, en güçlü şekilde 2019'da NYU'dan meslektaşı Ernest Davis ile birlikte yazdığı Rebooting AI adlı kitabında derin öğrenmenin amansız bir eleştirmeni olmuştur. İkili, makine öğrenimi programlarındaki sağduyu eksikliğinin, bu programların neden olabileceği potansiyel zarardaki en büyük faktörlerden biri olduğunu savunuyor.

Ayrıca birkaç yıl önce Twitter'da Timnit Gebru (eski Google araştırmacısı ve şu anda Dağıtılmış Yapay Zeka Araştırma Enstitüsü'nün (DAIR) kurucusu ve yönetici direktörü] ile büyük bir kavga etti - isterseniz buna bakabilirsiniz - öyle ki [LeCun] aslında Twitter'dan ayrıldı. Timnit'e zorbalık yaptı. Bence o, Schmidhuber'in katkılarını küçümsüyor. Pearl'ünkini küçümsüyor. Bu yüzden, şu anda makine öğreniminin yapılma şeklinin onurunu savunmak isteyen birçok insan gibi, beni de bir nevi şeytanlaştırdı. Ve [ZDNET röportajında] bana oldukça doğrudan saldırdığını gördünüz. 

Benim görüşüme göre, bunların hepsi daha büyük şeyin bir parçası, yani bir ton parası ve bir sürü tanınırlığı olan, diğer insanları dışlamaya çalışan bazı insanlar var. Ve bunun ironisini gerçekten fark etmiyorlar çünkü kendileri 2012'ye kadar kalabalıktılar. Yani gerçekten iyi fikirleri vardı ve gerçekten iyi fikirleri 2010'da o kadar da iyi görünmüyordu. Bu konuda en sevdiğim alıntı hala Emily Bender'a ait. Dedi ki, bununla ilgili sorun, odadaki oksijeni emiyorlar, diğer insanların başka yaklaşımları takip etmesini zorlaştırıyorlar ve bu yaklaşımları meşgul etmiyorlar. 

LeCun'un ilgilenmediği, bazen tutarsız olduğunu iddia ettiği koca bir nöro-sembolik yapay zeka alanı var; 2018'de bunu savunduğumda, bunun "çoğunlukla yanlış" olduğunu söyledi. Ama aslında hiçbir zaman işle meşgul olmaz. Ve bu, onun boyunda birinin bunu yapması için görünüşte değil. Biliyorsunuz, buna katılmaması ve "Bunu başka, daha iyi bir şekilde yapardım ya da bu öncüller yanlıştır" demesi sorun değil. Ama onunla meşgul değil. 

Bir robot bilimci olan Mikell Taylor tarafından farklı bir konuda harika bir tweet atıldı ve Tesla'nın bu hayranlarının bir kısmının temelde şöyle dediğini söyledi: Peki, neden bununla ilgilenmiyorsunuz? Demek istediği şuydu: Kimse şu anda Tesla'nın vaat ettiği şeyleri yapamaz. Ve hiç kimse şu anda derin öğrenmenin yapması gereken şeyleri yapamaz. Gerçek şu ki, bu şeyler aşırı satıldı. 

2022'de dünyayı anlayabilmek için yerli bir robota güç verecek teknolojik hazırlığa sahip değiliz. Sürücüsüz otomobillerde hala başarısız oluyoruz. Bazen harika ve bazen kesinlikle aptalca olan bu sohbet botlarına sahibiz. Ve benim görüşüme göre, sanki K2'deyiz, bu inanılmaz dağa tırmandık, ama bunun yanlış dağ olduğu ortaya çıktı. Bazılarımız bir süredir buna dikkat çekiyordu, LeCun şimdi bunun doğru dağ olmadığını kabul ediyor.

Taylor'ın anlatmak istediği şu ki, daha iyi bir çözümünüz olmasa bile bir şeyi eleştirmek meşrudur. Bazen daha iyi çözümler gerçekten elinizin altında değildir. Ama yine de şu anda neyin yanlış gittiğini anlamanız gerekiyor. Ve LeCun bunu her iki şekilde de istiyor çünkü aslında bu sorunlara da bir çözümü yok. Şimdi etrafta dolaşıp bir konuşma yapıyor ve diyor ki, Alanın karmakarışık olduğunu görüyorum. Bu röportajın yayınlandığı gün civarında, ML'nin berbat olduğunu söylediği bir konuşma yaptı. Tabii ki, eğer insanların lastiklerimi keseceğini söyleseydim, ama bunu LeCun olduğu için söyleyebilirdi. 

Makine öğreniminin berbat olduğunu söylüyor ve sonra bunu nasıl çözeceğine dair bazı belirsiz sesler çıkarıyor. Bu yaz yazdığı ilginç bir manifesto makalesi ("Otonom Makine Zekasına Doğru Bir Yol"), bir tür yapılandırılabilir tahminci de dahil olmak üzere birden fazla modül içeriyor. Mesele şu ki, [LeCun'un yeni yaklaşımı] da gerçekten uygulanmış bir teori değil. LeCun'un eve gidip "Marcus'un endişelendiği ve benim de şimdi endişelendiğim tüm bu şeyler bununla çözüldü" diyebileceği bir şey değil. Söyleyebileceği tek şey, "Bu yoldan gidebileceğimize dair bir içgüdüm var." 

Bence dünyanın daha zengin modellerine ihtiyacımız olduğunu söylemenin bir anlamı var. Aslında, yıllardır söylediğim şey bu. Örneğin, yapay zeka dergilerinde tesadüfen karşılaştığım hakemli makalelerden biri, bir konteynerde ne olduğunu nasıl anladığınıza dair bir model, ki bu çok ilginç bir şey çünkü dünyada yaptığımız birçok şey aslında konteynerlerle ilgili. 

Yani, şu anda masamda, kalemler, kurşun kalemler ve bunun gibi şeyleri tutan bir kabım var ve içinde bir bardak su olan başka bir kabım var. Onlar hakkında bazı şeyler biliyorum, örneğin bir şeyi çıkarırsam, artık kabın içinde değil. Kabı devirirsem her şey dökülür. Konteynerlerle ilgili her türlü fiziksel akıl yürütmeyi yapabiliriz. Biliyoruz ki, içinde delikler olan bir kahve fincanımız olsaydı ve ben kahveyi dökersem, o zaman kahve dökülürdü. 

LeCun'un NYU'dan bir meslektaşı olan Ernie Davis ve ben bu makaleyi, alanın önde gelen dergilerinden biri olan Artificial Intelligence'da yazdık. Ve LeCun, sizinle yaptığı röportajda, sağduyulu koşullarda fiziksel akıl yürütmeden bahsediyordu. İşte Davis ve benim önerdiğimiz olası [alternatif] teorinin mükemmel bir örneği. Dürüst olmak gerekirse, Davis ve benim önerdiğimiz teorinin doğru olduğunu düşünmüyorum. Bence bu bir nevi sorunu çerçeveliyor. Ancak bu zor bir sorun ve üzerinde daha fazla çalışma yapmak için yer var. Ama mesele şu ki, LeCun'un aslında bir alternatif olduğunu söyleyebileceği kaplar üzerinde uygulanmış bir fiziksel akıl yürütme teorisi yok. Bu yüzden beni işaret etti ve dedi ki, Eh, başka bir alternatifin yok. Önerdiğim şeye bir alternatifi yok.   

İnsanların yaptığı şey insanların kimlik bilgilerine saldırmak olduğunda iyi bir bilim elde edemezsiniz. Francis Crick bir biyolog değildi. Bu, onun DNA modelinin yanlış olduğu anlamına mı geliyor? Hayır. O bir fizikçiydi, ama başka bir alandan gelebilir ve söyleyecek bir şeyiniz olabilir. Tarihsel olarak bunun pek çok örneği var. 

Diğer insanları alternatif hipotezlerden zorlayarak odadaki oksijeni emerseniz, yanlış fikre sahip olma riskiyle karşı karşıya kalırsınız. Bunun büyük ve üzücü bir tarihsel örneği var, açık olanı, 1900'lerin başlarında, bu alandaki insanların çoğu, Mendel'in keşfettiği genlerin proteinlerden oluştuğunu düşünüyordu. Genlerin moleküler temelini arıyorlardı ve hepsi yanılıyordu. Ve bu konuda gurur verici makaleler yazdılar. Birisi Nobel Ödülü'nü kazandı, sanırım 1946'da, bir protein olduğunu düşündükleri ama aslında olmayan tütün virüsü için. Aslında yanlış bir şekilde verilen birkaç Nobel ödülünden biri. Ve DNA'nın aslında bir asit olduğu ortaya çıktı, DNA denen ve o zamanlar insanların hakkında pek bir şey bilmediği bu garip şey. Yani, tarihte, insanların cevabın ne olduğu ve neyin yanlış olduğu konusunda çok net olduğu bu dönemleri elde edersiniz. 

Uzun vadede, bilim kendi kendini düzeltir. Ancak, ad hominem olmama konusunda bir tür görgü kuralına ve en iyi uygulamaya sahip olmamızın nedeni, başkalarının çalışmalarından alıntı yapmamız, bunun üzerine inşa etmemizin nedeni, bu tür hataların olmaması ve daha verimli olabilmemizdir. Eğer küçümsersek, ki bu gerçekten LeCun'un etrafında en çok kullanacağım kelimedir, eğer diğer insanların çalışmalarını küçümsüyorsak, Judea Pearl'ün çalışması, benim çalışmam, Schmidhuber'in çalışması, tüm nöro-sembolik topluluk gibi, yanlış modeller dizisi üzerinde çok uzun süre durma riskiyle karşı karşıya kalırız.

ZDNET: Harika bir makale olan 2018 makalenizle ilgili olarak, benim için anahtar alıntı şudur: "Derin öğrenme şu ana kadar sığdır, aktarım için sınırlı kapasiteye sahiptir, ancak derin öğrenme bazı harika şeyler yapabilir." Hepimiz harika şeylere hayranız, yani fotoğraflarımızı yüksek çözünürlüklü akıllı telefon resimlerimizde dönüştürüyor. Dürüst olalım: Bu şey bir düzeyde işe yarıyor. Ve şimdi hem siz hem de LeCun, bunun zeka olmadığını söylüyorsunuz ve hatta zekanın başlangıcı bile değil, gerçekten ilkel. Bana öyle geliyor ki, her ikiniz de bu makinelerin yaptığı bu harika şeyleri ortaya koymaktan giderek daha fazla kâr eden bir endüstriyel rejimle karşı karşıyasınız.

GM: Söyleyeceğim ilk şey, bunun zeka olup olmadığı konusunda tartışmak istemiyorum. Bu, terimleri nasıl tanımladığınıza bağlıdır. Bu yüzden, tanımınıza bağlı olarak derin öğrenmeyi bir tür zeka olarak adlandırmanın mantıksız olmadığını söyleyebilirim. İsterseniz bir hesap makinesini akıllı ya da bir satranç bilgisayarını çağırabilirsiniz. Gerçekten umurumda değil. Ama genel zeka ya da adaptif zeka diyebileceğimiz zeka biçimini, adaptif zekayı önemsiyorum. Merak ediyorum, "İşte benim sorunum, git çöz" diyebileceğiniz makineler nasıl yapabiliriz, öyle bir şekilde bir lisans stajyerine bir şey hakkında birkaç şey söyleyebilirsiniz ve onların bunun üzerinde çalışmalarını ve güvenilir bir iş yapmalarını sağlayabilirsiniz.

Bizde böyle makineler yok. Yeniliklerle başa çıkabilmek için dünyayı yeterince iyi anlayan veya kavrayan makinelere sahip değiliz. Bahsettiğiniz örneklerin çoğu, çok fazla değişmeyen büyük miktarda veriye sahip olduğumuz şeylerdir. Yani, "Alexa" kelimesini söyleyen milyarlarca insanın denemesini alabilirsiniz ve sonra bu algoritmaları "Alexa" kelimesini tanımak için kesinlikle kullanabilirsiniz.

Öte yandan, yapay zeka ve tıp üzerine çalışan en sevdiğim insanlardan biri olan Eric Topol, iki gün önce bir tweet attı ve yapay zekanın tıpta gerçekten yararlı bir şey yapmasını sağlamada hala ciddi sorunlar olduğunu gösterdi. Ve bunun nedeni biyolojinin sürekli değişmesidir. 

Size başka bir örnek vermek gerekirse, bu büyük dil modellerinin çoğu Trump'ın hala başkan olduğunu düşünüyor çünkü Başkan Trump'a dair çok fazla veri var ve bir başkası yemin ettiğinde artık başkan olmadığınızı anlamak gibi temel zamansal akıl yürütmeyi yapmıyorlar. Sadece bunu yapmıyorlar.

Sadece istatistiksel kanıtlar biriktiriyorsanız ve olayların dinamiklerini anlamıyorsanız, bir sorununuz var demektir. Ya da Walid Saba'nın [yapay zeka ve makine öğrenimi bilimcisi] bu güzel örneği vardı. Kimden tavsiye almayı tercih edersin, diye sordu GPT-3'e, küçük bir çocuğa mı yoksa parlak bir masaya mı? Ve sadece parlak kelimesini biliyor ve bu yüzden diyor ki, harika masadan tavsiyeyi alırdım. Orada derinlik yok, dünyayı gerçekten anlamıyor. 

Derin öğrenme ifadesinin kavramsal derinliği ima etmesi bir tür parlaklık ama pazarlama korkusudur ve eksik olan da budur. Aslında ağdaki belirli sayıda katman anlamına gelir, diyelim ki üç veya daha fazla ve günümüzde 150 olabilir, ancak derin öğrenmede derin öğrenme sadece katman sayısı anlamına gelir, kavramsal derinlik anlamına gelmez. Bu, bu sistemlerden birinin bir kişinin ne olduğunu, bir masanın ne olduğunu, herhangi bir şeyin ne olduğunu bildiği anlamına gelmez. 

ZDNET: O zaman size karşı olan güçler, sizinle LeCun arasındaki güçlerden daha büyük gibi görünüyor. Her ikiniz de, onun dediği gibi, her şeyin tasarlanacağı bir rejimle karşı karşıyasınız. Dünya işe yarayan bir şey başaracak, ama aslında zeki değil.

GM: İlginç: Farklı bir dünyada, LeCun ve ben müttefik olurduk. Hemfikir olduğumuz çok sayıda şey var. Aslında geçenlerde bunları başlıklı bir yazıda özetledim, içinde kelimeler vardı, paradigma değişimi. Aslında Slate Star Codex'e, Scott Alexander'a yanıt veriyordum. Substack'ımda bir yazı yazdım, "Yapay zekanın gerçekten bir paradigma değişimine ihtiyacı var mı?" Ve orada, LeCun ve benim hemfikir olduğumuz tüm yolları özetlediğim bir bölüm var. 

Alanın daha büyük dokusuna bakarsanız, aslında çoğu noktada aynı hizadayız. Ve bunlardan birkaçını gözden geçireceğim çünkü önemli olduklarını düşünüyorum. LeCun ve benim aynı fikirde olduğumuz 1 numaralı nokta, ölçeklendirmenin tek başına yeterli olmadığıdır. Şimdi, bunu düşünmekte yalnız değiliz, ama bu alanda gerçek bir bölünme var.

Sanırım genç neslin çoğu ölçeklendirme gösterilerinden çok etkilendi. [DeepMind araştırmacısı] Nando de Freitas , Twitter'da oyunun bittiğini, AGI'nin sadece bir ölçeklendirme meselesi olduğunu söylediği bir şey yazdı. Buna "Alt Zeka" adlı bir cevap yazdım, bu da sakladığım Alt Yığın'daki ilk parçaydı. İnsanlar buna ölçeklendirme maksimalizmi diyorlar, son zamanlarda, ihtiyacınız olan tek şey ölçeklendirme gibi. Şu anda bu alandaki en büyük sorulardan biri bu. Ve LeCun ve ben, maksimalizmi ölçeklendirmenin, onun ve benim ikimizin de önemsediğini düşündüğüm türden daha derin bir uyarlanabilir zekaya ulaşmamız için yeterli olmadığı konusunda mutlak bir fikir birliğindeyiz. 

Benzer şekilde, hem o hem de ben, DeepMind'ın üzerinde çok zaman harcadığı, ancak diğer insanların da sahip olduğu pekiştirmeli öğrenmenin yetersiz olduğunu düşünüyoruz. "Bu sadece pastanın üstündeki kiraz" metaforunu kullanmayı seviyor ve ben de bu konuda onunla birlikteyim. Bence dünyayı gerçekten anlayana kadar iyi bir pekiştirme öğrenimi yapamazsınız. 

İkimiz de büyük dil modellerinin, gerçekten havalı olmalarına rağmen, gerçekten sorunlu olduğu konusunda hemfikiriz. Şimdi, sanırım orada bunu gerçekten ilk ben belirttim ve bunu belirttiğimde bu konuda gerçekten biraz gaddardı. Ama aynı yerde birleştik. İkimiz de bu sistemlerin, ne kadar gösterişli olsalar da, bizi genel zekaya götürmediğini düşünüyoruz. Ve bu ölçeklendirme noktasıyla ilgilidir. 

Bunlar en önemli konulardan bazıları. Ve bir anlamda, kolektif görüşümüz bir azınlık görüşü ve ikimizin de bu noktalarda haklı olduğuna inanıyorum. Zaman gösterecek. Hepsi ampirik sorular. Daha fazla iş yapmak zorundayız. Bilimsel cevapları bilmiyoruz, ancak kesinlikle LeCun ve ben bu noktalar etrafında oldukça derin sezgileri paylaşıyoruz.

Gerçekten derinden hemfikir olduğumuz başka bir yer daha, ki bu da modellere ve sağduyuya sahip olmanız gerektiği konusunda derinden hemfikiriz, bu gerçekten iki şey. Dünyanın nasıl işlediğine dair modellere sahip olmanız gerekiyor ve bununla ilgili olarak, muhtemelen bunun belirsiz olduğu konusunda hemfikir olsak da, ikimiz de sağduyu gibi bir şeye ihtiyacınız olduğunu ve bunun gerçekten kritik olduğunu düşünüyoruz. 

Dünya Bilim Festivali'nde bir paneli paylaştığımızı hayal edebiliyordum ve sonra konuşmaya başlardık, işte hemfikir olduğumuz yedi şey, ve şimdi işte bu yüzden dünya modellerinin şu ya da bu şekilde olması gerektiğini düşünüyorum ve bir zamanlar olduğumuz yere geri dönebilseydik ilginç bir tartışma olurdu. 

ZDNET: Peki siz hangi noktada ayrılıyorsunuz?

GM: Kullanmak isteyebileceğimiz çok fazla sembolik bilgi olduğunu iddia ediyorum. Şimdiye kadar sembolik araçların hala dağıtımın ötesinde genelleme yapmak için çok daha iyi bir yol sunduğunu iddia ediyorum ve bu gerçekten önemli. Bugünlerde hepimiz dağıtım değişiminin kritik bir sorun olduğunu biliyoruz. Bunu 2018'de gündeme getirdim, bence hala temel sorun, gördüğünüz verilerin ötesinde nasıl genelleme yaptığınız. Ve bence sembolik modellerin burada bazı avantajları olabilir. Bu modelleri nasıl öğreneceğimizi bilmediğimizi kabul ediyorum. Ve bence LeCun'un bu konuda biraz ilerleme kaydetme konusundaki en iyi umudu, bu modellerin öğrenme tarafında olacaktır. Doğru mimariye sahip olduğundan emin değilim ama en azından bu anlamda doğru ruha sahip. 

Ve sonra esasen aynı fikirde olmadığımız diğer yer, ve bu 2017 tartışmasıydı, doğuştan gelme hakkındaydı. Bence daha fazla doğuştan gelmeye ihtiyacımız var. Ve bence büyük ironi şu ki, LeCun'un yapay zekaya en büyük katkısı, bazılarının çeviri değişmezliği dediği, doğuştan gelen evrişim öncülü. Ve diyor ki, aslında, bir nesnenin farklı yerlerde görünmesi durumunda aynı görüneceği bir kablolama yöntemi. Bence bunun gibi daha fazla önceliğe ihtiyacımız var. Bunun gibi daha doğuştan gelen şeyler. Ve LeCun bunu gerçekten istemiyor. Gerçekten doğuştan gelen bir yapı olmasını istemiyor. O, tesadüfen değil, makine öğrenimi olarak adlandırılan alanda. Ve makine öğrenimindeki insanlar her şeyin öğrenilmesini istiyor. Hepsi değil, ama çoğu. 

Benim görüşüme göre, biyolojiye bakarsanız, doğuştan gelen yapı ve öğrenilmiş kalibrasyon makinelerinin büyük bir karışımıyız. Bu nedenle, örneğin kalbimizin yapısı açıkça doğuştan gelir. Biraz kalibrasyon var. Egzersiz yaptığınızda kalp kaslarınız büyüyebilir. Ama çok ama çok fazla doğuştan gelen yapı var. Makine öğrenimi alanında, bu alana gerçekten zarar verdiğini ve onu geride tuttuğunu düşündüğüm doğuştan gelenliğe karşı bir önyargı olduğunu görüyorum. Yani bu bizim farklı olacağımız bir yer. 

İnsanların yapması gerektiğini düşündüğüm şeyi yapıyorum. Rakibimin görüşlerini anlıyorum. Onları karakterize edebileceğimi, anlaşma ve anlaşmazlık noktaları hakkında konuşabileceğimi ve ne olduklarını karakterize edebileceğimi düşünüyorum. Oysa LeCun'un yapmaya çalıştığı şey beni sahneden atmak oldu. Bilim yapmanın doğru yolunun bu olduğunu düşünmüyorum.

ZDNET: Çıkış sorusu: Sizce hem senden hem de Yann LeCun'dan daha büyük olan, bizim için önemli olan şey nedir?

GM: İkimizin de cevabı olduğunu sanmıyorum, ilk söyleyeceğim şey bu. Ve nihayetinde benimle gerçekten tartışmasını istememin nedeni, alanın sıkışıp kaldığını ve çıkmazdan kurtulmamızın tek yolunun, bir öğrencinin veya bir gencin olayları geri kalanımızın gördüğünden biraz daha farklı bir şekilde görmesi olduğunu düşünmemdir. Ve LeCun ve benim gibi ifade edebilecekleri güçlü bakış açılarına sahip insanlara sahip olmak, insanların bunu nasıl düzelteceklerini görmelerine yardımcı olabilir. Bu nedenle, öğrenmeye dayalı bir sistem istemek ve sıkı sıkıya bağlanmak istememek için açıkça büyük bir neden var. Ve sembol manipülasyonunun avantajlarını istemek için açıkça büyük bir neden var. Ve söylendiği gibi, pastamızı alıp onu yemenin bilinen bir yolu yok.

Bu yüzden, orayı olası modellerin olduğu bir alan olarak düşünmeyi seviyorum, değil mi? Sinir ağları, çok boyutlu uzayları keşfetmekle ilgilidir. Yapay zeka için olası mimarilerden oluşan bir alan var. Üzerinde çalıştığımız şeylerin çoğu o alanın küçücük bir köşesinde. Alanın o köşesi pek çalışmıyor. LeCun ve ben aslında bu konuda hemfikiriz. Soru şu: O köşeden nasıl çıkarız ve başka yerlere bakmaya nasıl başlarız? Ve ikimizin de bu konuda tahminleri var, ama kesinlikle kesin olarak bilmiyoruz.

Ve bence, pek çok paradigma değişiminin yaşanması için çok fazla alan var. Aslında, "paradigma kayması" adlı yazımda LeCun'un bunu söylediğini aktarıyorum. Alanın başka bir paradigma değişikliğine ihtiyacımız olmadığını, sadece daha fazla veriye ihtiyacımız olduğunu düşünen bir kısmı var. Ancak LeCun ve ben paradigma değişimlerine ihtiyacımız olduğunu düşünüyoruz, bu da şu anda baktığımız model alanının dışına bakmamız gerektiği anlamına geliyor. Diğer insanların bunu yapmasına yardımcı olmanın en iyi yolu, nerede takıldığımızı ifade etmektir.