İnsan gibi düşünen makineler: Yapay zeka ve yapay zeka hakkında bilinmesi gereken her şey Tartışma 3

3,5 saat boyunca, Gary Marcus ve Vincent Boucher liderliğindeki bilim adamları, efsanevi 'Yapay Genel Zeka'yı hangi araçların getirebileceğini ve pratik ve ahlaki sonuçların neler olabileceğini tartıştılar.

Bir yıllık aradan sonra, Gary Marcus ve Vincent Boucher'ın ev sahipliği yaptığı Yapay Zeka Tartışması, bu kez Noam Chomsky gibi yapay zeka disiplininin dışındaki politika türleri ve akademisyenler de dahil olmak üzere bir dizi yapay zeka düşünürüyle geri döndü.

Bir yıllık bir aradan sonra, Montreal.ai ve NYU emeritus profesörü ve yapay zeka gadfly Gary Marcus tarafından düzenlenen yıllık yapay zeka tartışması, 2020'de olduğu gibi bir kez daha yalnızca sanal bir etkinlik olarak düzenlenen Cuma akşamı geri döndü.

Chomsky, "Sorun oldukça genel ve önemli" dedi. "Medya, GPT-3 ve onun soyundan gelenlerin, en son ChatGPT'nin ve diğer alanlardaki benzer başarıların mucizevi başarıları ve bunların insan doğasıyla ilgili temel sorularla ilgili önemi hakkında büyük düşünce parçaları yayınlıyor."

"Faydanın ötesinde, biliş, düşünme, özellikle de insan bilişinin temel bir bileşeni olan dil hakkında bu yaklaşımlardan ne öğreniyoruz?" diye sordu. 

Chomsky, "Büyük dil modellerinde birçok kusur tespit edildi" dedi ve belki de "daha fazla veri, daha fazla parametre" ile daha iyi olacaklar. Ancak, "Asla düzeltilemeyecek çok basit ve temel bir kusur var" dedi. "Tasarımları gereği, sistemler mümkün ve imkansız diller arasında hiçbir ayrım yapmazlar."

Chomsky şöyle devam etti:

T Sistemler ne kadar çok geliştirilirse, arıza o kadar derinleşir [...] Bize dil ve düşünce hakkında, genel olarak biliş hakkında ya da insan olmanın ne olduğu hakkında hiçbir şey söylemiyorlar. Bunu diğer alanlarda da çok iyi anlıyoruz. Hiç kimse, en azından olası ve imkansız olanları ayırt etmeyen temel parçacıklar teorisine dikkat etmezdi [...] Diyelim ki GPT-3 veya onun gibi daha meraklı sistemlerde değerli bir şey var mı? Herhangi birini bulmak oldukça zor [...] Biri sorabilir, ne anlamı var? Farklı bir yapay zeka türü olabilir mi, Turing, Newell ve Simon gibi disiplinin öncülerinin hedefi olan türden ve Minsky, yapay zekayı gelişmekte olan bilişsel bilimin bir parçası olarak gören türden, düşünce, dil, biliş ve diğer alanların anlaşılmasına katkıda bulunacak, binlerce yıldır öne çıkan türden soruları yanıtlamaya yardımcı olacak bir tür yapay zeka, Delfi kahini ile ilgili olarak, Biz ne tür yaratıklarız? 

Marcus, Chomsky'yi bilişin çözülmemiş dört unsurundan bahseden kendi sunumuyla takip etti: soyutlama, akıl yürütme, bileşimsellik ve olgusallık.

Marcus daha sonra GPT-3 gibi programların her bir öğeye göre düştüğü açıklayıcı örnekler gösterdi. Örneğin, "gerçekçilik" ile ilgili olarak, Marcus, derin öğrenme programlarının sonuç çıkarmak için bir dünya modeli sürdürmediğini söyledi.

Marcus, yapay zekanın bilişin çözülmemiş dört unsuruna nasıl düştüğüne dair bir slayt gösterisi sundu: soyutlama, akıl yürütme, bileşimsellik ve gerçekçilik.

Pennsylvania Üniversitesi'nde Penn Entegre Bilgi Profesörü olan Konrad Kording, beyinler hakkında önceden kaydedilmiş bir konuşmada Marcus'u takip etti. (Kording, etkinlik sırasında seyahat ediyordu.)

Kording, nedensellik kavramlarını hesaplamaya getirme arayışından bahsederek başladı. Kording, insanların genellikle "kötü dedektifler" olduğunu, ancak sonuçları gözlemlemek için bir şeyleri "rahatsız etmede" iyi olduklarını söyledi. 

Bir mikroçip transistörünü bozmayı ve pratikte nedenselliği gözlemlemek için voltaj izlerini takip etmeyi anlattı. İnsanların dünyanın zengin modellerine odaklandığını söyledi.

Konrad Kording'in bantlanmış sunumundan bir slayt.

Sırada, Google'ın DeepMind biriminde AGI'ye odaklanan sinirbilimci Dileep George vardı. "Ben bir mühendisim," dedi seyirciye. George, 1903'teki ilk uçak ve 1919'daki ilk kesintisiz transatlantik uçuş olmak üzere iki tarihi tarih örneği verdi ve herkesi Hindenburg Felaketi'nin yılını tahmin etmeye davet etti. Cevap 1937'dir ve George'un insanlar için şaşırtıcı olması gerektiğini çünkü uçağın ilerlemesinden çok uzun süre sonra geldiğini söyledi. 

George, meselenin mevcut AI programlarını "ölçeklendirmek" ile "mevcut modeller ile insan benzeri zeka arasındaki temel farkları" anlamak arasında ayrım yapmak olduğunu söyledi.

Marcus, konuşmacıların ilk sorusunu sordu. Chomsky'ye, Chomsky'nin yazılarındaki "doğuştan gelmelilik" kavramını, bir şeyin insan zihninde "inşa edilmiş" olduğu fikrini sordu. Yapay zeka doğuştan gelenliğe daha fazla dikkat etmeli mi?

Chomsky, "Başlangıç durumundan kararlı bir duruma kadar her türlü büyüme ve gelişme üç faktörü içerir" dedi. Birincisi, başlangıç durumundaki iç yapı, ikincisi "gelen her türlü veri" ve üçüncüsü, "genel doğa yasaları" dedi.

"Doğuştan gelen yapının, öğrendiğimiz her alanda olağanüstü bir rol oynadığı ortaya çıktı." 

Dil edinme gibi paradigmatik bir öğrenme örneği olarak kabul edilen şeyler, "onu parçalara ayırmaya başlar başlamaz, verilerin neredeyse hiçbir etkisi olmadığını görürsünüz; Fonolojik olasılıklar için seçeneklerin yapısı, bebek tarafından ne tür seslerin duyulacağı üzerinde muazzam bir kısıtlayıcı etkiye sahiptir. Kavramlar çok zengindir, onları elde etmek için neredeyse hiçbir kanıt gerekmez, birkaç sunum [...] benim şüphem şu ki, belirli şeylere ne kadar çok bakarsak, görsel sistemde ve anladığımız hemen hemen her şeyde olduğu gibi bunu o kadar çok keşfedeceğiz. 

DeepMind'dan sinirbilimci Dileep George.

Marcus, bu yıl Meta'nın yapay zeka bilim adamlarının Cicero adlı bir sistemle ilgili makalesini övdü, çünkü bu, basitçe ölçek büyütme ipliğine karşı çıktı. Modelin planlama ve dil için ayrı sistemlere sahip olduğunu belirtti. 

Dileep George, yapay zekanın "dünya hakkında bazı temel varsayımlar" yapması gerekeceğini ve "dünya yapımızda, belki de yarım düzineden daha az varsayımda bulunmamızı sağlayan bir sihir olduğunu ve bu dersleri bir dünya modeli oluşturmak için tekrar tekrar uygulamamızı" sağladığını belirtti.

Bu tür varsayımlar, aslında, derin öğrenme modellerinin içindedir, ancak doğrudan gözlemden uzak bir seviyede, diye ekledi George.

Marcus, 94 yaşındaki Chomsky'ye onu neyin motive ettiğini sordu. Chomsky, "Beni motive eden şey Delfi Kahini'dir" dedi. "Kendini bil." diye ekledi Chomsky, insanlar arasında neredeyse hiçbir genetik fark yoktur. Dilin, insanların ortaya çıkışından bu yana değişmediğini, herhangi bir kültürdeki herhangi bir çocuğun dil edinebilmesinin gösterdiği gibi, dedi. "Biz ne tür yaratıklarız?" diye sordu Chomsky. Chomsky, insanları bir tür olarak bu kadar benzersiz kılan şeyin ne olduğunu anlamak için dilin yapay zekanın çekirdeği olacağını önerdi. 

Marcus, bilgisayar sistemlerinde pragmatik akıl yürütmeye ulaşmakla ilgili ikinci soruya geçti. Washington Üniversitesi'nde Brett Helsel Profesörü olan Yejin Choi'yi ilk konuşmacı olarak çıkardı. 

Choi, "önümüzdeki yıllarda yapay zekanın giderek daha şaşırtıcı performansları" olacağını öngördü. 

Yejin Choi, Washington Üniversitesi'nde Brett Helsel Profesörü.

Choi, "Yine de, bu ağlar çekişmeli ve uç durumlarda hata yapmaya devam edecek" dedi. Bunun nedeni, ağların "derinliğini bilmememiz" dir. Choi, bilimin bildiği ancak ölçemediği bir şey olan fizikteki karanlık madde örneğini kullandı. "Dilin ve zekanın karanlık meselesi sağduyu olabilir."

Choi, buradaki karanlık maddenin, insanlar için kolay ama makineler için zor olan şeyler olduğunu söyledi. 

Sırada, daha önce IBM Watson projesinde çalışan ve yeni bir şirket olan Elemental Cognition'ın kurucusu David Ferrucci vardı.

Ferrucci, ilgisinin her zaman bir insanla olduğu gibi sohbet edebileceği programlarda yattığını söyledi. "Her zaman, ürettikleri çıktıyı neden ürettiklerini açıklayamazlarsa, makinelerin bu vizyonu yerine getirmesini sağlayamayacağımızı hayal etmişimdir."

Ferrucci, GPT-3'ün sağduyulu akıl yürütme görevlerinde nereye düştüğüne dair örnekler verdi. Yeterli veri verildiğinde, bu tür sistemler "sağduyu olarak düşündüğümüz şeyi yansıtmaya başlayacaktır." GPT-3'ün etrafında dolaşırken, "yeni bir gezegeni keşfetmek gibi, bir tür olağanüstü şey" dedi ve yine de "nihayetinde tatmin edici değil" çünkü bu sadece çıktıyla ilgili, bu çıktının nedenleriyle ilgili değil. 

Ferrucci, şirketinin, çıktı olarak hipotezler üretmek için dil modellerini kullanan "hibrit" bir yaklaşım izlediğini ve daha sonra "nedensel modeller" kullanarak akıl yürütme gerçekleştirdiğini söyledi. Bu tür modeller çıktıdan "indüklenebilir", ancak aynı zamanda insanların makineyle etkileşime girmesini de gerektirir. Bu, dil modellerinin üstünde "yapılandırılmış temsillere" yol açacaktır.

David Ferrucci, daha önce IBM Watson projesinde çalışmıştı.

Ferrucci'den sonra Dileep George, sağduyu ve "zihinsel simülasyon" hakkında bazı noktalara değinmek için geri döndü. Sağduyulu akıl yürütme sorularını cevaplamak için insanların bir senaryoyu - simüle etmeyi - nasıl hayal edeceklerini tartıştı. Simülasyon, bir kişinin varsayımsal bir soru hakkındaki birçok soruyu yanıtlamasını sağlar. 

George, simülasyonun sensorimotor sistemden geldiğini ve "algısal+motor sistemde" depolandığını varsaydı.

George, dilin "simülasyonu kontrol eden bir şey olduğunu" öne sürdü. Konuşma fikrini, bir kişinin bir başkasında "simülasyonu çalıştırma" girişimi olarak önerdi. 

Marcus Soru-Cevap'a geçti. Ferrucci'nin "bilgi dile yansıtılır" yorumunu benimsedi.

Marcus, "Artık büyük dil modellerinden çok fazla bilgi edinebileceğimiz bir paradigmaya sahibiz" dedi. Bu bir paradigma, dedi. Marcus, "paradigma değişimlerine ihtiyacımız var" dedi ve "dilden alabileceğiniz her türlü bilgiyi geri kalan her şeyle bütünleştirecek" bir paradigma değişikliğine ihtiyacımız var. Marcus, dil modellerinin birçok girdi türünden "yoksun" olduğunu söyledi. 

İsviçre Yapay Zeka Laboratuvarı IDSIA'nın (Istituto Dalle Molle di Studi sull'Intelligenza Artificiale) bilimsel direktörü olan Schmidhuber, araya girdi. Schmidhuber, Marcus'a "bu eski bir tartışma" yani dünya modeline sahip sistemler diye yanıt verdi. "Bunların hepsi 80'ler ve 90'lardan kalma kavramlar" ve "düzenleme" vurgusu da dahil. Schmidhuber, son dil modellerinin "sınırlı, bunu biliyoruz" dedi.

Jürgen Schmidhuber, İsviçre Yapay Zeka Laboratuvarı IDSIA'nın bilimsel direktörü.

Ancak Schmidhuber, eksikliği gidermek için sistemler olduğunu söyledi; sonuçları tahmin etmek, zihinsel simülasyonlar yapmak vb. için ayrı bir ağ gibi şeyler.

Schmidhuber, "Bugün tartıştığımız şeylerin çoğu, en azından prensip olarak, yıllar önce çözüldü" dedi ve "genel amaçlı sinir ağları" dedi. Bu tür sistemler "henüz insanlar kadar iyi değil".

Schmidhuber, bilgi işlem gücünün birkaç yılda bir ucuzlaması nedeniyle "eski düşüncenin" geri geldiğini söyledi. "Bu eski algoritmalarla o zamanlar yapamadığımız birçok şeyi yapabiliriz." 

Marcus, Schmidhuber ve George'a, Minsky'nin öğrencilerinden biri olan Terry Winograd tarafından yürütülen, adlandırılacak ve manipüle edilecek basit nesnelerin "bloklar dünyası" da dahil olmak üzere eski SHRDLU deneyini sordu. Marcus, DeepMind'ın "Gato" sinir ağının, blocks dünyasının yapamadığını yapabileceğini bir meydan okuma olarak gündeme getirdiğini söyledi. "Ve AI'nın Winograd'ın 1960'lardaki tezinde yaptığını yapmaya çalışması makul bir ölçüt olur mu?"

George, eğer dünyadan soyutlamalar elde edebilen ve bir şeyleri istiflemek gibi görevleri yerine getirebilen bir sistemle ilgiliyse, bu tür sistemlerin başarılamadığını söyledi. 

Schmidhuber, bilgisayar sistemlerinin video oyunları gibi simülasyonlarda manipüle etmede zaten başarılı olduğunu, ancak gerçek dünyada "doğru soruları" soran "bir bilim adamı gibi" yeni deneyler seçme meselesi olduğunu söyledi.

"Deneylerim yoluyla verimli bir şekilde öğrenebilmem ve daha sonra bunu geliştirilmiş dünya modelim için kullanabilmem için kendi programlarımı nasıl icat edebilirim?" diye önerdi. 

"Neden hala filmlerdeki gibi değil?" diye sordu Schmidhuber. 

"Bu gibi sorunlar nedeniyle, akıllıca bir şekilde kullanılması gereken birkaç eğitim örneği nedeniyle, oraya tamamen nöron yöntemleriyle ulaşıyoruz, ancak henüz orada değiliz. Sorun değil çünkü bilgi işlem maliyeti henüz istediğimiz yerde değil."

Marcus, gerçek dünya ve simüle edilmiş dünya olduğunu ve bunları dil aracılığıyla birbirine bağlamaya çalışma meselesi olduğunu da sözlerine ekledi. Blocks World'den doğal bir dil ifadesinden alıntı yaptı. Marcus, bloklar dünyasındaki konuşma düzeyinin, mevcut yapay zekanın başarması için "simülasyonda bile hala zor olduğunu düşünüyorum" dedi.

Marcus daha sonra Londra Üniversitesi, City'de bilgisayar bilimi profesörü olan Artur d'Avila Garcez'e döndü. d'Avila Garcez, meselenin yine doğuştan gelen bir mesele olduğunu öne sürdü. "Son zamanlarda bu soyutlamaları ekleyen çok sayıda kısıtlı derin öğrenme görüyoruz." Bu tür programlar "uygulamaya özel " dir.

D'Avila Garcez, bunun sembolik yapay zekayı dahil etme meselesi olabileceğini söyledi. 

Choi, "doğuştan gelmeyle ilgili olarak, gelişim psikolojisinden öğrenilecek bir şey olduğuna inanıyorum" yorumunu yaptı. "Bazı kavramları farklı şekilde ele almak için yapmamız gereken bazı temel yeniden düşünmeler olabilir."

Choi, "Çözümün geçmişte kaldığını düşünmüyorum" ve "sadece parametre katmanları koymak" dedi. Önceki on yılların bazı resmi yaklaşımları mevcut yaklaşımlarla uyumlu olmayabilir. 

George, nesneler gibi belirli unsurların daha düşük seviyedeki işlevlerden "ortaya çıkabileceğini" söyledi. George, "uzayın inşa edildiği" varsayımı vardı, ama şimdi bunun zamandan türetilebileceğine inanıyor. "Mekansal temsilleri tamamen duyusal motor dizileri oluşturduğunu öğrenebilirsiniz - sadece zaman ve eylemler."

IBM araştırmacısı ve Thomas J. Watson Araştırma Merkezi'nde Yapay Zeka Etiği Küresel Lideri olan Francesca Rossi, Schmidhuber'e bir soru yöneltti: "Nasıl oluyor da hala sahip olmak istediğimiz yeteneklere sahip olmayan sistemler görüyoruz? Jürgen, bu tanımlanmış tekniklerin hala mevcut sistemlere dönüşmemesini nasıl açıklıyorsun?"

Schmidhuber: "Buna cevap vermekten mutluluk duyuyorum. Şu anda bunun çoğunlukla bir hesaplama maliyeti meselesi olduğuna inanıyorum."

Schmidhuber şöyle devam etti:

Tekrarlayan bir ağ, herhangi bir rastgele algoritmayı çalıştırabilir ve bunun en güzel yönlerinden biri, bir öğrenme algoritmasını da öğrenebilmesidir. Asıl soru, bu algoritmalardan hangisini öğrenebileceğidir? Daha iyi algoritmalara ihtiyacımız olabilir. Öğrenme algoritmasını geliştirme seçeneği. Bu türden ilk sistemler 1992'de ortaya çıktı. İlk makaleyi 1992'de yazdım. O zamanlar neredeyse hiçbir şey yapamazdık. Bugün milyonlarca ve milyarlarca ağırlığa sahip olabiliriz. Öğrencilerimle yaptığım son çalışmalar, bu eski kavramların burada ve orada birkaç iyileştirmeyle birdenbire gerçekten güzel bir şekilde çalıştığını ve örneğin geri yayılımdan çok daha iyi olan yeni öğrenme algoritmaları öğrenebileceğinizi gösterdi. 

Marcus, kendisi ve işbirlikçileri tarafından hazırlanan ve "az önce bahsettiğimiz şeylerle çok alakalı" olduğunu öne sürdüğü "Yapay Zekada Bebek Düzeyinde Fiziksel Akıl Yürütme için İlerlemeyi Kıyaslama" adlı yeni bir makale hakkındaki duyuruyla bölümü kapattı. Marcus, makalenin tartışma Web sitesinde yayınlanacağını söyledi. 

Marcus daha sonra Hanson Robotics'in baş bilim adamı ve SingularityNET Vakfı ve AGI Derneği'nin başkanı olarak birden fazla şapka takan Ben Goertzel'i üçüncü bölümü başlatmak için getirdi ve Goertzel'in "AGI" teriminin ortaya atılmasına yardımcı olduğunu belirtti.

Ben Goertzel, Hanson Robotics'in baş bilim adamı.

Goertzel, mevcut projesinin AGI ve "genel olarak akıllı sistemleri somutlaştırma" niyetinde olduğunu belirtti. "Eğitimlerinin ötesine sıçrayabilen" sistemlerin "artık oldukça uygulanabilir" olduğunu, ancak birkaç yıl sürebileceğini öne sürdü. Ayrıca, mevcut derin öğrenme programlarının AGI için fazla ilerleme kaydetmeyeceği kehanetinde bulundu. Goertzel, ChatGPT'nin "ne hakkında konuştuğunu bilmediğini" söyledi. Ancak "bir teyitçi" ile birleştirilirse, belki daha az belirgin saçmalık yaymasını sağlayabilirsiniz, ancak yine de onu insan zihni gibi genelleme yeteneğine sahip hale getiremezsiniz.

"Genel zeka," dedi Goertzel, hayal gücü ve "açık uçlu büyüme" konusunda daha yetenekli olacak.

Marcus, "Meta-öğrenme konusunda size tamamen katılıyorum" diye ekledi ve "AGI'ye giden birçok yol fikrini seviyorum" diye ekledi. 

Marcus daha sonra Meta'dan Yann LeCun ve diğer Turing Ödülü sahipleri Geoffrey Hinton ve Yoshua Bengio'nun derin öğrenmeye öncülük ettiği efsanesine bir tokat attı. Schmidhuber'i bir kez daha, "sadece derin öğrenmenin gerçekte nasıl geliştiğinin kesin tarihini yazmakla kalmadı, aynı zamanda otuz yılı aşkın bir süredir derin öğrenmeye birçok önemli katkı yaptı" dedi.

Schmidhuber, "Bu meta-öğrenme fikrinden gerçekten çok etkilendim çünkü başarmak istediğimiz her şeyi kapsıyor gibi görünüyor" dedi. İşin püf noktası, "tüm bunları öğrenebilecek en genel sistem türüne sahip olmak ve koşullara, çevreye ve nesnel işleve bağlı olarak, bu tür bir problem için ve bu problem sınıfı için uygun öğrenme algoritmaları icat edecek" idi. Tüm bunlar "farklılaştırılabilir" yaklaşımlar kullanılarak mümkündür. dedi Schmidhuber.

Schmidhuber, "Bence gerçekten önemli olan bir şey, yapay zekanın bu yapay bilim adamı yönü, ki bu gerçekten cevaplarını almak isteyeceğiniz soruları otomatik olarak icat etmekle ilgili." 

Schmidhuber, tüm araçların var olduğunu söyleyerek özetledi ve "Bu, tüm bu yapboz parçalarını bir araya getirme meselesidir" dedi.

Marcus, ayrıntılar olmasa da meta-öğrenme ilkesi konusunda Schmidhuber ile "tamamen aynı fikirde" olduğunu teklif etti ve ardından Francesca Rossi'yi gündeme getirdi. 

Rossi, Daniel Kahneman'ın aynı adlı kitabına atıfta bulunarak konuşmasına "Yapay Zekada Hızlı ve Yavaş Düşünmek" adını verdi ve bir soruna çözüm önermek için çeşitli "çözücüler" ve önerilen çözümleri tahkim etmek için "metabilişsel" bir modül kullanan "SOFAI" veya Yavaş ve Hızlı Yapay Zeka adlı bir "çok etmenli sistem" tanımladı.

Rossi, "kısıtlı bir ızgarada sıralı kararlar" ve "klasik ve epistemik sembolik planlama" olarak adlandırılan "iki geniş modalitenin" kombinasyonunu tanımlayarak ayrıntılara girdi.

Rossi, döngüdeki insan için vurgulu bir adım attı ve birleşik mimarinin insanın karar verme yöntemini "insan olmayanlara" genişletebileceğini ve ardından makinenin "insanı kendi Sistem Bir'ini veya Sistem İki'yi kullanmaya itecek şekilde insanlarla etkileşime girmesini" sağlayabileceğini belirtti. ya da onun üstbilişi."

"Yani, bu, insanı SOFAI mimarisi tarafından elde edilen bilgi türüne göre bu üç modaliteden birini kullanmaya zorlamanın bir yoludur." Bu nedenle, hızlı ve yavaş düşünmek, bir makinenin nasıl inşa edileceğine ve insanlarla nasıl etkileşime girdiğine dair bir model olacaktır. 

Francesca Rossi, IBM araştırmacısı ve Thomas J. Watson Araştırma Merkezi'nde Yapay Zeka Etiği Küresel Lideri.

Rossi'nin ardından, British Columbia Üniversitesi'nde bilgisayar bilimi doçenti olan Jeff Clune, "Yapay zeka üreten algoritmalar: AGI'ye giden en hızlı yol" konusunu tartışmak üzere gündeme geldi.

Clune, günümüz yapay zekasının "yapı taşlarını tanımlayarak" "yapay zekaya giden manuel bir yol" kullandığını söyledi. Bu, her türlü öğrenme kuralı ve nesnel işlev, vb. anlamına gelir -- ki bunların tam bir slaytı vardı. Ancak bu, tüm yapı taşlarının nasıl birleştirileceği zorluğunu, "Herkülvari bir meydan okuma" olarak bıraktı, dedi Clune.

Uygulamada, elle tasarlanmış yaklaşımların otomatik olarak üretilen yaklaşımlara yol açtığını savundu. 

Clune, itmek için "üç sütun" önerdi: "Mimarileri meta-öğrenmemiz gerekiyor, algoritmaları meta-öğrenmemiz gerekiyor ve en önemlisi, otomatik olarak etkili öğrenme ortamları ve/veya veriler oluşturmamız gerekiyor." 

Clune, yapay zekanın GPT-3 gibi çeşitli gelişmelerin "omuzlarında durarak" geliştiğini gözlemledi. Oyun oynayan insanların videolarının Minecraft oynayan makinelere "büyük bir hız" getirdiği OpenAI projesi örneğini verdi.

Clune, "insan verilerinden yararlanmak" gibi "dördüncü bir sütun" eklemeyi önerdi.

Clune, "ekonomik olarak değerli insan işlerinin %50'sinden fazlasını yapabilme" olarak tanımlanan 2030 yılına kadar AGI'ye ulaşmada %30'luk bir değişiklik olacağını öngördü. Clune, yolun "mevcut paradigma içinde" olduğunu, yani yeni bir paradigmaya ihtiyaç olmadığını da sözlerine ekledi.

Clune, AGI için "Hazır değiliz" ifadesiyle kapanışı yaptı. "Şimdi planlamaya başlamalıyız."

Marcus, 2030'da %30'luk bir AGI şansı hakkında "bahsinizi alacağım" dedi.

Jeff Clune, British Columbia Üniversitesi'nde bilgisayar bilimi doçenti.

Clune'u, kar amacı gütmeyen araştırma laboratuvarı Cohere For AI'nın başkanı Sara Hooker izledi ve "Neden bazı fikirler başarılı olur ve diğerleri başarısız olur?" 

"İlerleme için ihtiyacımız olan bileşenler nelerdir?" Hooker sorun olarak önerdi.

60'lı, 70'li ve 80'li yıllarda back-prop ve evrişimlerin icadından bu yana, derin öğrenmenin tanınması otuz yıl sürdü. Neden? diye sordu.

Cevabın GPU'ların yükselişi olduğunu söyledi. "Mutlu bir tesadüf."

Hooker, "Mevcut araçlarla uyumlu olmayı başaran gerçekten fikirlerin şansı" dedi. 

Kar amacı gütmeyen araştırma laboratuvarı Cohere For AI'ya başkanlık eden Sara Hooker.

Hooker, bir sonraki atılımın yeni algoritmalar ve yeni donanım ve yazılımlar gerektireceğini söyledi. Yapay zeka dünyasının mevcut çerçeveyi "ikiye katladığını", "esneklikten vazgeçtiğimiz" "özel hızlandırıcılara yaslandığını" söyledi. 

Hooker, disiplinin donanıma kilitlendiğini ve bununla birlikte, sinir ağlarının tek başına ölçeklendirilebileceği gibi kötü "varsayımların" başarılı olabileceğini söyledi. Bunun, fenomenlerin "uzun kuyruğunu ezberlemenin" büyük masrafı gibi sorunları gündeme getirdiğini söyledi. 

Hooker, ilerlemenin "farklı donanım-yazılım-algoritma kombinasyonlarının maliyetini düşürmek" anlamına geleceğini söyledi.

Marcus daha sonra "sürdürülebilir yapay zeka" konulu slayt sunumunu yapmak için D'Avila Garcez'i tekrar gündeme getirdi.

D'Avila Garcez, "BM'nin sürdürülebilirlik hedefleriyle ilgili olarak sürdürülebilir yapay zeka hakkında konuşmaya başlamanın tam zamanı" dedi.

D'Avila Garcez, derin öğrenmenin sınırlamalarının, diğerlerinin yanı sıra adalet, enerji verimliliği, sağlamlık, akıl yürütme ve güven de dahil olmak üzere ilk AI tartışmasından bu yana "çok net" hale geldiğini söyledi.

"Bu sınırlamalar, derin öğrenmenin büyük başarısı nedeniyle önemlidir" dedi. D'Avila Garcez, ileriye giden yol olarak nöro-sembolik yapay zekayı önerdi. D'Avila Garcez, nöral-sembolik ile ilgili çalışmaların 1990'lara kadar uzandığını söyledi ve http://www.neural-symbolic.org'da arka plan materyalinden alıntı yaptı.

D'Avila Garcez, "güven ve hesap verebilirlik önlemleri" ve "bir açıklamanın doğruluğu" ve sürdürülebilir kalkınma hedefleriyle uyum dahil olmak üzere sadece "doğruluk sonuçları" değil, birçok önemli görev önerdi. 

Artur d'Avila Garcez, Londra Üniversitesi'nde bilgisayar bilimi profesörü. 

D'Avila Garcez, müfredat öğreniminin özellikle önemli olacağını söyledi. Nöral-sembolik AI için "anlamsal bir çerçeve", kısa süre içinde çıkacak yeni bir makale olduğunu belirtti.

Clune, Soru-Cevap bölümünü şu soruyla başlattı: "ChatGPT'nin GPT-3'ten daha az kusura sahip olduğu ve GPT-3'ün GPT-2 ve GPT-1'den daha azına sahip olduğu konusunda hemfikir değil misiniz? Eğer öyleyse, bu kusurları çözen şey aynı oyun kitabıdır, sadece ölçeklendirilmiştir. Öyleyse neden şimdi mevcut ölçek büyütme paradigmasını benimsemek yerine durup daha fazla yapı eklememiz gerektiği sonucuna varmalıyız?"

George ilk yanıtı verdi. "Ölçeklendirmenin daha etkileyici bazı sonuçlar getireceği açık" dedi. Ancak, "Kusurların daha az olduğuna katılmıyorum," dedi George. "Sistemler gelişiyor, ancak bu birçok algoritmanın bir özelliği. Bu, ölçeklendirme verimliliğiyle ilgili bir soru."

Choi, "ChatGPT, GPT-3 DaVinci'den daha büyük değil, ancak insan açıklamasına kadar gelen büyük miktarda insan geri bildirimi ile daha iyi eğitilmiş" yanıtını verdi. Choi, programın "OpenAI'nin böyle bir insan açıklamalı veri oluşturmak için 10 milyon dolardan fazla harcamış olabileceğine" dair söylentiler ürettiğini söyledi. Yani, belki de daha fazla manuel veri söz konusudur." Choi, ChatGPT'nin daha iyi olduğu fikrini reddetti.

Choi, programların heyecan verici olduğunu söyledi, ancak "Köşe vakalarının genişliğinin ve derinliğinin ne olduğunu, AGI'ye ulaşmak istiyorsak uğraşmamız gereken uç vakaları gerçekten bildiğimizi sanmıyorum. Beklediğimizden çok daha büyük bir canavar olduğundan şüpheleniyorum." İnsan zekası ile GPT'nin bir sonraki sürümü arasındaki uçurum "bugün şüphelenebileceğimizden çok daha büyük".

Marcus kendi cevabını verdi: "Buradaki risk erken kapanmadır, işe yaradığını düşündüğümüz ama doğru olmayan bir cevap seçiyoruz."

Grup daha sonra 5 dakika ara verdi. 

Aradan sonra ilk sunum yapan Kanada Parlamentosu üyesi Michelle Rempel Garner oldu.

Marcus, Rempel Garner'ı hükümette ChatGPT ile ilgili endişelerini dile getiren ilk kişilerden biri olarak tanıttı. 

Rempel Garner "bir politikacının görüşünü" önerdi. AGI'nin gelişinin zaman çizelgesinin "belirsiz" olduğunu söyledi, ancak hükümetin konuya nasıl yaklaşması gerektiğine dair kesinlik eksikliği de bir o kadar önemli. "Ortaya çıkan çabalar, nispeten dar cezai çerçevelere odaklanıyor." Bunun, teknolojinin gelişim hızına ayak uyduramayan "reaktif" bir duruş olduğu için sorunlu olduğunu söyledi. "Hükümetin rolüne ilişkin mevcut söylem, naif ve karamsar bir yaklaşım olma eğilimindedir." 

Kanada Parlamentosu üyesi Michelle Rempel Garner.

Rempel Garner, hükümetin, sadece özel sermayenin dışındaki geniş araştırmaları teşvik etmeye yardımcı olabilecek önemli "kaldıraçlara" sahip olduğunu söyledi. Ancak hükümetler kaldıraçlarını kullanmakta sorunlarla karşı karşıyadır. Birincisi, sosyal adetlerin her zaman yeni teknolojiye adapte olmamış olmasıdır. Ve hükümetler her zaman insanları tek biliş biçimi olarak kabul ettikleri bir bağlamda faaliyet gösteriyorlar. Hükümet, insanlığın gezegeni diğer biliş biçimleriyle paylaştığını düşünmek için kurulmamıştır.

Rempel Garner, "Yasa koyucu olarak endişem, hükümetimizin insanların efendiliğin zirvesi olduğu bir bağlamda faaliyet göstermesidir" dedi, ancak "hükümet, durumun böyle olmayabileceği bir dünya hayal etmeli" dedi. 

Rempel Garner, Web3 ile ilgili bir yasa tasarısını Parlamento'dan geçirmeye çalışırken "yaşanmış deneyim" sundu. Bunun bir "partizan tatbikatı" haline geldiğini görünce şaşırdı ve "Bu dinamiğin AGI ile kendini tekrar etmesine izin verilemez" dedi.  

Sözlerine şöyle devam etti: "Hükümet, AGI'nin gelişiminin sunduğu zorlukları ve fırsatları karşılamak için mevcut işletme paradigmalarını yenilemeli ve aşmalıdır; Hükümetin geleneksel katılığı göz önüne alındığında, AGI'nin ortaya çıkmasının zaman ufku belirsiz olsa bile, bunun dün başlaması gerekiyordu."

Choi, Rempel Garner'ı "yapay zeka güvenliği", "Eşitlik" ve "Ahlak"ın birlikte nasıl görüleceği konusundaki tutumunu detaylandırmak için ikinci bir sunumla takip etti.

Choi, ChatGPT'nin sağduyuyu ihlal ettiği ve sorulara yanıt olarak tehlikeli öneriler sunduğu gibi kötü örneklere atıfta bulundu. 

Choi, dil modellerinin üzerine "sağduyulu ahlaki modeller" oluşturmak için "Delphi" araştırma prototipini tanımladı. Delphi'nin bazı ifadelerin tehlikeli öneriler olabileceği konusunda spekülasyon yapabileceğini söyledi. 

Choi, Delphi'nin pekiştirmeli öğrenme yoluyla "sosyal normlara uyum sağlayabileceğini", ancak bazı "ön bilgiler" olmadan mümkün olmadığını söyledi. Choi, "insani değerleri" öğretme ihtiyacının, "değer çoğulculuğuna" duyulan ihtiyaca, çeşitli kültürel sistemlere saygı duyacak "güvenli bir AI sistemine" sahip olma becerisine yol açtığını söyledi.

Marcus daha sonra Carnegie Yapay Zeka Etiği Konseyi'nden Anja Kaspersen'i gündeme getirdi. 

Kaspersen, AGI ile ilgili olarak "Kim karar verecek?" ve "Yapay zeka, güç dağılımı açısından nerede duruyor?" sorularının tartışılmasını teşvik etmek için altı gözlem paylaştı.

İlk teması "İnsanlık durumu dijital teknolojiler ve yapay zeka ile iyileştirilecek mi, yoksa yapay zeka insan durumunu dönüştürecek mi?" idi.

Kaspersen, "Yapay zeka geliştirmenin mevcut hedeflerinde insan olmanın ne anlama geldiğini çarpıtabilecek gerçek bir risk olduğunu görüyorum" dedi. "Mevcut teşvikler, insan onurunu ve refahını artırmayı amaçlayan AI sistemlerinden ziyade, ikame tarafına [yani insanların yerini almaya] yöneliktir" dedi.

"Tüm bunları yeniden yönlendirmezsek... Suç ortağı olma ve insan olmanın ne anlama geldiğinin temelini ve insan olmaya verdiğimiz değeri yok etme ve otokrasiyi besleme riskiyle karşı karşıyayız" dedi. 

İkincisi, "anlatıların gücü ve benim kontrolsüz bilimcilik dediğim şeyin tehlikeleri". 

Anja Kaspersen, Carnegie Yapay Zeka Etiği Konseyi'nde kıdemli araştırmacı.

"Sosyal ve politik sistemler üzerinde derin ve derin bir etkiye sahip teknolojileri tartışırken, bilimciliğin bir tür etoloji haline geldiği aşağıdan yukarıya, indirgemeci bir mercek sağlama konusunda çok dikkatli olmamız gerekiyor."

"Bireysel insan yeteneklerindeki kusurları vurgulayan" anlatılarla "insan türünün gaslighting" tehlikesi olduğunu söyledi.

Kaspersen, 1963'te bir konuşma yapan bilim adamı J. Robert Oppenheimer'ı örnek gösterdi: "Dedi ki, dünyanın bilgisine ve bunun verdiği gücün insanlık için içsel bir değere sahip olduğuna inanmadıkça bilim adamı olmak mümkün değildir." Oppenheimer'ın sonuç kavramı, dedi ki, giderek artan bir şekilde karar vermedeki insanlardan şimdi bilim adamlarının kendilerine geçti.

Üçüncüsü, AI'nın "güç hakkında bir hikaye" olduğunu söyledi. Veri ve algoritmaların "mevcut devrimi" "gücü yeniden dağıtıyor". Marcus'un "ayrışma"nın tuzakları hakkındaki görüşünü aktardı.

"Konuşmaya çalışan insanlar gaz lambasına maruz kalıyor, geri itiliyor ve zorbalığa uğruyor" dedi.

Dördüncüsü, sosyolog Pierre Bourdieu'den ödünç alarak "tüm sosyal bilimlerin gücü" ve bir toplumda kimin "mevcut düzenlemelerde en büyük çıkarı" olduğu ve "belirli konuları kamusal söylemden uzak tutma" sorusu olduğunu söyledi. 

Kaspersen, beşinci olarak, yapay zeka sorunlarını ele alma yollarının bir "yönetişim görünmezliği pelerini" haline gelmesi ve "bilimsel yöntemlerimizin ve sistemlerimizin sorunlarını ve sınırlamalarını ele almak adına maskelemenin" bir yolu olduğunu söyledi.

Kaspersen'in altıncı ve son noktası, yapay zeka anlamına gelen "bu alana etik yerleştirmenin ne anlama geldiği konusunda bazı kafa karışıklıkları" olduğuydu. Kaspersen, kilit noktanın bilgisayar biliminin artık sadece "teorik" olmadığını, "insan olmanın ne anlama geldiği üzerinde derin ve derin bir etkisi olan yaşamın tanımlayıcı bir özelliği haline geldiğini" söyledi.

Kaspersen'in ardından Clune ve Rossi yanıt olarak kısa açıklamalar yaptılar.

Clune, "Makineleri açık değerlere sahip olacak şekilde programlamalı mıyız?" sorusuna yanıt verdiğini söyledi.

"Cevabım, hayır" dedi. Soru "kritik" dedi, "çünkü AGI geliyor, hayatımızın neredeyse her yönüne dokunacak ve etkileyecek."

Clune, "Bahisler daha yüksek olamazdı; Yapay zekanın etik ve değerlerini kendi değerlerimizle uyumlu hale getirmemiz gerekiyor." Ancak, değerler sabit kodlanmamalıdır, çünkü, "1 numara, tüm işaretler, öğrenilen AI veya AGI'nin elle kodlanmış herhangi bir şeyden çok daha iyi performans göstereceği [fikrine] işaret ediyor... ve toplum sonunda mevcut en güçlü yapay zekayı benimseyecek." Ve 2 numaralı sebep, "etiği nasıl programlayacağımızı bilmiyoruz" dedi. "Çok karmaşık" dedi ve ekledi, "Örneğin, Asimov'un Üç Yasa üzerindeki çalışmasına bakın," Isaac Asimov'un Üç Robotik Yasası'na atıfta bulunarak.

Clune, etiğe ulaşmanın en iyi yolunun, "hiç bitmeyen bir örnek, tartışma, tartışma, uç vaka akışı" da dahil olmak üzere insan geri bildirimiyle birlikte pekiştirmeli öğrenmeyi kullanmak olduğunu öne sürdü.

Clune, en büyük tehlikenin, AI ve AGI'nin "vicdansız aktörler tarafından yapıldığında", özellikle de büyük dil modellerinin eğitilmesi daha kolay ve daha kolay hale geldiğinde, ne olacağını öne sürdü.

Rossi, "Asıl soru, değerleri yapay zeka sistemlerine yerleştirmemiz gerekip gerekmediğidir" dedi ve "Cevabım evet" dedi.

Rossi, değerlerin "sadece verilere bakarak veya verilerden öğrenerek" elde edilemeyeceğini, bu nedenle "insan verilerine ihtiyaç duyduğunu, kurallara ihtiyaç duyduğunu, bu değerleri yerleştirmek ve tanımlamak için sinirsel-sembolik bir yaklaşıma ihtiyaç duyduğunu" söyledi. Rossi, değerleri sabit kodlamak mümkün olmasa da, "bir noktada açıkça dışarıdan görülmeleri gerekiyor" dedi.

Rossi'nin ardından Ferrucci iki nokta hakkında kısa bir gözlem yaptı. Birincisi, "Şeffaflık kritik öneme sahip" dedi, "Yapay zeka sistemleri, aldıkları kararları neden aldıklarını açıklayabilmelidir." Ancak, şeffaflığın "bir yerde tasarlanmış ve üzerinde anlaşmaya varılmış" bir değer sistemine olan ihtiyacı ortadan kaldırmadığını söyledi.

Ferrucci, "Korkunç bir kararın alındığı bir durumda olmak istemezsiniz ve sonunda bunu açıklayabilmeniz sorun değil; Bu kararların kolektif olarak mantıklı olan ve vaktinden önce belirlenmesi gereken bir şeye uymasını istiyorsunuz."

Choi, Ferrucci'yi takip etti ve insanların genellikle neyin ahlaki olduğu konusunda anlaşamadıklarını gözlemledi. "İnsanlar, insanların aynı fikirde olmadığını bilebilirler" dedi. "Yapay zekanın tam olarak bunu yapabilmesi gerektiğini düşünüyorum" dedi.

Stanford İnsan Merkezli Yapay Zeka Enstitüsü'nden Erik Brynjolfsson.

Son bölüm için, Jerry Yang ve Akiko Yamazaki Profesörü ve Stanford İnsan Merkezli Yapay Zeka Enstitüsü'nde (HAI) Kıdemli Araştırmacı ve Stanford Dijital Ekonomi Laboratuvarı Direktörü olan Erik Brynjolfsson, "insan benzeri yapay zekanın vaadi, üretkenliği artırmak, daha fazla boş zamanın tadını çıkarmak ve belki de en derinden, kendi zihinlerimiz hakkındaki anlayışımızı geliştirmek için."

Brynjolfsson, Alan Turing'in "Taklit Oyunu"nun bir kısmının artık daha gerçekçi hale geldiğini söyledi, ancak insanları taklit etmenin yanı sıra başka bir tür daha var ve bu, insanları artıran veya tamamlayan şeyler yapan yapay zeka. 

Brynjolfsson, "MIT'deki araştırmam, insanları artırmanın veya tamamlamanın, yalnızca insan emeğini ikame eden veya taklit eden AI'dan çok daha fazla ekonomik faydaya sahip olduğunu ortaya koyuyor" dedi.

Ne yazık ki, üç tür paydaşın - teknoloji uzmanları, sanayiciler ve politika yapıcılar - "çok yanlış hizalanmış ve insan emeğini artırmak yerine ikame etmeyi tercih eden" teşviklere sahip olduğunu söyledi.

Brynjolfsson, "Toplum, insan yeteneklerini taklit eden birçok yapay zeka türünü takip etmeye devam ederse, ekonomik bir tuzağa düşeceğiz" dedi. Turing Tuzağı olarak adlandırdığı bu tuzak, oldukça sapkın faydalar yaratacaktır. 

"Daedalus'un Yunan efsanesinde robotlar geliştirdiğini hayal edin" dedi. "3.000 yıl önce o zamanki görevleri otomatikleştirmeyi başardılar ve robotları, eski Yunanlıların o zamanlar yaptığı çanak çömlek ve dokuma gibi görevlerin her birini otomatikleştirmeyi başardı". "İyi haber şu ki, insan emeğine artık ihtiyaç kalmayacak, insanlar boş hayatlar yaşayacaktı, ancak zamanın eserlerine ve üretimine takılıp kalarak özellikle yüksek yaşam standartlarına sahip bir dünya olmayacağını da görebilirsiniz."

Brynjolfsson, "Yaşam kalitesini önemli ölçüde artırmak için, yalnızca insan emeğinin yerine geçen ve onu taklit eden makineler inşa edemeyiz; Yeteneklerimizi genişletmeli ve yeni şeyler yapmalıyız."

Buna ek olarak, Brynjolfsson, otomasyonun, örneğin ücretleri düşürerek ekonomik gücün yoğunlaşmasını artırdığını söyledi.

Günümüz teknolojisinin, önceki 200 yıldaki insan yeteneğini geliştiren teknolojilerin aksine, insan yeteneğini artırmadığını savundu. 

"İnsanları tamamlayan teknolojiler konusunda ciddileşmemiz gerekiyor" dedi, hem daha büyük bir ekonomik pasta yaratmak hem de serveti daha eşit bir şekilde dağıtmak için. Sistemik sorunun, üç paydaşın, teknoloji uzmanlarının, sanayicilerin ve politika yapıcıların sapkın teşvikleri olduğunu savundu.

Brynjolfsson'u, eski Google ve Microsoft yöneticisi ve şimdi risk sermayesi şirketi Sinovation Ventures'ın başkanı olan Kai-Fu Lee izledi. Lee, yeni kitabı AI 2041'den alıntı yaparak "kendimle tartışmayı" önerdi. 

Kai-Fu Lee, eski Google ve Microsoft yöneticisi ve şimdi risk sermayesi şirketi Sinovation Ventures'ın başkanı.

Kitapta, yapay zekanın "inanılmaz güçleri" ve özellikle de "AIGC", yapay zeka tarafından oluşturulan içerik hakkında büyük ölçüde olumlu bir görüş sunuyor ve özellikle arama motoru paradigmasını değiştirmek ve hatta TikTok'un reklamcılık için nasıl çalıştığını değiştirmek gibi ticari alanlarda "kesinlikle inanılmaz derecede yetenekli, akıllı bir davranış sergileyen yeteneklerin olağanüstü gösterimi" dahil.

"Ancak bugün, çoğunlukla bunun yaratacağı potansiyel tehlikeler hakkında konuşmak istiyorum" dedi.

Geçmişte, Lee, AI programları tarafından yaratılan "dışsallıklara" "ya algoritmaları düşünebilirdim ya da en azından teknolojik çözümler hayal edebilirdim" dedi. Lee, "Ama şimdi sıkışıp kaldım çünkü yapay zeka tarafından üretilen yanlış bilgiler için ticari olarak güçlü, özellikle hedeflenmiş yanlış bilgi olarak basit bir çözümü kolayca hayal edemiyorum" dedi. 

Lee, Amazon, Google veya Facebook'un "her bir bireyi hedef alıp yanıltabileceğini [...] ve ticari şirket için potansiyel olarak çok iyi olabilecek cevaplar verebiliyorsa çünkü çıkarlar arasında temel bir yanlış hizalama var, çünkü büyük şirketler ürünlere bakmamızı, içeriğe bakmamızı, tıklamamızı, izlememizi ve bağımlı hale gelmemizi istiyor [böylece] yeni nesil ürünler [...] kapitalizmin gücüne ve yeni kurulan şirketlerin açgözlülüğüne karşı duyarlı olabiliyor ve VC'ler, muazzam zenginlik yaratacak faaliyetleri finanse edecek, kontrol edilmesi çok zor teknolojilerle endüstrileri bozacak."

Bunun, AI'nın "temel modellerini" kontrol eden "büyük devler" şirketleri daha da güçlü hale getireceğini söyledi. 

"Ve ikinci büyük, büyük tehlike, bunun devlet dışı aktörlere ve yapay zekayı kötülük için kullanmak isteyen insanlara her zamankinden daha kolay izin verecek bir dizi teknoloji sağlamasıdır." Lee, Cambridge Analytica'dan çok daha kötü bir Cambridge Analytica tarzı skandal olasılığının, daha sofistike AIGC tarafından destekleneceği için öne sürdü. Devlet dışı aktörlerin, seçimleri bozabilecek "insanları düşüncelere yönlendirebileceğini" ve "steroidler üzerinde Cambridge Analytica" olarak adlandırdığım şeyin başlangıcı --- diğer korkunç şeyleri önerdi.

Lee, meslektaşlarını bu "en büyük tehlikeyi" nasıl önleyeceklerini düşünmeye çağırdı. 

Dedi ki, "İnsanların, bu inanılmaz teknoloji atılımını daha olumlu, daha kontrollü ve potansiyel ticari kötü kullanımlarında daha fazla yer alması için kullanacak ve yardımcı olacak teknolojiler üzerinde çalışmaları için gerçekten bir eylem çağrısına ihtiyacımız var."

Marcus, Lee ile yürekten hemfikir olduktan sonra, DC bölgesindeki dijital danışmanlık firması Raft'ta yapay zeka kıdemli direktörü olan son konuşmacı Angela Sheffield'ı tanıttı.

Angela Sheffield, D.C. bölgesindeki dijital danışmanlık firması Raft'ta yapay zeka kıdemli direktörü.

Sheffield, "ABD hükümeti ve uluslararası hükümetlerdeki üst düzey karar vericiler" ile sık sık yaptığı görüşmelere atıfta bulunarak, "üst düzey karar vericilerimiz ve politika yapıcılarımız arasında yapay zekanın nasıl düzenleneceği konusunda gerçek bir aciliyet duygusu var" dedi. 

Sheffield, "AGI'nin tam olarak bir sonraki olmadığını bilebiliriz" dedi, ancak politika yapıcıların bunu söylemelerine yardımcı olmuyor çünkü "şu anda yasama yapmalarına yardımcı olan ve diğer ülkelerdeki üst düzey karar vericilerle ilişki kurmalarına yardımcı olan bir şeye ihtiyaçları var."

"Çerçevelerden daha fazlasına" ihtiyaç olduğunu söyledi. "Demek istediğim, bunu anlamlı bir gerçek dünya problemine uygulamak, problemin parametrelerini belirlemek, spesifik olmak [...] dart atılacak bir şey. Kai-Fu'dan az önce duyduğumuz motivasyon nedeniyle şimdi daha hızlı hareket etme zamanı."

"Biz değilsek, o zaman kim?" sorusunu sordu. 

Sheffield, özellikle nükleer silahların yayılmasıyla ilgili olarak, ulusal güvenlikte yapay zeka üzerine yaptığı kendi çalışmalarına dikkat çekti. "Nükleer silah geliştiren kötü adamları bulma yaklaşımımızı artırma yeteneğimizi geliştirmek için AI algoritmalarını yeni veri kaynaklarıyla eşleştirebileceğimiz bazı fırsatlar bulduk." Sheffield, AI'yı "komuta ve kontrol etme şeklimizi artırmak" için kullanma umudu olduğunu söyledi, yani "bir grup insanın bilgiyi nasıl aldığını, anlamlandırır, ne yapacağına karar verir ve bunu uygular."

Kapanış bölümü için Marcus, her katılımcının 30 saniye veya daha kısa sürede yanıt verme şansı olan bir "yıldırım turu" ilan etti: "Öğrencilere, örneğin, En çok hangi yapay zeka sorusunun araştırılması gerektiği veya yapay zekanın giderek daha merkezi hale geldiği bir dünyaya nasıl hazırlanılacağı konusunda bir tavsiye verebilseydiniz, bu tavsiye ne olurdu?"

Brynjolfsson, yapay zekada "kesintili denge" iyileşmesi olduğunu, ancak "ekonomik kurumlarımızda, becerilerimizde, organizasyonlarımızda" böyle bir gelişme olmadığını ve bu nedenle anahtarın "kurumlarımızı nasıl yeniden icat edebileceğimiz" olduğunu söyledi.

Ferrucci şunları söyledi: "Beyniniz, işiniz ve en temel inançlarınız, daha önce hiç olmadığı kadar AI tarafından sorgulanacak. Onu, nasıl çalıştığını ve nerede ve nasıl kullanıldığını anladığınızdan emin olun."

Choi: "Yapay zekayı insani değerlerle, özellikle de çoğulculuğa vurgu yaparak uyumlu hale getirmekle uğraşmalıyız; Bence bu, karşı karşıya olduğumuz gerçekten kritik zorluklardan biri ve sağlamlık, genelleme ve açıklanabilirlik gibi zorlukları daha geniş bir şekilde ele alıyor."

Kaspersen: "Silolardan kurtulun; Bu, eşi benzeri görülmemiş bir tür teknoloji yakınsamasıdır. Etik düşünceleri ve belirsizlikleri yönlendirmek için gerçekten iyi sorular sorun."

George: "Ölçeklendirme alanında mı yoksa temel araştırmada mı olmak istediğinizi seçin, çünkü farklı yörüngeleri var."

D'Avila Garcez: "İnsanları anlayan bir yapay zekaya ve yapay zekayı anlayan insanlara ihtiyacımız var; Bunun demokrasi, hesap verebilirlik ve nihayetinde eğitim üzerinde bir etkisi olacak."

Lee: "Bir insanın yapamayacağı veya iyi yapamayacağı şeyleri yapabilen teknolojiler üzerinde çalışmalıyız [...] Ve sadece daha büyük, daha hızlı, daha iyi algoritmayı tercih etmeyin, aynı zamanda potansiyel dışsallıkları da düşünün [... Bu] sadece elektriği değil, aynı zamanda teknolojinin güvenli ve kullanılabilir olduğundan emin olmak için devre kesiciyi de buluyor."

Sheffield: "Bir etki alanı uygulamasında uzmanlaşmayı düşünün. Hem araştırma ve geliştirmemizde hem de yapay zekanın belirli bir dizi soruna veya belirli bir alana uygulanmasında insan toplumuna katkımızda çok fazla zenginlik var."

Clune: "AGI yakında geliyor. Bu nedenle, yapay zeka geliştiren araştırmacılar için, mühendislik, algoritmalar, meta-öğrenme, uçtan uca öğrenme vb. temelli teknikler üzerinde çalışmanızı tavsiye ederim, çünkü bunlar büyük olasılıkla yarattığımız AGI'ye dahil edilecektir. Yapay zeka olmayan araştırmacılar için en önemlileri muhtemelen yönetişim sorularıdır, bu nedenle, AGI geliştirildiğinde oyun kitabı nedir? Bu oyun kitabına kim karar verecek? Ve gezegendeki herkesin bu oyun planını kabul etmesini nasıl sağlayabiliriz?"

Rossi: "Bu noktada yapay zeka sadece bir bilim ve teknoloji değil, aynı zamanda sosyal teknik bir disiplindir [...] Disiplininizde olmayan insanlarla konuşarak başlayın, böylece birlikte yapay zekanın etkisini, üzerinde çalıştığınız şeyi değerlendirebilir ve bu teknolojileri, bilimsel ilerlemenin insani ilerlemeyi desteklediği bir geleceğe doğru yönlendirebilirsiniz.

Marcus, son tartışmadaki "Yapay zekayı yükseltmek için bir köy gerekir" ifadesini hatırlatarak geceyi kapattı.

"Bence bu şimdi daha da doğru" dedi. "Yapay zeka daha önce bir çocuktu, şimdi henüz tamamen olgun bir yargıya sahip olmayan, başıboş bir genç gibi."

"Bence o an hem heyecan verici hem de tehlikeli" dedi.