Yapay zeka sizi 2025'te milyarder yapabilir mi?
CEO Venkat Mattel, analog hesaplama da dahil olmak üzere bir dizi yeni çip özelliğinin, birden fazla pazar için daha verimli, daha güvenilir ve daha güvenli bir AI işlemcisi sunacağını iddia ediyor.
Makinelerin yapay zeka görevlerini, özellikle de derin öğrenmeyi daha iyi hesaplayabilmesi için bilgisayar endüstrisini değiştirme savaşı, yeni ve ilginç potansiyel geleceğin yıldızlarını doğurmaya devam ediyor.
Pazartesi günü, San Jose, California'daki Ceremorphic, iki yıl boyunca gizli modda tutulan çip çabalarını resmen piyasaya sürdü ve şirketin güç tüketimi açısından AI hesaplamanın verimliliğinde devrim yaratacağını iddia ettiği bir çipi tartıştı.
Şirketin kurucusu ve CEO'su Venkat Mattela, Zoom üzerinden ZDNet ile yaptığı röportajda, "Bugün mantığa aykırı, ancak daha yüksek performans daha düşük güçtür" dedi.
Mattela, düşük güçte çalıştırmayla ilgili çok sayıda patentin, şirketinin çipinin çok daha az bilgi işlem çabasıyla makine öğreniminin imza görevlerinde aynı doğruluğu üretmesini sağlayacağına inanıyor.
"Yapmaya çalıştığım şey sadece yarı iletken bir çip inşa etmek değil, aynı zamanda iş yükünü azaltmak için matematik ve algoritmalar" dedi. "Bir iş yükü yüz işlem gerektiriyorsa, bunu elli işleme indirmek istiyorum ve elli işlem yüz işlemden daha az enerjiye mal oluyorsa, benimkinin daha yüksek performanslı bir sistem olduğunu söylemek istiyorum."
"Çok sabrım var [...] Ben artımlı şeyler yapmıyorum," diyor kurucu ve CEO Venkat Mattela, mühendislik ve iş dünyasına yaklaşımı hakkında. Son şirketi Redpine Signals'ı 2020'de 314 milyon dolara Silicon Labs'a sattı.
Mattela, Cerebras Systems, Graphcore ve SambaNova gibi girişimlerin büyük meblağlarda para kazandığı ve tüm başarılarına rağmen hala endüstrinin ağır sikleti Nvidia'yı devirmek için mücadele ettikleri, oldukça çekişmeli bir pazara giriyor.
Mattela uzun vadeli bir bakış açısına sahip olmaya meyillidir. Son girişimi Redpine Signals, 2006'dan başlayarak on dört yıllık bir süre içinde inşa edildi. Bu şirket, düşük güçlü Bluetooth ve Wi-Fi çip teknolojisi için Mart 2020'de 314 milyon dolara çip üreticisi Silicon Labs'a satıldı. (Çip şu anda yakın zamanda tanıtılan Garmin Fenix 7 akıllı saatinde kullanılıyor.)
Redpine'daki ve şimdi de Ceremorphic'teki bu on yedi yıllık çabanın dersi iki yönlüdür: "Çok sabrım var," diye kıkırdayarak kendini gözlemledi. Ve "Ben artımlı şeyler yapmam."
Mattela, çip tasarımı ile ilgili bir alanda bir sorunu ele aldığında, bunun en son teknolojinin anlamlı bir şekilde önüne geçecek şekilde olduğunu iddia ediyor. Silicon Labs'ın satın aldığı Redpine kablosuz çip teknolojisinin, dev şirketler olan Qualcomm ve Broadcom'un Bluetooth ve Wi-Fi tekliflerine karşı çıktığını söyledi.
Mattela, "Büyük bir meydan okumayı göze aldım, onlara karşı çıktım, ancak yalnızca bir metrik, ultra düşük enerjili kablosuzla, sektördeki en iyilerden yirmi altı kat daha az enerjiyle" dedi.
Şimdi Mattela, hem yapay zeka çip pazarında benzersiz hem de disiplin için gerekli olduğunu düşündüğü diğer üç özelliğin yanı sıra güce de benzer şekilde kazanan bir odaklanmaya sahip olduğuna inanıyor: güvenilirlik, kuantum güvenli güvenlik ve birden fazla pazarda çalışma yeteneği.
Tüm bunları mümkün kılmak için Mattela, Ceremorphic'in temelini oluşturmak için Redpine'da geliştirilen mikroişlemci varlıklarını elinde tuttu ve bu çabadan on sekiz çalışanı elinde tuttu ve bunları 131 kişiyi daha işe alarak tamamladı. Şirketin hem resmi genel merkezi olan San Jose'de ofisleri hem de Hindistan'ın Haydarabad kentinde pırıl pırıl yeni bir ofis binası bulunmaktadır.
Mattela, üzerinde adının yazılı olduğu 26 ABD patentinden oluşan ilgi çekici bir listeye ve son birkaç yıldaki 14 ABD patent başvurusundan oluşan eşit derecede ilgi çekici bir listeye sahiptir.
Mattela'nın "Hiyerarşik Öğrenme İşlemcisi" veya HLP olarak adlandırdığı şey, 2 gigahertz'de çalışan makine öğrenimi için bir bilgi işlem öğesinden oluşur; aynı saat frekansında özel bir kayan nokta birimi; özel olarak tasarlanmış çok iş parçacıklı iş yükü zamanlama yaklaşımı; ve işlemciyi x86 yongası gibi bir sistemin ana işlemcisine bağlamak için özel olarak tasarlanmış 16 şeritli PCIe gen-6 devresi.
Mattela, bunlardan sonuncusu olan PCIe parçasının neredeyse kendi şirketi olabileceğini iddia ediyor.
MattelA, "Şu anda üretimde olan, baskın olan PCIe-4 ve PCIe-5 geçen yıl başladı" dedi. "Ve bizimle, PCIe-6 2024'te üretimde olacak - bu teknolojiye sahibim."
PCIe-6 için "Bunu lisanslamak zorunda kalsaydınız bu 12 milyon dolar" dedi. "Bu tek başına tasarım için önemli bir şey." PCIe bağlantısının, Mattela'nın toplam sistemin enerji tüketimini daha da iyileştirmesine izin vereceğini söyledi.
Çipin avantajının merkezinde, dijitalin altında duran analog devreler var. Bazı şirketler, yapay zeka işleme için analog devreleri yaygın olarak kullandı, en bilineni, 2020'de makine öğreniminin kalbi olan vektörleri ve matrisleri çarpabilen bir çipi ortaya çıkaran Mythic'tir - dijital çarpmalar olarak değil, şirketin analog hesaplama dediği Ohm Yasasına uygun olarak sürekli enerji dalga biçimlerinin kombinasyonları olarak.
Mattela, ZDNet'e verdiği demeçte, Ceremorphic HLP çipinin analog hesaplamayı Mythic'ten daha seçici bir şekilde kullanacağını söyledi.
Mattela, "Çip işlevselliği hiyerarşisinin en alt seviyesinde", "Analog hesaplama yapıyorum" diye açıkladı. "Ama daha yüksek seviyede, programlama modelini kolaylaştırmak istediğim için analog yapmıyorum."
Bu, HLP'nin mikro mimarisi aracılığıyla analogda çarpma-biriktirme için "yirmi üç model" anlamına gelir. Analog çarpmaların, dijitalden daha verimli bir voltaj kullanımı olacağını savundu.
"Daha yüksek bir seviyede, bir vektör işleme ve veri yolu işleme kombinasyonu gibi görünüyor."
Çeşitli çip özellikleri, Mattela'nın teşvik ettiği dört niteliğin mümkün kılınmasına katkıda bulunacaktır.
Güç tasarruflu çalışmaya ek olarak, güvenilirlik de vardır. Mattela, AI silikonunun bugün bir güvenilirlik sorunu olduğunu iddia etti.
Makine öğrenimi çipleri, geleneksel mikroişlemcilerden çok daha büyük hale geldi. Nvidia'nın "A100" GPU'su, klasik standartlara göre 826 milimetre kare olan oldukça ağır. Ancak, Cerebras'ın WSE-2 çipi gibi, 45.225 milimetre kare, sekiz inçlik bir silikon gofretin neredeyse tüm yüzeyi gibi yeni çipler çok daha büyük olabilir.
Mattela, "Daha fazla silikonunuz olduğunda, alfa parçacıkları, nötron bombardımanı olduğu için daha büyük bir başarısızlık olasılığı vardır" dedi. "Son iki yılda, insanlar zaten sistemlerimin veri merkezinde başarısız olduğunu söylüyor."
Mattela, benzersiz bir donanım-yazılım kombinasyonunun çipinin "hataları tahmin etmesini ve düzeltmesini" sağlayacağını iddia ediyor.
"Güvenilir performanslı bilgi işlem mühendisliği bizim en önemli katkımızdır" dedi.
Mattela'nın vurguladığı üçüncü kalite, geleneksel veri güvenliğini makul bir şekilde bozabilecek gelecekteki kuantum sistemlerine karşı koruma da dahil olmak üzere güvenliktir.
Mattela, "Şimdiye kadar, güvenlik sistemleri insanlar tarafından bilgisayar korsanlığına karşı koymak için tasarlandı" diye açıklıyor. "Ancak ileriye dönük olarak, bilgi işlem gücünün sınırlı olacağını ve onu [bir sistemi] kırmanın iki gün alacağını varsayamazsınız, belki de iki dakika varsaysanız iyi olur!"
Mattela, Ceremorphic çipinin "çok yüksek performanslı bir bilgisayar tarafından kırılamayan" "kuantuma dirençli rastgele sayı üretimine" sahip olduğunu söyledi. Mattela, pratik açıdan, bunun böyle bir sistemin kırılmasının belki de bir ay süreceği ve müşteriye saldırıyı engellemek için güvenlik anahtarını değiştirmesi için zaman tanıyacağı anlamına geldiğini söyledi.
Dördüncü özellik, Mattela'nın ölçeklendirme olarak adlandırdığı şeydir. Mattela'nın bununla kastettiği şey, tek bir çip ile birden fazla pazara hitap etmektir. Çip, derin öğrenme, otomotiv uygulamaları, robotik, yaşam bilimleri ve bir tür gelecekteki Metaverse uygulamasında işlev görebilecek.
Aynı HLP, makine öğreniminin iki yönü olan hem eğitim hem de çıkarım yapmaya hizmet edecektir.
Mattela, birden fazla pazara ölçeklendirmenin, çipini rakiplerinden daha alakalı hale getireceğini iddia etti. Cerebras gibi girişimlerin etkileyici olduğunu, ancak nihayetinde o kadar alakalı olmadığını savunuyor.
Mattela, "Bu çok iyi bir mühendislik, evet ve her zaman kimsenin yapamayacağı bir şeyi yapabilirsiniz, ancak amacınız kimsenin yapmadığı bir şeyi yapmak değil" dedi.
"Amacınız, herkesin para kazandığı bir sonuç yaratmak ve bunun bir etkisi var, piyasa için bir değeri var."
Tabii ki, Cerebras ve diğerleri ürün gönderiyor, Mattela ise henüz numune bile üretmedi.
Ceremorphic'in tasarımını bir kazanan yapmak için Mattela'nın cebinde bir as gibi görünen bir şey var: Taiwan Semi'nin üretim devinin "ileri teknolojilerinden" biri olan 5 nanometre çip süreci, her müşteriye erişim verilmeyen bir çip süreci.
Mattela, "İnsanlara 5 nanometre yaptığımı söylediğimde, 'Nasıl 5 nanometre elde edersiniz' diyorlar" dedi. "Yüz milyonlarca fona sahip bu şirketlerden bazıları 5-nm'de değil; 7 nm'deler."
Bunun bir nedeni, Mattela'nın yıllar önce analog çip devi Analog Devices'ta çalışırken TSM ile geliştirdiği yakın bir ilişkidir. Daha da önemlisi, Redpine'ı Silicon Labs'a satması güvenilirliğini artırdı. TSM'nin, ürününün meyvesini verebileceğine inanması gerektiğini, çünkü ancak o zaman TSM'nin tam olarak ödeme alabileceğini söylüyor.
"Çok, çok uzun yıllar alıyor," dedi Mattela, üretim sürecine atıfta bulunarak. "200 milyon dolar harcamam gerekiyor, bir çip üretmem gerekiyor, çipin çalışması gerekiyor ve sonra işe yararsa, onlar [TSM] o zaman ödeme alacaklar."
Mattela'nın ekibi, çipi başlangıçta biraz daha az karmaşık olan 7 nanometre sürecinde, küçük bir çip partisi olan mekik koşusu olarak adlandırılan bir prototip olarak tasarladı. Şirket, bu yıl mekik koşusu partilerini 5 nanometreye çıkaracak.
Ceremorphic, çipinin ilk müşteri örneklerini gelecek yıl sunmayı beklerken, 5 nanometrede tam ölçekli üretimin muhtemelen 2024 yılına kadar gerçekleşmeyeceğini söylüyor. Mattela, zaman çizelgesini 5-nano gibi öncü bir süreçte tasarım için "Bunlar çok agresif tarihler" olarak gözlemledi.
Geçit faktörü bir maliyettir. Mekik koşusundan bir gofretin tam kullanımına geçmenin - tam maske olarak bilinen şey - 2 milyon dolar ile 10 milyon dolar arasındaki fark olduğuna dikkat çekiyor.
Bunun için Ceremorphic'in daha fazla sermaye toplaması gerekecek. Şimdiye kadar, Ceremorphic kendi kendini finanse ediyor, Mattela ve arkadaşları ve ailesi A Serisi turda 50 milyon doları bir araya getiriyor, bu da milyarlarca risk sermayesi alan SambaNova gibi AI çip girişimlerine göre son derece küçük bir finansman miktarı.
Mattela'nın gelecekteki finansmana giden tercih ettiği yolun ortaklıklar yoluyla olduğunu, ancak 2023'te resmi bir B Serisi yatırım turunun da bir olasılık olduğunu söyledi.
HLP'nin ilk örneği, çipin bir bilgisayar sisteminde çalışması için gerekenleri bir araya getiren bir PCI kartı olacaktır. "Tipik sistem OEM'leri hedeftir" dedi. Pazara giden bu yolun, makinesini daha geniş çapta kullanılabilir hale getireceğine inanıyor.
"Her şirketin bir eğitim süper bilgisayarına ihtiyacı var" dedi. "Her işletme için uygun maliyetli olabilecek eğitim süper bilgisayarını sağlamak istiyorum."
Facebook' unki gibi devasa bir şeyin aksine
Yapay zeka için Araştırma Süper Bilgisayarı - 6.080 GPU ve 175 petabayt flash depolama - Ceremorphic PCI blade, teknolojiyi daha erişilebilir hale getirmeyi amaçlıyor.
"Bir kutuda bina büyüklüğünde bir bilgisayarın onda birini sağlayabiliyorsam, işte en iyi nokta budur."
Rolü henüz gönderilmemiş olsa da, Mattela şimdiden AI çip başlangıç pazarında hızlı bir sarsıntı öngörüyor. Graphcore gibi rakipler çok para topladı ve çok az gelir elde etti; Nvidia'nın yapay zekanın dörtte birinde kazandığının sadece bir kısmı olduğunu tahmin ediyor.
"Bugün dört ila beş şirket var; bugün [toplanan sermayede] beş milyara yakınları var, bu çok para" dedi. Ancak, Nvidia'nın veri merkezi gelirine atıfta bulunarak, "bir numaralı şirket, her çeyrekte iki milyar dolar kazanıyor".
Mattela, "Bir numaralı şirketin %1'ini bile kazanamıyorsanız ve para kaybediyorsanız, bu bir iş değil" dedi.
Mattela, savurganlık nedeniyle sarsıntının er ya da geç geleceğini kehanet ediyor. "Bugünün sıcak piyasasında, gittiler ve para aldılar, onlar için iyi, ama ne kadar para alırlarsa alsınlar, parayı nasıl harcayacaklarını gerçekten çözdüklerini sanmıyorum çünkü harcanan miktar sadece anormal" dedi.
Yapay zeka girişimlerinde genç mühendislere büyük meblağlar ödendiğini iddia ediyor. "Eğer bir çaylak [yıllık maaş olarak] 200 bin dolar alıyorsa, bu sürdürülebilir değil," dedi ve en genç pozisyon için teknoloji endüstrisi jargonunu kullandı, "çünkü adam iki yıl sonra üretken olacak, ama o zamana kadar para çoktan gitti."