Web'de benim için gezinmek için Copilot AI Vision'ı kullandım ve büyük bir potansiyele sahip

Dalga boyu bölmeli çoğullamayı kullanarak, araştırmacılar optik hesaplama kullanarak görüntü tanıma gerçekleştirebildiler ve böylece gereken enerjiyi önemli ölçüde azalttılar.

MIT bilim adamları, yalnızca düşük güçlü bir istemci cihazına ışık yayarak bir AI denklemi gerçekleştirmek için özel fotodedektörler kullandılar. Yaklaşım özellikle derin uzayda yararlı olabilir. 

Yapay zekanın endüstriyel uygulaması için en acil endişelerden biri, programların çok az işlem gücüne, çok az belleğe ve piller söz konusu olduğunda muhtemelen mevcut enerji açısından bir sınıra sahip küçük bilgi işlem cihazlarında nasıl çalıştırılacağıdır.

Yapay zeka için sözde uç pazarı, son zamanlarda çok büyük bir alan haline geldi ve yeni başlayanlar, çipler ve yazılımlar bulmak için on milyonlarca risk sermayesi aldı. Edge çabası, Google'ın TinyML girişimi gibi yapay zekanın makine öğrenimi biçimleri için özel geliştirme araçlarına yol açtı. 

Bu iki yol iki felsefeyi temsil ediyor: Ya uç cihazları daha güçlü hale getirin ya da daha az hesaplama kullanmak için AI programlarını zayıflatın. 

Üçüncü olası yaklaşım vardır ve bu, kısıtlı cihazlarda hangi işin ne şekilde yapıldığını daha dikkatli bir şekilde dengelemeye çalışmaktır. MIT araştırmacıları tarafından Ekim ayında bilimsel dergi Science'da öne sürülen plan budur. 

Araştırmacı Alexander Sludds ve MIT'nin Elektronik, Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı Araştırma Laboratuvarı ve Lincoln Laboratuvarı'ndaki meslektaşları, Nokia ve NTT Research ile ortaklaşa, verileri bir istemci cihaza ışınlamak için fotonik kullanan bir sistem geliştirdiler.

Netcast adını verdikleri ağ kurulumları, yaklaşık 10 femtoJoule güç veya 10 fJ kullanarak, derin bir sinir ağının ağırlıklarını veya parametrelerini manipüle etme temel işlemini gerçekleştirebilir, ki bu, "mevcut dijital CMOS'ta mümkün olandan üç kat daha düşük" - yani standart yarı iletken çipler.

Ondalık nokta ve ardından 14 sıfır ve 1 olarak yazılan bir femtoJoule, bir katrilyonda birdir ve bir joule'un çok küçük bir kısmıdır, bir joule, 1 watt'lık bir cihazı bir saniye boyunca çalıştırmak için gereken elektrik miktarıdır. 

Bir watt'ın bu küçük, çok küçük bir kısmı büyük bir enerji tasarrufudur ve önemlidir, çünkü yazarlar, birçok uç cihazın, onlarca veya yüzlerce watt kullanan tipik bilgi işlem cihazlarına karşı miliwatt veya bir watt'ın binde biri cinsinden toplam güç bütçesine sahip olacağını belirtiyor. Netcast'in femtoJoule işlemi, programı bugüne kadar "1 pJ'ye yakın inatçı bir darboğaz", yani bir picoJoule veya bir joule'un trilyonda biri olan şeyin altına etkili bir şekilde getiriyor.

Netcast'in anahtarı, müşterinin bu 10 femtoJoule bütçesine ulaşmak için bir sinir ağının temel operasyonu için yapması gereken işin nasıl azaltılacağıydı. 

Bir sinir ağı, bazı girdi verilerini parametrelerine veya ağırlıklarına ileterek ve girdiyi ağırlıkla çarparak tahminlerde bulunur. Bir girdi vektörü ve bir parametre matrisinin çarpımı olan bu matematiksel işlem, çarpma-biriktirme veya MAC işlemi olarak adlandırılır ve sinir ağı programları, her bir ağ katmanının çoklu ağırlıkları girdiye uygulandıkça her saniye tonlarca işlem yapar.

Genel olarak çoğu sinir ağı için en büyük güç domuzu, RAM bellek yongalarından veri almak ve ağa erişmektir. Bu bir sorundur çünkü nöral ağırlıklar genellikle RAM'de depolanır, bu nedenle MAC işlemlerinin her katmanı, PCIe veri yolu üzerinden RAM'e ve hatta belki de uzak bellek depoları için bir ağ hattı kartına birden fazla yolculuk gerektirebilir. 

Bu nedenle, Netcast'in anahtarı, istemci cihaz için bellek erişiminin ve ağ trafiğinin nasıl en aza indirileceğiydi. 

Çözüm, dalga boyu bölmeli çoğullama adı verilen mevcut bir fotonik teknolojidir. Yaygın olarak atıfta bulunulduğu gibi WDM'yi kullanarak, her bir veri parçasına kendi ışık dalga boyunu atayarak bir fiber optik hat üzerinden aynı anda birden fazla veri gönderilebilir, böylece çoklu veriler fiberdeki toplam mevcut radyasyon spektrumunu paylaşır. WDM, fiber optik veri iletim kapasitesini artırmak için tüm modern telekom ağlarında kullanılan çok olgun, sağlam bir teknolojidir; internetin bel kemiğini oluşturur. 

Bir matrisin her satırı, bir ışık dalga boyunda kodlanabilir ve daha sonra istemci cihaza "yayınlanabilir", böylece çok dalga boylu bir WDM sinyali, tüm bir ağırlık matrisini veya hatta birden fazla matrisi gönderebilir. İstemci cihazda, bir optik alıcı, her dalga boyunda kodlanmış verileri kurtarır ve matrisin elektriksel olarak değil, optik alanda çarpımını gerçekleştirmek için bunları giriş verileriyle birleştirir. Ürün daha sonra optik sinyalden dönüştürüldükten sonra yerel RAM'de elektriksel olarak saklanabilir.

Sludds ve ekibi, bunun uçta bir istemci cihazda olması gereken bileşenlerin önemli ölçüde basitleştirilmesiyle sonuçlandığını yazıyor. 

"Bu mimari, istemcideki aktif bileşenleri en aza indirerek yalnızca tek bir optik alıcı-verici modülatörü, dijital-analog dönüştürücü (DAC) ve analog-dijital dönüştürücü (ADC) gerektirir."

Yazarlar, ana MIT kampüsünden Lincoln Laboratuvarı'na ve geri dönen, saniyede 2,4 terabit kapasiteli WDM kullanarak 84 kilometreden fazla fiber çalıştıran gerçek bir Netcast sürümü oluşturdular. Sistemin testi, klasik bir makine öğrenimi görevi olan el yazısı karakterlerden oluşan MNIST veritabanı üzerinde tahminler gerçekleştirmektir. El yazısı karakterlerin görüntüleri sinir ağına girilir ve ağın, her resmin hangi karakteri temsil ettiğini belirleyen bir görüntü tanıma görevi gerçekleştirmesi gerekir.

"Yerel olarak 1.000 test görüntüsü kullanarak, modelin %98,7'lik temel doğruluğuyla karşılaştırılabilir, %98,7 doğru hesaplama gösteriyoruz" diyorlar.

Yazarlar daha da ileri gidiyor. Uydularda ve diğer egzotik yerlerde konuşlandırılmayı öngörerek, çok az sayıda fotonla çalışabilen entegre alıcılar adı verilen fotodetektörler üzerinde çalıştılar. 

"Drone'lara veya uzay araçlarına boş alan dağıtımı da dahil olmak üzere Netcast uygulamaları, derin foton açlığı çeken ortamlarda çalışabilir" diye yazıyorlar. Entegre alıcılarının bir versiyonu, MAC işlemi için yalnızca 100 foton gerektiren ve attoJoule olarak bilinen bir femtoJoule'un yalnızca fraksiyonlarında çalışan bir MAC işleminin sonuçlarını algılayabilir. 

Ancak yazarlar daha da ileri gidiyor. Her Mac'in algılanması için tek bir fotondan daha azına ihtiyaç duyduğu teorik bir Netcast sınırına kadar gidebildiler. Süper iletken nanotel tek foton dedektörleri (SNSPD'ler) olarak adlandırılanları kullanarak, her bir MAC'in sonuçlarını bir fotondan daha az bilgi ile ölçebilen bir alıcı oluştururlar. 

Sludds ve ekibi, "MAC başına tek bir fotondan daha azının mantığa aykırı olduğu göz önüne alındığında, bu sonuç ilk başta şaşırtıcı görünebilir" diye yazdı. "Bu ölçümü, okuma sırasında M=100 MAC ile bir vektör-vektör ürünü gerçekleştirdiğimizi belirterek daha iyi anlayabiliriz. Her MAC'in içinde birden az foton olabilir, ancak ölçülen sinyalin içinde birçok foton olacaktır."

Bilgi işlem için çıkarımlar derin olabilir. 

"MAC başına bir fotondan daha az bilgi işlemin gerçekleştirilmesi," diye yazdılar, "hem istemci girdisini hem de sunucu ağırlığı verilerini koruyan yeni bir bilgi işlem sistemleri sınıfını mümkün kılabilir", veri gizliliği açısından. Ayrıca uzay aracında bilgi işlemi daha güvenilir hale getirebilir. "Yönlü bir baz istasyonundan gelen ağırlık verileri, sonuçlar Dünya'ya iletilmeden önce uzay aracına iletilebilir ve araç üzerinde sınıflandırılabilir."

Sludds ve ekibi, Netcast'in tüm parçalarının bugün herhangi bir standart yarı iletken çip fabrikasında üretilebileceğini belirtti.

Sonuç olarak, "Yaklaşımımız, uç bilgi işlemdeki temel bir darboğazı ortadan kaldırarak, konuşlandırılmış sensörler ve dronlar üzerinde yüksek hızlı bilgi işlem sağlıyor" diye yazdılar.