IBM'in sektör dönüşümü planı yapay zeka, 5G ve işbirliğinden nasıl yararlanıyor?

55.000 proje, 30.000 geliştirici, 54 milyon dolarlık finansman ve 2 yıldan biraz fazla bir süre içinde NASA gibi müşteriler dahil. Edge Impulse, uçta makine öğrenimi dalgasını kullanıyor

Jan Jongboom'un hayali, kendi sözleriyle, etraflarında neler olup bittiğini gerçekten anlayan cihazlara sahip olmaktı. Bu on yıl önceydi, ancak 2019'a kadar gerçekten harekete geçmeye başlamadı. İşte o zaman Jongboom ve Zach Shelby, geliştiricilerin yeni nesil akıllı cihazlar yaratmalarını sağlama misyonuyla Edge Impulse'ı kurdu.

Bugün Edge Impulse, Coatue liderliğindeki 34 milyon dolarlık B Serisi finansmanı duyurarak 2022 piyasa değerlemesini ve büyüme tahminini üç katına çıkarıyor. Coatue, ekibin "inanılmaz bir yıl" olarak adlandırdığı şeyi kapatmak için mevcut yatırımcılar Canaan Partners, Acrew Capital, Fika Ventures, Momenta Ventures ve Knollwood Investment Advisory'ye katılıyor.

2019'daki lansmanından bu yana, binlerce kuruluştan yaklaşık 30.000 geliştirici, Edge Impulse'ı kullanarak yaklaşık 55.000 özel makine öğrenimi projesi oluşturdu ve Oura, Polycom, Advantech ve NASA gibi müşterilerle daha akıllı endüstriyel, lojistik, tüketici ve sağlık çözümleri oluşturdu. Geliştirici tabanı 4 kat arttı ve yıllık yinelenen gelir geçen yıl 3 kat arttı.

Tüm bunlar kulağa oldukça etkileyici geliyor ve Gartner'ın "2027 yılına kadar, derin öğrenme biçimindeki makine öğreniminin, 2021'de %10'dan daha az olan uç kullanım durumlarının %65'inden fazlasına dahil edileceği" tahmininin bir kanıtı. Edge Impulse hakkında daha fazla bilgi edinmek için Jongboom ile görüştük.

Aptal IoT cihazlarını kullanışlı hale getirme

Jongboom ve Shelby'nin başlangıç noktası, IoT cihazlarının harika olduğu, ancak aynı zamanda aptal olduklarıdır. Örneğin, sıcaklık veya ses gibi farklı sensör türlerinden zaman serileri kaydedebilirler, ancak bunun ne anlama geldiği veya bundan nasıl yararlı bir şey yapılacağı hakkında hiçbir fikirleri yoktur.

Jongboom, her ikisinin de yaklaşık üç yıl önce çalıştığı Arm'da Shelby ile tanıştığında, bu cihazların dünyayı gerçekten anlamasını sağlamak için neler yapabilecekleri hakkında konuşmaya başladılar. Hızlı bir şekilde makine öğreniminin cevap olduğu sonucuna vardılar.

Jongboom, örnek bir uygulama olarak kaçak avlanmayı kısıtlamayı kullandı. Etrafta bir fil olduğunu tespit etmek için bir IoT cihazı kullanmak istiyorsanız, iki seçeneğiniz olduğunu söyledi. Birincisi, bir filin işitsel girdisinin nasıl olduğunu açıklayan bir program oluşturmaya çalışmaktır. İkincisi, fil seslerinin örneklerini kullanmak ve bir makine öğrenimi modelinin bunu çözmesine izin vermektir.

Edge Impulse, IoT cihazları için makine öğrenimi konusunda uzmanlaşmıştır. Bu, standart makine öğrenimi yaşam döngüsünü uygulamaları gerektiği anlamına gelir: veri toplama -- modeli eğitme -- modeli dağıtma -- modeli doğrulama -- tekrarlama. Bu süreçteki her adıma nasıl uyum sağladıklarını görelim.

Edge Impulse'ın veri toplama kısmı için ne tür cihazları veya sensörleri desteklediğini merak ettik. Jongboom, mikrodenetleyici geliştiricilerinden makine öğrenimi için süper özel silikona kadar uzanan ortak ekosistemlerinin "güneşin altındaki her şeyi" desteklediğini belirtti.

2019'da kurulan bir şirketin 2021 yılına kadar nasıl böyle bir ekosistem yaratmış olabileceğini düşünürken göz önünde bulundurulması gereken birkaç faktör var. Jongboom'a göre, Edge Impulse'ın kurucularının kendilerinin gömülü geliştiriciler olarak başlaması ve Shelby'nin daha önce IoT girişimini Arm'a satmış olması, onlara bir avantaj sağladı. Geliştiricilerin ne istediğini biliyorlardı ve donanım satıcılarına nasıl ulaşacaklarını biliyorlardı. Ayrıca, veri alımını açık kaynak kodlu ve kullanımı kolay hale getirdiler:

"Bu, silikon satıcılarının pazara girmesine yardımcı olabileceğimiz ve üzerinde çalışacak silikonumuz olduktan sonra gerçekten iyi bir hikaye oldu. Bu, müşterilere ortaklaşa gidebileceğimiz ve çok daha iyi bir hikayeye sahip olabileceğimiz anlamına geliyor. Değil -- Oh, harika bir makine öğrenme platformumuz var. Bu -- harika bir makine öğrenme platformumuz var, ve aslında silikon satıcılarından destek alıyoruz ve onlar zaten sizin brownfield cihazlarınızda çalışacaklar. Bu gerçekten inanılmaz" dedi Jongboom.

Veri toplama, modeli eğitme, modeli dağıtma, modeli doğrulama, tekrarlama

Sürecin bir parçası olan makine öğrenimi modellerinin eğitimi söz konusu olduğunda, Edge Impulse öncelikle TensorFlow gibi kullanıma hazır çerçeveler kullanır. Buradaki fikir, alan uzmanı olan kişiler için model oluşturmayı mümkün olduğunca kullanıcı dostu hale getirmeyi hedefleyerek mümkün olduğunca soyutlamaktır.

Jongboom, amacın, alan uzmanlarına verileri toplamak, daha sonra anormallikleri analiz etmek veya neler olduğunu sınıflandırmak veya geleceği tahmin etmek için araçlar vermek olduğunu söyledi. Ve bu sadece makine öğrenimi değil, aynı zamanda sinyal işleme, çünkü "sinyal işleme gerçekten güzel ve açıklanabilir".

Edge Impulse'ın beygir gücü, Keras aracılığıyla kullanılan TensorFlow'dur. Gemide bir veri bilimciniz varsa, harika, modeli istediğiniz gibi düzenleyebilirsiniz. Değilse, zorunda değilsin. Bu nedenle, düşük koddan tam özgürlüğe kadar her şey olabilir. Ve evet, düşük kod referansı, buradaki resimde bir IDE olduğu anlamına gelir -- Studio.

Edge Impulse Studio çevrimiçi bir IDE'dir ve aynı zamanda sürecin doğrulama kısmının gerçekleştiği yerdir. Jongboom, bunun genel olarak makine öğreniminde ve hatta uç uygulamalarda daha da önemli olduğunu belirtti. Bunun nedeni, bir cihaza veya makineye bir şey dağıtırsanız, operasyonel ayarlardaki hataları düzeltmenin gerçekten zor olabilmesidir.

Edge Impulse, kullanıcıların doğrulama için kullanmak üzere gerçek verileri yüklemesine olanak tanır ve ayrıca sentetik veriler de oluşturabilir. Ayrıca, uygulamanın türüne bağlı olarak yanlış pozitifler veya yanlış negatifler için müdahale etmelerine ve manuel olarak düzeltmeler yapmalarına olanak tanır. Bazen yanlış alarmlar pahasına bile olsa belirli olayların tanımlanması çok önemlidir ve bazen bir şeyi gözden kaçırmak sorun değildir.

Jongboom'un belirttiği amaç, anlayışlı uygulamalar oluşturmak ve güven uyandırmak. Birisinin makine öğrenimi modeli tarafından desteklenen verileri gözden geçirmesi, zayıf noktaları görmeyi çok daha kolay hale getirir.

Sürecin son adımı olan dağıtım şu anda Edge Impulse için sınırların biraz dışında. Edge Impulse kaynak kodunu verir. Buna matematiksel model, normalleştirme kodu, sinyal işleme kodu, makine öğrenimi kodu ve modelin tüm işlem sonrası ayarlamaları dahildir.

Jongboom, derlenmiş ikili dosyalar yok, bunun üzerinde de telif ücreti olmadığını söyledi. Kullanıcının bunu cihazlarına nasıl entegre ettiği onlara kalmış, diye ekledi. Ancak Jongboom, ekosistemin de bunda rol oynadığını ve bunun iki satır kod kadar basit olabileceğini belirtti. O kısım da açık kaynak kodludur.

Edge Impulse EON: Edge için makine öğrenimi modellerini optimize etmenin gizli sosu

Şimdiye kadar bahsetmediğimiz ve hem Edge Impulse'ın merkezinde yer alan hem de açık kaynak kodlu olmayan kısım TinyML kısmıdır. TensorFlow veya bu konudaki başka herhangi bir çerçeve, güç ve işleme yetenekleri açısından bu cihazlardaki kısıtlamalar nedeniyle uç cihazlarda dağıtım için iyi bir eşleşme olmayan modeller üretebilir.

İşte bu noktada Edge Impulse'ın EON'u (Edge Optimized Neural) devreye giriyor. Bu, Edge Impulse'ın uçtaki kısıtlı cihazlarda dağıtıma uygun makine öğrenimi modelleri üretmek için kullandığı teknolojidir. Yaptığı ilk şey, dağıtım hedefinin tüm parametrelerini hesaba katmak ve iki şey yapmaktır.

İlk olarak, EON tuner devreye girer. Jongboom bunu "deneyebileceğimiz 1000 farklı modelden oluşan süper geniş bir arama tabanı" olarak tanımladı. EON tuner, dağıtım hedef cihazına sığabilecek olanlara bakar ve ardından en yüksek doğruluğa sahip olanı seçer.

Ardından, EON derleyicisi sinir ağlarını kahverengi alan cihazlarına verimli bir şekilde derler. Jongboom, çalışma şeklinin, makine öğrenimi modelinin, bir grafik oluşturan ve çıkarımı çalıştıran bir yorumlayıcıyı beslemesi olduğunu söyledi. Ancak bu savurgan bir gömülü sistemdir, çünkü tercümana ve tercümanın oluşturabileceği tüm potansiyel durumlara sahip olmanız gerekir.

EON derleyicisi sadece grafiği kaynak koduna derler ve ardından onu derler. Bu, RAM'in %30 ila %50'si arasında tasarruf sağlar, bu da özellikle Brownfield cihazlarında çok fazladır. Derleyici kullanıma hazırdır ve insanların oluşturduğu modeller de açık kaynak kodludur, Apache 2.0 lisansı altında lisanslanmıştır, bu nedenle orada telif ücreti yoktur. Bazı insanlar aslında modellerini toplulukla paylaşmayı tercih ediyor.

Edge Impulse, hizmet platformu olarak bir yazılımdır. Müşteriler proje başına aylık veya veri işlem hattı başına aylık ödeme yapar. Ayrıca daha fazla bilgi işlem, işbirliği özellikleri, büyük ölçekli veri dönüşümü ve verileri içeri çekmek ve bu verileri almak için bulutunuzla entegrasyon için ödeme yaparlar.

Edge Impulse şu anda 40 kişilik bir ekibe sahip. Amaç, bu B Serisi finansmanı, Çözüm Mühendisliği ekibine vurgu yaparak önümüzdeki yıl 80'e çıkarmak için kullanmaktır. Jongboom, aynı şekilde topluluğu büyütmeyi ve desteklemeyi sürdürmeyi ve aynı şekilde organik büyümelerini sürdürmeyi hedeflediklerini söyledi.