BT altyapınızı yapay zekaya hazırlayın
İşletmeler öğrenmeden uygulamaya geçtikçe BT liderleri, sistemlerinin yapay zeka uygulamalarını ve verilerini yönetip yönetemediğini görmek için arka planda kalıyor.
Ken Kaplan tarafından
Birçok işletme yapay zekayı uygulama yolunda ilerlerken, diğerleri işlerini yürütmek için yapay zekayı nasıl kullanacaklarından hala emin değiller. Her iki durumda da yapay zeka ışık hızıyla gelişmeye devam ederken CIO'ların ve BT ekiplerinin yapacak birçok seçeneği var.
Nutanix'in kıdemli çözüm yöneticisi Sean Donahue'ye göre bazıları trenin istasyondan ayrıldığını ve hemen trene binmeleri gerektiğini düşünüyor.
"Yapay zeka bir seçenek değil" dedi. "Bu spekülatif bir pazar değil. Şirketler yapay zekaya geçmeleri gerektiğini biliyor; ancak ilk olarak hangi kullanım durumlarını ele alacaklarını henüz çözemediler." Donahue bunun büyük olasılıkla çoğunun kuruluşlarının yapay zekadan nasıl yararlanabileceğini tam olarak anlamamasından kaynaklandığını söyledi. Bunu Thomas Edison'un 1888'de ampulü icat etmesine benzetti.
"İlk bakışta görmek şaşırtıcıydı ve demo hayranlık uyandırdı, ancak insanlar elektriği nasıl kullanacaklarını anlamıyordu, özellikle de evlerine elektrik getiren bir altyapı olmadığı için."
Yapay zekanın benimsenmesi, birçok CIO'nun geleceğe bakarken uğraştığı bir zorluktur. Başlamadan önce ekiplerinin yapay zekayı etkili bir şekilde uygulamak için pratik bilgi, beceri ve kaynaklara sahip olması gerekir.
Yapay zeka zorlukları ve altyapı ihtiyaçları
İleri görüşlü liderler, BT operasyonlarını yapay zekaya hazır hale getirmek için hem mevcut hem de gelecekteki yapay zeka destekli işlevleri yönetebilecek doğru altyapıları oluşturmak amacıyla tüm BT ekosistemlerini yeniden değerlendiriyor.
Nutanix Başkanı ve CEO'su Rajiv Ramaswami, "Veri bilimcileri, yapay zeka mühendisleri ve makine öğrenimi operasyon mühendislerini, ardından uygulamaları geliştiren geliştiricilerin yanı sıra iyi altyapı çalışanlarını da gerektirir" dedi. "Yapay zeka uygulamalarını bir araya getirmek ve bunları pazara sunmak için ihtiyaç duyduğunuz araçlar seti de kolay değil. Üstelik donanım sıkıntısı da var."
Yapay zekanın uygulanması maliyetlidir ve yapay zeka modellerinin eğitimi önemli bir yatırım gerektirir. Ramaswami, "Potansiyelin farkına varmak için, bunu gerçekleştirmek için ne yapmanız gerektiğine, ne kadara mal olacağına dikkat etmeli ve fayda elde ettiğinizden emin olmalısınız" dedi. "Ve sonra gidip bu işi halletmelisin."
Pensilvanya Üniversitesi Wharton Okulu'nda bir araştırma merkezi olan Wharton'da yapay zeka tarafından yapılan yakın tarihli bir araştırmaya göre, GenAI hızlı bir şekilde deneysel bir teknolojiden önemli bir iş aracına dönüştü ve benimsenme oranları 2024'te iki kattan fazla arttı. Haftalık AI kullanımı Raporda, iş dünyası liderleri arasında bu oranın yüzde 37'den yüzde 72'ye çıktığı ve kuruluşların yapay zeka harcamalarında 2023'ten bu yana yüzde 130 artış bildirdiği belirtildi.
Geleneksel BT altyapısı, büyük dil modellerinin (LLM'ler) eğitimi veya yüksek hacimli, gerçek zamanlı veri akışlarının işlenmesi gibi yüksek yoğunluklu yapay zeka gereksinimlerini karşılayacak donanıma sahip değildir. Nutanix'in 2024'ün başlarında yayınladığı Enterprise Cloud Index raporuna göre BT uzmanları, yapay zeka uygulamalarını mevcut BT altyapılarında çalıştırmanın "önemli" bir zorluk olacağını belirtti.
Donahue bu zorluğu gösteren pratik bir araba metaforu kullandı. "1949 model arabam bugünün performans taleplerine uygun değil" dedi. "Onu sürmekten mutluyum ama otoyolda asla rekabet edemeyeceğini biliyorum. Aslında onu otoyolda kullanmamalıyım çünkü zaten çok modası geçmiş." Başka bir deyişle, mevcut BT altyapısının çoğu statükoyu koruyor ancak yapay zeka iş yüklerinden gelen yoğun talepleri verimli bir şekilde karşılayamıyor.
Donahue, daha yeni otomobil tasarımları daha yüksek güvenlik standartlarını, yakıt verimliliğini ve performansı karşılayacak şekilde geliştikçe, kurumsal BT altyapılarının da yapay zeka uygulamalarını yönetmek için daha fazla hesaplama gücü, esneklik ve verimlilik sağlayacak şekilde gelişmesi gerektiğini söyledi.
İşletmeler, yapay zeka modelleri kapsamında fikri mülkiyeti ve müşteri verilerini korumaya çalıştıkça, gelişmiş güvenlik önlemleri ve yönetişim çerçeveleri kritik önem taşıyor. Bu, CIO'ları yapay zekayı stratejik ve güvenli bir şekilde yönetebilecek ve gelecekteki yeniliklerle ve zorluklarla başa çıkabilecek kadar çevik olabilecek altyapı aramaya itiyor.
Yapay zekayı çalıştıran BT altyapısını yönetme
Donahue'ye göre BT ekipleri üç temel unsuru araştırıyor: dil modellerini seçmek, bulut hizmetlerinden yapay zekadan yararlanmak ve şirket içi ve genel bulut hizmetlerinden en iyi şekilde yararlanmak için hibrit bir çoklu bulut işletim modeli oluşturmak.
"Çok çok çok az insanın kendi dil modelini oluşturabileceğini görüyoruz" dedi. "Çünkü şirket içinde bir dil modeli oluşturmak, garajda yedek parçalardan bir araba yapmaya benzer."
Şirketler bulut tabanlı dil modellerine yöneliyor ancak zaman içinde maliyeti kontrol ederken güvenlik ve yönetişim yeteneklerini de incelemeleri gerekiyor. "Eğer bunlar beni kurumsal IP'm ve verilerimle kullanmaktan korkutmuyorsa, o zaman ayın sonunda hiper ölçekleyicilere yapay zeka çıkarım uygulamam - o küçük sorgu kutusu - için ödeme yaptığımı fark edeceğim. Çalışanlarımın soru sormak için kullandıkları bulut GPU'ları kullanıyor ve bunlar ucuz değil" dedi.
Bu, BT ekiplerini üçüncü bir adıma getiriyor: bulut tabanlı modellerin ötesinde düşünmek ve yapay zeka işlevselliğini gerçekleştirmek için bilinçli olarak ve özel olarak tasarlanmış çözümleri düşünmek.
Donahue, AI modellerinin doğrudan şirket içinde, bulutta veya uçta konuşlandırılmasını desteklemek için donanım ve yazılımı birleştiren kapsamlı, önceden yapılandırılmış bir çözüm olan Nutanix'in GPT-in-a-Box'ına dikkat çekti. Bu kurulum, verileri ve uygulamaları BT ekibinin kontrolü altında tutarken üretken yapay zeka ve yapay zeka/ML uygulamalarını BT altyapılarına entegre etmek için gerekli tüm bileşenleri tek ve entegre bir pakette sağlayarak GPT modellerinin dağıtımını ve çalışmasını kolaylaştırmak için tasarlanmıştır.
Donahue, GPT-in-a-Box'ın mevcut BT sistemlerinin yapay zeka yeteneklerini entegre etmek için gereken süreçleri kolaylaştırmasına olanak tanıdığını açıkladı. Uyumlu bileşenleri seçme, yazılımı yapılandırma ve performansı optimize etme karmaşıklığını azalttı.
BT ekipleri donanım, yazılım ve yapay zeka katmanları da dahil olmak üzere tüm yığını kontrol ederek veri şifreleme, güvenli veri erişim kontrolleri ve izinsiz giriş tespit sistemleri de dahil olmak üzere yapay zeka ortamlarını korumak için tasarlanmış güçlü güvenlik önlemlerini uygulayabilir. GPT-in-a-Box aynı zamanda ekiplerin doğru konumdaki verilere verimli bir şekilde erişmek için en uygun kaynaklardan yararlanarak performansı yönetmelerine de olanak tanır.
Hibrit çoklu bulut sistemlerinde uygulamaları ve verileri yönetme
Donahue'ye göre altyapı, yapay zekayı benimseme stratejisinin merkezinde yer almalı ve özellikle başarılı olması beklenen bir bulut modeli var: hibrit çoklu bulut.
Donahue, "Hibrit çoklu bulut tam da bu noktada" dedi. "Yapay zeka hibrit çoklu bulutla konuşuyor çünkü veri kümeleriniz her yerde olacak. Bunları tek çatı altında toplamak ve yönetmek için birleşik depolama gibi bir çözüm kullanmanız gerekecek."
Hibrit çoklu bulut ortamları, çeşitli bilgi işlem kaynaklarını ve veri depolama türlerini entegre eder. Özellikle birden fazla konuma yayılmış kapsamlı ve çeşitli veri kümelerini işlerken, yapay zeka sistemlerinin performansı için hayati öneme sahip olan verimli veri yönetimini ve işlemeyi kolaylaştırırlar.
Donahue, "Halihazırda hibrit çoklu bulut kullanan kişilerin yapay zeka çalışmalarına başlaması muhtemelen daha kolay olacaktır" dedi.
Altyapı modernizasyonuna öncelik verilmesi çok önemlidir. Yapay zekayı etkili bir şekilde benimsemek, kuruluşların temel BT sistemlerini yeniden değerlendirip canlandırmasını, geleceğe odaklanmasını ve hızla değişen BT dünyasına ayak uydurmak için gereken temel ölçeklenebilirlik, kapasite, verimlilik ve analitik yeteneklere ulaşmasını gerektirir.
Bu blog yazısında ve Nutanix Enterprise AI yetenekleri hakkında daha fazla bilgi edinin. >Kasım 2024'te yayınlanacak videonun kapsamı.
Ken Kaplan, The Forecast by Nutanix'in Genel Yayın Yönetmenidir. Onu X'te bulun @kenekaplan.
