IBM, Granite AI modellerini açık kaynak olarak kullanıyor ve bunlar iş anlamına geliyor

Pek çok şirket yüksek lisans programlarının açık kaynaklı olduğunu iddia ediyor, ancak IBM bunu gerçekten yaptı. İşte nasıl.

Açık kaynaklı büyük dil modelleri (LLM'ler) kolay değildir. Yaklaşık iki yıldır yapay zeka uyumlu bir açık kaynak tanımı üzerinde çalışan Açık Kaynak Girişimi'ne (OSI) sormanız yeterli. Bazı şirketler (mesela Meta) LLM'lerinin açık kaynaklı olduğunu iddia ediyor. (Yapmadılar.) Ancak artık IBM ileri gitti ve bunu başardı.

IBM, GitHub Code Clean, Starcoder verileri, genel kod depoları ve GitHub sorunları gibi herkese açık veri kümelerindeki ön eğitim verilerini kullanarak Granite kodunun açık kaynak kullanımını yönetti. Kısacası IBM, telif hakkı veya yasal sorunlardan kaçınmak için büyük çaba harcadı. Granite Kod Tabanı modelleri, 3 ila 4 terabaytlık kod verileri belirteçleri ve doğal dil koduyla ilgili veri kümeleri üzerinde eğitilir.

Tüm bu modeller araştırma ve ticari kullanım amacıyla Apache 2.0 lisansı altında lisanslanmıştır. Diğer büyük LLM'lerin açık kaynaklı olmasını engelleyen şey işte bu son söz - ticari - oldu. Başka hiç kimse LLM güzelliklerini paylaşmak istemedi.

Ancak IBM Araştırma şefi bilim insanı Ruchir Puri'nin söylediği gibi, "En yüksek performanslı, uygun maliyetli kod Yüksek Lisans Programlarını yayınlayarak ve açık topluluğun kısıtlama olmaksızın yenilik yapmasına olanak tanıyarak üretken yapay zeka ortamını yazılıma dönüştürüyoruz."

Belki kısıtlamalar olmadan, ancak belirli uygulamalar göz önünde bulundurulmadan değil.

IBM ekosistemi genel müdürü Kate Woolley'in geçen yıl söylediği gibi Granite modelleri, "herkes için her şey olmaya çalışmakla ilgili değil. Bu, köpeğiniz hakkında şiirler yazmakla ilgili değil. Bu, ayarlanabilecek ve son derece hedefe yönelik seçilmiş modellerle ilgili" Kuruluşun kullanmasını istediğimiz iş kullanım senaryoları özellikle programlama amaçlıdır."

116 programlama dilindeki kodlarla eğitilmiş, yalnızca kod çözücüye yönelik bu modeller, 3 ila 34 milyar parametre arasında değişir. Karmaşık uygulama modernizasyonundan cihaz içi belleğin kısıtlı görevlere kadar birçok geliştirici kullanımını desteklerler.

IBM, bu LLM'leri halihazırda IBM Watsonx Code Assistant (WCA) ürünlerinde dahili olarak kullanmıştır; örneğin BT Otomasyonu için Ansible Lightspeed için WCA ve COBOL uygulamalarını modernleştirmek için IBM Z için WCA. Herkesin Watsonx'a gücü yetmiyor ama artık herkes IBM ve Red Hat'in InstructLab'ını kullanarak Granite LLM'lerle çalışabiliyor.

Red Hat Kıdemli Başkan Yardımcısı ve baş ürün sorumlusu Ashesh Badani'nin söylediği gibi, InstructLab "sınırlı veri bilimi becerilerinden gerekli saf kaynaklara kadar hibrit bulutta GenAI'nın karşılaştığı engellerin çoğunu azaltacak." Önemli olan, Yüksek Lisans kullanmak isteyen geliştiriciler için giriş seviyesini düşürmektir.

Ne kadar düşük? Matt Hicks'in Red Hat Zirvesi'nde söylediği gibi, "Daha bir yıl önce üst düzey, oldukça egzotik donanımlarla birleştirilen yetenekler artık bir dizüstü bilgisayarda çalıştırılabiliyor. Bir zamanlar yüz milyonlarca dolar değerinde olan eğitim teknikleri artık artık kullanılıyor. birkaç bin kopyalanıyor."

Örneğin, InstructLab'ın yanı sıra, LLM'leri yerel olarak çalıştırmak için Ollma'yı kullanabilirsiniz. Bala Priya C'nin KDnuggets'ta açıkladığı gibi, "Ollama ile bir LLM'yi çalıştırmak için ihtiyacınız olan her şey (model ağırlıkları ve tüm yapılandırma) tek bir Model dosyasında paketlenmiştir. LLM'ler için Docker'ı düşünün." Modeller Hugging Face, GitHub, Watsonx.ai ve Red Hat Enterprise Linux (RHEL) AI gibi platformlarda mevcuttur.

IBM, programcıların Granite LLM'lerle kod yazmanın yanı sıra, testler oluşturmak ve hataları bulup düzeltmek için bu LLM'leri kullanarak zamandan ve enerjiden tasarruf edeceklerini öngörüyor. "Birim testleri oluşturmaktan belge yazmaya veya güvenlik açığı testlerini çalıştırmaya kadar geliştiricinin gününün bir parçası olan gündelik ama temel görevlerin çoğu bu modellerle otomatikleştirilebilir.

IBM, geliştiricilere yardımcı olmanın yanı sıra, Granite modellerinde iş açısından faydalar da görüyor çünkü diğerlerinden farklı olarak, modellerin eğitilme şekli gibi lisansları da açık. Ayrıca veriler nefret, istismar ve küfürlü dil açısından temizlendi ve filtrelendi.

Dolayısıyla, şirketiniz yasal nedenlerden dolayı program oluşturmak için yapay zekayı kullanmayı keşfetmekte tereddüt ettiyse, IBM size yazılım geliştirme çalışmanızı geliştirmek için ihtiyaç duyacağınız açık kaynak araçları sağlamıştır. Onlara bir şans ver. Bazılarınız bu Granit bloklardan harika şeyler inşa edeceksiniz.