Yapay zeka dünyasında Nvidia'nın pazar hakimiyeti sarsılmaz görünse de, farklı kıtalardan rakipler her geçen gün güçleniyor. Bu rakiplerden biri de Fransa'nın başkenti Paris'ten çıkan ve Turing Ödülü sahibi Yann LeCun'un desteğini alan ZML oldu. Şirket, yapay zeka çıkarım süreçlerini farklı çiplerde optimize eden yeni yazılımını duyurdu.

ZML tarafından geliştirilen ZML/LLMD adlı çıkarım sunucusu, açık kaynak büyük dil modellerinin Nvidia, AMD, Google TPU, Apple Metal ve Intel Arc gibi farklı çip mimarilerinde en yüksek hızda çalışmasına olanak tanıyor. Kurucu Steeve Morin'in TechCrunch'a yaptığı açıklamaya göre, yazılımın temel amacı mevcut tedarikçi siloslarını yıkmak ve farklı donanımları yapay zeka için en verimli şekilde kullanıma sunmak.

Yapay zeka, iş dünyasının ve günlük yaşamın ayrılmaz bir parçası haline geldikçe, çıkarım süreçlerinin optimize edilmesi model eğitimi kadar kritik bir hale geldi. Ancak bu alan, yazılım ve mimari engeller nedeniyle çoğu zaman kullanıcıları tek bir tedarikçiye bağımlı kılıyor. ZML, tam da bu noktada devreye girerek şirketlere farklı çip alternatiflerini bir arada kullanma esnekliği sunuyor. Bu yaklaşım, yalnızca teknik bir başarı değil, aynı zamanda artan yapay zeka maliyetleri karşısında önemli bir pazar bozucu olarak da değerlendiriliyor.

Morin, stratejilerini şu sözlerle özetledi: "İnsanlara kendi sistemlerini oluşturma gücünü geri vermek ve yapay zekanın yaygınlaşmasını sağlayacak gerçek verimlilik artışları elde etmek istiyoruz." Bu vizyon, özellikle Avrupa'dan yükselen yeni nesil çip üreticileri için büyük önem taşıyor. Morin, Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud ve VSORA gibi Avrupa merkezli şirketlerle çalışmanın küresel ölçekte benzersiz fırsatlar sunduğunu vurguladı.

ZML'nin Nvidia'ya karşı olumsuz bir tutum sergilediği söylenemez. Morin, mevcut tedarik zinciri gücü nedeniyle Nvidia ile iyi ilişkilere sahip olduklarını ve şirketin çıkarım alanına yönelik yatırımlarını takdir ettiklerini belirtti. Ancak ZML'nin iddiası bundan çok daha büyük: Şirket, artık silikon düzeyinde ortak tasarım süreçlerine girdiğini duyurdu.

Çıkarım alanı, son dönemde "çıkarım altın koşusu" olarak anılan yoğun bir yatırım dalgasına sahne oluyor. ZML bu alanda yalnız değil; yaklaşık 13 milyar dolar değerlemeye ulaşan Baseten, açık kaynak vLLM projesinin arkasındaki ekibin kurduğu Inferact ile SGLang'in ticari şirketi RadixArk önemli rakipler arasında yer alıyor. Ancak Morin, ZML'nin daha geniş bir yelpazede faaliyet gösterdiğine dikkat çekiyor.

Sadece 20 kişilik bir ekiple çalışan ZML, bu çevik yapısının hız kazanmalarındaki en büyük etken olduğunu vurguluyor. Morin'in daha önce Snapchat'ın dokuz haneli rakama satın aldığı Zenly'deki başarısı, yatırımcıların ilgisini çekti. Şirket, 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel'in Kima Ventures'i, Kindred Capital, LocalGlobe ve Puzzle Ventures'ın katılımıyla 20 milyon dolar yatırım aldı.

Yatırımcı listesinde dikkat çeken isimler de girişimin sektördeki saygınlığını gözler önüne seriyor. Dagger ve Docker'ın kurucusu Solomon Hykes, Hugging Face'den Clément Delangue ve Julien Chaumond ile şu anda AMI Labs bünyesindeki Yann LeCun, ZML'nin yatırımcıları arasında bulunuyor. Bu durum, Avrupa'daki yapay zeka girişimlerinin artık kendi topraklarından küresel ölçekte değer üretebileceğini bir kez daha kanıtlıyor. Morin, "ZML'yi Paris dışında hiçbir yerde kuramazdım" ifadelerini kullandı.

2024'te yayınlanan ve Mart ayında güncellenen ilk açık kaynak çıkarım çerçevesinin aksine, ZML/LLMD açık kaynak lisansıyla dağıtılmıyor. Ancak ürün, kullanım verilerini analiz etmek amacıyla ücretsiz olarak sunuluyor. Morin, ürünün ne zaman ücretli hale geleceğinin henüz netleşmediğini, ancak büyümeyi engelleyecek erken bir karar almak istemediklerini söyledi. Girişimin yol haritasında yeni sürümler ve daha fazla çip desteği bulunuyor.