IBM ve yapay zeka girişimi Together AI, IBM Cloud üzerinde büyük ölçekli bir yapay zeka çıkarım kümesi kurmak için 240 milyon dolarlık, çok yıllı bir anlaşma imzaladı. IBM’in 11 Ağustos’ta duyurduğu projede Nvidia HGX B300 sistemleri ve Spectrum-X Ethernet ağ altyapısı kullanılacak. Kümenin 2027’nin ilk çeyreğinde hizmete açılması bekleniyor.
Yeni altyapı, açık kaynaklı yapay zeka modellerinin çıkarım işlemlerini çalıştırmak üzere tasarlanıyor. Çıkarım, eğitilmiş bir modelin yeni girdilere yanıt üretmek için kullanıldığı aşamayı ifade ediyor. Şirketlerin üretim ortamlarında daha fazla yapay zeka uygulaması çalıştırması, bu aşamada gereken hesaplama kapasitesine yönelik talebi büyütüyor.
HGX B300 ve Spectrum-X birlikte kullanılacak
IBM’in resmî açıklaması, kümede Nvidia HGX B300 sistemleri ile Spectrum-X Ethernet ağının birlikte kullanılacağını belirtiyor. Şirketler, bunun IBM Cloud’da HGX B300 sistemleriyle kurulan ilk özel büyük ölçekli çıkarım kümesi olacağını ifade ediyor. Altyapı, Together AI’nin açık kaynaklı model hizmetlerini kurumsal müşterilere sunmasına yönelik olacak. Donanımın nihai kapasitesi ve ayrıntılı kurulum planı duyuruda açıklanmadı.
Anlaşmanın mali değeri ve planlanan hizmet tarihi IBM tarafından doğrulanmış durumda. Bununla birlikte IBM, geleceğe dönük hedef ve planların değişebileceği uyarısını da açıklamaya ekledi. Bu nedenle 2027’nin ilk çeyreği kesin bir açılış tarihi değil, mevcut hedef olarak değerlendirilmelidir. Duyuru, kesin hizmete giriş gününü veya bölgesel erişim takvimini henüz ayrıntılı biçimde belirtmiyor.
HGX B300, birden fazla hızlandırıcıyı yüksek hızlı bağlantılarla bir araya getiren bir sunucu platformu. Spectrum-X ise sunucular arasındaki veri akışını sağlayan Ethernet ağ çözümü. Bu bileşenlerin birlikte kullanılması, üretim ortamındaki çıkarım iş yüklerini ölçeklendirme hedefiyle uyumlu. IBM, sistemlerin performans ve verimlilik amaçlı tasarlandığını söylüyor; gerçek kapasite ve kullanım sonuçları ise kurulum faaliyete geçtikten sonra görülebilecek.
Odakta açık modellerin kurumsal kullanımı var
Together AI, kurulacak kapasiteyi açık modeller için çıkarım hizmeti sunmakta kullanmayı planlıyor. Girişimin platformu, şirketlerin açık modeller üzerinde eğitim ve çıkarım iş yükleri çalıştırmasına olanak tanıyor. Reuters, açık modellerin maliyetleri kontrol etmek ve kapalı sistemlere bağımlılığı azaltmak isteyen işletmeler arasında ilgi gördüğünü aktardı.
IBM’in duyurusuna göre Together AI’nin platformu çıkarım, eğitim, ince ayar ve ajan tabanlı iş akışlarını kapsıyor. Şirket, çıkarım ürününün aylık 400 trilyon token işlediğini bildiriyor. Bu sayı Together AI tarafından açıklanan bir şirket metriği olduğundan bağımsız bir ölçüm olarak değil, firmanın kendi beyanı olarak okunmalı.
IBM Cloud için stratejik kapasite hamlesi
Proje, yapay zeka altyapısında rekabetin yalnızca model geliştirmekle sınırlı olmadığını gösteriyor. Üretimde çalışan modeller için yüksek kapasiteli hızlandırıcılar, hızlı ağ bağlantıları ve bulut işletimi birlikte gerekiyor. IBM, Nvidia donanımını kendi kurumsal bulut hizmetleriyle birleştirirken Together AI bu kapasiteyi müşterilerine açık model hizmetleri sunmak için kullanacak.
Together AI kısa süre önce 800 milyon dolarlık C serisi yatırım turunu 8,3 milyar dolar değerleme üzerinden tamamladığını açıklamıştı. Reuters da bu değerlemeyi doğruladı. Yeni 240 milyon dolarlık anlaşma bir yatırım turu değil; IBM Cloud üzerinde altyapı kurulumu ve kapasite kullanımını kapsayan ticari bir iş birliği.
Projenin başarısı, planlanan sistemlerin zamanında devreye alınmasına ve işletmelerin açık model çıkarımına yönelik talebine bağlı olacak. Şimdilik doğrulanan unsurlar anlaşmanın büyüklüğü, kullanılacak donanım ailesi, ABD’deki ilk kurulum ve 2027’nin ilk çeyreğine yönelik hizmet hedefi. Performans, kullanım oranı ve müşteri etkisi ise sistem faaliyete geçtikten sonra ölçülebilecek. Bu yüzden şirketlerin öngörüleri gerçekleşmiş sonuçlar olarak değerlendirilmemeli.
