Yapay zeka modellerinin boyutu her geçen gün büyürken, bu modelleri bulut altyapısına bağlı kalmadan kendi donanımında çalıştırmak isteyen kullanıcıların önündeki en büyük engel bellek kapasitesi ve bant genişliği olarak öne çıkıyor; bu nedenle son dönemde üreticiler, veri merkezine taşınmadan yüz milyarlarca hatta trilyonlarca parametreye ulaşan modelleri masa altı ya da ofis içi sistemlerde çalıştırabilecek çözümler geliştirmeye yöneliyor. AMD, IFA kapsamında tanıttığı Halo Station adlı iş istasyonuyla tam da bu alana yöneldi ve şirketin duyurduğu sisteme göre, 1 trilyondan fazla parametreye sahip yapay zeka modelleri yerel donanım üzerinde çalıştırılabilecek.
Halo Station’ın kalbinde, Zen 5 mimarisi üzerine kurulu “Shimada Peak” kod adlı Ryzen Threadripper PRO 9995WX yer alıyor; bu işlemci 96 çekirdek ve 192 iş parçacığı sunarken maksimum boost saat hızı 5,4 GHz seviyesine kadar çıkıyor ve sistem, 2 TB’a kadar DDR5 sistem belleği desteğiyle geliyor. AMD’nin açıklamasına göre bu işlemci, yapay zeka iş yüklerinin yanı sıra yüksek hesaplama gerektiren diğer görevlerde de kullanılabilecek; aynı yapı içinde dört adede kadar Instinct MI350P hızlandırıcı eklenmesine imkan tanınması ise sistemin ölçeklenebilirlik tarafını güçlendiriyor.
Hızlandırıcı tarafında dikkat çeken rakamlar öne çıkıyor; her bir Instinct MI350P, 144 GB HBM3E bellek ve 4 TB/s bellek bant genişliği sunuyor ve AMD, bu bant genişliğinin herhangi bir LPDDR5X çözümünden 14 kat daha yüksek olduğunu belirtiyor. Dört kartlı tam yapılandırmada toplam 576 GB HBM3E belleğe ulaşılacağı şirket tarafından açıklanırken, IFA’da sergilenen iki kartlı yapılandırmada ise toplam 288 GB HBM3E bellek bulunuyor; bu kapasite, trilyon parametreli modellerin yerel olarak yüklenmesine olanak sağlayacak düzeyde görünüyor.
Yüksek hesaplama kapasitesi beraberinde ciddi bir güç ve soğutma ihtiyacı getiriyor; her bir Instinct MI350P hızlandırıcının 600 watt’a kadar TBP talep ettiği belirtilirken AMD, hızlandırıcıların her birinin bağımsız olarak sıvı soğutmayla desteklendiğini söylüyor ve Threadripper işlemci için de ayrı bir sıvı soğutma sistemi kullanılıyor. Bu soğutma mimarisi, sistemin sürekli yüksek performans altında kararlı çalışmasını hedeflerken elektrik tüketimi ve ısı yönetimi, bu sınıftaki iş istasyonlarının toplam sahip olma maliyetini doğrudan etkileyen unsurlar arasında yer alıyor.
Şirket, Halo Station’ın fiyatlandırması, piyasaya sunulacağı tarih ya da teknik özelliklerinin tamamı konusunda henüz bir açıklama yapmadı; depolama çözümleri, ağ bağlantısı detayları ve kasa alternatifleri de paylaşılan bilgiler arasında bulunmuyor. Sistemin AMD tarafından doğrudan mı satışa sunulacağı yoksa iş istasyonu üreticileri ve sistem entegratörleri aracılığıyla mı dağıtılacağı sorusu ise yanıt beklemeye devam ediyor; bu belirsizlikler, sistemin hangi kullanıcı kitlesine ve hangi fiyat aralığında hitap edeceği sorusunu gündemde tutuyor.
Yerel yapay zeka donanımı pazarında rekabet hızla kızışırken büyük dil modellerinin parametre sayısı arttıkça, bu modelleri buluta taşımadan çalıştırmak isteyen araştırmacılar, geliştiriciler ve kurumsal kullanıcılar için bellek kapasitesi belirleyici hale geliyor. AMD’nin Halo Station hamlesi, yüksek bellekli hızlandırıcıları tek bir iş istasyonu çatısı altında birleştirerek bu ihtiyaca yanıt vermeyi amaçlarken şirketin IFA’daki tanıtımı, yerel yapay zeka çalıştırma yarışında donanım tarafındaki iddiasını ortaya koyuyor; sistemin teknik detayları netleştikçe pazardaki konumu da daha görünür olacak.
