Güney Kore merkezli SK hynix ve Amerikan teknoloji devi Sandisk, yapay zeka çıkarım dönemi için geliştirdikleri yeni nesil bellek çözümü High Bandwidth Flash (HBF – Yüksek Bant Genişlikli Flash)’in küresel standardizasyon stratejisini duyurdu. SK hynix, HBF’yi endüstri standardı haline getirerek tüm AI ekosisteminin birlikte büyümesini desteklemeyi hedeflediklerini belirtti. Bunun için Sandisk ile birlikte Open Compute Project (OCP) kapsamında özel bir çalışma grubu kurulacak ve standardizasyon süreci başlatılacak. OCP, dünya çapında en büyük açık veri merkezi teknolojisi girişimi olarak biliniyor.
Yapay zeka sektöründe son dönemde odak noktası, büyük dil modelleri (LLM) yaratmaya odaklanan eğitim süreçlerinden, kullanıcıya doğrudan hizmet sunan çıkarım (inference) süreçlerine kayıyor. Bu geçişle birlikte hızlı ve verimli bellek çözümleri kritik önem taşıyor. Mevcut bellek yapıları, çıkarım aşamasında yüksek kapasiteli veri işleme ile enerji verimliliğini aynı anda sağlayamıyor. HBF teknolojisi ise tam olarak bu ihtiyacı karşılamak üzere tasarlandı.
HBM ve SSD arasında yeni bellek katmanı
HBF, ultra hızlı bellek HBM ile yüksek kapasiteli depolama cihazı SSD arasında konumlanan yeni bir bellek katmanı olarak öne çıkıyor. Bu teknoloji, HBM’in yüksek performansı ile SSD’nin yüksek kapasitesi arasındaki boşluğu doldurabiliyor. Haliyle AI çıkarımlarında hem kapasite artışı hem de güç verimliliği sağlıyor. HBM yüksek bant genişliğini yönetirken, HBF mimaride destekleyici bir katman görevi görüyor. Endüstri analistleri, HBF dahil karmaşık bellek çözümlerine olan talebin 2030 civarında ciddi şekilde artacağını öngörüyor. Bu bağlamda SK hynix ve Sandisk, HBM ve NAND alanındaki tasarım, paketleme ve seri üretim tecrübelerini HBF standardizasyonu ve ticarileştirmeye taşıyor.
Sandisk’in HBF teknoloji detayları
Sandisk, HBF’yi NAND tabanlı bir bellek katmanı olarak konumlandırıyor ve HBM’e göre 8 ila 16 kat daha fazla kapasite sunabileceğini belirtiyor. İlk nesil HBF donanımında, okuma bant genişliği 1,6 TB/s, her bir küçük bellek kalıbı için 256 Gb ve 16 kalıplı bir yığının toplam kapasitesi 512 GB olacak şekilde planlanıyor. Ayrıca bu yığınların HBM4 ile fiziksel boyut, güç profili ve yükseklik açısından uyumlu olduğu belirtiliyor. Bu da HBM yığınlarıyla AI hızlandırıcılarında benzer bir entegrasyon modeli sunuyor. Sandisk’in yol haritasına göre HBF Gen2 ve Gen3, sırasıyla 2 TB/s ve 3,2 TB/s üzeri okuma bant genişliği, 1 TB ve 1,5 TB yığın kapasitesi ve Gen1’e kıyasla daha düşük güç tüketimi (0,8x ve 0,64x) hedefliyor. Henüz kesin bir uygulama takvimi açıklanmamış olsa da SK hynix ve Sandisk, OCP çatısı altında standardizasyon sürecini bir sonraki adım olarak konumlandırmış durumda.
