“ChatGPT” gibi yapay zeka araçlarına her soru sorduğunuzda büyük bir veri yarışı başlar. Bilgi bellekten çıkar, ön işlem için işlemciden geçer, ağır hesaplamalar için grafik işlem birimine gider ve ardından geri döner. Yapay zekanın ürettiği her bir kelime için bu uzun yolculuk tekrarlanmak zorundadır. Sektörün en pahalı ve güç tüketen donanımları arasında sürekli gidip gelmeyi gerektiren bu yapısal darboğaz, Güney Kore ve ABD merkezli girişim “XCENA” tarafından çözülmek üzere.
Dört yıllık girişim, hesaplama yeteneklerini işlemcinin aktif olarak kullandığı verileri depolayan hızlı bellekler olan “DRAM” üzerine çok daha yakın bir konuma yerleştiren yeni bir çip tasarladı. Bu sistem, rutin veri işlemlerinin pahalı donanımlar arasında gidip gelmeden doğrudan belleğe yakın bir yerde halledilmesini sağlıyor. Yapay zeka altyapı maliyetlerinde devrim yaratma potansiyeli taşıyan bu fikir, yatırımcıların da büyük ilgisini çekti. “XCENA”, B serisi yatırım turunda 570 milyon dolar değerleme üzerinden 135 milyon dolar toplayarak bugüne kadar aldığı toplam yatırımı 185 milyon dolara ulaştırdı.
Şirket, 2022 yılında “Samsung” ve “SK Hynix” gibi bellek devlerinde yıllarca görev almış Jin Kim, Dohun Kim ve Harry Juhyun Kim tarafından kuruldu. Şirketin CEO’su Jin Kim, teknoloji dünyasındaki bu açığı şu sözlerle ifade etti: “İşlemciler ve grafik işlem birimleri on yıllar boyunca giderek daha akıllı hale geldi. Ancak bellek hiçbir zaman bu gelişimi gösteremedi. XCENA bunu değiştirmek istiyor. Bellek fiyatlarındaki ve ilgili hisse senetlerindeki son artışlar, yapay zeka altyapısında bellek odaklı mimarilere doğru daha geniş bir değişime işaret ediyor.” Jin Kim ayrıca, “Çıkarım yapmak sadece bir hesaplama sorunu değil, giderek büyüyen bir bellek ölçeklendirme sorunudur.” diyerek şirketin temel felsefesini vurguladı.
“XCENA” tarafından geliştirilen “MX1” adlı çip, veri belleğinden çıkmadan önce işlem yapmak için işlemci ile bellek arasında özel bir ekspres yol olan “CXL” üzerinden bağlantı kuruyor. Veriyi işlemciye taşımak yerine hesaplamayı verinin yanına getiren bu sistem sayesinde, eskiden 10 sunucu gerektiren işlemlerin artık tek bir sunucuda çalışabileceği belirtiliyor.
Jin Kim, çipin çalışma mantığını detaylandırarak şu resmi açıklamayı yaptı: “Grafik işlem birimleri, yapay zeka model eğitiminin arkasındaki ağır matematik olan matris çarpımında mükemmel olsa da; ön işleme, KV önbellek yönetimi (bir modelin yeniden işlememesi için önceki konuşma bağlamını depolayan sistem) ve veri önbelleğe alma dahil olmak üzere çevredeki veri düzenlemesinin çoğu hala işlemcilerde çalışıyor. Çipimiz bu görevleri doğrudan bellek modülünün içinde gerçekleştiriyor.”
Şu an prototip aşamasında olan “MX1” çipinin, 2026 yılı sonuna kadar “Samsung” dökümhanelerinde seri üretime girmesi ve 2027 yılında şirkete gelir sağlamaya başlaması planlanıyor. Rakipleri “Astera Labs” ve “Marvell” ile kıyaslandığında kendi farklarını ortaya koyan Jin Kim, “Binlerce çekirdeğimiz var.” diyerek açık kaynaklı “RISC-V” mimarisiyle veriye özel optimize edilmiş güçlü bir yapı sunduklarının altını çizdi. Güney Koreli Altinum ve IMM Investment tarafından yönetilen son yatırım turu, şirketin küresel çaptaki büyümesine hız katacak.