Akıllı telefon pazarında yapay zekâ yarışı ilk başladığında, üreticilerin neredeyse tamamı sorguları uzak sunuculardaki devasa veri merkezlerine gönderen bulut (cloud) çözümlerine sığındı. Ancak bir mühendis gözüyle bakıldığında bu yaklaşımın üç ölümcül kusuru vardı: Ağ gecikmesi (latency), veri güvenliği açıkları ve yüksek bant genişliği maliyeti. Cebinizdeki cihazın gerçek anlamda zeki olabilmesi için modelin doğrudan silikon üzerinde, yani cihaz içinde (on-device) çalışması gerekiyordu.

Samsung, bu darboğazı aşmak adına kendi üretken yapay zekâ modelinin ikinci nesli olan Samsung Gauss 2 mimarisini ve bunu cihaz tabanında işleten yeni nesil NPU (Nöral İşlem Birimi) optimizasyonlarını devreye aldı. Çok modlu (multimodal) veri işleme yeteneğiyle gelen Gauss 2, akıllı telefonları pasif birer terminal olmaktan çıkarıp yerel çıkarım (local inference) yapabilen otonom bilişim üslerine dönüştürüyor.

Gauss 2 mimarisi; metin, kod ve görsel verileri eş zamanlı işleyerek mobil NPU çekirdeklerinde sıfır gecikmeli çıkarım gerçekleştirmeyi hedefler.

1. Model Topolojisi: Compact, Balanced ve Supreme

Büyük dil modellerini (LLM) doğrudan bir mobil çipsete sıkıştırmak, bellek kısıtları nedeniyle imkânsızdır. Samsung, bu sorunu aşmak için tek bir monolitik model yerine Gauss 2'yi hedefe yönelik üç farklı katmana böldü:

  • Compact (On-Device Modeli): Tamamen yerel donanım üzerinde çalışacak şekilde kuantize edilmiş (INT8/FP8) hafif sıklet varyanttır. İnternet bağlantısı olmaksızın anlık ses çevirisi, metin özetleme ve klavye girdisi tahminlerini sıfır veri sızıntısıyla çalıştırır.
  • Balanced (Dengeli Hibrit): Hız, çıkarım kalitesi ve donanım tüketimi arasında optimum dengeyi kurar. Cihazın termal sınırlarına göre işlem yükünü yerel NPU ile uç bulut (Edge Cloud) arasında paylaştırır.
  • Supreme (Uzmanlar Karışımı - MoE): Mixture of Experts (MoE) mimarisiyle eğitilmiş amiral gemisi sürümdür. Tüm parametreleri aynı anda ateşlemek yerine, gelen sorgunun türüne göre yalnızca ilgili alt uzman sinir ağlarını devreye sokarak enerji tüketimini dizginler.

2. Donanım Seviyesinde Darboğaz: Bellek Duvarı ve NPU

Bir akıllı telefonda üretken yapay zekâ çalıştırmanın önündeki en büyük engel işlemci gücü değil, Bellek Duvarı'dır (Memory Wall). Bir model her yeni kelimeyi (token) üretirken milyarlarca parametreyi RAM'den çekip hesaplama birimlerine aktarmak zorundadır.

Mobil LPDDR5X bellekler yaklaşık 8.5 Gbps bant genişliği sunsa da, masaüstü ekran kartlarındaki devasa bellek yollarının gerisindedir. Samsung, Gauss 2 ile birlikte özel bir Tokenizer yapısı ve ağırlık sıkıştırma algoritmaları entegre ederek bellek veriyolundaki I/O trafiğini %40 oranında düşürdü. Böylece NPU çekirdekleri veri bekleyerek boşa enerji tüketmek yerine (idle state), matematiksel matris çarpımlarına kesintisiz devam edebiliyor.

Samsung Gauss 2 Katman Analiz Matrisi

Model Sürümü Hedef Platform Temel Odak / Görev Çıkarım Modu
Compact Mobil Cihaz / On-Device Gecikmesiz yerel işlem, metin özetleme, kod tamamlama Çevrimdışı (NPU Donanımı)
Balanced Cihaz + Uç Sunucu Çok dilli diyalog, görsel betimleme, içerik üretimi Hibrit (NPU + Edge API)
Supreme Bulut Altyapısı (MoE) Karmaşık mantıksal çıkarım, kod üretimi, geniş ölçekli veri analitiği Tam Bulut (Veri Merkezi)