便是專門為了適配 A10—— 那但是企業布置中最常見的顯卡 。
Transformer 的「省油」補丁
為何 9B 模型能在長上下文里打平 70B ？答案藏在Mamba-Transformer 混合架構里 ：
用 Mamba 狀況空間層替換 70% 的注意力層 ，都多了一張「滿足聰明又付得起」的牌
。精準操控本錢。細巧到能輕松裝入智能手表，降低了企業的法令危險
。而非平方爆破；
128k token 實測吞吐量比同尺度純 Transformer高 2.3×
。
在 AI 范疇，省去中間環節；體系級的 max_think_tokens 功用
，掀起了一場無聲的革新
。出資回報率（ROI）才是硬道理 。將其布置在單張 A10 GPU 上
，再次改寫了人們對小型模型的認知。MIT 子公司 Liquid AI 推出的視覺模型