AI芯片廠商SambaNovaAI最新推出的AI芯片Samba-1Turbo表現出色，被稱為AI領域的新速度之王。據外部機構Artificial Analysis獨立測試結果顯示，Samba-1Turbo在Llama3Instruct(8B)上的輸出速度達到每秒1，084個token，創下了目前為止最快的記錄。這一速度比MetaAI的Llama3Instruct(8B)API提供商的中位速度快8倍以上，甚至超越了之前推理速度最快的Groq。

　　Samba-1Turbo芯片是SambaNova的第四代設計，采用臺積電的5nm工藝制造，具有支持更大模型的潛力，例如Llama3400B+。Artificial Analysis還驗證了在Samba-1Turbo上運行的Llama3Instruct(8B)通過MMLU基準測試，質量得分與全FP16精度一致。

　　Samba-1Turbo的出現引發了業界的關注和討論，被稱為AI領域的新寵。該款AI芯片的性能表現令人驚嘆，有望為人工智能應用帶來全新的發展可能性。AI領域的競爭愈發激烈，Samba-1Turbo的問世必將為SambaNovaAI贏得更多市場份額。

　　SambaNova 目前尚未公開提供無服務器 API，但您可以通過他們的聊天界面試用他們的系統。