AI领域的新速度Samba-1 Turbo：每秒1084 个token

2024-07-04 04:30:28 分类：资讯 阅读(43335)

CSS站长资源(ChinaZ.com) 5月29日 消息: AI芯片厂商SambaNovaAI最新推出的领域AI芯片Samba-1Turbo表现出色，被称为AI领域的速度新速度之王。据外部机构Artificial Analysis独立测试结果显示，每秒Samba-1Turbo在Llama3Instruct（8B）上的领域输出速度达到每秒1，084个token，速度创下了目前为止最快的每秒记录。这一速度比MetaAI的领域Llama3Instruct(8B)API提供商的中位速度快8倍以上，甚至超越了之前推理速度最快的速度Groq。

Samba-1Turbo芯片是每秒SambaNova的第四代设计，采用台积电的领域5nm工艺制造，具有支持更大模型的速度潜力，例如Llama3400B+。每秒Artificial Analysis还验证了在Samba-1Turbo上运行的领域Llama3Instruct（8B）通过MMLU基准测试，质量得分与全FP16精度一致。速度

Samba-1Turbo的每秒出现引发了业界的关注和讨论，被称为AI领域的新宠。该款AI芯片的性能表现令人惊叹，有望为人工智能应用带来全新的发展可能性。AI领域的竞争愈发激烈，Samba-1Turbo的问世必将为SambaNovaAI赢得更多市场份额。

SambaNova 目前尚未公开提供无服务器 API，但您可以通过他们的聊天界面试用他们的系统。

获取官方体验地址：https://top.aibase.com/tool/samba-1-turbo