AMD 收购 Taalas，将 AI 模型直接嵌入芯片

AMD 收购了加拿大初创公司 Taalas，该公司将 AI 模型的权重直接硬编码到推理芯片中，使芯片运行极快但仅支持单一模型。其演示芯片运行 Llama 3.1-8B 时，每个用户每秒可处理超过 16000 个令牌。谷歌据报道也在为 Gemini 开发类似方法。

此收购表明 AMD 正在布局针对特定模型的超高效推理芯片，与通用 AI 芯片路线不同。通过硬编码模型权重，芯片性能和效率大幅提升，可能改变 AI 推理市场的竞争格局，尤其是在低成本、高吞吐场景下。

将模型权重固化为芯片逻辑，消除了传统推理中的权重加载和计算开销，从而显著提高速度和能效。但代价是灵活性丧失，芯片只能运行特定模型，且模型更新需更换硬件。这种“专用化”路线与通用 GPU 形成对比。

对于依赖 AI 推理的企业，该技术可降低推理成本并提升响应速度，但需权衡模型升级的灵活性。AMD 可能推出针对热销模型的专用推理卡，影响现有 GPU 产品定位，促使云厂商考虑混合部署。

• 评估并试点 Taalas 芯片用于高吞吐、低延迟的固定模型推理场景，如 Llama 3.1-8B。
• 在云服务中推出基于 Taalas 的专用推理实例，按令牌定价，吸引需要极致性能的客户。
• 与模型厂商合作，提供定制化硬编码芯片，锁定特定模型的高频应用。

• 收购价格和交易完成时间未披露。
• Taalas 芯片的量产时间和成本未明确。
• AMD 是否会持续支持模型硬编码的更新迭代？
• 谷歌的类似方法是否已进入实际部署阶段？