Hunyuan-A13B 技术报告：开源混合专家模型

腾讯发布开源大语言模型 Hunyuan-A13B 的技术报告。该模型采用 Mixture-of-Experts 架构，总参数 800 亿，推理时仅激活 130 亿，在能力、算力效率与部署成本之间取得平衡。预训练语料为严格过滤的 20T token，并加强了 STEM 数据整理。模型经高质量监督微调与大规模强化学习优化，引入双模式 Chain-of-Thought 框架，可按任务复杂度切换快思考与慢思考。评测覆盖数学、科学、编程、通用语言理解与 agent 任务。

此前开源模型往往在参数规模、推理成本与能力之间难以兼顾。Hunyuan-A13B 以 800 亿总参数、130 亿激活参数的形式公开，并给出接近更大模型的多任务评测结果，意味着中等规模开源模型在延迟敏感场景中的可用性提高，同时双模式推理为按任务复杂度分配算力提供了可参考设计。

Mixture-of-Experts 通过稀疏激活降低每次推理的算力需求：参数总量决定潜在能力上限，激活量决定单次推理成本。20T token 预训练与 STEM 数据加强用于提升事实可靠性与推理能力，监督微调与强化学习负责对齐和性能提升。双模式 Chain-of-Thought 则按查询复杂度决定推理深度，以在简单任务上节省算力、在复杂任务上保留多步推理。

对产品与研发而言，800 亿总参数、130 亿激活的配置降低了部署显存与延迟门槛，适合客服、检索问答等延迟敏感场景。双模式推理允许产品按请求复杂度动态控制成本。团队可基于开源权重做领域微调，减少对闭源 API 的依赖，但需自行评估 20T 语料带来的合规与数据来源风险。

• 在延迟敏感的客服或检索问答场景中，用 Hunyuan-A13B 替换部分闭源 API，并按请求复杂度切换快慢思考以控制成本。
• 基于开源权重做垂直领域监督微调，构建自有推理服务，降低长期 API 支出。
• 将双模式 Chain-of-Thought 作为产品功能，对简单查询走快模式、复杂多步任务走慢模式，并暴露可配置的推理深度。
• 在 agent 任务上做基准测试，验证其在多步工具调用场景中的实际可用性后再决定是否纳入生产流程。

• 技术报告中的评测是否与同等规模开源模型做了同条件对比，具体基线有哪些？
• 双模式 Chain-of-Thought 的切换由模型自行判断还是需要外部指定，误判率如何？
• 800 亿总参数模型的显存占用与吞吐数据在不同硬件配置下表现如何？
• 训练语料包含 20T token，其数据来源、许可与合规性是否有公开说明？