产品Soup CLI:在 4GB 显存笔记本上微调 8B 大模型
筛选线索大模型与推理大语言模型发布动态1 个独立信源
Soup CLI 是一个命令行工具,由其在 Product Hunt 上发布,宣称用户可以在配备 4GB 显卡的笔记本电脑上对 8B 参数规模的大语言模型进行微调。该产品面向资源受限的开发者,降低了本地微调大模型的硬件门槛。
Product Hunt
58TOPIC · CURATED VIEW
追踪基础模型、推理能力、上下文与训练方法的关键变化,不收录只有参数宣传的更新。
Soup CLI 是一个命令行工具,由其在 Product Hunt 上发布,宣称用户可以在配备 4GB 显卡的笔记本电脑上对 8B 参数规模的大语言模型进行微调。该产品面向资源受限的开发者,降低了本地微调大模型的硬件门槛。
Meta AI 超级智能实验室发布了首个开放权重模型 Muse Glimmer,并已上线 OpenRouter。这是一款 30B 参数的密集文本+图像模型,采用 Apache 2.0 许可证,定位为可靠的本地智能体,MCP Atlas 得分 75.5,SWE-Bench Pro 得分 51.2。
Kimi(月之暗面)在Product Hunt发布了Kimi K3模型,宣称这是全球首个开放型3T参数级别的模型。该产品面向AI开发者和研究者,提供大规模参数的开源模型,旨在突破以往模型参数规模的限制,但具体能力和应用场景尚未披露。
Unabyss 为 Claude 推出了一项共享内存功能,使 Claude 能够在所有应用程序和大语言模型之间保留和访问上下文信息,从而减少重复输入并提升多工具协作的连贯性。当前证据仅表明该功能存在于 Claude 环境中,未提供具体实现细节或发布方信息。
小红书技术团队开源 BigMac,一种针对多模态大模型训练的依赖安全嵌套流水线新范式。它利用 LLM 流水线作为主干,在不打乱执行顺序的前提下嵌入编码器和生成器计算,相比基线实现 1.08x-1.9x 加速,同时保持激活显存有界。BigMac 已作为 dots 多模态模型训练的核心组件投入生产。