论文提出RLSVR范式将开放式任务转化为可验证环境,SpyRL实例优于现有方法;AISPA框架审计88个商业AI产品系统提示,发现约40%含不利指令,为监管提供实证。
arXiv AI1
arXiv AI 发布论文《AiFlow: Token-Native Reactive Orchestration with Bounded Backpressure for Streaming LLM Applications》,提出一种面向流式 LLM 应用的反应式编排模型。AiFlow 将 provider 增量标准化为 Context 事件,并通过有界背压机制管理队列和并发。实验显示,相比聚合方式,应用端首包时间(TTFPT)降低 70.9%-94.7%,队列深度下降 93.7%-96.5%。
为什么值得看此前流式 LLM 工作流常将生成视为粗粒度的请求-响应步骤,队列、并发和背压依赖临时回调代码。AiFlow 首次将 Token 级增量标准化为类型化事件,并用 Node Guardian 声明式管理有界队列,使背压、顺序和重试成为可静态验证的系统属性,减小了应用端延迟。
arXiv AI1
arXiv 发布论文,提出多智能体对抗评估平台,用于压力测试角色扮演语言智能体(RPLAs)。系统含审讯代理、目标代理和评判代理,通过六种渐进对抗策略进行多轮对话测试。实验覆盖三种角色和三家前沿LLM,发现多策略对抗评估能揭示单策略遗漏的失败模式,平均降低鲁棒性评分0.17-0.20,并验证了跨模型一致性退化。
为什么值得看现有评估多依赖静态基准或单轮问题,难以捕捉长对话中的累积行为失败。本研究提出多智能体、多策略对抗框架,能暴露更隐蔽的失败模式,且自动评判与人类评分高度相关,为高安全要求场景下的RPLA提供系统化评估新工具。
arXiv AI1
一项实证研究调查了开源软件系统中LLM服务框架和方法的使用情况,分析了vLLM、SGLang、TensorRT-LLM、LMDeploy和FlashInfer五个框架。结果显示vLLM在流行度和采用率上最突出,并行计算、内存管理和网络剪枝是最常用的服务方法类别,多框架使用有限但能互补。
为什么值得看此前关于LLM服务的研究多聚焦于技术提案,缺乏对其实际采用情况的了解。该研究揭示了真实项目中框架和方法的使用模式,有助于产品经理和技术决策者理解市场现状,指导技术选型和架构设计。
arXiv AI1
一项针对广泛使用的LLM的审计研究发现,其评估结果受访问方式、是否启用网络搜索和重复运行次数影响。该研究比较了ChatGPT聊天界面和OpenAI API,使用来自BBQ和SafetyBench的401个提示共采集4812条响应。结果显示,启用网络搜索可使准确率下降最多8个百分点,且聊天界面在禁用搜索时准确率低于API。同一提示重复运行在最多21%的情况下产生不一致响应,且不同方式的引用依据和回避行为也不同。
为什么值得看此前AI安全评估常依赖单一API和单次运行,默认准确率指标可代表模型行为。该研究揭示,同一模型家族内,访问方式和搜索设置会显著改变准确率与响应一致性,甚至逆转模态性能趋势,表明仅报告简单准确率会掩盖安全相关的重要行为差异,对评估标准构成挑战。
arXiv AI1
论文提出面向医院的合规优先Agentic AI多层架构,包含Agent编排层、合规策略层(支持HIPAA、GDPR、EU AI Act等)和隐私保护数据层。基于合成医院数据及原型,演示了分诊预测、流程优化和合规日志编排,模拟显示任务周转时间和文档工作量显著降低。
为什么值得看医院AI部署多为部门级孤岛,70-80%试点难以规模化。该研究提出将合规与策略集中化的多层架构,为医院AI从单点工具走向平台化、合规化提供了可落地的蓝图,可能改变医院AI的采购和实施模式。
arXiv AI1
arXiv 发布论文介绍 ECHO,一个可本地部署的对话式健康助手,用于长期慢性病管理。ECHO 基于 LangGraph 的 ReAct 循环,集成 17 个临床工具和时序知识图谱,实现 94.9% 的工具执行通过率;安全层结合规则与图神经网络,对 2537 条土耳其健康数据集达到 88.8% 准确率;语音评估模块平均宏观 F1 为 0.652。系统可在消费级硬件运行,无需外部传输数据。
为什么值得看相比依赖云端的健康助手,ECHO 可在消费硬件本地运行,数据不外传,符合 GDPR 和 KVKK,可能降低隐私合规成本。其安全层超越零样本 LLM,如 Llama 3.3 70B,表明小型模型结合专用模块可达到实用水平,对资源受限场景有意义。