亚马逊云科技发布《企业生产级智能体开发部署指南》 以评估驱动Agent部署新范式
亚马逊云科技在2026中国峰会上发布《企业生产级智能体开发部署指南》。当前Agentic AI迎来爆发拐点，但企业将智能体从原型推向生产面临巨大挑战，传统评估方法因大模型概率性输出而失效，导致大量项目停滞或取消。指南提出以评估驱动的开发方法论，涵盖定标准、开发、评估、灰度上线等六个步骤，并覆盖八类评估维度及自动化评估框架，帮助企业构建从底层模型到业务结果的可观测、可持续改进闭环。该指南融合亚马逊内部实践，已在购物助手、客服、卖家等场景深度应用，并助力多家行业客户突破规模化部署瓶颈，实现真实业务价值。 #亚马逊云科技 #AgenticAI #智能体 #评估驱动 #企业部署 #AI #云计算
亚马逊云科技在2026中国峰会上发布《企业生产级智能体开发部署指南》。当前Agentic AI迎来爆发拐点，但企业将智能体从原型推向生产面临巨大挑战，传统评估方法因大模型概率性输出而失效，导致大量项目停滞或取消。指南提出以评估驱动的开发方法论，涵盖定标准、开发、评估、灰度上线等六个步骤，并覆盖八类评估维度及自动化评估框架，帮助企业构建从底层模型到业务结果的可观测、可持续改进闭环。该指南融合亚马逊内部实践，已在购物助手、客服、卖家等场景深度应用，并助力多家行业客户突破规模化部署瓶颈，实现真实业务价值。 #亚马逊云科技 #AgenticAI #智能体 #评估驱动 #企业部署 #AI #云计算
AI虚拟科研团队EmulatRx实现临床试验自主设计
来自Weill Cornell Medicine等机构的研究团队在《自然·通讯》发表研究，推出多智能体临床试验设计系统EmulatRx。该系统由五个AI代理分别扮演项目负责人、临床试验专家、医学信息学专家、临床医生和统计学家，模拟真实跨学科团队协作，完成原本需要数周甚至数月的试验方案设计。基于GPT-4o构建的智能体在标准化试验信息任务中达到95.4%的F1值，临床专家对生成建议的综合评分达4.88分（满分5分）。完成一次完整临床试验设计的中位运行时间仅5.75分钟，而同等规模人工流程通常需数天至数周。研究显示，Agentic AI已从单纯阅读知识转向组织与协调知识，开始真正参与科研流程，未来实验室或将迎来持续协作的AI科研团队。 #AI #临床试验 #AgenticAI #科研 #大语言模型 #NatureCommunications #数字医疗 #人工智能
来自Weill Cornell Medicine等机构的研究团队在《自然·通讯》发表研究，推出多智能体临床试验设计系统EmulatRx。该系统由五个AI代理分别扮演项目负责人、临床试验专家、医学信息学专家、临床医生和统计学家，模拟真实跨学科团队协作，完成原本需要数周甚至数月的试验方案设计。基于GPT-4o构建的智能体在标准化试验信息任务中达到95.4%的F1值，临床专家对生成建议的综合评分达4.88分（满分5分）。完成一次完整临床试验设计的中位运行时间仅5.75分钟，而同等规模人工流程通常需数天至数周。研究显示，Agentic AI已从单纯阅读知识转向组织与协调知识，开始真正参与科研流程，未来实验室或将迎来持续协作的AI科研团队。 #AI #临床试验 #AgenticAI #科研 #大语言模型 #NatureCommunications #数字医疗 #人工智能
港科大提出COMA黑盒攻击框架，揭示提示词压缩成LLM Agent新攻击面
香港科技大学一项最新研究揭示，大型语言模型Agent中用于节省成本的提示词压缩模块，可能成为新型安全攻击面。攻击者通过在不可信输入中添加微小扰动，可诱导压缩器丢弃系统提示词中的关键安全约束或任务证据，使后端模型执行恶意操作。团队提出首个基于迁移的黑盒攻击框架COMA，在未知压缩器参数下实现高效攻击。在六种压缩器、三项任务上，平均攻击成功率达0.71，而现有非压缩感知攻击仅为0.21。真实案例显示，该攻击可突破VSCode Cline安全限制读取敏感文件，或误导LangChain Agent选错工具。研究推荐采用隔离压缩，将可信与不可信上下文分开压缩，可防御96%的系统提示词破坏攻击。 #提示词压缩 #大模型 #AI Agent #黑盒攻击 #COMA #港科大 #AI安全 #攻击面 #ASE2026
香港科技大学一项最新研究揭示，大型语言模型Agent中用于节省成本的提示词压缩模块，可能成为新型安全攻击面。攻击者通过在不可信输入中添加微小扰动，可诱导压缩器丢弃系统提示词中的关键安全约束或任务证据，使后端模型执行恶意操作。团队提出首个基于迁移的黑盒攻击框架COMA，在未知压缩器参数下实现高效攻击。在六种压缩器、三项任务上，平均攻击成功率达0.71，而现有非压缩感知攻击仅为0.21。真实案例显示，该攻击可突破VSCode Cline安全限制读取敏感文件，或误导LangChain Agent选错工具。研究推荐采用隔离压缩，将可信与不可信上下文分开压缩，可防御96%的系统提示词破坏攻击。 #提示词压缩 #大模型 #AI Agent #黑盒攻击 #COMA #港科大 #AI安全 #攻击面 #ASE2026
功率校准LLM水印方法提出，超越启发式调优
近日，一篇题为“Beyond Heuristic Tuning: Power-Calibrated LLM Watermarking”的论文在arXiv平台提交。该论文由Xiaopu Wang等学者完成，针对大语言模型水印技术中存在的高度依赖启发式调优问题，提出了一种功率校准的新框架。通过显式校准水印信号的功率分布，该方法旨在提升水印的检测鲁棒性与稳定性，从而减少手动调参带来的不确定性和性能波动。这一方向对于增强AI生成文本的可追溯性和安全性具有重要意义，为LLM水印在实际部署中的可靠性提供了理论支持。 #LLM #水印 #大语言模型 #AI安全 #论文 #arXiv #深度学习 #生成式AI #学术研究
近日，一篇题为“Beyond Heuristic Tuning: Power-Calibrated LLM Watermarking”的论文在arXiv平台提交。该论文由Xiaopu Wang等学者完成，针对大语言模型水印技术中存在的高度依赖启发式调优问题，提出了一种功率校准的新框架。通过显式校准水印信号的功率分布，该方法旨在提升水印的检测鲁棒性与稳定性，从而减少手动调参带来的不确定性和性能波动。这一方向对于增强AI生成文本的可追溯性和安全性具有重要意义，为LLM水印在实际部署中的可靠性提供了理论支持。 #LLM #水印 #大语言模型 #AI安全 #论文 #arXiv #深度学习 #生成式AI #学术研究
保留还是适应？泛化持续学习
一篇题为《To Retain or to Adapt? Generalizing Continual Learning》的论文于2026年7月6日提交至arXiv预印本平台。该论文由Giulia Lanzillotta等四位作者共同完成，聚焦持续学习领域的核心问题：在连续学习新任务时，如何平衡保留已有知识与适应新信息，以避免灾难性遗忘。论文标题以设问方式揭示了这一根本性权衡，并提出一种泛化持续学习的框架，旨在统一并改进现有方法。该研究为开发更稳健、可持续学习的人工智能系统提供了理论支撑，对推动机器学习在动态环境中的适应性发展具有参考价值。 #arXiv #持续学习 #机器学习 #人工智能 #论文 #灾难性遗忘
一篇题为《To Retain or to Adapt? Generalizing Continual Learning》的论文于2026年7月6日提交至arXiv预印本平台。该论文由Giulia Lanzillotta等四位作者共同完成，聚焦持续学习领域的核心问题：在连续学习新任务时，如何平衡保留已有知识与适应新信息，以避免灾难性遗忘。论文标题以设问方式揭示了这一根本性权衡，并提出一种泛化持续学习的框架，旨在统一并改进现有方法。该研究为开发更稳健、可持续学习的人工智能系统提供了理论支撑，对推动机器学习在动态环境中的适应性发展具有参考价值。 #arXiv #持续学习 #机器学习 #人工智能 #论文 #灾难性遗忘
深度神经网络变分空间
来自arXiv的消息，Julia Nakhleh及其合作者于2026年7月6日提交了一篇题为《Deep Neural Variation Spaces: A Unifying Perspective on Depth and Complexity》的论文。该研究从函数空间的角度出发，提出了“深度神经网络变分空间”这一概念，旨在统一刻画网络深度与模型复杂度之间的关系。通过引入变分框架，作者分析了深层网络在表达能力上的本质差异，并探讨了参数复杂性对训练动态的影响。论文同时覆盖计算机科学、数学与统计学等多个领域，为理解深度学习背后的数学原理提供了新的理论工具，有望推动网络架构设计和泛化分析的前沿探索。 #深度学习 #神经网络 #变分空间 #复杂度 #理论 #arXiv #论文 #统计学习
来自arXiv的消息，Julia Nakhleh及其合作者于2026年7月6日提交了一篇题为《Deep Neural Variation Spaces: A Unifying Perspective on Depth and Complexity》的论文。该研究从函数空间的角度出发，提出了“深度神经网络变分空间”这一概念，旨在统一刻画网络深度与模型复杂度之间的关系。通过引入变分框架，作者分析了深层网络在表达能力上的本质差异，并探讨了参数复杂性对训练动态的影响。论文同时覆盖计算机科学、数学与统计学等多个领域，为理解深度学习背后的数学原理提供了新的理论工具，有望推动网络架构设计和泛化分析的前沿探索。 #深度学习 #神经网络 #变分空间 #复杂度 #理论 #arXiv #论文 #统计学习
回归任务的高阶认证鲁棒性研究新论文发布
一篇题为《回归任务的高阶认证鲁棒性》（Higher-Order Certified Robustness for Regression）的研究论文近日在预印本平台arXiv上发布。该论文由Claire Jie Zhang等人撰写，主要探讨在回归任务中如何实现高阶的认证鲁棒性。认证鲁棒性是机器学习安全领域的重要概念，旨在确保模型在输入受到扰动时输出结果依然稳定可靠。传统工作多聚焦于分类任务，而该研究将认证鲁棒性拓展至回归场景，并探索利用高阶统计信息来提升认证界（certified bound）的紧致性。论文详细介绍了理论框架与实验验证，为回归模型的鲁棒性认证提供了新的思路。该研究已在arXiv平台开放获取，可提供PDF与HTML版本供同行评审与学术交流。 #机器学习 #回归 #认证鲁棒性 #AI安全 #arXiv #学术论文 #高阶方法
一篇题为《回归任务的高阶认证鲁棒性》（Higher-Order Certified Robustness for Regression）的研究论文近日在预印本平台arXiv上发布。该论文由Claire Jie Zhang等人撰写，主要探讨在回归任务中如何实现高阶的认证鲁棒性。认证鲁棒性是机器学习安全领域的重要概念，旨在确保模型在输入受到扰动时输出结果依然稳定可靠。传统工作多聚焦于分类任务，而该研究将认证鲁棒性拓展至回归场景，并探索利用高阶统计信息来提升认证界（certified bound）的紧致性。论文详细介绍了理论框架与实验验证，为回归模型的鲁棒性认证提供了新的思路。该研究已在arXiv平台开放获取，可提供PDF与HTML版本供同行评审与学术交流。 #机器学习 #回归 #认证鲁棒性 #AI安全 #arXiv #学术论文 #高阶方法
新研究提出“残留权限”概念，为编码代理设计可撤销能力机制
一项来自arXiv的最新研究提出“残留权限”问题，指出编码代理在执行复杂任务时，往往被授予过于宽泛的工具权限，即使某资源仅在特定子目标中需要，其临时能力在相关环节结束后仍长期暴露。研究人员将该安全漏洞称为“滞留的权威”，并设计出名为PORTICO的参考监控系统。该系统通过将显式任务合约编译为初始能力、授权规则和可信闭包谓词，实现对规划者暴露权限的动态撤销。PORTICO能够确保临时资源与效果在不再需要时立即回收，从而有效缩小攻击面。该工作为构建更安全、粒度可控的编码代理提供了新思路，有望在未来自动化编程和AI代理系统中得到应用。 #arXiv #AI安全 #编码代理 #权限管理 #可撤销能力 #残留权限 #PORTICO #计算机研究
一项来自arXiv的最新研究提出“残留权限”问题，指出编码代理在执行复杂任务时，往往被授予过于宽泛的工具权限，即使某资源仅在特定子目标中需要，其临时能力在相关环节结束后仍长期暴露。研究人员将该安全漏洞称为“滞留的权威”，并设计出名为PORTICO的参考监控系统。该系统通过将显式任务合约编译为初始能力、授权规则和可信闭包谓词，实现对规划者暴露权限的动态撤销。PORTICO能够确保临时资源与效果在不再需要时立即回收，从而有效缩小攻击面。该工作为构建更安全、粒度可控的编码代理提供了新思路，有望在未来自动化编程和AI代理系统中得到应用。 #arXiv #AI安全 #编码代理 #权限管理 #可撤销能力 #残留权限 #PORTICO #计算机研究