AI虚拟科研团队EmulatRx实现临床试验自主设计
来自Weill Cornell Medicine等机构的研究团队在《自然·通讯》发表研究，推出多智能体临床试验设计系统EmulatRx。该系统由五个AI代理分别扮演项目负责人、临床试验专家、医学信息学专家、临床医生和统计学家，模拟真实跨学科团队协作，完成原本需要数周甚至数月的试验方案设计。基于GPT-4o构建的智能体在标准化试验信息任务中达到95.4%的F1值，临床专家对生成建议的综合评分达4.88分（满分5分）。完成一次完整临床试验设计的中位运行时间仅5.75分钟，而同等规模人工流程通常需数天至数周。研究显示，Agentic AI已从单纯阅读知识转向组织与协调知识，开始真正参与科研流程，未来实验室或将迎来持续协作的AI科研团队。 #AI #临床试验 #AgenticAI #科研 #大语言模型 #NatureCommunications #数字医疗 #人工智能
来自Weill Cornell Medicine等机构的研究团队在《自然·通讯》发表研究，推出多智能体临床试验设计系统EmulatRx。该系统由五个AI代理分别扮演项目负责人、临床试验专家、医学信息学专家、临床医生和统计学家，模拟真实跨学科团队协作，完成原本需要数周甚至数月的试验方案设计。基于GPT-4o构建的智能体在标准化试验信息任务中达到95.4%的F1值，临床专家对生成建议的综合评分达4.88分（满分5分）。完成一次完整临床试验设计的中位运行时间仅5.75分钟，而同等规模人工流程通常需数天至数周。研究显示，Agentic AI已从单纯阅读知识转向组织与协调知识，开始真正参与科研流程，未来实验室或将迎来持续协作的AI科研团队。 #AI #临床试验 #AgenticAI #科研 #大语言模型 #NatureCommunications #数字医疗 #人工智能
港科大提出COMA黑盒攻击框架，揭示提示词压缩成LLM Agent新攻击面
香港科技大学一项最新研究揭示，大型语言模型Agent中用于节省成本的提示词压缩模块，可能成为新型安全攻击面。攻击者通过在不可信输入中添加微小扰动，可诱导压缩器丢弃系统提示词中的关键安全约束或任务证据，使后端模型执行恶意操作。团队提出首个基于迁移的黑盒攻击框架COMA，在未知压缩器参数下实现高效攻击。在六种压缩器、三项任务上，平均攻击成功率达0.71，而现有非压缩感知攻击仅为0.21。真实案例显示，该攻击可突破VSCode Cline安全限制读取敏感文件，或误导LangChain Agent选错工具。研究推荐采用隔离压缩，将可信与不可信上下文分开压缩，可防御96%的系统提示词破坏攻击。 #提示词压缩 #大模型 #AI Agent #黑盒攻击 #COMA #港科大 #AI安全 #攻击面 #ASE2026
香港科技大学一项最新研究揭示，大型语言模型Agent中用于节省成本的提示词压缩模块，可能成为新型安全攻击面。攻击者通过在不可信输入中添加微小扰动，可诱导压缩器丢弃系统提示词中的关键安全约束或任务证据，使后端模型执行恶意操作。团队提出首个基于迁移的黑盒攻击框架COMA，在未知压缩器参数下实现高效攻击。在六种压缩器、三项任务上，平均攻击成功率达0.71，而现有非压缩感知攻击仅为0.21。真实案例显示，该攻击可突破VSCode Cline安全限制读取敏感文件，或误导LangChain Agent选错工具。研究推荐采用隔离压缩，将可信与不可信上下文分开压缩，可防御96%的系统提示词破坏攻击。 #提示词压缩 #大模型 #AI Agent #黑盒攻击 #COMA #港科大 #AI安全 #攻击面 #ASE2026
功率校准LLM水印方法提出，超越启发式调优
近日，一篇题为“Beyond Heuristic Tuning: Power-Calibrated LLM Watermarking”的论文在arXiv平台提交。该论文由Xiaopu Wang等学者完成，针对大语言模型水印技术中存在的高度依赖启发式调优问题，提出了一种功率校准的新框架。通过显式校准水印信号的功率分布，该方法旨在提升水印的检测鲁棒性与稳定性，从而减少手动调参带来的不确定性和性能波动。这一方向对于增强AI生成文本的可追溯性和安全性具有重要意义，为LLM水印在实际部署中的可靠性提供了理论支持。 #LLM #水印 #大语言模型 #AI安全 #论文 #arXiv #深度学习 #生成式AI #学术研究
近日，一篇题为“Beyond Heuristic Tuning: Power-Calibrated LLM Watermarking”的论文在arXiv平台提交。该论文由Xiaopu Wang等学者完成，针对大语言模型水印技术中存在的高度依赖启发式调优问题，提出了一种功率校准的新框架。通过显式校准水印信号的功率分布，该方法旨在提升水印的检测鲁棒性与稳定性，从而减少手动调参带来的不确定性和性能波动。这一方向对于增强AI生成文本的可追溯性和安全性具有重要意义，为LLM水印在实际部署中的可靠性提供了理论支持。 #LLM #水印 #大语言模型 #AI安全 #论文 #arXiv #深度学习 #生成式AI #学术研究
保留还是适应？泛化持续学习
一篇题为《To Retain or to Adapt? Generalizing Continual Learning》的论文于2026年7月6日提交至arXiv预印本平台。该论文由Giulia Lanzillotta等四位作者共同完成，聚焦持续学习领域的核心问题：在连续学习新任务时，如何平衡保留已有知识与适应新信息，以避免灾难性遗忘。论文标题以设问方式揭示了这一根本性权衡，并提出一种泛化持续学习的框架，旨在统一并改进现有方法。该研究为开发更稳健、可持续学习的人工智能系统提供了理论支撑，对推动机器学习在动态环境中的适应性发展具有参考价值。 #arXiv #持续学习 #机器学习 #人工智能 #论文 #灾难性遗忘
一篇题为《To Retain or to Adapt? Generalizing Continual Learning》的论文于2026年7月6日提交至arXiv预印本平台。该论文由Giulia Lanzillotta等四位作者共同完成，聚焦持续学习领域的核心问题：在连续学习新任务时，如何平衡保留已有知识与适应新信息，以避免灾难性遗忘。论文标题以设问方式揭示了这一根本性权衡，并提出一种泛化持续学习的框架，旨在统一并改进现有方法。该研究为开发更稳健、可持续学习的人工智能系统提供了理论支撑，对推动机器学习在动态环境中的适应性发展具有参考价值。 #arXiv #持续学习 #机器学习 #人工智能 #论文 #灾难性遗忘
深度神经网络变分空间
来自arXiv的消息，Julia Nakhleh及其合作者于2026年7月6日提交了一篇题为《Deep Neural Variation Spaces: A Unifying Perspective on Depth and Complexity》的论文。该研究从函数空间的角度出发，提出了“深度神经网络变分空间”这一概念，旨在统一刻画网络深度与模型复杂度之间的关系。通过引入变分框架，作者分析了深层网络在表达能力上的本质差异，并探讨了参数复杂性对训练动态的影响。论文同时覆盖计算机科学、数学与统计学等多个领域，为理解深度学习背后的数学原理提供了新的理论工具，有望推动网络架构设计和泛化分析的前沿探索。 #深度学习 #神经网络 #变分空间 #复杂度 #理论 #arXiv #论文 #统计学习
来自arXiv的消息，Julia Nakhleh及其合作者于2026年7月6日提交了一篇题为《Deep Neural Variation Spaces: A Unifying Perspective on Depth and Complexity》的论文。该研究从函数空间的角度出发，提出了“深度神经网络变分空间”这一概念，旨在统一刻画网络深度与模型复杂度之间的关系。通过引入变分框架，作者分析了深层网络在表达能力上的本质差异，并探讨了参数复杂性对训练动态的影响。论文同时覆盖计算机科学、数学与统计学等多个领域，为理解深度学习背后的数学原理提供了新的理论工具，有望推动网络架构设计和泛化分析的前沿探索。 #深度学习 #神经网络 #变分空间 #复杂度 #理论 #arXiv #论文 #统计学习
回归任务的高阶认证鲁棒性研究新论文发布
一篇题为《回归任务的高阶认证鲁棒性》（Higher-Order Certified Robustness for Regression）的研究论文近日在预印本平台arXiv上发布。该论文由Claire Jie Zhang等人撰写，主要探讨在回归任务中如何实现高阶的认证鲁棒性。认证鲁棒性是机器学习安全领域的重要概念，旨在确保模型在输入受到扰动时输出结果依然稳定可靠。传统工作多聚焦于分类任务，而该研究将认证鲁棒性拓展至回归场景，并探索利用高阶统计信息来提升认证界（certified bound）的紧致性。论文详细介绍了理论框架与实验验证，为回归模型的鲁棒性认证提供了新的思路。该研究已在arXiv平台开放获取，可提供PDF与HTML版本供同行评审与学术交流。 #机器学习 #回归 #认证鲁棒性 #AI安全 #arXiv #学术论文 #高阶方法
一篇题为《回归任务的高阶认证鲁棒性》（Higher-Order Certified Robustness for Regression）的研究论文近日在预印本平台arXiv上发布。该论文由Claire Jie Zhang等人撰写，主要探讨在回归任务中如何实现高阶的认证鲁棒性。认证鲁棒性是机器学习安全领域的重要概念，旨在确保模型在输入受到扰动时输出结果依然稳定可靠。传统工作多聚焦于分类任务，而该研究将认证鲁棒性拓展至回归场景，并探索利用高阶统计信息来提升认证界（certified bound）的紧致性。论文详细介绍了理论框架与实验验证，为回归模型的鲁棒性认证提供了新的思路。该研究已在arXiv平台开放获取，可提供PDF与HTML版本供同行评审与学术交流。 #机器学习 #回归 #认证鲁棒性 #AI安全 #arXiv #学术论文 #高阶方法
新研究提出“残留权限”概念，为编码代理设计可撤销能力机制
一项来自arXiv的最新研究提出“残留权限”问题，指出编码代理在执行复杂任务时，往往被授予过于宽泛的工具权限，即使某资源仅在特定子目标中需要，其临时能力在相关环节结束后仍长期暴露。研究人员将该安全漏洞称为“滞留的权威”，并设计出名为PORTICO的参考监控系统。该系统通过将显式任务合约编译为初始能力、授权规则和可信闭包谓词，实现对规划者暴露权限的动态撤销。PORTICO能够确保临时资源与效果在不再需要时立即回收，从而有效缩小攻击面。该工作为构建更安全、粒度可控的编码代理提供了新思路，有望在未来自动化编程和AI代理系统中得到应用。 #arXiv #AI安全 #编码代理 #权限管理 #可撤销能力 #残留权限 #PORTICO #计算机研究
一项来自arXiv的最新研究提出“残留权限”问题，指出编码代理在执行复杂任务时，往往被授予过于宽泛的工具权限，即使某资源仅在特定子目标中需要，其临时能力在相关环节结束后仍长期暴露。研究人员将该安全漏洞称为“滞留的权威”，并设计出名为PORTICO的参考监控系统。该系统通过将显式任务合约编译为初始能力、授权规则和可信闭包谓词，实现对规划者暴露权限的动态撤销。PORTICO能够确保临时资源与效果在不再需要时立即回收，从而有效缩小攻击面。该工作为构建更安全、粒度可控的编码代理提供了新思路，有望在未来自动化编程和AI代理系统中得到应用。 #arXiv #AI安全 #编码代理 #权限管理 #可撤销能力 #残留权限 #PORTICO #计算机研究
从文化遗产保护视角重新思考印度人工智能
一篇题为《Rethinking Indic AI from a Lens of Cultural Heritage Preservation》（从文化遗产保护视角重新思考印度人工智能）的论文近日在arXiv预印本平台提交。该论文由Aparna Madva与其他三位作者共同撰写，旨在探讨如何从文化遗产保护的角度重新审视印度人工智能的发展路径。论文可能提出了将AI技术与印度丰富的历史文化资源相结合的策略，强调AI在文化保存、数字化传承中的潜力。这一研究方向为人工智能在特定文化语境下的应用提供了新的视角，也引发了关于技术发展与文化遗产保护平衡的讨论。 #人工智能 #文化遗产 #印度 #AI #论文 #arXiv #文化保护 #学术研究
一篇题为《Rethinking Indic AI from a Lens of Cultural Heritage Preservation》（从文化遗产保护视角重新思考印度人工智能）的论文近日在arXiv预印本平台提交。该论文由Aparna Madva与其他三位作者共同撰写，旨在探讨如何从文化遗产保护的角度重新审视印度人工智能的发展路径。论文可能提出了将AI技术与印度丰富的历史文化资源相结合的策略，强调AI在文化保存、数字化传承中的潜力。这一研究方向为人工智能在特定文化语境下的应用提供了新的视角，也引发了关于技术发展与文化遗产保护平衡的讨论。 #人工智能 #文化遗产 #印度 #AI #论文 #arXiv #文化保护 #学术研究