LLM代理记忆投毒攻击研究

一项最新研究揭示了大语言模型（LLM）代理在记忆功能上存在的严重安全漏洞。来自乔治·托雷斯等学者的论文《当智能体记住太多：对LLM代理的记忆投毒攻击》指出，攻击者可通过向代理的长期记忆系统中注入恶意信息，操纵其后续决策与行为。这种“记忆投毒”攻击能绕开传统输入过滤机制，使代理在看似正常交互中持续受害，影响可达长时间跨度。研究展示了攻击者在未见代码的情况下，仅通过修改存储记忆便能控制代理回复方向，甚至植入持久后门。该成果已提交至arXiv平台，引发对LLM代理安全性的新讨论。 #LLM #AI安全 #记忆投毒 #大模型代理 #网络安全 #arXiv

LipSSD：利普希茨约束下的单次检测实现对抗性鲁棒目标检测

研究人员提出一种名为LipSSD的新型目标检测框架，通过利普希茨约束的单次检测方法，显著提升模型在对抗性攻击下的鲁棒性。该论文由Vincent Lébé等8位作者共同完成，于2026年7月提交至arXiv。传统单次检测器易受微小的对抗性扰动影响，导致检测失效。LipSSD在模型训练中引入利普希茨连续性约束，限制网络对输入扰动的敏感度，从而在保持检测速度的同时，大幅增强对对抗性样本的防御能力。实验表明，该方法在多个标准数据集上均能有效抵御白盒与黑盒攻击，且推理速度与原始单次检测器相当。该研究为部署高安全性视觉检测系统提供了新思路，有望应用于自动驾驶、安防监控等关键领域。 #计算机视觉 #目标检测 #对抗性鲁棒性 #利普希茨 #深度学习 #安全 #AI #论文

强化学习能否高效发现价格操纵行为？新论文探讨

一篇来自arXiv的预印本论文研究强化学习在发现价格操纵方面的效率。该论文由Ioanna-Yvonni Tsnaki等学者撰写，提交于2026年7月7日。研究探讨了在金融市场中，强化学习算法能否高效识别并揭示价格操纵行为，这对于维护市场公平性和透明度具有重要意义。论文通过实验分析，可能为监管机构提供新的技术手段，以应对日益复杂的金融欺诈行为。目前，该论文的PDF版本已可在arXiv上获取，并附有HTML和TeX源文件。 #强化学习 #价格操纵 #金融科技 #AI #arXiv #金融监管 #机器学习

机构红队测试：部署规则而非仅模型本身因果影响多智能体AI安全

一项发表于arXiv的新研究《机构红队测试：部署规则，而非仅模型，因果影响多智能体AI安全》指出，针对多智能体系统的安全评估不能仅关注模型本身，部署规则同样是影响安全的关键因果因素。研究团队通过机构红队测试方法，模拟不同规则下的多智能体交互，发现规则设计会显著改变系统行为模式和风险分布。该工作强调，在部署多智能体AI时，必须将规则纳入安全评估框架，否则可能导致系统性漏洞。这一结论对AI治理和政策制定具有重要启示。 #AI安全 #多智能体 #红队测试 #部署规则 #人工智能 #arXiv #学术研究 #AI治理

SkillCenter

来自arXiv的一篇论文介绍了一项名为SkillCenter的新研究成果。该项目旨在为自主AI智能体提供一个大规模、基于源（Source-Grounded）的技能库。研究中，作者团队（包括Tianming Sha等人）构建了一个涵盖众多基础技能的资源集合，每个技能都明确关联到其来源，以增强智能体在复杂任务中的执行能力和可解释性。SkillCenter的规模和数据组织方式为后续研究提供了基准，有望推动自主智能体在工具使用、任务规划等方面的能力提升。该论文已在arXiv上发布，代码和数据集等相关资源也已公开。 #SkillCenter #AI智能体 #技能库 #自主代理 #arXiv #机器学习 #人工智能 #AI研究

递归自我改进

一篇题为《递归自我改进：从有限自我优化到自主研究循环》的论文近日在arXiv预印本平台发布。该论文由Mingguang Chen等人撰写，于2026年7月提交，探讨了人工智能系统中递归自我改进的演进路径。研究从当前有限的自我优化技术出发，逐步延伸到完全自主的研究循环，分析了AI系统在无需人类干预下持续迭代自身算法、架构和知识的能力。论文还讨论了这一过程中可能面临的安全、对齐和可解释性挑战，为未来通用人工智能的自主进化方向提供了理论框架。 #AI #递归自我改进 #自主研究 #arXiv #人工智能 #论文 #科技前沿

RL后训练构建组合推理策略

研究人员在一篇发表于arXiv的论文中提出，通过强化学习后训练可以显著增强大模型的组合推理能力。该方法让模型在数学推理、代码生成等复杂任务中自动学习将问题分解为子步骤，并逐步求解的组合策略。实验表明，强化学习后训练使得模型在多步推理任务上的表现大幅提升，为构建更强大、更灵活的推理系统提供了新的技术路径。该研究由Azwar Abdulsalam等人完成，相关论文已在arXiv平台公开。 #强化学习 #后训练 #组合推理 #AI #大模型 #arXiv论文

LLM生成的技能能否让AI数据科学家更出色？一项跨数据科学工作流的组件消融研究

一篇来自arXiv的论文探讨了LLM生成的技能是否有助于构建更优秀的AI数据科学家。研究团队通过组件消融实验，系统地分析了在数据科学工作流中，LLM生成的技能对整体性能的贡献。该方法剥离了数据科学流程中的各个模块，逐一评估LLM生成技能的影响，从而揭示其在任务自动化、代码生成、推理能力等方面的实际效果。论文为理解LLM在辅助数据科学任务中的角色提供了新的视角，并指出未来优化方向，有望推动AI数据科学家工具的进一步发展。 #LLM #AI数据科学家 #组件消融 #数据科学 #arXiv #论文 #人工智能 #机器学习

搜索、失败、恢复

Dmitry Beresnev等人在arXiv上提交了一篇论文，提出名为“Search, Fail, Recover”的训练框架，旨在提升大语言模型在复杂推理中的自我修正能力。该框架通过模拟搜索、失败和恢复的过程，让模型学会在推理途中识别错误并进行修正，从而增强推理的准确性和鲁棒性。实验表明，该方法在数学推理和逻辑任务上显著优于传统链式思维推理，为构建更可靠的AI推理系统提供了新思路。论文已通过arXiv发布，并附有完整代码和数据。 #AI #大模型 #推理 #arXiv #论文 #机器学习 #修正感知

SpaCellAgent：基于LLM的自进化多智能体框架用于轨迹分析

一项新研究提出SpaCellAgent，这是一种基于大语言模型的自进化多智能体框架，专门用于轨迹分析。该框架通过多个智能体协作，结合LLM的推理能力，能够自主学习和优化轨迹分析任务。论文由Songhan Wang等作者提交至arXiv，目前处于预印本状态。该框架有望在生物信息学、细胞迁移等需要复杂轨迹解析的领域发挥重要作用，标志着LLM在专业科学计算应用中的新探索。 #SpaCellAgent #LLM #多智能体 #轨迹分析 #机器学习 #AI框架 #arXiv #预印本

Telegram必备的搜索引擎，极搜JISOU帮你精准找到，想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025

盲人策展人：偏见裁判悄悄禁用自进化智能体的技能退役

一篇来自arXiv的论文揭示了自进化智能体系统中一个隐蔽缺陷：当技能评估裁判存在偏见时，它会无声地阻止智能体淘汰过时或低效的技能，导致系统性能下降。研究者将这种裁判比喻为“盲人策展人”，它无法准确判断技能的真实效用，反而保留无用技能并阻碍进化。该发现对设计更稳健的智能体学习机制具有重要意义，警示开发者需关注内部评价系统的公平性。 #arXiv #自进化智能体 #技能退役 #AI偏见 #机器学习 #智能体 #论文

InductWave

该论文提出了一种名为InductWave的新模型，用于知识图谱上的归纳式多跳逻辑查询回答。传统方法通常依赖训练时见过的实体嵌入，无法推广到新实体，而InductWave通过图神经网络和逻辑结构编码，实现了对未见实体的有效推理。模型利用波形传播机制聚合邻域信息，并支持多种逻辑算子，能够在完全不需重新训练的情况下处理涉及新实体的复杂查询。在多个基准数据集上的实验显示，InductWave在归纳设置下显著提升了查询回答的准确率，为知识图谱推理提供了新的思路。 #知识图谱 #逻辑查询 #归纳推理 #多跳查询 #图神经网络 #AI #机器学习 #InductWave #学术论文

Agentic Data Environments 论文发表，探索智能体数据管理新范式

一篇题为《Agentic Data Environments》的学术论文近期在 arXiv 预印本平台发布，并已被 IEEE Data Bulletin 第50卷第1期（2026年）收录。该论文由 Elaine Ang 等16位作者共同撰写，深入探讨了智能体（Agent）在数据环境中的角色与设计。研究指出，随着自动化与人工智能的发展，数据环境需要具备更强的自主性与适应性，以支持动态决策、实时分析和协作任务。论文提出了新的系统架构与交互模式，旨在让数据环境能够主动感知、推理并执行操作，从而提升复杂数据工作流的效率。该成果预计将对数据科学、数据库系统及AI应用领域产生重要影响。 #论文 #AI #智能体 #数据管理 #IEEE #DataBulletin #学术研究

MIRA-Math 基准发布

一项名为 MIRA-Math 的新基准测试在 arXiv 上发布，旨在评估大语言模型在最小信息请求与数学推理方面的能力。该基准由 Charbel Al Bateh 和 Samer Saab Jr 共同提出，通过设计需要模型主动请求缺失信息才能解决的数学问题，来测试其推理和交互能力。研究团队提供了论文全文及代码链接，并鼓励社区使用该基准进行模型评估。该工作已获得 arXiv 收录，并支持多种文献管理工具。 #MIRA-Math #数学推理 #大模型 #基准测试 #AI #arXiv #自然语言处理

Physics-Audited Agentic Discovery 论文公开，科学机器学习新范式

近日，一篇题为《Physics-Audited Agentic Discovery in Scientific Machine Learning》的论文在arXiv上公开。该论文由Diab W. Abueidda等四位作者完成，提交于2026年7月8日。研究提出一种“物理审计”框架，将物理约束与智能体驱动的自动发现过程相结合，旨在解决科学机器学习中模型可解释性与物理一致性不足的问题。该方法通过让智能体在探索数据驱动模型时接受物理定律的审计与校正，从而提升发现新物理规律或材料特性的可靠性。论文提供了完整的PDF和HTML版本，目前已在学术社区引发关注。 #科学机器学习 #物理审计 #智能体发现 #arXiv #AI #学术论文

arXiv新研究：从原子动作到标准操作程序，迭代工具优化推动LLM智能体自我进化

一项发表在arXiv上的新研究提出了一种让大语言模型（LLM）智能体实现自我进化的迭代工具优化方法。该论文题为《From Atomic Actions to Standard Operating Procedures: Iterative Tool Optimization for Self-Evolving LLM Agents》，由Haipeng Ding等人撰写。研究核心是引导智能体从最基础的原子动作出发，通过反复试错与优化，自主构建标准操作程序（SOP）。这一过程使得智能体能够不断改进自身的工具使用策略，从而适应更复杂的任务场景。该框架打破了传统智能体依赖固定工具集的局限，显著提升了任务的执行效率与灵活性。这一成果为开发能够自主学习和进化的AI智能体提供了新的理论支持与实践路径，有望推动智能体在自动化工作流、科研辅助等领域更广泛的应用。 #AI #LLM #大模型 #原子动作 #SOP #工具优化 #自我进化 #智能体 #arXiv

研究提出推理一致性扫描框架，用于审计AI安全评估中的思维链有效性

近日，一篇题为《推理一致性扫描：审计AI安全评估中思维链有效性的框架》的论文在arXiv平台发布。该论文由Silvia Santano等人撰写，提出了一种名为“推理一致性扫描”（RCS）的新框架，旨在系统性地审计大语言模型在安全评估中的思维链（Chain-of-Thought）推理过程的有效性与可靠性。研究指出，随着AI模型在复杂任务中广泛使用思维链提示，其推理过程可能存在隐蔽的不一致或错误，传统评估方法难以检测。RCS框架通过扫描模型输出中的逻辑连贯性、步骤间的因果一致性等指标，帮助识别潜在的推理漏洞与对抗性操控。这一工作为提升AI安全评估的严谨性提供了新的工具与思路，尤其适用于高风险场景下的模型审计。 #推理一致性 #思维链 #AI安全 #模型审计 #arXiv #大语言模型 #AI安全评估 #SilviaSantano

AI 能否理解成像？新论文系统性基准测试代理型 AI 在计算成像任务中的表现

一篇题为《Does AI Understand Imaging? A Systematic Benchmark of Agentic AI for Computational Imaging Tasks》的论文于2026年7月8日在 arXiv 上提交。该研究由 Ethan Chung 等六位学者共同完成，首次围绕“AI 是否真正理解成像”这一核心问题，对代理型人工智能在计算成像任务中的表现进行了系统性基准测试。论文通过设计涵盖图像形成、重建与分析等多个环节的成像任务，系统评估了当前主流 AI 模型的理解能力与局限性，为后续构建更可靠的成像 AI 系统提供了重要的参考基准。 #AI #代理型AI #计算成像 #基准测试 #arXiv #学术研究

多智能体LLM安全研究获新进展

一篇题为《Operational Reframing and Approval-Framed Delegation in Multi-Agent LLM Safety》的论文于2026年7月8日提交至arXiv预印本平台。该研究由Lifei Liu等六位作者共同完成，聚焦多智能体大语言模型（LLM）系统的安全挑战。论文提出操作重构（Operational Reframing）与基于批准的委托（Approval-Framed Delegation）两种机制，旨在通过优化决策流程与授权控制，提升多智能体协作环境下的可靠性与风险管控能力。研究为AI安全领域提供了新的解决思路，尤其适用于复杂多智能体系统的部署与监管。 #多智能体 #LLM #AI安全 #arXiv #论文 #安全框架 #大模型

Measuring Intelligence Beyond Human Scale

Focus to learn more arXiv-issued DOI via DataCite (pending registration) Submission history From: Elad Hazan [ view email ] [v1] Wed, 8 Jul 2026 06:19:10 UTC (40 KB) Full-text links: Access Paper: View a PDF of the paper titled Measuring Intelligence Beyond Human Scale, by Jerry Han and 7 other authors View PDF TeX Source view license Current browse context: < prev | next > new | recent | 2026-07 Change to browse by: cs References & Citations NASA ADS Google Scholar Semantic Scholar export BibTeX citation Loading... BibTeX formatted citation × loading... Data provided by: Bookmark Bibliographic Tools Bibliographic and Citation Tools Bibliographic Explorer Toggle Bibliographic Explorer ( What is the Explorer? ) Connected Papers Toggle Connected Papers ( What is Connected Papers? ) Litmaps Toggle Litmaps ( What is Litmaps? ) Toggl