面向公众的自主AI框架存在安全漏洞，研究揭示“遏制缺口”

近期一篇题为《遏制缺口：已部署的自主AI框架如何未能满足面向公众的安全要求》的论文在arXiv上发布。研究指出，当前主流自主AI框架在部署到面向公众的场景时，缺乏有效的安全遏制机制。这些框架允许AI代理执行行动，却未充分限制其访问敏感系统或进行有害操作，导致存在被恶意利用的风险。作者分析了多个流行框架，发现它们在权限管理、行为监控和失败回滚等方面存在系统性缺陷。该研究呼吁开发者重新审视安全设计，建立更严格的遏制策略，以防止自主AI造成意外后果或被滥用。 #AI安全 #自主代理 #框架漏洞 #论文 #人工智能 #安全风险 #科技研究

世界模型与物理AI教程

一篇题为《世界模型与物理AI教程》的论文由作者Il-Seok Oh提交至arXiv预印本平台。该教程系统介绍了世界模型（World Models）在物理人工智能（Physical AI）领域中的基础理论与应用方法。世界模型作为AI系统理解环境动态的核心技术，通过构建内部表征实现预测与规划，而物理AI则强调机器人在真实物理世界中的感知、决策与行动能力。该教程涵盖了世界模型的构建、强化学习整合、仿真环境交互等关键议题，为研究人员和开发者提供了从理论到实践的指导。论文提交于2026年6月，目前可通过arXiv获取全文。 #世界模型 #物理AI #人工智能 #教程 #arXiv #论文 #机器学习 #机器人

新研究提出构建程序推理评估数据集的方法

据arXiv预印本，来自Sarah Elshabrawy等研究人员发表论文，探讨如何构建用于程序推理的评估数据集。研究指出，现有数据集在自然性、基础性（grounding）和多跳覆盖三个方面难以兼顾，往往偏向其中某一特性而牺牲其他。他们提出了一种新的构建框架，通过精心设计的采样和标注策略，在保持任务真实感的同时，确保每个样本具备充分的上下文基础，并覆盖多步推理链条。该工作旨在更准确地评估AI系统在复杂程序理解与执行中的表现，对自然语言处理、知识推理及大模型评测领域具有参考价值。 #AI #程序推理 #评估数据集 #自然语言处理 #arXiv #论文 #多跳推理 #大模型 #知识推理

大语言模型中的预填充感知研究

一篇标题为《Prefill Awareness in Large Language Models》的学术论文近日在arXiv预印本平台发布。该论文由Andy Wang等六位作者共同完成，研究聚焦于大语言模型中的“预填充感知”现象。预填充阶段是模型生成回答前的关键步骤，直接影响推理效率和输出质量。论文可能探讨了如何让模型在预填充过程中更有效地利用上下文信息、降低计算开销，或提升对用户输入的敏感性。这一研究有助于优化LLM的推理架构，对于提升实际部署中的响应速度和准确性具有重要意义。 #大语言模型 #预填充感知 #论文 #AI #arXiv #机器学习 #推理优化

减少可穿戴设备脑电分析的深度学习模型复杂度

一篇新近提交至arXiv的论文提出，通过降低深度学习模型的复杂度，可将脑电图（EEG）分析高效部署于可穿戴设备。现有深度学习模型虽在EEG信号处理上表现优异，但计算资源需求高，难以在资源受限的可穿戴设备上实时运行。该研究由Farough Shayeste Roodi等六位作者共同完成，聚焦于模型压缩与轻量化技术，旨在平衡分析精度与设备能耗。若成果得以应用，将有望推动便携式脑机接口、实时健康监测等领域的普及，为神经疾病诊断与日常脑活动追踪提供低功耗解决方案。 #深度学习 #EEG #可穿戴设备 #模型压缩 #脑机接口 #神经科学 #论文 #arXiv

AI 智能体跨尺度科学挑战评测基准发布

一项由 Tianyu Liu 等 32 位研究者共同完成的论文《Benchmarking AI Agents for Addressing Scientific Challenges Across Scales》在 arXiv 上发布。该研究提出了一个系统性的基准框架，用于评估人工智能智能体在不同科学尺度下解决复杂问题的能力，涵盖从微观分子到宏观生态的多层级科学挑战。研究者通过设计标准化测试任务，考察 AI 智能体在数据处理、模型构建、实验推理等方面的表现。该基准旨在为 AI 在科学发现中的实际应用提供客观评估工具，推动 AI 智能体在气候模拟、药物研发、材料科学等跨学科领域的落地。论文还探讨了当前 AI 在科学推理、因果推断等方面的局限性，为后续研究指出了优化方向。这一工作有望加速 AI 辅助科学研究的规范化进程。 #AI #科学 #基准测试 #智能体 #arXiv #跨学科 #论文

重新思考LLM的心理测量评估

一项来自arXiv预印本的研究挑战了大型语言模型（LLM）心理测量评估的传统方法。该论文题为《重新思考LLM的心理测量评估：自我报告何时及为何能预测行为》，由Rafal Kocielnik等8位作者撰写。研究指出，当前广泛使用的自我报告测试（如性格和态度问卷）在评估LLM时存在局限——模型可能模仿人类作答策略，而非反映真实内部状态。论文深入分析了自我报告在何种条件下能有效预测LLM的实际行为，并探讨了评估效度的关键因素。这一发现对AI安全和对齐研究具有重要参考价值，提示研究者需谨慎设计心理测量工具，避免过度依赖表面化的自我报告数据。 #LLM #人工智能 #心理测量 #AI安全 #arXiv #论文评述 #大模型研究

心理理论效用

该论文由Nikolos Gurney和Stacy Marsella提交至arXiv，题为《心理理论效用：心理化机制的形式化规范》。研究旨在通过形式化方法，对“心理理论”（Theory of Mind）这一认知能力进行精确建模，即个体如何推断他人心理状态并指导自身行为。作者提出了一种基于效用的心理化机制规范，将心理理论视为一个效用最大化过程，从而为人工智能系统赋予更接近人类的社交推理能力。论文详细阐述了模型的定义、数学框架及其在交互场景中的应用潜力，有望推动人机协作、社会认知AI等领域的发展。该研究于2026年6月10日首次发布，目前处于arXiv预印本阶段，尚未注册DOI。 #心理理论 #认知科学 #人工智能 #形式化规范 #人机交互 #arXiv

AGI 声明裁决新框架

该论文提出了一种设计科学框架，主张在对通用人工智能（AGI）的能力进行对齐之前，首先需实现定义对齐。作者 J. E. Aguilera Briones 认为，当前关于 AGI 的各类声明缺乏统一标准，导致争议频发。该框架旨在通过先明确概念边界与评估准则，再探讨能力验证，从而为 AGI 进展提供更可靠的裁决依据。论文已在 arXiv 预印本平台发布，目前可全文访问。 #AGI #定义对齐 #能力对齐 #设计科学 #论文 #arXiv #人工智能

以部署为中心的评估

论文《Deployment-Centered Evaluation: Predicting Query-Level Rejection Risk in a Clinical LLM System》由Alyssa Unell等六位作者撰写，于2026年6月10日提交至arXiv预印本平台。该研究聚焦临床大型语言模型（LLM）在实际部署中面临的查询级拒绝问题，提出一种以部署为中心的评估方法，旨在精准预测系统何时会拒绝回答特定查询。通过分析模型行为与临床场景的匹配度，研究者尝试为医疗AI的安全性提供量化风险工具。论文全文已在arXiv开放获取，并附有PDF及TeX源码链接，涉及引用、代码、数据集等关联资源。该工作对提升临床AI系统的可靠性和可控性具有参考价值。 #临床LLM #AI安全 #风险评估 #arXiv #医疗AI #以部署为中心的评估 #查询级拒绝 #预印本

Telegram必备的搜索引擎，极搜JISOU帮你精准找到，想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025

《从AGI到ASI》论文发布，探讨人工智能终极演进路径

一篇题为《From AGI to ASI》的学术论文近日在arXiv预印本平台上线。该论文由Tim Genewein等14位研究人员共同撰写，提交于2026年6月10日。尽管论文摘要尚未公开披露，但标题明确指向从通用人工智能（AGI）向超级人工智能（ASI）的演进过程。这一方向被视为人工智能领域的终极命题，涉及技术路线、安全对齐、智能爆炸等核心议题。论文的发布引发学界关注，或将为AGI之后的AI发展提供理论框架与前瞻性讨论。 #AI #AGI #ASI #人工智能 #arXiv #论文 #科技前沿

Evoflux：推理时演化可执行工具工作流，构建紧凑型智能体

来自arXiv的一篇论文提出了一种名为Evoflux的新方法，旨在通过在推理阶段演化可执行工具工作流，来构建更紧凑的智能体。传统方法通常依赖大量预定义工具或复杂的手工编排，而Evoflux允许智能体在推理过程中动态地生成、测试和优化工具调用序列。该方法利用进化算法，在保持模型紧凑的同时，显著提升了智能体在复杂任务上的表现，如多步骤推理和工具使用。实验结果表明，Evoflux在多个基准测试中优于现有方法，为构建高效、轻量级的智能体系统提供了新思路。 #AI #智能体 #进化算法 #工具工作流 #arXiv #机器学习 #推理优化

TrajGenAgent

研究人员提出TrajGenAgent，一种基于分层大语言模型（LLM）的智能体，用于生成逼真的人类移动轨迹。该框架通过将轨迹生成任务分解为高层意图规划与低层路径执行两个层次，有效解决了传统方法在长序列、多模态行为建模中的局限性。实验表明，TrajGenAgent在轨迹保真度、时空一致性及多样性指标上均优于现有基线模型，为城市计算、交通模拟及社交网络分析等领域提供了新的技术路径。相关论文已提交至arXiv预印本平台。 #LLM #轨迹生成 #人工智能 #城市计算 #交通模拟 #arXiv #论文

论文揭示语言模型说谎检测能力与模型规模的关系

一项新研究提出了一种评估大语言模型说谎检测能力的方法。研究人员通过“信念验证的模型生物”（即经过校准、已知其信念状态的模型）系统测试了不同规模模型识别谎言的表现。结果显示，模型规模越大，其识别谎言准确率越高，但大型模型在应对复杂欺骗场景时仍存在显著局限。该研究为人工智能可信度评估提供了新工具，并引发了对模型潜在误导风险的关注。论文已提交至arXiv预印本平台。 #人工智能 #大语言模型 #说谎检测 #AI安全 #模型可信度 #arXiv

PersonaDrive：面向闭环驾驶模拟的人类风格检索增强VLA智能体

该研究提出了一种名为PersonaDrive的新型检索增强视觉-语言-动作（VLA）智能体，旨在提升闭环驾驶模拟中的人类风格行为。通过引入检索增强机制，PersonaDrive能够从历史驾驶数据中提取与当前场景相关的经验，并结合多模态感知信息生成更自然、更符合人类驾驶习惯的决策。实验结果表明，该方法在模拟环境中的驾驶流畅性、安全性和人性化表现均优于现有基线模型，为自动驾驶仿真系统提供了新的思路。 #自动驾驶 #VLA #检索增强 #驾驶模拟 #人工智能

Pythagoras-Prover：基于增强型Lean形式化的高效形式化证明新方法

来自arXiv的一篇论文介绍了Pythagoras-Prover，这是一种通过增强型Lean形式化来推进高效形式化证明的新方法。该研究由Joshua Ong Jun Leang等八位作者共同完成，论文提交于2026年6月10日。Pythagoras-Prover旨在提升数学定理的形式化证明效率，通过改进Lean证明助手的自动化能力，使复杂数学推理过程更加简洁和可靠。该方法有望在数学、计算机科学及人工智能领域的形式化验证中发挥重要作用，为自动定理证明和程序验证提供更强大的工具支持。 #形式化证明 #Lean #PythagorasProver #数学定理 #自动化推理 #arXiv #计算机科学

AI Agent战略决策支持新框架发布

一篇题为《AI Agent战略决策支持》的学术论文在arXiv平台预印发布。该研究由Shayan Kiyani等三位作者共同完成，提出了一种旨在增强AI Agent在复杂环境中进行战略决策支持的新方法。论文详细探讨了如何利用先进的计算模型，为AI系统提供更有效的决策辅助，使其能够处理多维度、动态变化的信息，并生成更优的行动策略。该研究有望推动AI在自动化规划、资源分配及博弈论等领域的应用，为构建更智能、更可靠的自主决策系统提供了理论支撑与实现路径。 #AI #人工智能 #决策支持 #战略决策 #arXiv #学术论文 #AIAgent

Arbor

来自arXiv的一篇论文提出了一种名为Arbor的新方法，将树搜索技术作为自主智能体的认知层。该方法旨在提升智能体在复杂任务中的推理和决策能力。论文由Neha Prakriya等八位作者共同完成，详细阐述了如何通过树搜索结构来增强智能体的认知过程，使其能够更有效地探索多种可能的行为路径，从而做出更优决策。该研究为构建更强大、更可靠的自主智能体提供了新的思路，有望在机器人、游戏AI和自动化系统等领域产生重要影响。 #Arbor #树搜索 #自主智能体 #认知层 #AI #arXiv #论文

ToolSense

来自 arXiv 的一篇论文提出了 ToolSense 框架，用于审计大语言模型中的参数化工具知识。该框架通过诊断性测试，系统评估模型对工具功能、参数和调用方式的理解程度，而非仅测试其工具使用能力。研究团队设计了多维度评估任务，涵盖工具选择、参数配置和错误处理等场景。实验表明，当前主流大模型在工具知识方面存在显著盲区，尤其在复杂工具链和参数约束理解上表现不佳。该工作为提升大模型工具调用的可靠性和安全性提供了重要参考。 #大模型 #工具学习 #AI审计 #arXiv #NLP

傅里叶变换与Volterra级数重新审视神经过程

来自arXiv预印本平台，一篇题为《Revisiting Neural Processes via Fourier Transform and Volterra Series》的论文由Peiman Mohseni等作者提交。该研究提出将傅里叶变换和Volterra级数理论引入神经过程分析，旨在为神经网络模型的泛化与可解释性提供新的数学框架。论文先后于2026年5月31日和6月11日更新，目前可通过PDF、HTML及TeX源码获取。研究团队来自多个机构，相关成果已引起学术社区关注，论文已被收录至arXiv相关领域浏览目录。该方法有望在机器学习和统计建模中产生应用价值。 #arXiv #论文 #神经过程 #傅里叶变换 #Volterra级数 #机器学习 #AI研究 #学术前沿