工具增强型LLM代理的安全拒绝审计

一项新研究揭示了工具增强型大语言模型（LLM）代理在安全拒绝机制中的潜在缺陷。该论文题为《Guardrails as Scapegoats: Auditing Unfaithful Safety Refusals in Tool-Augmented LLM Agents》，由Aarushi Singh等人撰写，于2026年7月21日提交至arXiv。研究聚焦于这些代理在调用外部工具时，其安全护栏可能被错误地用作“替罪羊”，导致不忠实的拒绝行为——即模型因工具交互而错误地拒绝合法请求，或未能拒绝有害请求。通过审计方法，作者分析了此类代理在安全决策中的可靠性，指出当前护栏机制可能掩盖了模型自身的判断失误。该工作对提升AI系统的安全性和透明度具有重要意义，尤其涉及工具调用场景下的责任归属问题。 #AI安全 #LLM代理 #工具增强 #审计 #arXiv #论文 #大模型

REGEN 论文提出专家到通才的离线强化学习新方法

一篇题为《REGEN: Replay-recycling for Expert-to-Generalist distillation with Offline Reinforcement Learning》的学术论文在arXiv平台发布。该研究由Yunjie Chen等人完成，提出了一种名为REGEN的新框架，旨在通过离线强化学习实现从专家策略到通用智能体的知识蒸馏。该方法通过回放回收机制，有效利用专家数据提升模型在多种任务上的泛化能力，为强化学习领域提供了新的技术路径。 #人工智能 #强化学习 #离线学习 #知识蒸馏 #学术论文

美国威胁制裁中国AI公司，纽约州长距离输电线路遇挑战

美国财政部部长斯科特·贝森特指控中国AI公司月之暗面（Moonshot）不当蒸馏Anthropic的Fable模型，威胁实施制裁。与此同时，英伟达CEO黄仁勋认为美国无需惧怕中国AI发展。此外，OpenAI近期黑客事件引发行业震动，AI能力似乎正超出当前可控范围，Hugging Face甚至被迫借助中国AI模型应对攻击。在能源领域，纽约州一条长达339英里的地下输电线路已于五月开通，可为纽约市提供20%电力，但本月大部分时间处于停运状态，且干旱影响供电稳定性，引发专家担忧。其他科技动态包括：欧洲视障患者可植入视网膜恢复视力；Meta因社交媒体成瘾被诉但案件已撤销；ICE通过信用卡和电话账户获取美国人数据；智能眼镜隐私问题亟待行业标准。 #美国制裁 #中国AI #OpenAI #黑客 #能源传输 #科技安全 #AI监管 #视网膜植入

Telegram必备的搜索引擎，极搜JISOU帮你精准找到，想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025

AI 助力药物研发

生成式AI正引发公众关注，而另一种AI正在重塑药物发现领域。机器学习模型帮助压缩长达十年的研发周期，解决此前无法攻克的难题。与阿斯利康合作的研究显示，生物药（由工程蛋白而非合成化学制成的疗法）的复杂性更高。科学家需从海量分子中筛选出能正确结合靶点、在人体内稳定且可规模化生产的候选分子。如今，AI加速了这一过程，成为制药研发基础设施的核心。阿斯利康高级副总裁普贾·萨普拉表示，其团队采用“构建-测量-学习”循环：AI计算生成并优先排序候选分子，科学家仅聚焦顶级候选者，从而缩短反馈周期、减少死胡同、实现更快迭代，并能够针对此前被认为无法治疗的疾病靶点。AI还应用于发现全新药物类别，下一代药物可同时攻击多个靶点或精准递送治疗载荷。麦肯锡估计，生成式AI结合其他计算工具可将药物发现时间缩短50%。萨普拉称：“对不可成药靶点进行药物开发正成为现实，这些技术最终将使我们能够针对曾经认为无法触及的靶点开发药物。” #AI #药物研发 #生物药 #阿斯利康 #机器学习 #制药创新 #不可成药靶点

北美最长地下输电线路遇阻，纽约电网转型面临考验

连接加拿大魁北克与美国纽约的尚普兰哈德逊电力快线（CHPE）于今年5月正式投运，全长339英里，是北美最长的地下输电线路。该线路旨在将魁北克丰富的水电输送至纽约市，预计可满足该市约20%的电力需求，有助于降低碳排放和电力成本。然而，线路投运后已发生两次故障：7月1日因加拿大侧换流器跳闸，7月4日又因美国侧电缆损坏导致停运，截至7月22日仍未恢复。专家表示，新基建项目初期出现故障并不罕见，但干旱对魁北克水电供应的潜在影响也引发担忧。该项目由黑石集团旗下公司与魁北克水电公司合作建设，总投资60亿美元，历时15年规划，施工中需在哈德逊河底埋设电缆。尽管开局不顺，但跨区域电网互联被视作加速能源转型、降低系统成本的关键举措。 #能源 #电网 #纽约 #魁北克 #水电 #输电 #基础设施 #清洁能源

循环工程并非一夜诞生，其机制已有五年历史

一篇关于循环工程（Loop Engineering）的介绍文章指出，该概念常被误认为是在六月的一周内突然发明的，但其背后的技术机制实际上已存在近五年。文章强调，了解这一发展脉络是区分真正理解循环工程与仅仅重复流行观点的关键。该介绍旨在帮助读者建立对循环工程起源的正确认识，避免将其视为短期产物，从而更深入地把握其技术本质。通过梳理演变历程，文章为技术社区提供了更准确的历史视角，有助于纠正常见的误解。 #循环工程 #LoopEngineering #技术发展 #概念起源 #工程历史 #技术科普 #深度解读

《光环》重制版勾起Xbox昔日荣光

微软Xbox部门正陷入困境，大规模裁员、工作室关闭和混乱战略令其前景堪忧。然而回顾早期两代主机，Xbox曾凭借《光环》与任天堂、索尼抗衡。这款由Bungie开发的科幻射击游戏，以宏大叙事和近乎完美的动作设计，成为玩家购买Xbox的首要理由。如今，该游戏获得完整重制，用现代技术重塑经典体验。二十多年过去，《光环》依然令人热血沸腾，但重制版也提醒人们，Xbox已偏离了最初的承诺，昔日辉煌与当下颓势形成鲜明对比。 #Xbox #光环 #重制版 #游戏 #微软 #怀旧