AI Agent 安全评测新框架 HarnessAudit
大语言模型的安全讨论长期聚焦于模型本身的对齐与抗攻击能力，但实际部署的 Agent 并非裸模型，而是运行在“执行夹具”（harness）中，后者定义了工具调用、资源访问、agent 间通信等行为边界。美国加州大学圣塔芭芭拉分校等机构提出 HarnessAudit 框架，首次系统化地对完整执行轨迹进行安全审计，而非仅评估最终回答。该框架在金融、电商等八个真实领域构建 210 个任务，评测了 Claude Code、Codex 等 10 个前沿系统。核心发现包括：任务完成能力强的系统并不一定安全；多 agent 协作使安全暴露面显著扩大，工具合规性从单 agent 的 0.85 降至 0.64；违规行为随轨迹长度累积，且不同领域风险模式差异巨大。研究指出，需重新设计 harness 本身，引入 need-to-know 机制，并将安全评测从静态问答推进到完整执行过程。 #AI安全 #Agent #HarnessAudit #大模型 #安全评测 #UCSB #多智能体 #AI治理
大语言模型的安全讨论长期聚焦于模型本身的对齐与抗攻击能力，但实际部署的 Agent 并非裸模型，而是运行在“执行夹具”（harness）中，后者定义了工具调用、资源访问、agent 间通信等行为边界。美国加州大学圣塔芭芭拉分校等机构提出 HarnessAudit 框架，首次系统化地对完整执行轨迹进行安全审计，而非仅评估最终回答。该框架在金融、电商等八个真实领域构建 210 个任务，评测了 Claude Code、Codex 等 10 个前沿系统。核心发现包括：任务完成能力强的系统并不一定安全；多 agent 协作使安全暴露面显著扩大，工具合规性从单 agent 的 0.85 降至 0.64；违规行为随轨迹长度累积，且不同领域风险模式差异巨大。研究指出，需重新设计 harness 本身，引入 need-to-know 机制，并将安全评测从静态问答推进到完整执行过程。 #AI安全 #Agent #HarnessAudit #大模型 #安全评测 #UCSB #多智能体 #AI治理
华为云发布多款Agentic AI新品，布局“硅基黑土地”
在2026华为云INSPIRE创想者大会上，华为云CEO周跃峰正式发布AICS灵衢智算集群、AMS Agentic记忆存储解决方案、CCEVolcanoNext通智一体化调度引擎及AgentSphere运行环境四大新品。周跃峰指出，Agentic AI时代引发计算范式根本性跃迁，华为云提出Agentic Infra新范式，即“高效Token工厂+持续学习+通智一体化调度+安全自治”。其中，灵衢智算集群支持10万卡级规模，总算力达200EFLOPS，Token生成时延低于10毫秒；AMS方案通过NPU直通硬件打造PB级记忆空间，支持天级长程任务；CCEVolcanoNext训推共池可将资源利用率提升30%以上；AgentSphere羽量级沙箱实现百毫秒级启动。华为云强调将通过软硬芯协同创新，做厚企业级Agentic AI的“硅基黑土地”，加速智能体规模化落地。 #华为云 #AI #AgenticAI #大模型 #智算集群 #云计算 #科技新闻 #企业级AI
在2026华为云INSPIRE创想者大会上，华为云CEO周跃峰正式发布AICS灵衢智算集群、AMS Agentic记忆存储解决方案、CCEVolcanoNext通智一体化调度引擎及AgentSphere运行环境四大新品。周跃峰指出，Agentic AI时代引发计算范式根本性跃迁，华为云提出Agentic Infra新范式，即“高效Token工厂+持续学习+通智一体化调度+安全自治”。其中，灵衢智算集群支持10万卡级规模，总算力达200EFLOPS，Token生成时延低于10毫秒；AMS方案通过NPU直通硬件打造PB级记忆空间，支持天级长程任务；CCEVolcanoNext训推共池可将资源利用率提升30%以上；AgentSphere羽量级沙箱实现百毫秒级启动。华为云强调将通过软硬芯协同创新，做厚企业级Agentic AI的“硅基黑土地”，加速智能体规模化落地。 #华为云 #AI #AgenticAI #大模型 #智算集群 #云计算 #科技新闻 #企业级AI
AI跑步机
在旧金山的一次高管晚餐中，Deb Liu注意到围绕AI的讨论充满兴奋，但更弥漫着一种潜在的恐惧——不是畏惧AI本身，而是害怕落后。有人用多个AI代理并行处理事务，有人用AI生成播客以便通勤时学习。然而，这种“边学边自动化”的疯狂节奏带来的是永不满足的焦虑：知道得越多，越意识到未知的浩瀚。一位投资者称之为“AI精神病态”——每分钟不学习、不构建、不优化似乎都是永久损失。效率提升反而制造了更多任务，清空一堆任务又发现背后更大的堆叠。AI移除了启动的摩擦力，却也移除了自然停止点，让人不再问自己“这件事到底值不值得做”。正如George Lee所说，在尖端科技公司就像孩子进了糖果店，真正危险的不是尝试，而是过度沉迷。 #AI #焦虑 #科技 #生产力 #旧金山 #效率 #心理健康 #趋势 #跑步机效应
在旧金山的一次高管晚餐中，Deb Liu注意到围绕AI的讨论充满兴奋，但更弥漫着一种潜在的恐惧——不是畏惧AI本身，而是害怕落后。有人用多个AI代理并行处理事务，有人用AI生成播客以便通勤时学习。然而，这种“边学边自动化”的疯狂节奏带来的是永不满足的焦虑：知道得越多，越意识到未知的浩瀚。一位投资者称之为“AI精神病态”——每分钟不学习、不构建、不优化似乎都是永久损失。效率提升反而制造了更多任务，清空一堆任务又发现背后更大的堆叠。AI移除了启动的摩擦力，却也移除了自然停止点，让人不再问自己“这件事到底值不值得做”。正如George Lee所说，在尖端科技公司就像孩子进了糖果店，真正危险的不是尝试，而是过度沉迷。 #AI #焦虑 #科技 #生产力 #旧金山 #效率 #心理健康 #趋势 #跑步机效应
rsync 更新引发备份故障，AI 辅助代码成争议焦点
近日，知名文件同步工具 rsync 的 3.4.3 安全更新导致部分用户增量备份失效，用户追查提交历史时发现大量由开发者 Andrew Tridgell 与 AI 助手 Claude 协作完成的提交。这一发现迅速将常规 bug 报告升级为关于 AI 生成代码是否应进入关键基础设施的激烈争论。Tridgell 在回应中承认回归问题，但否认存在“随性编码”行为，称其通过 AI 辅助完成测试套件迁移等“苦力活”，并进行了人工审查。他强调，开源维护者正面临大量 AI 生成的漏洞报告，工作量激增。此次事件凸显了成熟开源项目引入 AI 辅助开发的敏感性和风险。 #rsync #AI #代码争议 #开源 #备份 #软件安全 #Claude #AndrewTridgell
近日，知名文件同步工具 rsync 的 3.4.3 安全更新导致部分用户增量备份失效，用户追查提交历史时发现大量由开发者 Andrew Tridgell 与 AI 助手 Claude 协作完成的提交。这一发现迅速将常规 bug 报告升级为关于 AI 生成代码是否应进入关键基础设施的激烈争论。Tridgell 在回应中承认回归问题，但否认存在“随性编码”行为，称其通过 AI 辅助完成测试套件迁移等“苦力活”，并进行了人工审查。他强调，开源维护者正面临大量 AI 生成的漏洞报告，工作量激增。此次事件凸显了成熟开源项目引入 AI 辅助开发的敏感性和风险。 #rsync #AI #代码争议 #开源 #备份 #软件安全 #Claude #AndrewTridgell
微软推出企业级AI平台Microsoft Discovery，加速前沿科研创新
在Microsoft Build开发者大会上，微软除了发布新一代量子芯片Majorana 2外，还宣布企业级AI研发与科学研究平台Microsoft Discovery正式开放使用。该平台整合专用AI Agent、研究推理引擎（Discovery Engine）以及企业级安全、治理与透明度机制，旨在支持研究人员进行知识推理、生成研究假设、优化实验设计及验证理论。平台支持人类专家引导自主AI Agent团队，通过持续循环学习提升研究效率，并内置安全合规和企业治理控制机制。微软产品创新副总裁Aseem Datar透露，平台上线一年来，已在生命科学、化学材料、能源、制造和消费品等领域展开应用，例如化工材料巨头Syensqo已利用该平台开发半导体制造所需的下一代流体材料。此外，微软量子团队也借助该平台的Agentic AI能力管理流程、自动量化、优化工艺及发现缺陷。 #微软 #AI #企业级平台 #MicrosoftDiscovery #科研创新 #量子计算 #材料科学
在Microsoft Build开发者大会上，微软除了发布新一代量子芯片Majorana 2外，还宣布企业级AI研发与科学研究平台Microsoft Discovery正式开放使用。该平台整合专用AI Agent、研究推理引擎（Discovery Engine）以及企业级安全、治理与透明度机制，旨在支持研究人员进行知识推理、生成研究假设、优化实验设计及验证理论。平台支持人类专家引导自主AI Agent团队，通过持续循环学习提升研究效率，并内置安全合规和企业治理控制机制。微软产品创新副总裁Aseem Datar透露，平台上线一年来，已在生命科学、化学材料、能源、制造和消费品等领域展开应用，例如化工材料巨头Syensqo已利用该平台开发半导体制造所需的下一代流体材料。此外，微软量子团队也借助该平台的Agentic AI能力管理流程、自动量化、优化工艺及发现缺陷。 #微软 #AI #企业级平台 #MicrosoftDiscovery #科研创新 #量子计算 #材料科学
代理式人工智能重塑职场，企业领袖普遍认同职务已被AI执行
职总恒习发布《代理式人工智能对工作影响报告》，对200名商业领袖调查显示，近四分之三的企业领袖认为工作职务已由人工智能代理执行，其中15%强烈同意。AI应用集中在数据分析、合规管理、客户支援等领域。然而，治理、问责与人力准备度发展不平衡：仅27%领袖认为工作范围准确反映AI参与，42%认为未充分体现。超过四分之一领袖对监督AI缺乏信心，24%指出问责不明确。人力方面，44%企业面临AI技能欠缺，43%难评估个人表现，42%培训机会有限。需求最高的领域包括数据隐私、AI运营监督等。尽管AI普及，37%领袖强调人类仍需审核决策，凸显人类判断力关键作用。 #代理式人工智能 #AI职场 #工作变革 #企业领袖 #人力准备度 #人工智能代理 #问责制 #技能提升 #新加坡新闻
职总恒习发布《代理式人工智能对工作影响报告》，对200名商业领袖调查显示，近四分之三的企业领袖认为工作职务已由人工智能代理执行，其中15%强烈同意。AI应用集中在数据分析、合规管理、客户支援等领域。然而，治理、问责与人力准备度发展不平衡：仅27%领袖认为工作范围准确反映AI参与，42%认为未充分体现。超过四分之一领袖对监督AI缺乏信心，24%指出问责不明确。人力方面，44%企业面临AI技能欠缺，43%难评估个人表现，42%培训机会有限。需求最高的领域包括数据隐私、AI运营监督等。尽管AI普及，37%领袖强调人类仍需审核决策，凸显人类判断力关键作用。 #代理式人工智能 #AI职场 #工作变革 #企业领袖 #人力准备度 #人工智能代理 #问责制 #技能提升 #新加坡新闻
Anthropic 扩大 Project Glasswing 项目范围，向 150 家新机构开放 Claude Mythos 预览版
据消息，人工智能公司 Anthropic 宣布扩大其 Project Glasswing 项目，向 150 家新机构开放 Claude Mythos 的预览版本。此举旨在让更多合作伙伴体验其最新模型能力，进一步推动 AI 技术的行业应用。目前该项目仍处于有限测试阶段，具体功能细节尚未完全公开。 #Anthropic #Claude #ProjectGlasswing #AI #大模型 #科技新闻
据消息，人工智能公司 Anthropic 宣布扩大其 Project Glasswing 项目，向 150 家新机构开放 Claude Mythos 的预览版本。此举旨在让更多合作伙伴体验其最新模型能力，进一步推动 AI 技术的行业应用。目前该项目仍处于有限测试阶段，具体功能细节尚未完全公开。 #Anthropic #Claude #ProjectGlasswing #AI #大模型 #科技新闻
华为云发布四大Agentic AI新品，周跃峰提出计算新范式
在2026华为云INSPIRE创想者大会上，华为云CEO周跃峰正式发布四大Agentic AI新品：AICS灵衢智算集群、AMS Agentic记忆存储方案、CCE VolcanoNext通智一体化调度引擎及AgentSphere运行环境。他提出Agentic Infra新范式，强调Agentic AI时代将推动计算范式根本跃迁，云计算进入Token工业化时代。AICS集群支持10万卡规模，算力达200EFLOPS，Token时延低于10毫秒；AMS实现PB级记忆空间，支持天级长程任务；CCE VolcanoNext将资源利用率提升30%以上；AgentSphere提供毫秒级启动和十万级批量创建能力。周跃峰表示，华为云将通过软硬芯协同创新，做厚企业级Agentic AI的“硅基黑土地”。 #华为云 #AgenticAI #周跃峰 #云计算 #人工智能 #大模型
在2026华为云INSPIRE创想者大会上，华为云CEO周跃峰正式发布四大Agentic AI新品：AICS灵衢智算集群、AMS Agentic记忆存储方案、CCE VolcanoNext通智一体化调度引擎及AgentSphere运行环境。他提出Agentic Infra新范式，强调Agentic AI时代将推动计算范式根本跃迁，云计算进入Token工业化时代。AICS集群支持10万卡规模，算力达200EFLOPS，Token时延低于10毫秒；AMS实现PB级记忆空间，支持天级长程任务；CCE VolcanoNext将资源利用率提升30%以上；AgentSphere提供毫秒级启动和十万级批量创建能力。周跃峰表示，华为云将通过软硬芯协同创新，做厚企业级Agentic AI的“硅基黑土地”。 #华为云 #AgenticAI #周跃峰 #云计算 #人工智能 #大模型