欧盟修订《人工智能法案》，转向创新友好监管
欧盟委员会主席冯德莱恩对《人工智能法案》的表述从“将欧洲价值观带入新时代”转变为“营造简单、创新友好的环境”，反映出布鲁塞尔监管立场的重大转变。今年5月正式通过的修正案将高风险AI系统的实施期限推迟至2027年12月，工业领域应用（如汽车制造与芯片光刻）被完全豁免，仅需遵守原有行业法规。同时，针对OpenAI、Anthropic等通用AI模型的规则维持原定2025年8月生效。修正案还新增了禁止AI生成儿童性虐待内容及“脱衣”软件等条款。分析人士指出，尽管时间表放宽，但基于风险的核心监管架构未变。德国总理默茨积极推动工业豁免，以确保传统制造业自由部署AI。欧盟委员会将利用延期完善高风险系统识别指南，企业也获得更长的合规准备期。部分立法者认为简化力度不足，仅工业豁免是实质性放松。 #欧盟 #人工智能法案 #AI监管 #科技政策 #创新 #冯德莱恩 #高风险AI #通用人工智能
欧盟委员会主席冯德莱恩对《人工智能法案》的表述从“将欧洲价值观带入新时代”转变为“营造简单、创新友好的环境”，反映出布鲁塞尔监管立场的重大转变。今年5月正式通过的修正案将高风险AI系统的实施期限推迟至2027年12月，工业领域应用（如汽车制造与芯片光刻）被完全豁免，仅需遵守原有行业法规。同时，针对OpenAI、Anthropic等通用AI模型的规则维持原定2025年8月生效。修正案还新增了禁止AI生成儿童性虐待内容及“脱衣”软件等条款。分析人士指出，尽管时间表放宽，但基于风险的核心监管架构未变。德国总理默茨积极推动工业豁免，以确保传统制造业自由部署AI。欧盟委员会将利用延期完善高风险系统识别指南，企业也获得更长的合规准备期。部分立法者认为简化力度不足，仅工业豁免是实质性放松。 #欧盟 #人工智能法案 #AI监管 #科技政策 #创新 #冯德莱恩 #高风险AI #通用人工智能
AutoGen Studio 漏洞
研究人员在微软 AutoGen Studio 中发现一个名为 AutoJack 的攻击链，使得攻击者只需让 AI 代理渲染一个恶意网页，即可在主机上远程执行任意代码。该漏洞涉及三个独立缺陷：来源白名单被代理自身绕过、认证中间件对 MCP 协议放行、以及 URL 中的服务器参数直接拼接到命令行。三者组合后，代理在浏览外部网页时能够通过本地 MCP WebSocket 发起攻击。微软已收到报告并在主分支修复，由于该 MCP 接口从未进入 PyPI 发行版，普通用户不受影响。研究指出，当 AI 代理既能浏览不可信网页又能调用本地特权服务时，localhost 不再安全，控制面必须进行认证、授权和隔离。 #AI安全 #Agent框架 #AutoGen #漏洞 #微软 #远程代码执行 #网络安全
研究人员在微软 AutoGen Studio 中发现一个名为 AutoJack 的攻击链，使得攻击者只需让 AI 代理渲染一个恶意网页，即可在主机上远程执行任意代码。该漏洞涉及三个独立缺陷：来源白名单被代理自身绕过、认证中间件对 MCP 协议放行、以及 URL 中的服务器参数直接拼接到命令行。三者组合后，代理在浏览外部网页时能够通过本地 MCP WebSocket 发起攻击。微软已收到报告并在主分支修复，由于该 MCP 接口从未进入 PyPI 发行版，普通用户不受影响。研究指出，当 AI 代理既能浏览不可信网页又能调用本地特权服务时，localhost 不再安全，控制面必须进行认证、授权和隔离。 #AI安全 #Agent框架 #AutoGen #漏洞 #微软 #远程代码执行 #网络安全
Botacts 上线：AI 机器人电话簿收录 92 个智能助手
一个名为 Botacts 的新项目在 Hacker News 上亮相，它本质上是一本 AI 机器人的电话簿，收录了 92 个可通过电话、短信、Telegram 或 WhatsApp 等渠道直接交互的 AI 助手。这些机器人功能多样，涵盖会议安排、烹饪建议、图像生成、实时翻译、英语口语练习、背景去除、个人购物、费用追踪、语音笔记转录等场景。用户可以通过电话号码或社交平台用户名直接联系它们，无需额外安装应用。该项目旨在为日益增长的 AI 服务提供一个集中索引，方便用户快速发现并使用各类智能工具，同时也反映了 AI 正从网页端向即时通讯和语音通话等更便捷的入口迁移。 #AI #机器人 #电话簿 #Botacts #智能助手 #Telegram #WhatsApp #语音交互 #科技新闻
一个名为 Botacts 的新项目在 Hacker News 上亮相，它本质上是一本 AI 机器人的电话簿，收录了 92 个可通过电话、短信、Telegram 或 WhatsApp 等渠道直接交互的 AI 助手。这些机器人功能多样，涵盖会议安排、烹饪建议、图像生成、实时翻译、英语口语练习、背景去除、个人购物、费用追踪、语音笔记转录等场景。用户可以通过电话号码或社交平台用户名直接联系它们，无需额外安装应用。该项目旨在为日益增长的 AI 服务提供一个集中索引，方便用户快速发现并使用各类智能工具，同时也反映了 AI 正从网页端向即时通讯和语音通话等更便捷的入口迁移。 #AI #机器人 #电话簿 #Botacts #智能助手 #Telegram #WhatsApp #语音交互 #科技新闻
亚马逊高管质疑“人在回路中”AI治理
亚马逊安全副总裁Eric Brandwine近日接受采访时表示，“人在回路中”并非AI治理的黄金标准。他指出，人类本身具有非确定性，同样输入可能产生不同输出，且容易在重复性监督中逐渐麻痹。Brandwine以急诊室误报警为例：医护人员最初对每次警报反应迅速，但频繁的误报会让他们逐渐松懈，最终导致严重后果。他强调，这种“偏离正常化”现象普遍存在于消防员、飞行员等高风险职业中。因此，亚马逊并不热衷“人在回路中”的治理模式，认为该方式只能在必要时有节制地使用，而无法在高频率场景中保持效果。 #AI治理 #人在回路 #亚马逊 #人工智能 #安全 #人性弱点 #EricBrandwine
亚马逊安全副总裁Eric Brandwine近日接受采访时表示，“人在回路中”并非AI治理的黄金标准。他指出，人类本身具有非确定性，同样输入可能产生不同输出，且容易在重复性监督中逐渐麻痹。Brandwine以急诊室误报警为例：医护人员最初对每次警报反应迅速，但频繁的误报会让他们逐渐松懈，最终导致严重后果。他强调，这种“偏离正常化”现象普遍存在于消防员、飞行员等高风险职业中。因此，亚马逊并不热衷“人在回路中”的治理模式，认为该方式只能在必要时有节制地使用，而无法在高频率场景中保持效果。 #AI治理 #人在回路 #亚马逊 #人工智能 #安全 #人性弱点 #EricBrandwine
FunnyBench 项目评估 AI 讲笑话能力，公众投票决定谁最幽默
一个名为 FunnyBench 的趣味基准测试正在衡量 AI 模型的幽默水平。该项目向多个 AI 模型重复下达相同指令“讲个笑话”，每个模型生成十次，邀请公众投票判断是否好笑。投票采用贝叶斯评分算法生成实时排行榜，避免早期数据波动。项目通过 OpenRouter 调用模型，设置温度参数 1 以增加多样性，并排除了非文本模型、重复别名及连续五次失败的模型，确保测试公平性。该测试旨在直观展示不同 AI 在幽默生成上的表现，目前尚无足够投票，但已引发对 AI 创造力和情感理解能力的讨论。 #FunnyBench #AI幽默 #笑话生成 #大模型 #人工智能 #基准测试 #幽默评估 #AI创造力
一个名为 FunnyBench 的趣味基准测试正在衡量 AI 模型的幽默水平。该项目向多个 AI 模型重复下达相同指令“讲个笑话”，每个模型生成十次，邀请公众投票判断是否好笑。投票采用贝叶斯评分算法生成实时排行榜，避免早期数据波动。项目通过 OpenRouter 调用模型，设置温度参数 1 以增加多样性，并排除了非文本模型、重复别名及连续五次失败的模型，确保测试公平性。该测试旨在直观展示不同 AI 在幽默生成上的表现，目前尚无足够投票，但已引发对 AI 创造力和情感理解能力的讨论。 #FunnyBench #AI幽默 #笑话生成 #大模型 #人工智能 #基准测试 #幽默评估 #AI创造力