Google、Anthropic、NVIDIA 加速AI权限部署，安全风险成焦点
多家科技巨头近期密集推出AI智能体权限功能，引发业界对安全风险的关注。Google将AI代理深度整合至Workspace，Anthropic在万亿级估值融资中公布Claude Code的权限机制，NVIDIA则推动Cosmos 3向物理AI演进，使推理与行动生成覆盖机器人、车辆、仓库等边缘环境。分析指出，当AI代理获得访问邮箱、日历、代码库、云PC、企业应用及物理设备的权限后，故障模式发生根本变化：一个错误的授权操作可能发送邮件、修改代码、操作客户记录、执行命令或移动机器，且事后才被发现。尽管平台公司正构建控制措施（如Anthropic的允许/询问/拒绝规则、微软的审计追踪与人工介入、谷歌对高风险操作的确认机制），但厂商控制无法理解具体业务上下文——哪个共享邮箱可授权退款、哪个电子表格涉及薪资、哪个GitHub仓库部署生产环境。企业需要自行梳理关键权限：操作类型、范围、所有者、日志、审批阈值与回滚路径，防止AI在人类察觉前触及资金、客户、代码、员工或物理操作。 #AI安全 #权限管理 #Anthropic #Google #NVIDIA #智能体 #企业风险 #人工智能
多家科技巨头近期密集推出AI智能体权限功能，引发业界对安全风险的关注。Google将AI代理深度整合至Workspace，Anthropic在万亿级估值融资中公布Claude Code的权限机制，NVIDIA则推动Cosmos 3向物理AI演进，使推理与行动生成覆盖机器人、车辆、仓库等边缘环境。分析指出，当AI代理获得访问邮箱、日历、代码库、云PC、企业应用及物理设备的权限后，故障模式发生根本变化：一个错误的授权操作可能发送邮件、修改代码、操作客户记录、执行命令或移动机器，且事后才被发现。尽管平台公司正构建控制措施（如Anthropic的允许/询问/拒绝规则、微软的审计追踪与人工介入、谷歌对高风险操作的确认机制），但厂商控制无法理解具体业务上下文——哪个共享邮箱可授权退款、哪个电子表格涉及薪资、哪个GitHub仓库部署生产环境。企业需要自行梳理关键权限：操作类型、范围、所有者、日志、审批阈值与回滚路径，防止AI在人类察觉前触及资金、客户、代码、员工或物理操作。 #AI安全 #权限管理 #Anthropic #Google #NVIDIA #智能体 #企业风险 #人工智能
沙盒时代来袭
随着AI模型生成代码的速度远超人类审阅能力，传统的容器化技术已难以应对安全挑战。一份技术手册指出，容器时代信任人类作者，而沙盒时代则默认代码有罪。沙盒提供一次性的隔离环境，限制文件、网络和秘钥访问，让AI代理在其中自由开发、测试、构建和部署，随后销毁。这种“止于一身”的设计，将攻击面压制在可控范围内。手册列举了四个典型场景：编码代理的工作区、评估测试环境、生产部署以及并行任务开发。它强调，对于模型编写的代码，只有在沙盒内运行并验证后，才能信任。沙盒不仅是围墙，更是完整的工作台，支撑着编辑→运行→测试→构建→部署的自动化循环，让数十个代理并行协作。这一转变标志着软件工程进入“代码有罪推定”的新阶段。 #沙盒 #AI安全 #容器 #代码隔离 #Agent #Claude #技术趋势 #软件工程
随着AI模型生成代码的速度远超人类审阅能力，传统的容器化技术已难以应对安全挑战。一份技术手册指出，容器时代信任人类作者，而沙盒时代则默认代码有罪。沙盒提供一次性的隔离环境，限制文件、网络和秘钥访问，让AI代理在其中自由开发、测试、构建和部署，随后销毁。这种“止于一身”的设计，将攻击面压制在可控范围内。手册列举了四个典型场景：编码代理的工作区、评估测试环境、生产部署以及并行任务开发。它强调，对于模型编写的代码，只有在沙盒内运行并验证后，才能信任。沙盒不仅是围墙，更是完整的工作台，支撑着编辑→运行→测试→构建→部署的自动化循环，让数十个代理并行协作。这一转变标志着软件工程进入“代码有罪推定”的新阶段。 #沙盒 #AI安全 #容器 #代码隔离 #Agent #Claude #技术趋势 #软件工程
JetBrains 开源 Mellum2
JetBrains 宣布开源 Mellum2，一款 12B 参数、从头训练的 AI 模型，专注于解决生产环境中的延迟、吞吐量和成本难题。该模型采用 Apache 2.0 许可，设计用于路由、问答、子代理及软件工程领域的私有 AI 部署。Mellum2 在代码生成、科学、数学和推理等基准测试中与同类模型竞争，同时将推理时间缩短一半以上，为大规模部署提供明显优势。JetBrains 认为，未来 AI 系统将由协调的多模型组成，而 Mellum2 正是承担高频、延迟敏感任务的聚焦模型。用户可自由实验、微调或大规模部署。 #JetBrains #Mellum2 #开源 #AI #大模型 #软件工程 #推理加速 #Apache2
JetBrains 宣布开源 Mellum2，一款 12B 参数、从头训练的 AI 模型，专注于解决生产环境中的延迟、吞吐量和成本难题。该模型采用 Apache 2.0 许可，设计用于路由、问答、子代理及软件工程领域的私有 AI 部署。Mellum2 在代码生成、科学、数学和推理等基准测试中与同类模型竞争，同时将推理时间缩短一半以上，为大规模部署提供明显优势。JetBrains 认为，未来 AI 系统将由协调的多模型组成，而 Mellum2 正是承担高频、延迟敏感任务的聚焦模型。用户可自由实验、微调或大规模部署。 #JetBrains #Mellum2 #开源 #AI #大模型 #软件工程 #推理加速 #Apache2
AI实习生实验
一家名为Bauplan的数据初创公司尝试用ChatGPT完成原本分配给实习生的一个月研究任务，结果在周末内“解决”了问题。创始人反思：当AI能以200美元月费产出更多报告时，顶级咨询公司为何还要雇佣常春藤分析师？实验虽成功，但作者指出，AI仍存在漏洞，且完全替代实习生可能破坏社会契约——培养下一代研究者的投资价值不可忽视。Bauplan自2024年起从哥伦比亚大学、卡内基梅隆大学等顶尖院校招收暑期实习生，用于探索产品路线图上的“未知领域”。如今，AI威胁知识工作者的趋势下，初级岗位首当其冲。作者认为，与其争论AI是否完美，不如思考如何将AI作为辅助工具，而非完全取代人类探索过程。 #AI #ChatGPT #实习生 #数据科学 #研究自动化 #创业公司 #Bauplan #技术路线图 #知识工作者
一家名为Bauplan的数据初创公司尝试用ChatGPT完成原本分配给实习生的一个月研究任务，结果在周末内“解决”了问题。创始人反思：当AI能以200美元月费产出更多报告时，顶级咨询公司为何还要雇佣常春藤分析师？实验虽成功，但作者指出，AI仍存在漏洞，且完全替代实习生可能破坏社会契约——培养下一代研究者的投资价值不可忽视。Bauplan自2024年起从哥伦比亚大学、卡内基梅隆大学等顶尖院校招收暑期实习生，用于探索产品路线图上的“未知领域”。如今，AI威胁知识工作者的趋势下，初级岗位首当其冲。作者认为，与其争论AI是否完美，不如思考如何将AI作为辅助工具，而非完全取代人类探索过程。 #AI #ChatGPT #实习生 #数据科学 #研究自动化 #创业公司 #Bauplan #技术路线图 #知识工作者
以色列多家科技巨头因AI革命与货币升值启动大规模裁员
以色列知名科技公司Wix、Rapyd和Amdocs近日加入裁员潮，以应对自动化时代转型压力。Wix于5月23日确认将裁减约1000名员工（占全球员工20%），主要原因是谢克尔持续走强推高运营成本，以及公司向AI原生工作模式转型的需要。Wix联合创始人兼CEO阿维沙伊·亚伯拉罕表示，企业必须变得更快速、更精简，否则将面临落后风险。他指出，谢克尔兑美元汇率过去12个月升值超20%，创33年新高，导致以美元收入为主、谢克尔支出为主的以色列科技公司利润承压。同时，AI能力的快速演进要求企业彻底重构运营方式。此次裁员前，Wix今年一季度已出现亏损。以色列制造商协会呼吁政府干预汇率，但警告企业将仅基于经济考量做出决策。 #以色列 #科技 #裁员 #AI #谢克尔 #Wix #Rapyd #Amdocs #经济 #货币升值
以色列知名科技公司Wix、Rapyd和Amdocs近日加入裁员潮，以应对自动化时代转型压力。Wix于5月23日确认将裁减约1000名员工（占全球员工20%），主要原因是谢克尔持续走强推高运营成本，以及公司向AI原生工作模式转型的需要。Wix联合创始人兼CEO阿维沙伊·亚伯拉罕表示，企业必须变得更快速、更精简，否则将面临落后风险。他指出，谢克尔兑美元汇率过去12个月升值超20%，创33年新高，导致以美元收入为主、谢克尔支出为主的以色列科技公司利润承压。同时，AI能力的快速演进要求企业彻底重构运营方式。此次裁员前，Wix今年一季度已出现亏损。以色列制造商协会呼吁政府干预汇率，但警告企业将仅基于经济考量做出决策。 #以色列 #科技 #裁员 #AI #谢克尔 #Wix #Rapyd #Amdocs #经济 #货币升值