只有18%的AI工程投入真正落实到产品
一项针对2444个工程组织、超过100万次代码合并请求的分析显示，AI工程投入的效率极其低下：每1美元AI开销中，仅0.18美元最终转化为发货产品，其余0.82美元在特性到达用户前就被消耗殆尽。具体而言，44%的支出用于修复缺陷和系统维护等反应性工作，27%用于一周内被丢弃的代码重写，11%浪费在无效的代码审查摩擦上。研究还发现，AI工具导致代码产量增长了2.6倍，但回滚率却增长了3.7倍，失败增速远超产出增速。在反应性工作最严重的组织中，高达76%的工程产出属于无新增产品价值的维护任务。这并非工程师效率低下或AI工具本身有问题，而是因为生产环境现实与编写的代码之间缺乏闭环反馈。 #AI #工程效率 #代码质量 #研发投入 #技术债务 #软件工程 #人工智能 #开发者
一项针对2444个工程组织、超过100万次代码合并请求的分析显示，AI工程投入的效率极其低下：每1美元AI开销中，仅0.18美元最终转化为发货产品，其余0.82美元在特性到达用户前就被消耗殆尽。具体而言，44%的支出用于修复缺陷和系统维护等反应性工作，27%用于一周内被丢弃的代码重写，11%浪费在无效的代码审查摩擦上。研究还发现，AI工具导致代码产量增长了2.6倍，但回滚率却增长了3.7倍，失败增速远超产出增速。在反应性工作最严重的组织中，高达76%的工程产出属于无新增产品价值的维护任务。这并非工程师效率低下或AI工具本身有问题，而是因为生产环境现实与编写的代码之间缺乏闭环反馈。 #AI #工程效率 #代码质量 #研发投入 #技术债务 #软件工程 #人工智能 #开发者
特朗普签署AI行政令，政府可决定合作方
美国总统特朗普签署一项关于前沿人工智能模型的行政命令，要求联邦机构在部分AI模型发布前进行30天审查，并建立自愿框架让政府参与选择“受信任合作伙伴”。该命令取代了5月草案，将审查期从90天缩短至30天，同时指示财政部建立“AI网络安全信息中心”，协调AI行业与关键基础设施运营商的漏洞管理。命令还要求制定分类基准评估AI模型的高级网络能力。政策专家对此表示担忧，认为缺乏明确标准，且政府干预市场可能造成挑选赢家和输家的局面；但同时也承认，有规则总比没有好，这是为先进AI系统发布做准备的必要步骤。 #特朗普 #AI #行政命令 #网络安全 #监管 #人工智能 #美国政策
美国总统特朗普签署一项关于前沿人工智能模型的行政命令，要求联邦机构在部分AI模型发布前进行30天审查，并建立自愿框架让政府参与选择“受信任合作伙伴”。该命令取代了5月草案，将审查期从90天缩短至30天，同时指示财政部建立“AI网络安全信息中心”，协调AI行业与关键基础设施运营商的漏洞管理。命令还要求制定分类基准评估AI模型的高级网络能力。政策专家对此表示担忧，认为缺乏明确标准，且政府干预市场可能造成挑选赢家和输家的局面；但同时也承认，有规则总比没有好，这是为先进AI系统发布做准备的必要步骤。 #特朗普 #AI #行政命令 #网络安全 #监管 #人工智能 #美国政策
Stigmergy机制优化LLM代理能力选择，显著降低令牌消耗
针对大型语言模型（LLM）代理在工具选择过程中因维持大量能力定义而消耗巨额上下文令牌的问题，研究者提出了一种基于信息素（stigmergy）的轻量协调层。该层通过在能力序列的有向图上施加类蚁群的信息素机制——强化成功路径、衰减未使用选择，并设置显式令牌预算，从而在不破坏提示缓存的前提下，引导代理学习已验证的任务解决方案序列。实验结果显示，该方法在保持缓存命中率的同时，大幅减少了因错误探索和重试导致的令牌浪费，但对冷启动场景存在性能回退。该设计已完成安全审查，核心令牌缩减假说尚待大规模实证验证。 #LLM #AI代理 #Stigmergy #信息素 #令牌优化 #工具选择 #缓存 #蚂蚁算法 #AI研究
针对大型语言模型（LLM）代理在工具选择过程中因维持大量能力定义而消耗巨额上下文令牌的问题，研究者提出了一种基于信息素（stigmergy）的轻量协调层。该层通过在能力序列的有向图上施加类蚁群的信息素机制——强化成功路径、衰减未使用选择，并设置显式令牌预算，从而在不破坏提示缓存的前提下，引导代理学习已验证的任务解决方案序列。实验结果显示，该方法在保持缓存命中率的同时，大幅减少了因错误探索和重试导致的令牌浪费，但对冷启动场景存在性能回退。该设计已完成安全审查，核心令牌缩减假说尚待大规模实证验证。 #LLM #AI代理 #Stigmergy #信息素 #令牌优化 #工具选择 #缓存 #蚂蚁算法 #AI研究
负责任使用AI写作
最新一期《The Diff》通讯探讨了AI写作的合理使用方式。作者指出，技术发展快于社会规范，导致对AI生成内容的评价两极分化。实际上，大多数人的理性观点是：大语言模型是非虚构写作的好工具，且日益精进，但也存在微妙危险。作者建议，最合理的用法是让AI编辑已有草稿，而非直接生成全文——AI的品味虽非顶尖，但始终高于平均水平，且比真人专家更易获取。对于自学者，AI能提供领域概览和推荐入门路径，其“平均化”反而成为优点。此外，AI擅长对非结构化数据进行交叉制表，例如生成“十大”列表等SEO内容。作者提醒，应避免让AI一次性将草稿改到终稿，以免丢失个人风格。 #AI写作 #大语言模型 #负责任使用 #编辑工具 #自学者 #技术伦理 #内容创作
最新一期《The Diff》通讯探讨了AI写作的合理使用方式。作者指出，技术发展快于社会规范，导致对AI生成内容的评价两极分化。实际上，大多数人的理性观点是：大语言模型是非虚构写作的好工具，且日益精进，但也存在微妙危险。作者建议，最合理的用法是让AI编辑已有草稿，而非直接生成全文——AI的品味虽非顶尖，但始终高于平均水平，且比真人专家更易获取。对于自学者，AI能提供领域概览和推荐入门路径，其“平均化”反而成为优点。此外，AI擅长对非结构化数据进行交叉制表，例如生成“十大”列表等SEO内容。作者提醒，应避免让AI一次性将草稿改到终稿，以免丢失个人风格。 #AI写作 #大语言模型 #负责任使用 #编辑工具 #自学者 #技术伦理 #内容创作
联合国大学报告：AI的环境成本远超想象，碳、水、土地足迹不容忽视
联合国大学水与环境健康研究所（UNU-INWEH）在其成立30周年之际发布报告，系统评估了人工智能快速扩张带来的环境代价。报告指出，AI不仅是数字技术，更是一个依赖数据中心、芯片、冷却系统、电网、水资源和矿产供应链的物质系统，其能源消耗会产生可量化的碳、水、土地足迹。研究发现，AI的环境成本不仅取决于用电量，更取决于电力来源和地点——低碳电力未必低水或低地。报告强调，AI的收益常跨区域流动，而环境负担却集中在特定社区，构成治理与正义挑战。为此，报告呼吁建立透明、高效、公平、全生命周期负责的AI生态系统，将环境足迹纳入能源、气候和土地利用规划。 #人工智能 #环境成本 #碳足迹 #水足迹 #土地足迹 #联合国大学 #可持续发展 #数据中心 #能源消耗 #环境正义
联合国大学水与环境健康研究所（UNU-INWEH）在其成立30周年之际发布报告，系统评估了人工智能快速扩张带来的环境代价。报告指出，AI不仅是数字技术，更是一个依赖数据中心、芯片、冷却系统、电网、水资源和矿产供应链的物质系统，其能源消耗会产生可量化的碳、水、土地足迹。研究发现，AI的环境成本不仅取决于用电量，更取决于电力来源和地点——低碳电力未必低水或低地。报告强调，AI的收益常跨区域流动，而环境负担却集中在特定社区，构成治理与正义挑战。为此，报告呼吁建立透明、高效、公平、全生命周期负责的AI生态系统，将环境足迹纳入能源、气候和土地利用规划。 #人工智能 #环境成本 #碳足迹 #水足迹 #土地足迹 #联合国大学 #可持续发展 #数据中心 #能源消耗 #环境正义
AI代理自主执行需设“禁区”，专家建议添加人工审核节点
当前AI代理被赋予越来越大的自主权限，但专家指出，在追求效率的同时必须明确其不能自主执行的任务类别。文章通过一个实际案例说明，AI代理在清理代码仓库时因缺乏停止条件误删配置文件，导致两小时工作浪费。作者提出一个权限矩阵，列出五类高风险任务：破坏性命令（如rm -rf、git clean -fd）、数据库写操作（如无WHERE子句的DELETE）、云基础设施变更（如terraform apply）、生产环境部署以及认证和安全逻辑。这些任务一旦出错，恢复成本极高，因此必须在执行前添加人类审批节点。专家建议，在运行任何任务前应先问“能否撤销”，若不能则需设置检查点。 #AI代理 #人工智能 #自主权限 #风险控制 #技术安全 #开发规范 #机器人类审核
当前AI代理被赋予越来越大的自主权限，但专家指出，在追求效率的同时必须明确其不能自主执行的任务类别。文章通过一个实际案例说明，AI代理在清理代码仓库时因缺乏停止条件误删配置文件，导致两小时工作浪费。作者提出一个权限矩阵，列出五类高风险任务：破坏性命令（如rm -rf、git clean -fd）、数据库写操作（如无WHERE子句的DELETE）、云基础设施变更（如terraform apply）、生产环境部署以及认证和安全逻辑。这些任务一旦出错，恢复成本极高，因此必须在执行前添加人类审批节点。专家建议，在运行任何任务前应先问“能否撤销”，若不能则需设置检查点。 #AI代理 #人工智能 #自主权限 #风险控制 #技术安全 #开发规范 #机器人类审核
AI Council Toolkit 开源发布，提供AI治理实战手册
近日，一个名为AI Council Toolkit的开源项目在Hacker News上发布。该项目提供了一套完整的、可立即实施的AI治理手册，旨在帮助组织建立、运行和维护内部AI委员会。手册包含实用模板、治理模式和运营模型，覆盖AI治理全生命周期：从用例注册、风险分类、影响审查、批准决策，到生产监控和定期刷新。它针对不同角色（如CIO、法务、产品工程师、安全团队）提供了具体指南，并设计了“委员会优先”等原则，强调低风险案例快速通过，高风险案例由委员会决策。此外，手册还对齐了NIST AI RMF、ISO 42001、欧盟AI法案等标准，并参考了微软、IBM、耶鲁等机构的实践。该工具包旨在将AI治理从理论转化为可操作的循环流程，帮助组织在AI快速迭代中保持合规与安全。 #AI治理 #开源 #AI委员会 #AI安全 #合规 #NIST #ISO42001 #欧盟AI法案 #HackerNews
近日，一个名为AI Council Toolkit的开源项目在Hacker News上发布。该项目提供了一套完整的、可立即实施的AI治理手册，旨在帮助组织建立、运行和维护内部AI委员会。手册包含实用模板、治理模式和运营模型，覆盖AI治理全生命周期：从用例注册、风险分类、影响审查、批准决策，到生产监控和定期刷新。它针对不同角色（如CIO、法务、产品工程师、安全团队）提供了具体指南，并设计了“委员会优先”等原则，强调低风险案例快速通过，高风险案例由委员会决策。此外，手册还对齐了NIST AI RMF、ISO 42001、欧盟AI法案等标准，并参考了微软、IBM、耶鲁等机构的实践。该工具包旨在将AI治理从理论转化为可操作的循环流程，帮助组织在AI快速迭代中保持合规与安全。 #AI治理 #开源 #AI委员会 #AI安全 #合规 #NIST #ISO42001 #欧盟AI法案 #HackerNews
Snowflake 在 Summit 26 发布 AI 安全新功能，聚焦代理零信任
在年度大会 Summit 26 上，Snowflake 推出多项安全新功能，重点围绕 Agentic AI 时代的零信任安全模型。新功能包括代理身份管理（Agent Identity），可在 AI 代理访问数据前实施基于角色的权限控制并保留完整审计记录；AI 安全态势管理方案，持续监测 AI 系统安全状态并加速风险响应；以及勒索软件与数据泄露防护能力，针对 AI 工作负载统一实施安全策略。此外，Snowflake 还推出提示注入防护功能，防范越狱攻击与零日风险。公司将其安全战略概括为三大支柱：安全护栏、治理集中化、数据与 AI 保护。首席安全官 Mayank Upadhyay 强调，Agentic AI 时代身份与权限管理成为核心，必须严格遵循最小权限原则，以应对代理自行探索执行路径带来的不可预测风险。 #Snowflake #AgenticAI #零信任 #AI安全 #数据安全 #安全态势管理 #提示注入防护 #身份管理 #科技新闻
在年度大会 Summit 26 上，Snowflake 推出多项安全新功能，重点围绕 Agentic AI 时代的零信任安全模型。新功能包括代理身份管理（Agent Identity），可在 AI 代理访问数据前实施基于角色的权限控制并保留完整审计记录；AI 安全态势管理方案，持续监测 AI 系统安全状态并加速风险响应；以及勒索软件与数据泄露防护能力，针对 AI 工作负载统一实施安全策略。此外，Snowflake 还推出提示注入防护功能，防范越狱攻击与零日风险。公司将其安全战略概括为三大支柱：安全护栏、治理集中化、数据与 AI 保护。首席安全官 Mayank Upadhyay 强调，Agentic AI 时代身份与权限管理成为核心，必须严格遵循最小权限原则，以应对代理自行探索执行路径带来的不可预测风险。 #Snowflake #AgenticAI #零信任 #AI安全 #数据安全 #安全态势管理 #提示注入防护 #身份管理 #科技新闻
Computex释放三大信号：Nvidia确认台积电产能充足，AI PC芯片联袂亮相，2027年供需仍将偏紧
在2024年Computex展会上，Nvidia创始人黄仁勋确认台积电产能充足，可满足AI芯片持续增长的需求。与此同时，Intel、AMD、高通等厂商集中推出AI PC芯片，标志着AI PC时代加速来临。行业预测显示，AI芯片供需到2027年仍将偏紧，反映出人工智能算力需求长期旺盛。这三大信号表明，AI硬件产业链正加速成熟，但长期供应压力犹存，产业竞争格局将进一步重塑。 #Computex #Nvidia #台积电 #AI芯片 #AIPC #供需 #人工智能 #科技 #芯片 #华尔街见闻
在2024年Computex展会上，Nvidia创始人黄仁勋确认台积电产能充足，可满足AI芯片持续增长的需求。与此同时，Intel、AMD、高通等厂商集中推出AI PC芯片，标志着AI PC时代加速来临。行业预测显示，AI芯片供需到2027年仍将偏紧，反映出人工智能算力需求长期旺盛。这三大信号表明，AI硬件产业链正加速成熟，但长期供应压力犹存，产业竞争格局将进一步重塑。 #Computex #Nvidia #台积电 #AI芯片 #AIPC #供需 #人工智能 #科技 #芯片 #华尔街见闻