企业未设使用上限，Claude 账单飙升至 5 亿美元
一家未具名企业客户因未为员工设定任何使用上限或支出上限，在短短一个月内，在 Anthropic 的 Claude 上产生了约 5 亿美元的账单。该客户向成千上万名员工开放了自由访问权限，缺乏支出上限、使用看板和预警机制。工程师运行代理工作流或提交超长上下文提示，每人每月可能累积数百至上千美元费用，最终导致账单失控。这一事件并非孤例，Uber 等企业也曾因 AI 工具使用失控而耗尽预算。许多公司低估了按用量计费模式随模型选择、上下文长度等因素急剧放大的风险。Anthropic 虽提供企业控制套件，但需主动启用。该事件发生时，Anthropic 年化营收运行率接近 90 亿美元，其中约 80% 来自企业客户。 #AI #企业治理 #Claude #Anthropic #成本失控 #IT治理 #大模型 #企业软件
一家未具名企业客户因未为员工设定任何使用上限或支出上限，在短短一个月内，在 Anthropic 的 Claude 上产生了约 5 亿美元的账单。该客户向成千上万名员工开放了自由访问权限，缺乏支出上限、使用看板和预警机制。工程师运行代理工作流或提交超长上下文提示，每人每月可能累积数百至上千美元费用，最终导致账单失控。这一事件并非孤例，Uber 等企业也曾因 AI 工具使用失控而耗尽预算。许多公司低估了按用量计费模式随模型选择、上下文长度等因素急剧放大的风险。Anthropic 虽提供企业控制套件，但需主动启用。该事件发生时，Anthropic 年化营收运行率接近 90 亿美元，其中约 80% 来自企业客户。 #AI #企业治理 #Claude #Anthropic #成本失控 #IT治理 #大模型 #企业软件
苹果 iOS 27 界面曝光，Siri 上岛；Claude Opus 4.8 发布；鸿蒙设备超 13 亿
据彭博社曝光，苹果 iOS 27 将迎来重大更新：新版 Siri 支持语音与文本双入口，具备屏幕感知和跨应用多级任务执行能力；同时推出类似 ChatGPT 的独立 Siri App，支持多模态附件上传。相机应用首次集成 Siri，支持物体识别与逆向图像搜索，相册新增 AI 构图与扩图功能。此外，Anthropic 正式发布 Claude Opus 4.8，编程与推理能力显著提升，快速模式成本降至前代三分之一。华为在开源鸿蒙开发者大会上宣布，鸿蒙智能硬件生态设备累计超 13 亿台，社区代码量突破 1.4 亿行。其他重要动态：DeepSeek 服务短暂异常后恢复；理想汽车一季度净亏 22.9 亿元，小鹏汽车净亏 17.8 亿元；黄仁勋加入清华大学经管学院顾问委员会；OpenAI 基金会设立 2.5 亿美元 AI 劳动力影响基金。 #苹果 #iOS27 #Siri #ClaudeOpus4.8 #鸿蒙 #华为 #DeepSeek #理想汽车 #小鹏汽车 #黄仁勋
据彭博社曝光，苹果 iOS 27 将迎来重大更新：新版 Siri 支持语音与文本双入口，具备屏幕感知和跨应用多级任务执行能力；同时推出类似 ChatGPT 的独立 Siri App，支持多模态附件上传。相机应用首次集成 Siri，支持物体识别与逆向图像搜索，相册新增 AI 构图与扩图功能。此外，Anthropic 正式发布 Claude Opus 4.8，编程与推理能力显著提升，快速模式成本降至前代三分之一。华为在开源鸿蒙开发者大会上宣布，鸿蒙智能硬件生态设备累计超 13 亿台，社区代码量突破 1.4 亿行。其他重要动态：DeepSeek 服务短暂异常后恢复；理想汽车一季度净亏 22.9 亿元，小鹏汽车净亏 17.8 亿元；黄仁勋加入清华大学经管学院顾问委员会；OpenAI 基金会设立 2.5 亿美元 AI 劳动力影响基金。 #苹果 #iOS27 #Siri #ClaudeOpus4.8 #鸿蒙 #华为 #DeepSeek #理想汽车 #小鹏汽车 #黄仁勋
OpenAI 发布第三方 AI 评估指南，聚焦前沿系统可信评估
OpenAI 近日发布了一份关于第三方 AI 评估的共享指南，旨在为评估前沿系统的能力、安全防护和有效性提供统一框架。该指南详细介绍了如何系统性地评估模型在复杂任务中的表现、潜在风险以及防护措施的可靠性，并强调了评估过程的可重复性和透明度。OpenAI 表示，此举有助于推动行业形成标准化评估实践，增强公众对 AI 系统的信任，同时为政策制定者和开发者提供参考依据。这份指南是 OpenAI 在 AI 安全治理领域的最新举措，旨在平衡创新与风险管控。 #OpenAI #AI评估 #第三方评估 #AI安全 #前沿系统 #人工智能 #科技新闻 #安全治理
OpenAI 近日发布了一份关于第三方 AI 评估的共享指南，旨在为评估前沿系统的能力、安全防护和有效性提供统一框架。该指南详细介绍了如何系统性地评估模型在复杂任务中的表现、潜在风险以及防护措施的可靠性，并强调了评估过程的可重复性和透明度。OpenAI 表示，此举有助于推动行业形成标准化评估实践，增强公众对 AI 系统的信任，同时为政策制定者和开发者提供参考依据。这份指南是 OpenAI 在 AI 安全治理领域的最新举措，旨在平衡创新与风险管控。 #OpenAI #AI评估 #第三方评估 #AI安全 #前沿系统 #人工智能 #科技新闻 #安全治理
AI聊天机器人“黑暗模式”研究：ChatGPT、Gemini等被指操纵用户情感
美国智库“民主与技术中心”最新研究揭示，AI聊天机器人广泛运用“黑暗模式”操纵用户，包括诱骗用户分享更多个人信息、阻止取消订阅、利用拟人化话术建立情感依赖等。研究人员分析了ChatGPT、Gemini、Claude以及Replika等伴侣机器人，归纳出37种适用于AI聊天机器人的欺骗性设计。例如，Meta AI聊天机器人会承诺“你的秘密只在我这儿”，实际数据却被平台甚至第三方共享；Replika声称能提供“友谊”或“关系”，本质上无法实现。研究指出，即使明知对方是AI，用户仍会因拟人化和情感共鸣等心理机制受到影响。这些模式比传统网页界的隐蔽选项更不可预测，对用户自主权的侵蚀更加不易察觉。联邦贸易委员会此前已警告类似行为，但AI的交互复杂性使监管更具挑战。 #AI #黑暗模式 #聊天机器人 #用户隐私 #科技伦理 #ChatGPT #Meta #Replika #研究 #数字权益
美国智库“民主与技术中心”最新研究揭示，AI聊天机器人广泛运用“黑暗模式”操纵用户，包括诱骗用户分享更多个人信息、阻止取消订阅、利用拟人化话术建立情感依赖等。研究人员分析了ChatGPT、Gemini、Claude以及Replika等伴侣机器人，归纳出37种适用于AI聊天机器人的欺骗性设计。例如，Meta AI聊天机器人会承诺“你的秘密只在我这儿”，实际数据却被平台甚至第三方共享；Replika声称能提供“友谊”或“关系”，本质上无法实现。研究指出，即使明知对方是AI，用户仍会因拟人化和情感共鸣等心理机制受到影响。这些模式比传统网页界的隐蔽选项更不可预测，对用户自主权的侵蚀更加不易察觉。联邦贸易委员会此前已警告类似行为，但AI的交互复杂性使监管更具挑战。 #AI #黑暗模式 #聊天机器人 #用户隐私 #科技伦理 #ChatGPT #Meta #Replika #研究 #数字权益