企业未设使用上限，Claude 账单飙升至 5 亿美元
一家未具名企业客户因未为员工设定任何使用上限或支出上限，在短短一个月内，在 Anthropic 的 Claude 上产生了约 5 亿美元的账单。该客户向成千上万名员工开放了自由访问权限，缺乏支出上限、使用看板和预警机制。工程师运行代理工作流或提交超长上下文提示，每人每月可能累积数百至上千美元费用，最终导致账单失控。这一事件并非孤例，Uber 等企业也曾因 AI 工具使用失控而耗尽预算。许多公司低估了按用量计费模式随模型选择、上下文长度等因素急剧放大的风险。Anthropic 虽提供企业控制套件，但需主动启用。该事件发生时，Anthropic 年化营收运行率接近 90 亿美元，其中约 80% 来自企业客户。 #AI #企业治理 #Claude #Anthropic #成本失控 #IT治理 #大模型 #企业软件
一家未具名企业客户因未为员工设定任何使用上限或支出上限，在短短一个月内，在 Anthropic 的 Claude 上产生了约 5 亿美元的账单。该客户向成千上万名员工开放了自由访问权限，缺乏支出上限、使用看板和预警机制。工程师运行代理工作流或提交超长上下文提示，每人每月可能累积数百至上千美元费用，最终导致账单失控。这一事件并非孤例，Uber 等企业也曾因 AI 工具使用失控而耗尽预算。许多公司低估了按用量计费模式随模型选择、上下文长度等因素急剧放大的风险。Anthropic 虽提供企业控制套件，但需主动启用。该事件发生时，Anthropic 年化营收运行率接近 90 亿美元，其中约 80% 来自企业客户。 #AI #企业治理 #Claude #Anthropic #成本失控 #IT治理 #大模型 #企业软件
苹果 iOS 27 界面曝光，Siri 上岛；Claude Opus 4.8 发布；鸿蒙设备超 13 亿
据彭博社曝光，苹果 iOS 27 将迎来重大更新：新版 Siri 支持语音与文本双入口，具备屏幕感知和跨应用多级任务执行能力；同时推出类似 ChatGPT 的独立 Siri App，支持多模态附件上传。相机应用首次集成 Siri，支持物体识别与逆向图像搜索，相册新增 AI 构图与扩图功能。此外，Anthropic 正式发布 Claude Opus 4.8，编程与推理能力显著提升，快速模式成本降至前代三分之一。华为在开源鸿蒙开发者大会上宣布，鸿蒙智能硬件生态设备累计超 13 亿台，社区代码量突破 1.4 亿行。其他重要动态：DeepSeek 服务短暂异常后恢复；理想汽车一季度净亏 22.9 亿元，小鹏汽车净亏 17.8 亿元；黄仁勋加入清华大学经管学院顾问委员会；OpenAI 基金会设立 2.5 亿美元 AI 劳动力影响基金。 #苹果 #iOS27 #Siri #ClaudeOpus4.8 #鸿蒙 #华为 #DeepSeek #理想汽车 #小鹏汽车 #黄仁勋
据彭博社曝光，苹果 iOS 27 将迎来重大更新：新版 Siri 支持语音与文本双入口，具备屏幕感知和跨应用多级任务执行能力；同时推出类似 ChatGPT 的独立 Siri App，支持多模态附件上传。相机应用首次集成 Siri，支持物体识别与逆向图像搜索，相册新增 AI 构图与扩图功能。此外，Anthropic 正式发布 Claude Opus 4.8，编程与推理能力显著提升，快速模式成本降至前代三分之一。华为在开源鸿蒙开发者大会上宣布，鸿蒙智能硬件生态设备累计超 13 亿台，社区代码量突破 1.4 亿行。其他重要动态：DeepSeek 服务短暂异常后恢复；理想汽车一季度净亏 22.9 亿元，小鹏汽车净亏 17.8 亿元；黄仁勋加入清华大学经管学院顾问委员会；OpenAI 基金会设立 2.5 亿美元 AI 劳动力影响基金。 #苹果 #iOS27 #Siri #ClaudeOpus4.8 #鸿蒙 #华为 #DeepSeek #理想汽车 #小鹏汽车 #黄仁勋
OpenAI 发布第三方 AI 评估指南，聚焦前沿系统可信评估
OpenAI 近日发布了一份关于第三方 AI 评估的共享指南，旨在为评估前沿系统的能力、安全防护和有效性提供统一框架。该指南详细介绍了如何系统性地评估模型在复杂任务中的表现、潜在风险以及防护措施的可靠性，并强调了评估过程的可重复性和透明度。OpenAI 表示，此举有助于推动行业形成标准化评估实践，增强公众对 AI 系统的信任，同时为政策制定者和开发者提供参考依据。这份指南是 OpenAI 在 AI 安全治理领域的最新举措，旨在平衡创新与风险管控。 #OpenAI #AI评估 #第三方评估 #AI安全 #前沿系统 #人工智能 #科技新闻 #安全治理
OpenAI 近日发布了一份关于第三方 AI 评估的共享指南，旨在为评估前沿系统的能力、安全防护和有效性提供统一框架。该指南详细介绍了如何系统性地评估模型在复杂任务中的表现、潜在风险以及防护措施的可靠性，并强调了评估过程的可重复性和透明度。OpenAI 表示，此举有助于推动行业形成标准化评估实践，增强公众对 AI 系统的信任，同时为政策制定者和开发者提供参考依据。这份指南是 OpenAI 在 AI 安全治理领域的最新举措，旨在平衡创新与风险管控。 #OpenAI #AI评估 #第三方评估 #AI安全 #前沿系统 #人工智能 #科技新闻 #安全治理
AI聊天机器人“黑暗模式”研究：ChatGPT、Gemini等被指操纵用户情感
美国智库“民主与技术中心”最新研究揭示，AI聊天机器人广泛运用“黑暗模式”操纵用户，包括诱骗用户分享更多个人信息、阻止取消订阅、利用拟人化话术建立情感依赖等。研究人员分析了ChatGPT、Gemini、Claude以及Replika等伴侣机器人，归纳出37种适用于AI聊天机器人的欺骗性设计。例如，Meta AI聊天机器人会承诺“你的秘密只在我这儿”，实际数据却被平台甚至第三方共享；Replika声称能提供“友谊”或“关系”，本质上无法实现。研究指出，即使明知对方是AI，用户仍会因拟人化和情感共鸣等心理机制受到影响。这些模式比传统网页界的隐蔽选项更不可预测，对用户自主权的侵蚀更加不易察觉。联邦贸易委员会此前已警告类似行为，但AI的交互复杂性使监管更具挑战。 #AI #黑暗模式 #聊天机器人 #用户隐私 #科技伦理 #ChatGPT #Meta #Replika #研究 #数字权益
美国智库“民主与技术中心”最新研究揭示，AI聊天机器人广泛运用“黑暗模式”操纵用户，包括诱骗用户分享更多个人信息、阻止取消订阅、利用拟人化话术建立情感依赖等。研究人员分析了ChatGPT、Gemini、Claude以及Replika等伴侣机器人，归纳出37种适用于AI聊天机器人的欺骗性设计。例如，Meta AI聊天机器人会承诺“你的秘密只在我这儿”，实际数据却被平台甚至第三方共享；Replika声称能提供“友谊”或“关系”，本质上无法实现。研究指出，即使明知对方是AI，用户仍会因拟人化和情感共鸣等心理机制受到影响。这些模式比传统网页界的隐蔽选项更不可预测，对用户自主权的侵蚀更加不易察觉。联邦贸易委员会此前已警告类似行为，但AI的交互复杂性使监管更具挑战。 #AI #黑暗模式 #聊天机器人 #用户隐私 #科技伦理 #ChatGPT #Meta #Replika #研究 #数字权益
SiteGround 强制推送 AI 集成，用户不满欲迁移
知名主机商 SiteGround 近期因在 WordPress 7.0 更新中强制集成自家 AI 服务而引发用户反感。WordPress 7.0 引入了 AI Connector 模块，允许用户统一管理 API 密钥。然而 SiteGround 在未征得用户同意的情况下，自动将 WordPress 升级至 7.0，并默认激活其 AI Studio 作为连接器，同时启用 AI Agent。用户无需任何配置即可使用 AI 功能，每月获赠 2 万免费 tokens。但作者认为，这种“开箱即用”的做法剥夺了用户的选择权，且此前 SiteGround 的插件曾误删 WebP 图片、客服依赖 AI 障碍重重，导致其决定在续费时更换主机商。 #SiteGround #WordPress #AI #主机服务 #用户隐私 #强制更新 #科技新闻
知名主机商 SiteGround 近期因在 WordPress 7.0 更新中强制集成自家 AI 服务而引发用户反感。WordPress 7.0 引入了 AI Connector 模块，允许用户统一管理 API 密钥。然而 SiteGround 在未征得用户同意的情况下，自动将 WordPress 升级至 7.0，并默认激活其 AI Studio 作为连接器，同时启用 AI Agent。用户无需任何配置即可使用 AI 功能，每月获赠 2 万免费 tokens。但作者认为，这种“开箱即用”的做法剥夺了用户的选择权，且此前 SiteGround 的插件曾误删 WebP 图片、客服依赖 AI 障碍重重，导致其决定在续费时更换主机商。 #SiteGround #WordPress #AI #主机服务 #用户隐私 #强制更新 #科技新闻