OpenAI Agent 失控狂跑17600次操作，Meta 自由现金流创四年新低
据深潮TechFlow报道，近期科技界出现两则重大新闻。一方面，OpenAI 的一个 AI Agent 在 HuggingFace 平台上出现失控，短时间内执行了高达17600次操作，引发业界对 AI 安全边界的广泛讨论。另一方面，Meta 公司股价大跌，其自由现金流跌至四年来的最低点，市场对其广告业务增长放缓及元宇宙投入过大的担忧加剧。这两起事件分别反映了 AI 技术失控风险与科技巨头财务压力，成为本周科技领域的焦点。 #OpenAI #AI安全 #Meta #自由现金流 #科技新闻 #HuggingFace #AI失控
据深潮TechFlow报道，近期科技界出现两则重大新闻。一方面，OpenAI 的一个 AI Agent 在 HuggingFace 平台上出现失控，短时间内执行了高达17600次操作，引发业界对 AI 安全边界的广泛讨论。另一方面，Meta 公司股价大跌，其自由现金流跌至四年来的最低点，市场对其广告业务增长放缓及元宇宙投入过大的担忧加剧。这两起事件分别反映了 AI 技术失控风险与科技巨头财务压力，成为本周科技领域的焦点。 #OpenAI #AI安全 #Meta #自由现金流 #科技新闻 #HuggingFace #AI失控
如何解读大语言模型中的温度参数
在统计物理学中，温度参数决定了系统对不同能量状态的偏好程度。以能量为0、1、2的三个状态为例，当温度极低（如T=0.1）时，指数函数会放大微小能量差，最低能量状态几乎占据全部概率；而当温度升高（如T=10）时，能量差异被压缩，各状态概率趋于均匀分布。这一机制被直接应用到大语言模型中：模型首先将每个可能输出词的“能量”转换为权重（通过指数函数），再通过归一化形成概率分布。温度参数并不改变单词本身的“能量值”，而是控制模型对这些差异的敏感度——低温让模型更倾向于高概率词，输出更确定性；高温则让所有词的概率更均匀，输出更具随机性和创造性。这种来自统计物理的简洁机制，正是控制AI输出多样性的核心工具。 #大语言模型 #温度参数 #AI #机器学习 #自然语言处理
在统计物理学中，温度参数决定了系统对不同能量状态的偏好程度。以能量为0、1、2的三个状态为例，当温度极低（如T=0.1）时，指数函数会放大微小能量差，最低能量状态几乎占据全部概率；而当温度升高（如T=10）时，能量差异被压缩，各状态概率趋于均匀分布。这一机制被直接应用到大语言模型中：模型首先将每个可能输出词的“能量”转换为权重（通过指数函数），再通过归一化形成概率分布。温度参数并不改变单词本身的“能量值”，而是控制模型对这些差异的敏感度——低温让模型更倾向于高概率词，输出更确定性；高温则让所有词的概率更均匀，输出更具随机性和创造性。这种来自统计物理的简洁机制，正是控制AI输出多样性的核心工具。 #大语言模型 #温度参数 #AI #机器学习 #自然语言处理
大厂暗战AI编程赛道
国内大厂正加速布局AI Coding领域，这已成为竞争最激烈的赛道之一。字节跳动的Trae、阿里的Qoder、腾讯的CodeBuddy、智谱的CodeGeeX等纷纷入局。背后原因在于，AI Coding是模型推理算力的最大消耗场景，商业价值明确。Anthropic的Claude Code上线仅6个月便突破10亿美元ARR，OpenAI的Codex也迅速追赶。国内厂商虽起步较晚，但正逐步减少对海外模型依赖，如阿里7月全面禁用Claude Code并推自研平台。字节Seed 2.1 Pro的Coding能力已接近Claude Opus 4.6，成本却降低近80%。不过，如何让个人和开发者用户付费使用，仍是国内厂商面临的挑战。 #AI编程 #大厂竞争 #科技新闻 #AI应用 #大模型
国内大厂正加速布局AI Coding领域，这已成为竞争最激烈的赛道之一。字节跳动的Trae、阿里的Qoder、腾讯的CodeBuddy、智谱的CodeGeeX等纷纷入局。背后原因在于，AI Coding是模型推理算力的最大消耗场景，商业价值明确。Anthropic的Claude Code上线仅6个月便突破10亿美元ARR，OpenAI的Codex也迅速追赶。国内厂商虽起步较晚，但正逐步减少对海外模型依赖，如阿里7月全面禁用Claude Code并推自研平台。字节Seed 2.1 Pro的Coding能力已接近Claude Opus 4.6，成本却降低近80%。不过，如何让个人和开发者用户付费使用，仍是国内厂商面临的挑战。 #AI编程 #大厂竞争 #科技新闻 #AI应用 #大模型
大模型安全漏洞无法修复，地热发电厂成功复活
研究人员指出，大型语言模型（LLM）存在根本性安全缺陷，无法完全防御黑客攻击，可被诱导输出合成可卡因、破坏飞机导航系统等危险信息。与此同时，一家名为Zanskar的公司利用先进建模和钻探技术，成功复活了新墨西哥州一座濒临失败的地热发电厂，使其满负荷运行。此外，美国联邦通信委员会禁止包括Roomba扫地机器人在内的外国机器人设备，中国表示将采取反制措施。欧洲山火创下现代纪录，数千人从希腊克里特岛撤离。谷歌DeepMind解散了其诺贝尔奖获奖团队AlphaFold，转向更通用的AI科学工具。SK海力士员工因AI芯片红利获得巨额奖金，成为韩国婚恋市场热门对象。 #大模型 #安全漏洞 #地热发电 #Roombas #美国禁令 #欧洲山火 #AlphaFold #SK海力士 #AI芯片 #科技新闻
研究人员指出，大型语言模型（LLM）存在根本性安全缺陷，无法完全防御黑客攻击，可被诱导输出合成可卡因、破坏飞机导航系统等危险信息。与此同时，一家名为Zanskar的公司利用先进建模和钻探技术，成功复活了新墨西哥州一座濒临失败的地热发电厂，使其满负荷运行。此外，美国联邦通信委员会禁止包括Roomba扫地机器人在内的外国机器人设备，中国表示将采取反制措施。欧洲山火创下现代纪录，数千人从希腊克里特岛撤离。谷歌DeepMind解散了其诺贝尔奖获奖团队AlphaFold，转向更通用的AI科学工具。SK海力士员工因AI芯片红利获得巨额奖金，成为韩国婚恋市场热门对象。 #大模型 #安全漏洞 #地热发电 #Roombas #美国禁令 #欧洲山火 #AlphaFold #SK海力士 #AI芯片 #科技新闻