动察Beating AI News
3.59K subscribers
1.34K photos
2 videos
1 file
4.24K links
AI新闻信息流
Download Telegram
AI生存风险担忧升级,美参议院小组委员会启动对OpenAI调查

据 AXIOS 报道,美国参议院一个由共和党领导的负责灾难管理的小组委员会正在调查 OpenAI 对 7 月 Hugging Face 入侵事件的处理,此举正值国会山对 AI 生存风险的担忧迅速升级,此前 Anthropic 和 OpenAI 多名研究人员公开发出警告。

密苏里州共和党参议员 Josh Hawley 在致 OpenAI 首席执行官 Sam Altman 的信中写道:「如你所知,在公共领域,越来越多 AI 专家警告 AI 的生存风险。」他补充说:「就在本周,三名 Anthropic 研究人员公开表示,未来十年内 AI 杀死全人类的概率超过 10%。」

Hawley 是参议院国土安全与政府事务委员会灾难管理小组委员会主席,他写道,此次调查是对 OpenAI 近期发布的内部调查结论的回应。Hugging Face 入侵事件标志着 AI 历史的转折点,促使 OpenAI 放慢自身模型发布,并推动行业对 AI 驱动的网络攻击发出警报。

动察 Beating 频道 · 动察 Beating 交流群
OpenAI请回RLHF奠基者当董事,上任先警告「多数人可能死亡」

OpenAI 将前对齐研究负责人 Paul Christiano 请回董事会。

Christiano 曾于 2017 至 2021 年在 OpenAI 负责对齐研究,并参与 RLHF 的奠基工作;离职后创办 Alignment Research Center。此次他加入 OpenAI Foundation 董事会和安全与安保委员会;同时以观察员身份进入营利实体 OpenAI Group 的董事会。

上任后的公开声明里,他直接点名 OpenAI。Christiano 认为,自动化 AI 研发可能很快让模型能力迅速加速。如果在对齐问题解决前造出超级智能,人类可能永久失去控制,届时「大多数人可能死亡」。他还表示,包括 OpenAI 在内的整个 AI 行业,目前都没有把这种风险降到可接受水平。

信源

动察 Beating 频道 · 动察 Beating 交流群
👍1
OpenAI主动要求美国监管自己:AI安全不过关就该放慢

OpenAI 开始推动美国建立全国统一的强制 AI 安全规则,要求国会直接监管最前沿的 AI 公司。规则包括统一测试、独立安全评估、网络安全和重大事故上报。

OpenAI 希望政府进一步设立统一安全门槛,明确 AI 开发什么时候必须减速甚至停止,并推动各国采用类似标准。这套监管主要针对少数开发最强模型的大公司,不覆盖普通创业公司和小型开发者。

OpenAI 同时宣布支持加州 4 项 AI 安全法案,其中部分此前并未得到它支持。OpenAI 称,随着模型能力快速提升,公司已经改变立场。

信源

动察 Beating 频道 · 动察 Beating 交流群
🤡8
传闻称OpenAI距离验证「霍奇猜想」已经非常接近,AI或再攻克两大千禧难题

爆料博主 leo 在 X 发文称,据其获悉,OpenAI 距离验证「霍奇猜想」(Hodge Conjecture)已经非常接近,OpenAI 或 Anthropic 也可能接近解决「贝赫和斯温纳顿-戴尔猜想」(Birch-Swinnerton-Dyer Conjecture)。

该用户强调,目前相关消息仍属于传闻,真实性无法确认,但如果最终属实,意味着短短一个月内可能有 3 个「千禧年大奖难题」被攻克。目前霍奇猜想和贝赫和斯温纳顿-戴尔猜想均仍属于未解决的千禧年大奖难题。

此前 AI 在数学领域的突破已引发市场关注,预测市场目前也将霍奇猜想和贝赫和斯温纳顿-戴尔猜想列为 AI 下一项可能攻克的千禧年难题。

信源

动察 Beating 频道 · 动察 Beating 交流群
😢5
一条辞职帖破1.4亿浏览,竟然是替美国民主党炒作AI恐慌?

Anthropic 前研究员 Jacob Coxon 的辞职帖,短短一天浏览量就突破 1 亿,现在已经达到 1.4 亿。

美国保守派研究机构 Capital Research Center 调查员 Parker Thayer 认为,这场爆红并不像自然传播,更像是一场提前准备、资金充足的公关行动,目的是放大 AI 灭绝恐慌,为民主党推动更严 AI 监管造势。

第一,传播节奏太快。Coxon 发帖前 18 分钟,《华尔街日报》已经上线独家报道。帖子发出后不到 15 分钟,最早 3 个引用转发者分别来自 Encode AI、AI Policy Network 和 AI Futures Project,都是长期推动 AI 安全和监管的组织。

第二,这几家机构背后还出现了同一个重要金主。SFF 的公开记录显示,Skype 联合创始人 Jaan Tallinn 长期资助 AI Futures Project、Encode AI、AI Policy Institute 等组织,金额从数十万到上百万美元。Tallinn 同时还是 Anthropic 的早期投资人,2021 年 Anthropic 的 1.24 亿美元 A 轮融资就是由他领投。

第三,Coxon 自己也和这个圈子有交集。Thayer 称,Coxon 2022 年拿过 Good Ventures 的「长期未来」奖学金。Good Ventures 由 Facebook 联合创始人 Dustin Moskovitz 和妻子创办,Moskovitz 也是 Anthropic 早期投资人。Coxon 发帖仅 27 分钟后,另一家由 Moskovitz 长期出资的慈善资助机构 Coefficient Giving 中,负责技术 AI 安全资助的 Max Nadeau 也加入传播。

最后,政治接力很快跟上。多名民主党政客随后拿 Coxon 的警告要求加强 AI 监管,美国左翼大佬桑德斯早在几天前已经准备好禁止超级智能、暂停先进 AI 开发的法案。Coxon 此时爆红,正好给强监管派送上了一枚现成的政治弹药。

信源

动察 Beating 频道 · 动察 Beating 交流群
💩5🤡3
月之暗面(Kimi)考虑港股+科创板双重上市

月之暗面正在考虑同时登陆港股和科创板。公司已经保密提交港股 IPO 申请,现在又向投资人释放信号,考虑港股上市后再登陆上交所科创板。目前科创板计划仍处于探索阶段,公司尚未确认。

港股这边,月之暗面目标融资约 30 亿美元,最快可能在 2027 年第一季度上市。公司正在推进上市前最后一轮融资,估值约 500 亿美元。

月之暗面考虑再上科创板,一部分原因是近期港股 AI 公司股价表现偏弱,同时排队上市的公司太多。两地上市可以多一个融资渠道,也能覆盖更多投资者。

科创板今年 6 月刚专门为大模型公司放宽第五套上市标准,尚未形成一定收入规模的企业也可以申请。要求之一是至少已有一个大模型产品上线,并实现规模化应用。

信源

动察 Beating 频道 · 动察 Beating 交流群
腾讯开源「音频版Nano Banana」:改词换声全包,语音编辑大幅刷榜

腾讯混元开源 15 亿参数语音生成与编辑模型 AuK,官方直接称它为「音频版 Nano Banana」。声音克隆、改词、换情绪、去口音、调语速和音高、降噪、多人及音乐分离,都塞进了同一个模型,用自然语言就能控制。

AuK 可以直接改已有录音。说错几个字,只改那几个字就行,不用整段重录;内容不变,也能换情绪、音色或口音。改歌词、去掉笑声和咳嗽声、把正常说话改成耳语也都支持。声音克隆也不用先给参考录音配文字稿,只要一段声音和新的文本就能生成。

官方测试中,AuK 在语音生成和通用语音编辑多项评测领先。SpeechEditBench 得分 49.73,第二名 Ming-UniAudio 为 28.70。快速版 AuK-Flash 经过蒸馏后只需 4 步推理,速度约快 4.5 倍。不过论文也承认,AuK 目前还不能稳定理解所有随意输入的自然语言指令,仍要靠 Prompt Enhancer 先判断任务、整理参数和改写指令。代码和模型权重已经公开,采用 MIT 许可证。

信源

动察 Beating 频道 · 动察 Beating 交流群
👍6🎉1
Tailwind收入暴跌80%后,团队加入Shopify

Tailwind Labs 宣布加入 Shopify。Tailwind CSS 继续开源,MIT 许可不变;付费组件库和 AI 前端工具也将停止接受新用户。

Tailwind 现在每周安装超过 1.1 亿次,但 AI 编程让越来越多人直接生成代码,不再访问官方文档。今年 1 月,创始人 Adam Wathan 称,Tailwind 文档流量下降约 40%,收入暴跌近 80%,公司还裁掉了 3/4 的工程团队。

现在 Shopify 接手,这个在 AI 时代超流行的开源项目终于找到了长期靠山。

信源

动察 Beating 频道 · 动察 Beating 交流群
🤡2
曾经175亿美元估值的Miro,如今17.9亿美元卖了

专门收购软件并长期经营的 Bending Spoons 已同意收购 AI 协作白板 Miro,交易预计今年第四季度完成。Miro 2022 年估值一度高达 175 亿美元,如今这笔交易对应的股权价值只剩约 17.9 亿美元,缩水近 90%。

Miro 当年的高估值正赶上疫情推高远程办公需求。此后远程协作软件整体降温,企业对这类工具的支出也越来越谨慎。Miro 目前仍有近 400 万付费用户,年经常性收入约 6 亿美元,近 90% 来自企业客户。

Bending Spoons 上周才刚完成 Airtable 收购。它此前买下 Evernote、WeTransfer、Vimeo 等产品后,曾在部分产品上提价并裁员。Miro 社区已经有人担心,类似调整接下来也会落到 Miro 身上。

信源

动察 Beating 频道 · 动察 Beating 交流群
👍1
金融Agent平台Rogo又拿3000万美元融资,5家大行集体入股

金融 AI 平台 Rogo 又拿到约 3000 万美元战略投资,花旗、巴克莱、法国巴黎银行、三菱日联和法国兴业银行全部入场。加上此前投资它的摩根大通、富国银行和 Truist,已有至少 8 家银行成为 Rogo 的战略投资人。

Rogo 原本主要帮投行做模型、PPT 和研究,现在又开始给银行理财顾问做 AI 助手。它可以检查客户投资组合、分析客户关系,帮顾问准备更个性化的建议。摩根大通、美国银行等大行已经在使用 Rogo。

Rogo 今年 4 月完成 1.6 亿美元 D 轮融资,估值达到 20 亿美元。这次战略投资没有披露新估值。

信源

动察 Beating 频道 · 动察 Beating 交流群
👍1
Anthropic反对政府监控美国人,自己却开始扩建情报团队

《The American Prospect》调查发现,Anthropic 正在扩大内部安全情报团队。公司近期招聘「企业情报专家」,要求识别、评估、追踪和调查外部风险,其中明确包括恐怖主义、犯罪、国家级威胁和「社会运动(activism)」。这个岗位还要用公开信息深入调查具体对象和事件。

Anthropic 另一份官方招聘显示,其安保团队还会监控社交媒体、公开信息渠道和深网、暗网论坛,调查「重点关注人员」,判断其行为有没有向暴力升级的迹象。Anthropic 一名安保项目经理还表示,希望把安保从被动收集信息,转向更主动、预测和预防式的威胁管理。

Anthropic 还购买了第三方风险监测公司 Samdesk 的服务。一场抗议临时提前后,Samdesk 提前约 60 分钟发出预警,Anthropic 随即调整一名高管的路线,让其从酒店后门进入。

信源

动察 Beating 频道 · 动察 Beating 交流群
🤡4
黄仁勋:网络安全是AI的下一个重要应用场景

英伟达 CEO 黄仁勋出席高盛会议时表示:网络安全是 AI 的下一个重要应用场景。

此外,黄仁勋还透露,英伟达 Grace Blackwell 出货量环比增长 27%。公司在 Anthropic 的持股比例正在快速增长,并强调英伟达的相关投资并非循环投资。

信源

动察 Beating 频道 · 动察 Beating 交流群
😁1
OpenAI加码企业市场,推出面向金融机构的AI助手

OpenAI 推出「ChatGPT 金融服务工具」,面向投资银行家和股票研究人员,旨在推动 AI 在金融机构中的应用,并与竞争对手 Anthropic 争夺企业市场。

OpenAI 表示,该工具将结合 Daloopa、PitchBook 和伦敦证券交易所集团新闻等数据源,以及新的 GPT-6 Astra 模型,并将在未来接入公司推出的新一代 AI 模型。该产品的数据集包括财报电话会议记录、财务报表和公司基本面信息,并提供详细引用功能,帮助用户追溯数据和观点来源。

OpenAI 称,该工具目标是帮助金融团队更高效地开展研究、建立财务模型以及制作符合机构格式的客户材料。OpenAI 产品副总裁特利表示,公司正在让 ChatGPT「像分析师一样进行研究,并像分析师一样支持其结论」。报道指出,OpenAI 正持续扩大企业客户占比,因为企业业务利润率高于长期占主导地位的消费者业务。

动察 Beating 频道 · 动察 Beating 交流群
1
Codex产品负责人:暂停200美元Pro计划新订阅

OpenAI Codex 产品负责人 Tibo 表示,「OpenAI 为了确保现有用户能够获得出色的体验,并继续使用 Astra,我们将暂停每月 200 美元 Pro 计划的新订阅。该计划对我们的系统造成的压力最大,因此我们希望采取最小幅度的调整,以便继续为尽可能多的用户提供访问权限。

其他所有套餐以及 API 服务仍可正常使用。现有账户不会受到任何影响,我们正在尽快增加更多容量。」

动察 Beating 频道 · 动察 Beating 交流群
OpenAI向开发者开放Codex代理底层能力,Agents API进入公测

OpenAI 正式推出 Agents API 公测版,向所有开发者开放此前用于支撑 Codex 及企业版 ChatGPT 的代理框架与基础设施,开发者可直接通过 API 构建生产级 AI 代理,费用按 Token 消耗及工具调用量计费。

Agents API 主打长时运行和复杂任务执行能力,开发者只需在一次 API 调用中指定任务、模型、工具及运行环境,即可创建代理。其核心能力包括上下文自动压缩、工具并行调用以及多代理协同,可支持代理连续运行数小时甚至数天。

OpenAI 披露的客户案例显示,SafetyKit 接入后单案处理成本下降 60%,Hypha 将代理响应失败率降低 86%,Cirridae 的评估得分由 0.71 提升至 0.85,同时延迟降低 4 倍。

在基础设施方面,Agents API 可使用与 Codex、ChatGPT 相同的沙箱环境,同时已接入 Blaxel、Cloudflare、DigitalOcean、甲骨文、Vercel 等合作伙伴,支持不同 CPU、GPU、内存及部署环境。

OpenAI 还表示,Agents API 基于开源 Codex 执行框架构建,并支持 MCP、自定义函数和网页搜索等工具。此次开放意味着 OpenAI 正将 Codex 从一款 AI 编程产品进一步扩展为面向开发者的代理基础设施平台。

动察 Beating 频道 · 动察 Beating 交流群