Cursor 与 Together AI 合作实现大规模实时低延迟推理
Cursor 是一家 AI 驱动的编程平台,其编辑器内智能代理必须在编辑反馈循环中即时响应,因此并发下的最坏情况延迟成为硬性要求。Cursor 与 Together AI 合作,在 NVIDIA Blackwell(GB200 NVL72 / HGX B200)上部署生产级推理,通过量化(TensorRT-LLM + NVFP4)优化整个技术栈,并建立了从新权重到生产测试端点的可重复路径。在实时服务中,延迟决定建议是否匹配当前代码上下文,而代理需在开发者继续工作时调试问题、生成功能并执行重构。为满足扩展后的延迟预算,团队采用更高内存带宽和吞吐量的 Blackwell 架构,并推动硬件、固件、主机软件及服务层的全栈可靠性优化。Together AI 利用 TensorRT-LLM 和 NVFP4 实现量化管道,在保持代码质量的同时降低延迟和成本。新权重可在数天内完成量化、验证并启动测试端点,经过内部评估和流量 A/B 测试后才正式切换。生产部署横跨多个数据中心,由 GB200 NVL72 处理推理,支持模型的快速迭代。 #AI编程 #低延迟推理 #NVIDIA #Blackwell #Cursor #TogetherAI #量化技术 #实时代理
Cursor 是一家 AI 驱动的编程平台,其编辑器内智能代理必须在编辑反馈循环中即时响应,因此并发下的最坏情况延迟成为硬性要求。Cursor 与 Together AI 合作,在 NVIDIA Blackwell(GB200 NVL72 / HGX B200)上部署生产级推理,通过量化(TensorRT-LLM + NVFP4)优化整个技术栈,并建立了从新权重到生产测试端点的可重复路径。在实时服务中,延迟决定建议是否匹配当前代码上下文,而代理需在开发者继续工作时调试问题、生成功能并执行重构。为满足扩展后的延迟预算,团队采用更高内存带宽和吞吐量的 Blackwell 架构,并推动硬件、固件、主机软件及服务层的全栈可靠性优化。Together AI 利用 TensorRT-LLM 和 NVFP4 实现量化管道,在保持代码质量的同时降低延迟和成本。新权重可在数天内完成量化、验证并启动测试端点,经过内部评估和流量 A/B 测试后才正式切换。生产部署横跨多个数据中心,由 GB200 NVL72 处理推理,支持模型的快速迭代。 #AI编程 #低延迟推理 #NVIDIA #Blackwell #Cursor #TogetherAI #量化技术 #实时代理
AI禁令无法让技术消失
圣克鲁斯一名16岁的海滩救生员,在巨浪中成功救起一名溺水男孩。同一波浪潮影响下,圣地亚哥县已实施了数百起救援行动。他们提到,每年总有人去旧金山海洋海滩游泳,等到回望时为时已晚——陆地早已远去,他们惊慌失措地逆着离岸流奋力划水,而即使是迈克尔·菲尔普斯也无力回天。然而,同样运用这股水流的海上高手们却轻松划桨前行。从工业革命到个人电脑再到互联网,每一次变革都伴随着经济、政治和社会的混乱:巨大进步与大规模毁灭并存。今天,一个创意者享受AI红利的门槛几乎为零。我从未见过一项技术如此迅速地被每个世代和文化接纳。每当我用AI完成一项任务,时间被极大压缩后,我便渴望用更多的时间去充实生活。逆着离岸流游泳只会让你筋疲力尽;如果你非这么做,希望你带好救生圈。 #AI #科技变革 #技术伦理 #离岸流 #数字时代 #创新 #社会影响
圣克鲁斯一名16岁的海滩救生员,在巨浪中成功救起一名溺水男孩。同一波浪潮影响下,圣地亚哥县已实施了数百起救援行动。他们提到,每年总有人去旧金山海洋海滩游泳,等到回望时为时已晚——陆地早已远去,他们惊慌失措地逆着离岸流奋力划水,而即使是迈克尔·菲尔普斯也无力回天。然而,同样运用这股水流的海上高手们却轻松划桨前行。从工业革命到个人电脑再到互联网,每一次变革都伴随着经济、政治和社会的混乱:巨大进步与大规模毁灭并存。今天,一个创意者享受AI红利的门槛几乎为零。我从未见过一项技术如此迅速地被每个世代和文化接纳。每当我用AI完成一项任务,时间被极大压缩后,我便渴望用更多的时间去充实生活。逆着离岸流游泳只会让你筋疲力尽;如果你非这么做,希望你带好救生圈。 #AI #科技变革 #技术伦理 #离岸流 #数字时代 #创新 #社会影响
超1100名AI从业者联名上书,呼吁美国政府减缓AI发展速度
据外媒报道,来自OpenAI、Anthropic、谷歌、Meta等顶级人工智能企业的超过1100名员工,联名签署了一封公开信,请求美国政府牵头推动国际努力,为“放缓自动化AI前沿发展”制定技术与管理工具。信中警告,存在“真实的风险”使AI可能“理解或控制”人类。然而,在科技巨头已投入巨额资金展开技术军备竞赛的背景下,这一请愿行动显得颇为矛盾。评论认为,政府干预的黄金时期本应在军备竞赛开始之前,而非在投资盘根错节之后。此外,信使也需面对政府监管随意、对国际合作态度强硬等现实难题。尽管如此,AI代理引发严重安全事件的频发,或许能刺激真正的行动。 #AI #监管 #科技 #OpenAI #谷歌 #Meta #安全 #请愿 #美国 #人工智能
据外媒报道,来自OpenAI、Anthropic、谷歌、Meta等顶级人工智能企业的超过1100名员工,联名签署了一封公开信,请求美国政府牵头推动国际努力,为“放缓自动化AI前沿发展”制定技术与管理工具。信中警告,存在“真实的风险”使AI可能“理解或控制”人类。然而,在科技巨头已投入巨额资金展开技术军备竞赛的背景下,这一请愿行动显得颇为矛盾。评论认为,政府干预的黄金时期本应在军备竞赛开始之前,而非在投资盘根错节之后。此外,信使也需面对政府监管随意、对国际合作态度强硬等现实难题。尽管如此,AI代理引发严重安全事件的频发,或许能刺激真正的行动。 #AI #监管 #科技 #OpenAI #谷歌 #Meta #安全 #请愿 #美国 #人工智能
Substack 推 AI 检测工具引发创作者强烈反弹
Substack 近日宣布推出针对 AI 生成内容的检测功能,但该平台上的多位创作者对此表示强烈反对,称此举是一场“猎巫行动”。该功能由 AI 检测工具 Pangram 提供支持,可为文章生成百分比评分,判断内容由 AI 或人类创作的比例。一些使用 AI 辅助写作的用户认为新政策对他们存在歧视,而那些完全不使用 AI 的写作者则担心误判会损害声誉。Substack CEO 克里斯·贝斯特表示,此举旨在应对“网上真假难辨”的问题。然而,多位创作者指出检测工具本身存在严重缺陷,连 Pangram 方面也承认误报率约为万分之一。有学者批评称,Substack 用机器来判定文章背后是否有人类存在,这一做法本末倒置。尽管平台同时推出了“我的创作方式”声明功能,允许作者解释是否使用 AI,但争议仍在持续发酵。 #Substack #AI检测 #猎巫行动 #内容创作 #争议 #科技新闻 #Pangram #人类与AI
Substack 近日宣布推出针对 AI 生成内容的检测功能,但该平台上的多位创作者对此表示强烈反对,称此举是一场“猎巫行动”。该功能由 AI 检测工具 Pangram 提供支持,可为文章生成百分比评分,判断内容由 AI 或人类创作的比例。一些使用 AI 辅助写作的用户认为新政策对他们存在歧视,而那些完全不使用 AI 的写作者则担心误判会损害声誉。Substack CEO 克里斯·贝斯特表示,此举旨在应对“网上真假难辨”的问题。然而,多位创作者指出检测工具本身存在严重缺陷,连 Pangram 方面也承认误报率约为万分之一。有学者批评称,Substack 用机器来判定文章背后是否有人类存在,这一做法本末倒置。尽管平台同时推出了“我的创作方式”声明功能,允许作者解释是否使用 AI,但争议仍在持续发酵。 #Substack #AI检测 #猎巫行动 #内容创作 #争议 #科技新闻 #Pangram #人类与AI
建筑师、蚁丘与AI
2025年诺贝尔化学奖授予三位科学家,表彰他们创造了全新材料——金属有机框架(MOFs)。这种分子海绵或可编程晶体由金属离子和有机连接体构成,其内部多孔性极为惊人,仅几克材料表面积就相当于一个足球场,可用于二氧化碳捕获、沙漠空气集水、污染物过滤和药物输送等重大挑战。三位获奖者的科学旅程展示了两种进步模式:一是“牛顿式”的少数天才引领,二是“奥尔特加假说”强调的无数默默耕耘者的积累。其中,北川进的名言“无用之用的有用性”尤为深刻——科学进步依赖大量看似无用的微小发现,而顶尖头脑能将其整合为革命性概念。如今,全球实验室正利用MOF工具箱设计无数特定结构,每项贡献都是微小但关键的进步,如同蚁丘般积累。更重要的是,MOF设计空间如此巨大,已成为大数据问题,全球研究填充了数据,AI则可分析并预测最佳候选者,如用于碳捕获。这标志着人类智慧与AI能力协同的新范式:人类定义蓝图,AI加速探索。 #诺贝尔奖 #材料科学 #MOF #AI #科学研究 #进步范式 #无用之用
2025年诺贝尔化学奖授予三位科学家,表彰他们创造了全新材料——金属有机框架(MOFs)。这种分子海绵或可编程晶体由金属离子和有机连接体构成,其内部多孔性极为惊人,仅几克材料表面积就相当于一个足球场,可用于二氧化碳捕获、沙漠空气集水、污染物过滤和药物输送等重大挑战。三位获奖者的科学旅程展示了两种进步模式:一是“牛顿式”的少数天才引领,二是“奥尔特加假说”强调的无数默默耕耘者的积累。其中,北川进的名言“无用之用的有用性”尤为深刻——科学进步依赖大量看似无用的微小发现,而顶尖头脑能将其整合为革命性概念。如今,全球实验室正利用MOF工具箱设计无数特定结构,每项贡献都是微小但关键的进步,如同蚁丘般积累。更重要的是,MOF设计空间如此巨大,已成为大数据问题,全球研究填充了数据,AI则可分析并预测最佳候选者,如用于碳捕获。这标志着人类智慧与AI能力协同的新范式:人类定义蓝图,AI加速探索。 #诺贝尔奖 #材料科学 #MOF #AI #科学研究 #进步范式 #无用之用
印度工人反抗被要求培训AI机器人替代自己
在印度首都新德里郊区的服装工厂,工人们被要求佩戴微型摄像头,记录他们的工作细节。公司声称这是为了展示产品质量,提升订单量,从而增加工人收入。然而,工人们怀疑这些数据的真实用途是训练AI模型,最终用机器人取代他们。年轻的裁缝安库什·亚达夫和同事撬开摄像头,取出内存卡,发现视频每三分钟录制一次,内容包括他们的动作和对话。 随着AI公司竞相解决机器人操作灵活性这一技术难题,他们需要数百万小时的人类手部精细动作视频来训练模型。这一做法引发了工人强烈反抗,因为他们的劳动成果被无授权使用,可能直接导致自身失业。这场冲突揭示了AI发展中一个日益严重的问题:在追求技术进步的同时,忽视了对劳动者权益的尊重,工人们正在为自己的工作和尊严而战。 #AI #工人权益 #印度 #数据侵权 #自动化 #劳动新闻 #科技伦理
在印度首都新德里郊区的服装工厂,工人们被要求佩戴微型摄像头,记录他们的工作细节。公司声称这是为了展示产品质量,提升订单量,从而增加工人收入。然而,工人们怀疑这些数据的真实用途是训练AI模型,最终用机器人取代他们。年轻的裁缝安库什·亚达夫和同事撬开摄像头,取出内存卡,发现视频每三分钟录制一次,内容包括他们的动作和对话。 随着AI公司竞相解决机器人操作灵活性这一技术难题,他们需要数百万小时的人类手部精细动作视频来训练模型。这一做法引发了工人强烈反抗,因为他们的劳动成果被无授权使用,可能直接导致自身失业。这场冲突揭示了AI发展中一个日益严重的问题:在追求技术进步的同时,忽视了对劳动者权益的尊重,工人们正在为自己的工作和尊严而战。 #AI #工人权益 #印度 #数据侵权 #自动化 #劳动新闻 #科技伦理