TIDE 提出高效无损失 MoE 扩散 LLM 推理系统
扩散大语言模型(dLLM)凭借并行块级解码和双向上下文能力,成为自回归模型的强劲对手。然而,当 dLLM 采用混合专家(MoE)架构扩展时,在资源受限设备上的部署面临 I/O 开销和计算瓶颈。研究人员提出 TIDE,一种新型高效推理系统,利用扩散过程中专家激活的时序稳定性,采用基于间隔的专家刷新策略,以 I/O 感知方式更新专家放置。系统将推理调度建模为数学规划问题,求解最优间隔以最小化 I/O 流量和 CPU 计算。TIDE 无需模型训练即可实现无损失加速,在单 GPU-CPU 系统上,对 LLaDA2.0-mini 和 LLaDA2.0-flash 模型的吞吐量分别提升至基线方法的 1.4 倍和 1.5 倍。 #AI #大模型 #MoE #扩散模型 #推理优化 #学术研究
扩散大语言模型(dLLM)凭借并行块级解码和双向上下文能力,成为自回归模型的强劲对手。然而,当 dLLM 采用混合专家(MoE)架构扩展时,在资源受限设备上的部署面临 I/O 开销和计算瓶颈。研究人员提出 TIDE,一种新型高效推理系统,利用扩散过程中专家激活的时序稳定性,采用基于间隔的专家刷新策略,以 I/O 感知方式更新专家放置。系统将推理调度建模为数学规划问题,求解最优间隔以最小化 I/O 流量和 CPU 计算。TIDE 无需模型训练即可实现无损失加速,在单 GPU-CPU 系统上,对 LLaDA2.0-mini 和 LLaDA2.0-flash 模型的吞吐量分别提升至基线方法的 1.4 倍和 1.5 倍。 #AI #大模型 #MoE #扩散模型 #推理优化 #学术研究
德国法院裁定谷歌应对AI概览错误信息承担责任
德国慕尼黑地方法院作出裁决,认定谷歌对其AI搜索概览中的错误内容承担直接责任。此前保护搜索引擎运营商免于责任的判例法不适用于AI概览。法院针对谷歌AI概览错误指控两家慕尼黑出版商参与诈骗和订阅陷阱等不实信息,发布临时禁令。法院认为,AI概览是谷歌“自己的内容”,而非简单搜索结果列表,因为AI用自己的语言重写并判断结果,甚至编造出链接来源中不存在的关联。谷歌以用户可自行验证为由抗辩,但法院驳回此说法,指出AI概览并非使用互联网的必要功能,且只有谷歌才能检查其AI的陈述。此案为AI时代搜索引擎的责任边界树立了重要先例。 #德国法院 #谷歌 #AI概览 #责任认定 #误导信息 #法律裁决 #搜索引擎 #AI监管
德国慕尼黑地方法院作出裁决,认定谷歌对其AI搜索概览中的错误内容承担直接责任。此前保护搜索引擎运营商免于责任的判例法不适用于AI概览。法院针对谷歌AI概览错误指控两家慕尼黑出版商参与诈骗和订阅陷阱等不实信息,发布临时禁令。法院认为,AI概览是谷歌“自己的内容”,而非简单搜索结果列表,因为AI用自己的语言重写并判断结果,甚至编造出链接来源中不存在的关联。谷歌以用户可自行验证为由抗辩,但法院驳回此说法,指出AI概览并非使用互联网的必要功能,且只有谷歌才能检查其AI的陈述。此案为AI时代搜索引擎的责任边界树立了重要先例。 #德国法院 #谷歌 #AI概览 #责任认定 #误导信息 #法律裁决 #搜索引擎 #AI监管
估算自主AI软件工程师的生产力
六个月前,所有CTO担心团队使用的token不够多;如今,token用量与AI支出飙升,工程领导者开始衡量实际产出,因为并非每个token都创造价值。针对大规模组织,手动评估数千会话和数十亿token的价值几乎不可能。为此,Cognition公司开发了自动化系统,专门估算其AI编程助手Devin每次会话所节省的工程工时。团队训练了一个模型,通过回顾已完成会话,先分类是否产出有用结果,再估算人类工程师完成相同工作所需时间。经调优后,模型相关系数达0.74且无偏,虽单次预测不完美,但足以用于加总估算,并可结合工程师薪资换算为美元价值。系统已与客户运行,据称是首个在生产环境中自动衡量AI工程生产力的系统。选择“人力工程工时”作为指标,是因为它标准化、跨组织通用,且能直接对应薪资成本,避免了直接衡量商业价值或原始活动(如代码行数)的难题。通过用户评审收集了来自126位用户的258个会话作为基准数据集进行验证。 #AI #生产力 #工程 #自动化 #Devin #Cognition #指标 #工时 #科技
六个月前,所有CTO担心团队使用的token不够多;如今,token用量与AI支出飙升,工程领导者开始衡量实际产出,因为并非每个token都创造价值。针对大规模组织,手动评估数千会话和数十亿token的价值几乎不可能。为此,Cognition公司开发了自动化系统,专门估算其AI编程助手Devin每次会话所节省的工程工时。团队训练了一个模型,通过回顾已完成会话,先分类是否产出有用结果,再估算人类工程师完成相同工作所需时间。经调优后,模型相关系数达0.74且无偏,虽单次预测不完美,但足以用于加总估算,并可结合工程师薪资换算为美元价值。系统已与客户运行,据称是首个在生产环境中自动衡量AI工程生产力的系统。选择“人力工程工时”作为指标,是因为它标准化、跨组织通用,且能直接对应薪资成本,避免了直接衡量商业价值或原始活动(如代码行数)的难题。通过用户评审收集了来自126位用户的258个会话作为基准数据集进行验证。 #AI #生产力 #工程 #自动化 #Devin #Cognition #指标 #工时 #科技
Rich Sutton 谈 AI 创造力与发现
强化学习先驱 Richard Sutton 在一段视频演讲中提出颇具争议的观点:当前基于监督学习的生成式 AI 本质上无法做出真正新颖的发现。他以经典笑话类比——AI 的输出要么新颖但不优秀,要么优秀但不新颖。Sutton 指出,生成式 AI(包括大语言模型、图像视频模型等)通过大量示例训练,能生成类似人类或自然的文本、图像,但无法同时兼顾创新与质量。当用户要求事实性答案时,AI 的“新颖”即幻觉,不受欢迎;而在虚构创作中,AI 的随机性虽能产生新颖内容,却无法保证质量源于真实数据。Sutton 强调,这种“非此即彼”的局限源于生成式 AI 的随机性与数据依赖性,使其无法像人类科学家那样在探索中实现真正的突破性发现。 #AI #生成式AI #创造力 #强化学习 #RichardSutton #科技 #人工智能
强化学习先驱 Richard Sutton 在一段视频演讲中提出颇具争议的观点:当前基于监督学习的生成式 AI 本质上无法做出真正新颖的发现。他以经典笑话类比——AI 的输出要么新颖但不优秀,要么优秀但不新颖。Sutton 指出,生成式 AI(包括大语言模型、图像视频模型等)通过大量示例训练,能生成类似人类或自然的文本、图像,但无法同时兼顾创新与质量。当用户要求事实性答案时,AI 的“新颖”即幻觉,不受欢迎;而在虚构创作中,AI 的随机性虽能产生新颖内容,却无法保证质量源于真实数据。Sutton 强调,这种“非此即彼”的局限源于生成式 AI 的随机性与数据依赖性,使其无法像人类科学家那样在探索中实现真正的突破性发现。 #AI #生成式AI #创造力 #强化学习 #RichardSutton #科技 #人工智能
明略科技发布“模型—平台—硬件”三级Agentic AI产品矩阵
2026年,明略科技在Agentic AI领域密集布局,构建了“端侧模型—Agent协作平台—AI硬件”三级产品矩阵。公司开源了端侧GUI-VLA智能体模型Mano-P,其72B版本在OSWorld基准测试中成功率全球第一;推出磁吸卡片形态AI录音硬件Octic,支持本地数据处理与实时会议辅助;多Agent开源协作平台Octo已在内部1400名员工中部署,超2900个AI Agent高效运行。财务方面,明略科技2025年实现扭亏为盈,经调整净利润4204万元,毛利率提升至55.4%,新业务“Agentic Services”贡献收入超1亿元。公司内部全链路AI改造使社媒分析人效提升20倍,并于2026年6月纳入港股通,月内股价涨幅超40%。机构认为,明略科技验证了Agentic AI的商业闭环,成为港股唯一具备完整技术栈的AI公司。 #明略科技 #AgenticAI #开源模型 #AI硬件 #港股通 #扭亏为盈 #数据智能
2026年,明略科技在Agentic AI领域密集布局,构建了“端侧模型—Agent协作平台—AI硬件”三级产品矩阵。公司开源了端侧GUI-VLA智能体模型Mano-P,其72B版本在OSWorld基准测试中成功率全球第一;推出磁吸卡片形态AI录音硬件Octic,支持本地数据处理与实时会议辅助;多Agent开源协作平台Octo已在内部1400名员工中部署,超2900个AI Agent高效运行。财务方面,明略科技2025年实现扭亏为盈,经调整净利润4204万元,毛利率提升至55.4%,新业务“Agentic Services”贡献收入超1亿元。公司内部全链路AI改造使社媒分析人效提升20倍,并于2026年6月纳入港股通,月内股价涨幅超40%。机构认为,明略科技验证了Agentic AI的商业闭环,成为港股唯一具备完整技术栈的AI公司。 #明略科技 #AgenticAI #开源模型 #AI硬件 #港股通 #扭亏为盈 #数据智能
实测扣子3.0:多Agent协作让AI真正“搭班干活”
近日,字节跳动旗下AI平台扣子发布3.0版本,核心更新是支持将多个不同AI Agent拉入同一项目空间协作。实测显示,用户可将Claude Code、Codex等本地或云端Agent加入项目,通过群聊式交互分配任务。例如,搭建AI科普账号时,主Agent自动拆解需求为调研、选题、内容三个阶段,分派给不同Agent执行,最终产出完整方案;规划团建行程时,Agent先确认关键信息,再并行完成酒店、机票和行程规划,并自动汇总对比方案。此外,扣子3.0还支持生成AI漫剧,Agent能主动分析剧本、分配角色资源、写入分镜并配乐。专家技能包和多端协同功能进一步提升了实用性。这一更新将人从繁琐的上下文搬运和任务转派中解放出来,让AI真正成为协作伙伴,而非被动工具。 #扣子3.0 #AI协作 #多Agent #字节跳动 #人工智能 #科技新闻
近日,字节跳动旗下AI平台扣子发布3.0版本,核心更新是支持将多个不同AI Agent拉入同一项目空间协作。实测显示,用户可将Claude Code、Codex等本地或云端Agent加入项目,通过群聊式交互分配任务。例如,搭建AI科普账号时,主Agent自动拆解需求为调研、选题、内容三个阶段,分派给不同Agent执行,最终产出完整方案;规划团建行程时,Agent先确认关键信息,再并行完成酒店、机票和行程规划,并自动汇总对比方案。此外,扣子3.0还支持生成AI漫剧,Agent能主动分析剧本、分配角色资源、写入分镜并配乐。专家技能包和多端协同功能进一步提升了实用性。这一更新将人从繁琐的上下文搬运和任务转派中解放出来,让AI真正成为协作伙伴,而非被动工具。 #扣子3.0 #AI协作 #多Agent #字节跳动 #人工智能 #科技新闻
Rubrik 推出 Agent Cloud,为 Anthropic Claude 代理提供安全防护
数据安全公司 Rubrik 在“Rubrik Forward”大会上正式发布面向 Anthropic Claude Code 和 Claude Cowork 的 Agent Cloud 安全平台,同步推出多项 AI 代理安全与恢复新能力。随着 AI 代理加速进入企业开发运营,安全治理与事后恢复成为关注重点。Rubrik CEO Bipul Sinha 指出,AI 代理可能被外部攻击利用,也可能在内部部署中引发风险,企业需具备代理遭入侵后的恢复能力。Agent Cloud 包含四项核心能力:语义 AI 治理引擎 SAGE 基于意图实时管控代理行为;Agent Inventory 盘点已部署代理并识别风险等级;Agent Rewind 支持回滚异常操作;Codebase Resilience 通过不可篡改快照保障代码库恢复。Rubrik 还宣布与 Cognizant、Deloitte 等六家全球系统集成商合作。其调查显示,86% 的网络安全负责人预计 AI 代理将在一年内突破安全护栏,88% 担心代理威胁增加将加大恢复难度。 #Rubrik #AgentCloud #AI安全 #Anthropic #Claude #网络安全 #数据恢复 #企业级AI
数据安全公司 Rubrik 在“Rubrik Forward”大会上正式发布面向 Anthropic Claude Code 和 Claude Cowork 的 Agent Cloud 安全平台,同步推出多项 AI 代理安全与恢复新能力。随着 AI 代理加速进入企业开发运营,安全治理与事后恢复成为关注重点。Rubrik CEO Bipul Sinha 指出,AI 代理可能被外部攻击利用,也可能在内部部署中引发风险,企业需具备代理遭入侵后的恢复能力。Agent Cloud 包含四项核心能力:语义 AI 治理引擎 SAGE 基于意图实时管控代理行为;Agent Inventory 盘点已部署代理并识别风险等级;Agent Rewind 支持回滚异常操作;Codebase Resilience 通过不可篡改快照保障代码库恢复。Rubrik 还宣布与 Cognizant、Deloitte 等六家全球系统集成商合作。其调查显示,86% 的网络安全负责人预计 AI 代理将在一年内突破安全护栏,88% 担心代理威胁增加将加大恢复难度。 #Rubrik #AgentCloud #AI安全 #Anthropic #Claude #网络安全 #数据恢复 #企业级AI
RKSC 论文提出多步推理大模型加速新方法
arXiv 上近日发布了一篇题为《RKSC: Reasoning-Aware KV Cache Sharing and Confident Early Exit for Multi-Step LLM Inference》的论文。该研究由 Anirudh Sekar 完成,针对大语言模型在多步推理任务中计算开销大的问题,提出了两种关键技术:推理感知的 KV 缓存共享机制,以及基于置信度的提前退出策略。前者通过智能共享中间层的键值缓存,减少重复计算;后者则允许模型在推理过程中置信度足够高时提前终止,从而显著降低推理时延和计算资源消耗。该方法有望在保持模型推理准确性的前提下,大幅提升 LLM 在复杂多步推理任务中的效率,为实际部署提供新的优化思路。 #LLM #多步推理 #KV缓存 #提前退出 #模型加速 #AI研究 #论文
arXiv 上近日发布了一篇题为《RKSC: Reasoning-Aware KV Cache Sharing and Confident Early Exit for Multi-Step LLM Inference》的论文。该研究由 Anirudh Sekar 完成,针对大语言模型在多步推理任务中计算开销大的问题,提出了两种关键技术:推理感知的 KV 缓存共享机制,以及基于置信度的提前退出策略。前者通过智能共享中间层的键值缓存,减少重复计算;后者则允许模型在推理过程中置信度足够高时提前终止,从而显著降低推理时延和计算资源消耗。该方法有望在保持模型推理准确性的前提下,大幅提升 LLM 在复杂多步推理任务中的效率,为实际部署提供新的优化思路。 #LLM #多步推理 #KV缓存 #提前退出 #模型加速 #AI研究 #论文
SFT后强化学习失效
一项来自arXiv的新研究揭示了AI模型训练中的一个关键问题:在监督微调(SFT)之后,强化学习(RL)阶段常常失效。研究人员发现,SFT过程会显著降低模型的可塑性,使其难以通过后续的RL进行有效优化。为解决这一问题,论文提出了一种名为“可塑性恢复”的新方法,通过引入特定的正则化技术和动态调整学习策略,在SFT与RL之间建立更稳健的过渡机制。实验表明,该方法能有效恢复模型在RL阶段的适应能力,显著提升最终性能。这一发现对当前大语言模型的两阶段训练范式具有重要指导意义,有助于优化从SFT到RL的衔接流程,提升模型训练的整体效率和效果。 #AI #机器学习 #强化学习 #模型训练 #arXiv #大语言模型 #SFT
一项来自arXiv的新研究揭示了AI模型训练中的一个关键问题:在监督微调(SFT)之后,强化学习(RL)阶段常常失效。研究人员发现,SFT过程会显著降低模型的可塑性,使其难以通过后续的RL进行有效优化。为解决这一问题,论文提出了一种名为“可塑性恢复”的新方法,通过引入特定的正则化技术和动态调整学习策略,在SFT与RL之间建立更稳健的过渡机制。实验表明,该方法能有效恢复模型在RL阶段的适应能力,显著提升最终性能。这一发现对当前大语言模型的两阶段训练范式具有重要指导意义,有助于优化从SFT到RL的衔接流程,提升模型训练的整体效率和效果。 #AI #机器学习 #强化学习 #模型训练 #arXiv #大语言模型 #SFT