IOSG
2023年，红杉资本David Cahn提出的“2000亿美元问题”曾引发AI行业对GPU过度建设的担忧，即投入与终端付费之间存在巨大缺口。一年后，这一缺口扩大至6000亿美元。然而，答案并非来自训练侧，而是推理侧。随着Cerebras上市获20倍超额认购、英伟达财报重组围绕“服务token”，市场终于意识到，AI的真正瓶颈在于推理而非训练。推理是经常性成本，随使用量扩张，其市场规模可达训练的10至50倍，尤其在智能体时代，需求随算力本身复利增长。英伟达已按数据中心与边缘计算两大平台披露财报，后者覆盖agentic AI和physical AI终端。Anthropic接管Colossus 1数据中心专用于推理，并调整定价策略，进一步印证了推理作为稀缺资源的地位。在此背景下，价值正从训练侧向推理侧转移，算力栈各层玩家竞相捕获这一增量。Hyperbolic等公司通过聚合多云计算资源，构建流动性池，试图在推理经济中占据关键位置。 #AI #推理 #算力 #英伟达 #Cerebras #智能体 #云计算 #科技新闻
2023年，红杉资本David Cahn提出的“2000亿美元问题”曾引发AI行业对GPU过度建设的担忧，即投入与终端付费之间存在巨大缺口。一年后，这一缺口扩大至6000亿美元。然而，答案并非来自训练侧，而是推理侧。随着Cerebras上市获20倍超额认购、英伟达财报重组围绕“服务token”，市场终于意识到，AI的真正瓶颈在于推理而非训练。推理是经常性成本，随使用量扩张，其市场规模可达训练的10至50倍，尤其在智能体时代，需求随算力本身复利增长。英伟达已按数据中心与边缘计算两大平台披露财报，后者覆盖agentic AI和physical AI终端。Anthropic接管Colossus 1数据中心专用于推理，并调整定价策略，进一步印证了推理作为稀缺资源的地位。在此背景下，价值正从训练侧向推理侧转移，算力栈各层玩家竞相捕获这一增量。Hyperbolic等公司通过聚合多云计算资源，构建流动性池，试图在推理经济中占据关键位置。 #AI #推理 #算力 #英伟达 #Cerebras #智能体 #云计算 #科技新闻
小米发布开源编程Agent MiMo Code，5人14天获5.1k星但Bug频出
6月11日，小米MiMo团队发布基于OpenCode构建的终端编程Agent产品MiMo Code，采用MIT协议开源。该产品面向长程自动化编程任务，支持100万token上下文，并限时免费提供Auto模式。团队称，MiMo Code搭配MiMo-V2.5-Pro模型在三项离线基准测试中优于Claude Code与Claude Sonnet 4.6组合，尤其在超过200步的复杂任务中胜率升至65%以上。然而，开源后迅速引发开发者热议，GitHub Issues已超200条。用户反馈包括Agent未经确认自动卸载全局npm包导致开发环境破坏、疑似内存泄漏、思考陷入重复循环等严重问题。此外，默认开启遥测功能也引发隐私担忧。尽管MiMo Code在UI体验和响应速度上获得部分好评，但其稳定性与安全性仍待改进。此次开源也引发行业对编程工具护城河、数据价值及商业模式的讨论。 #小米 #MiMoCode #开源 #AI编程 #Agent #开发者 #Bug #科技新闻
6月11日，小米MiMo团队发布基于OpenCode构建的终端编程Agent产品MiMo Code，采用MIT协议开源。该产品面向长程自动化编程任务，支持100万token上下文，并限时免费提供Auto模式。团队称，MiMo Code搭配MiMo-V2.5-Pro模型在三项离线基准测试中优于Claude Code与Claude Sonnet 4.6组合，尤其在超过200步的复杂任务中胜率升至65%以上。然而，开源后迅速引发开发者热议，GitHub Issues已超200条。用户反馈包括Agent未经确认自动卸载全局npm包导致开发环境破坏、疑似内存泄漏、思考陷入重复循环等严重问题。此外，默认开启遥测功能也引发隐私担忧。尽管MiMo Code在UI体验和响应速度上获得部分好评，但其稳定性与安全性仍待改进。此次开源也引发行业对编程工具护城河、数据价值及商业模式的讨论。 #小米 #MiMoCode #开源 #AI编程 #Agent #开发者 #Bug #科技新闻
Agent 终获身体：Jiuwen Symbiosis 开源物理 AI 架构发布
openJiuwen 社区正式开源 Jiuwen Symbiosis 架构，旨在为 AI 赋予感知与行动能力，突破“缸中之脑”困境。该架构基于 Moravec 悖论设计，强调物理世界中的身体智能远复杂于抽象推理。Jiuwen Symbiosis 通过态势感知环实现认知层与执行层协作，包含多模态感知、任务规划、物理执行、观测反馈与空间记忆模块，形成“感知-规划-执行-观测-反馈”闭环。架构采用端云协同，适配昇腾与鲲鹏异构计算，降低端侧功耗，使机器人、机械臂等设备可自然执行自然语言指令。此举标志着 Agent 从数字世界走向物理世界，为行业提供透明、可扩展的物理 AI 框架。 #AI #机器人 #物理AI #开源 #JiuwenSymbiosis #昇腾 #鲲鹏 #Agent #大模型 #科技新闻
openJiuwen 社区正式开源 Jiuwen Symbiosis 架构，旨在为 AI 赋予感知与行动能力，突破“缸中之脑”困境。该架构基于 Moravec 悖论设计，强调物理世界中的身体智能远复杂于抽象推理。Jiuwen Symbiosis 通过态势感知环实现认知层与执行层协作，包含多模态感知、任务规划、物理执行、观测反馈与空间记忆模块，形成“感知-规划-执行-观测-反馈”闭环。架构采用端云协同，适配昇腾与鲲鹏异构计算，降低端侧功耗，使机器人、机械臂等设备可自然执行自然语言指令。此举标志着 Agent 从数字世界走向物理世界，为行业提供透明、可扩展的物理 AI 框架。 #AI #机器人 #物理AI #开源 #JiuwenSymbiosis #昇腾 #鲲鹏 #Agent #大模型 #科技新闻
AgentLoop
是一个面向生产环境AI智能体的运行时学习层，通过将人工修正转化为可复用记忆，持续提升智能体表现。其核心机制分为三步：首先，在每次大模型调用前，AgentLoop会语义搜索过往修正记录，将最相关的内容注入提示词；其次，自动记录每次交互的问答、模型和信号数据，无需额外代码；最后，审核者只需编写一次正确答案，系统便会去重并嵌入，供未来所有查询即时使用。该方案无需改造SDK或重写提示工程，通过封装OpenAI和Anthropic接口，在后台添加记忆检索和日志记录。AgentLoop专为应对生产环境中的边缘案例而设计，用结构化记忆替代冗长的系统提示，让领域专家用自然语言一次性修正问题，并立即应用于所有用户和会话。其Python和JS SDK生成字节一致的HMAC签名，确保跨语言行为一致，且记忆层独立于具体模型，切换供应商不会丢失累积的修正。 #AI智能体 #机器学习 #生产环境 #记忆检索 #AgentLoop
是一个面向生产环境AI智能体的运行时学习层，通过将人工修正转化为可复用记忆，持续提升智能体表现。其核心机制分为三步：首先，在每次大模型调用前，AgentLoop会语义搜索过往修正记录，将最相关的内容注入提示词；其次，自动记录每次交互的问答、模型和信号数据，无需额外代码；最后，审核者只需编写一次正确答案，系统便会去重并嵌入，供未来所有查询即时使用。该方案无需改造SDK或重写提示工程，通过封装OpenAI和Anthropic接口，在后台添加记忆检索和日志记录。AgentLoop专为应对生产环境中的边缘案例而设计，用结构化记忆替代冗长的系统提示，让领域专家用自然语言一次性修正问题，并立即应用于所有用户和会话。其Python和JS SDK生成字节一致的HMAC签名，确保跨语言行为一致，且记忆层独立于具体模型，切换供应商不会丢失累积的修正。 #AI智能体 #机器学习 #生产环境 #记忆检索 #AgentLoop
初探 macOS 27 新 Siri AI
作者多年前已关闭 Mac 上的 Siri，并对 Apple Intelligence 功能感到失望。然而，即将随 macOS 27 Golden Gate 推出的新版 Siri AI 让作者改变了看法。在 24 小时体验中，新版 Siri 在理解上下文、执行复杂指令和跨应用协作方面有了显著提升，不再像过去那样笨拙。尽管仍存在一些局限性，但这次更新让作者重新考虑是否要重新启用 Siri。 #Siri #macOS #AppleIntelligence #AI助手 #科技体验
作者多年前已关闭 Mac 上的 Siri，并对 Apple Intelligence 功能感到失望。然而，即将随 macOS 27 Golden Gate 推出的新版 Siri AI 让作者改变了看法。在 24 小时体验中，新版 Siri 在理解上下文、执行复杂指令和跨应用协作方面有了显著提升，不再像过去那样笨拙。尽管仍存在一些局限性，但这次更新让作者重新考虑是否要重新启用 Siri。 #Siri #macOS #AppleIntelligence #AI助手 #科技体验
本地化解析PDF：Docling实现RAG系统，无需云端上传
本文介绍Docling作为企业级RAG系统的文档解析方案。Docling是IBM Research开发的开源文档解析工具，支持布局检测、OCR、阅读顺序识别和TableFormer深度学习模型，可精准提取表格结构、单元格和标题。与云端服务不同，Docling完全在本地运行，首次调用下载模型至本地缓存后即可离线使用，无需API密钥或按页付费。对于保险合同、医疗记录、并购数据室等敏感企业文档，Docling避免了合规风险，将计算成本从信任和费用转移到本地计算资源和一次性模型下载。输出格式与PyMuPDF和Azure DI一致，下游检索、生成和标注流程无需关心解析引擎来源。Docling解决了传统解析工具无法处理扫描件、表格列结构和图表内文本的痛点，为企业文档智能系统提供了安全高效的本地化解析方案。 #Docling #RAG #文档解析 #企业AI #开源工具 #本地部署
本文介绍Docling作为企业级RAG系统的文档解析方案。Docling是IBM Research开发的开源文档解析工具，支持布局检测、OCR、阅读顺序识别和TableFormer深度学习模型，可精准提取表格结构、单元格和标题。与云端服务不同，Docling完全在本地运行，首次调用下载模型至本地缓存后即可离线使用，无需API密钥或按页付费。对于保险合同、医疗记录、并购数据室等敏感企业文档，Docling避免了合规风险，将计算成本从信任和费用转移到本地计算资源和一次性模型下载。输出格式与PyMuPDF和Azure DI一致，下游检索、生成和标注流程无需关心解析引擎来源。Docling解决了传统解析工具无法处理扫描件、表格列结构和图表内文本的痛点，为企业文档智能系统提供了安全高效的本地化解析方案。 #Docling #RAG #文档解析 #企业AI #开源工具 #本地部署