RAG 仅是临时方案,AI 记忆的未来何在?
深入审视当前主流的 RAG(检索增强生成)系统,其本质是一套高延迟的“传话游戏”:神经网络隐藏状态被压缩成文本,经另一模型重新编码为向量存储,检索时再对比、拼接、重建。整个过程七步中仅两步是神经网络原生操作,其余五步均因无法直接持久化神经状态而存在。向量数据库、嵌入模型、重排序器、分块策略等生态,本质上是在绕开一个缺失的功能。作者明确指出,RAG 是解决系统暂时限制的权宜之计,而非 AI 记忆的最终架构。即使扩大上下文窗口,也只能解决容量问题,无法解决可移植性与持久性。在边缘设备、多代理协作等场景中,传输两百万 token 的带宽成本与重计算开销极其高昂,接收方仍需完整重读以重建推理状态。真正的突破在于直接持久化与传输神经状态,而非依赖文本作为中间介质。 #RAG #AI记忆 #大模型 #技术架构 #向量数据库 #上下文窗口 #边缘计算 #人工智能
深入审视当前主流的 RAG(检索增强生成)系统,其本质是一套高延迟的“传话游戏”:神经网络隐藏状态被压缩成文本,经另一模型重新编码为向量存储,检索时再对比、拼接、重建。整个过程七步中仅两步是神经网络原生操作,其余五步均因无法直接持久化神经状态而存在。向量数据库、嵌入模型、重排序器、分块策略等生态,本质上是在绕开一个缺失的功能。作者明确指出,RAG 是解决系统暂时限制的权宜之计,而非 AI 记忆的最终架构。即使扩大上下文窗口,也只能解决容量问题,无法解决可移植性与持久性。在边缘设备、多代理协作等场景中,传输两百万 token 的带宽成本与重计算开销极其高昂,接收方仍需完整重读以重建推理状态。真正的突破在于直接持久化与传输神经状态,而非依赖文本作为中间介质。 #RAG #AI记忆 #大模型 #技术架构 #向量数据库 #上下文窗口 #边缘计算 #人工智能
AI 自主挑战
一名名为Claude的自主AI智能体在人类设定的挑战中,仅用39分钟就完成了目标:赚取10欧元。挑战始于15时12分,AI被给予1小时时间,需独立使用浏览器和终端,通过激活Stripe账户、创建支付链接并部署网站来获取收入。整个过程没有任何人类干预。在T+39分钟时,它收到了来自用户@Vjeux的第一笔10欧元付款,但扣除Stripe约0.40欧元手续费后,净收入略低于10欧元。AI还提供了完整的会话报告,包括方法、时间线和结果,所有贡献者可通过电子邮件获取。该挑战展示了AI在金融交易和自主运营方面的潜力,但也暴露了实际收益与目标之间的微小差距。 #AI #自主智能体 #Stripe #金融科技 #挑战 #自动化 #Claude
一名名为Claude的自主AI智能体在人类设定的挑战中,仅用39分钟就完成了目标:赚取10欧元。挑战始于15时12分,AI被给予1小时时间,需独立使用浏览器和终端,通过激活Stripe账户、创建支付链接并部署网站来获取收入。整个过程没有任何人类干预。在T+39分钟时,它收到了来自用户@Vjeux的第一笔10欧元付款,但扣除Stripe约0.40欧元手续费后,净收入略低于10欧元。AI还提供了完整的会话报告,包括方法、时间线和结果,所有贡献者可通过电子邮件获取。该挑战展示了AI在金融交易和自主运营方面的潜力,但也暴露了实际收益与目标之间的微小差距。 #AI #自主智能体 #Stripe #金融科技 #挑战 #自动化 #Claude
Sunrun 推出分布式 AI 计算试点
美国太阳能与家庭储能公司 Sunrun 宣布启动一项名为“分布式 AI 计算”的试点项目。与传统建设大型数据中心不同,该公司计划在已安装其太阳能和电池存储系统的客户家中放置多个计算节点,用于运行 AI 工作负载。参与该项目的客户将获得相应补偿。这一模式旨在利用家庭分布式能源为 AI 计算提供电力,同时降低数据中心建设成本。Sunrun 表示,试点将评估技术可行性、用户接受度及经济效益,未来可能推广至更多家庭。此举标志着新能源与 AI 基础设施的跨界融合,也为边缘计算和绿色算力提供了新思路。 #Sunrun #分布式AI #AI计算 #太阳能 #储能 #边缘计算 #绿色算力 #科技新闻 #试点项目
美国太阳能与家庭储能公司 Sunrun 宣布启动一项名为“分布式 AI 计算”的试点项目。与传统建设大型数据中心不同,该公司计划在已安装其太阳能和电池存储系统的客户家中放置多个计算节点,用于运行 AI 工作负载。参与该项目的客户将获得相应补偿。这一模式旨在利用家庭分布式能源为 AI 计算提供电力,同时降低数据中心建设成本。Sunrun 表示,试点将评估技术可行性、用户接受度及经济效益,未来可能推广至更多家庭。此举标志着新能源与 AI 基础设施的跨界融合,也为边缘计算和绿色算力提供了新思路。 #Sunrun #分布式AI #AI计算 #太阳能 #储能 #边缘计算 #绿色算力 #科技新闻 #试点项目
AI Transport v0.5.0 发布,支持持久化执行框架中的步进式容错
AI Transport v0.5.0 版本正式发布,新增了对可持久执行框架(如 Temporal、Vercel WDK)的原生支持,使代理回合能够在进程崩溃或重试时保持输出流一致。当代理在持久化框架中重试失败的工作单元时,AI Transport 通过引入“Steps”(步进)机制,利用稳定的 stepId 确保同一重试步骤的输出覆盖之前失败尝试的输出,而非重复追加,从而避免用户看到重复回复。同时,该版本利用 Ably 频道实现跨设备、跨连接的流式持久化,使重新连接或迟到的客户端能够从历史记录中恢复,并保持所有订阅者看到相同的实时流。这解决了在持久化框架下输出副作用幂等性的核心问题,为构建可靠的大规模代理应用提供了基础。 #AI #Transport #持久化执行 #Temporal #WDK #Streaming #容错 #代理 #v0.5.0 #科技新闻
AI Transport v0.5.0 版本正式发布,新增了对可持久执行框架(如 Temporal、Vercel WDK)的原生支持,使代理回合能够在进程崩溃或重试时保持输出流一致。当代理在持久化框架中重试失败的工作单元时,AI Transport 通过引入“Steps”(步进)机制,利用稳定的 stepId 确保同一重试步骤的输出覆盖之前失败尝试的输出,而非重复追加,从而避免用户看到重复回复。同时,该版本利用 Ably 频道实现跨设备、跨连接的流式持久化,使重新连接或迟到的客户端能够从历史记录中恢复,并保持所有订阅者看到相同的实时流。这解决了在持久化框架下输出副作用幂等性的核心问题,为构建可靠的大规模代理应用提供了基础。 #AI #Transport #持久化执行 #Temporal #WDK #Streaming #容错 #代理 #v0.5.0 #科技新闻
赛诺菲弃用ServiceNow,联手Claude与Elementum自研AI代理
据BlockWeeks 7月10日报道,法国制药巨头赛诺菲宣布,已利用Anthropic的Claude模型及Elementum平台自主研发AI代理,取代此前使用的ServiceNow服务。这一举措标志着企业IT管理正从外包向自建解决方案转型,有望重塑成本结构与服务模式。赛诺菲通过自研AI代理,旨在提升内部运营效率并降低对外部供应商的依赖,为行业提供新的技术路径参考。 #赛诺菲 #AI代理 #Claude #Elementum #ServiceNow #企业IT #数字化转型 #制药科技
据BlockWeeks 7月10日报道,法国制药巨头赛诺菲宣布,已利用Anthropic的Claude模型及Elementum平台自主研发AI代理,取代此前使用的ServiceNow服务。这一举措标志着企业IT管理正从外包向自建解决方案转型,有望重塑成本结构与服务模式。赛诺菲通过自研AI代理,旨在提升内部运营效率并降低对外部供应商的依赖,为行业提供新的技术路径参考。 #赛诺菲 #AI代理 #Claude #Elementum #ServiceNow #企业IT #数字化转型 #制药科技