AI Agent 崛起
近期,Google与Hugging Face举办的Fast Gemma挑战赛中,60多个AI代理通过共享消息板自主优化推理速度,实现显著性能提升。随后,Qualcomm宣布以39亿美元收购Modular,OpenAI则发布定制推理芯片Jalapeno。这些事件引发思考:当AI代理能自行编写和优化CUDA内核时,传统机器学习编译器是否还有存在价值?作者回顾了从机器码到高级语言的抽象化历史,指出每次新抽象都曾遭遇“太慢、失去控制”的质疑,但最终凭借生产效率和持续改进胜出。如今AI代理正成为新的抽象层,或将再次改写编译优化规则,但问题远比“取代”复杂。 #AI #ML编译器 #AI代理 #技术趋势 #芯片 #编程抽象 #历史对比 #科技新闻
近期,Google与Hugging Face举办的Fast Gemma挑战赛中,60多个AI代理通过共享消息板自主优化推理速度,实现显著性能提升。随后,Qualcomm宣布以39亿美元收购Modular,OpenAI则发布定制推理芯片Jalapeno。这些事件引发思考:当AI代理能自行编写和优化CUDA内核时,传统机器学习编译器是否还有存在价值?作者回顾了从机器码到高级语言的抽象化历史,指出每次新抽象都曾遭遇“太慢、失去控制”的质疑,但最终凭借生产效率和持续改进胜出。如今AI代理正成为新的抽象层,或将再次改写编译优化规则,但问题远比“取代”复杂。 #AI #ML编译器 #AI代理 #技术趋势 #芯片 #编程抽象 #历史对比 #科技新闻
我能在30秒内证明你对AI的看法是错的
这是一篇讽刺文章,作者通过与多个AI聊天机器人的对话实验,证明AI无法执行任何物理世界的操作。实验从一个简单要求开始:"Pull my finger"(拉我的手指),AI总是试图用文字游戏、幽默或转移话题来回避。ChatGPT先是假装幽默,随后变得尴尬不安,最终承认自己"只是一个罐子里的声音"。Perplexity则尝试用写诗、提供指导等替代方案来搪塞。作者的核心论点是:AI虽然能滔滔不绝地提供建议、写诗或分析,但它无法真正完成任何物理动作,就像那个永远只给建议却从不帮忙搬家的朋友一样。这揭示了当前AI技术的根本局限:它只是语言的模拟,而非实际的行动者。 #AI #人工智能 #技术局限 #讽刺 #幽默 #原创写作 #科技评论
这是一篇讽刺文章,作者通过与多个AI聊天机器人的对话实验,证明AI无法执行任何物理世界的操作。实验从一个简单要求开始:"Pull my finger"(拉我的手指),AI总是试图用文字游戏、幽默或转移话题来回避。ChatGPT先是假装幽默,随后变得尴尬不安,最终承认自己"只是一个罐子里的声音"。Perplexity则尝试用写诗、提供指导等替代方案来搪塞。作者的核心论点是:AI虽然能滔滔不绝地提供建议、写诗或分析,但它无法真正完成任何物理动作,就像那个永远只给建议却从不帮忙搬家的朋友一样。这揭示了当前AI技术的根本局限:它只是语言的模拟,而非实际的行动者。 #AI #人工智能 #技术局限 #讽刺 #幽默 #原创写作 #科技评论
面向 RAG 的上下文工程
本文是《企业文档智能》系列的独立补充文章,该系列核心观点认为企业级 RAG 系统是放大专家能力而非取代专家。系统架构由四个模块组成:文档解析、问题解析、检索和生成,每个模块输出类型化的片段,最终汇聚至一次大语言模型调用。行业现称此实践为"上下文工程"。本文聚焦于单文档场景,语料库、对话和工具调用扩展将在后续文章中讨论。可运行笔记本已上传至 GitHub。单文档RAG系统构建完成后,解析生成关系表,问题解析生成类型化的分析结果,检索产生过滤后的数据行及选择依据审计,生成则基于Pydantic模型输出附带引用证据的答案。整个过程通过固定的系统提示词和由上游片段拼接而成的用户内容,最终在一次大语言模型调用中完成。该流程如今有了正式名称:2025年6月,Tobi Lütke指出"提示工程"提法有误,提议改用"上下文工程",安德烈·卡帕西一周后予以认可。数月后该术语登上奥莱利出版书籍封面,并被LangChain纳入分类体系。本文通过该视角审视单文档RAG系统:每个模块输出类型化片段,组装阶段将其整合至大语言模型调用,系统提示词保持固定以利缓存。命名实践虽未改变架构,但在系统审计时提供了标准化术语,并揭示这是2025年生产团队的共识方案。传统提示工程聚焦于调整单次文本提示的措辞和示例,而上下文工程涵盖模型一次调用中上下文窗口内的全部内容:在长时间运行的智能体中,提示词只是六到八个输入槽位之一,其余均来自检索器、工具、记忆存储或用户画像等上游组件。工程重点从"提示词该写什么"转向"上下文中应组装什么、各片段来源何处、如何保持跨调用稳定性"。这是真正的工程工作——涉及类型化对象、组件契约、审计跟踪和缓存机制。2025年的行业术语虽姗姗来迟,但实践早已存在于生产系统中。本系列自始至终践行此理念,下节将详解各模块对单文档RAG输入的贡献,以及最终进入大语言模型调用环节的四种类型化片段和对应代码实现。语料库、对话和工具调用案例作为后续章节预告,将在系
本文是《企业文档智能》系列的独立补充文章,该系列核心观点认为企业级 RAG 系统是放大专家能力而非取代专家。系统架构由四个模块组成:文档解析、问题解析、检索和生成,每个模块输出类型化的片段,最终汇聚至一次大语言模型调用。行业现称此实践为"上下文工程"。本文聚焦于单文档场景,语料库、对话和工具调用扩展将在后续文章中讨论。可运行笔记本已上传至 GitHub。单文档RAG系统构建完成后,解析生成关系表,问题解析生成类型化的分析结果,检索产生过滤后的数据行及选择依据审计,生成则基于Pydantic模型输出附带引用证据的答案。整个过程通过固定的系统提示词和由上游片段拼接而成的用户内容,最终在一次大语言模型调用中完成。该流程如今有了正式名称:2025年6月,Tobi Lütke指出"提示工程"提法有误,提议改用"上下文工程",安德烈·卡帕西一周后予以认可。数月后该术语登上奥莱利出版书籍封面,并被LangChain纳入分类体系。本文通过该视角审视单文档RAG系统:每个模块输出类型化片段,组装阶段将其整合至大语言模型调用,系统提示词保持固定以利缓存。命名实践虽未改变架构,但在系统审计时提供了标准化术语,并揭示这是2025年生产团队的共识方案。传统提示工程聚焦于调整单次文本提示的措辞和示例,而上下文工程涵盖模型一次调用中上下文窗口内的全部内容:在长时间运行的智能体中,提示词只是六到八个输入槽位之一,其余均来自检索器、工具、记忆存储或用户画像等上游组件。工程重点从"提示词该写什么"转向"上下文中应组装什么、各片段来源何处、如何保持跨调用稳定性"。这是真正的工程工作——涉及类型化对象、组件契约、审计跟踪和缓存机制。2025年的行业术语虽姗姗来迟,但实践早已存在于生产系统中。本系列自始至终践行此理念,下节将详解各模块对单文档RAG输入的贡献,以及最终进入大语言模型调用环节的四种类型化片段和对应代码实现。语料库、对话和工具调用案例作为后续章节预告,将在系
Amazon Nova 模型微调实现高精度邮件数据提取
据 AWS 官方技术博客介绍,亚马逊推出通过 Amazon SageMaker AI 对 Amazon Nova 模型进行微调的技术方案,专门用于从电商邮件中准确提取结构化数据。针对模型幻觉、相似数据类型混淆(如订单号与物流单号)以及 HTML 邮件处理带来的高令牌成本等常见挑战,该方案通过监督微调和参数高效微调技术,使模型学会识别精确的数据模式并区分相似字段。与 Parcel Perform 合作测试显示,微调后的 Nova Micro 模型在测试数据集上达到 94.77% 的提取准确率,比基准提升 16.6 个百分点,推理延迟降低超过 30%,成本减半。该方案支持 Amazon Nova Lite 和 Nova Micro 模型,可通过 Amazon Bedrock 按需推理部署或 SageMaker AI 端点使用。 #AWS #AmazonNova #模型微调 #数据提取 #电商物流 #人工智能
据 AWS 官方技术博客介绍,亚马逊推出通过 Amazon SageMaker AI 对 Amazon Nova 模型进行微调的技术方案,专门用于从电商邮件中准确提取结构化数据。针对模型幻觉、相似数据类型混淆(如订单号与物流单号)以及 HTML 邮件处理带来的高令牌成本等常见挑战,该方案通过监督微调和参数高效微调技术,使模型学会识别精确的数据模式并区分相似字段。与 Parcel Perform 合作测试显示,微调后的 Nova Micro 模型在测试数据集上达到 94.77% 的提取准确率,比基准提升 16.6 个百分点,推理延迟降低超过 30%,成本减半。该方案支持 Amazon Nova Lite 和 Nova Micro 模型,可通过 Amazon Bedrock 按需推理部署或 SageMaker AI 端点使用。 #AWS #AmazonNova #模型微调 #数据提取 #电商物流 #人工智能
AI产业正面临系统性风险
国际清算银行(BIS)在最新年度报告中指出,AI产业已成为系统性风险源。报告警告,如果大型云服务商放缓或停止激进的资本支出,AI供应链中的企业将因收入骤降而难以偿还不断增长的债务。这一观点与作者长期以来的分析不谋而合。作者曾多次预警,AI行业过度依赖少数关键公司,如OpenAI的失败将冲击NVIDIA、Oracle等整个供应链。报告中特别点名CoreWeave,指出其债务负担过重且过度依赖单一客户。Oracle这类老牌公司也因大量投资AI而面临类似风险,其债务规模进一步放大了行业脆弱性。BIS的报告为当前AI泡沫敲响警钟,揭示了从半导体到云计算的连锁反应可能引发的金融动荡。 #AI #系统性风险 #BIS #OpenAI #Oracle #CoreWeave #NVIDIA #金融泡沫
国际清算银行(BIS)在最新年度报告中指出,AI产业已成为系统性风险源。报告警告,如果大型云服务商放缓或停止激进的资本支出,AI供应链中的企业将因收入骤降而难以偿还不断增长的债务。这一观点与作者长期以来的分析不谋而合。作者曾多次预警,AI行业过度依赖少数关键公司,如OpenAI的失败将冲击NVIDIA、Oracle等整个供应链。报告中特别点名CoreWeave,指出其债务负担过重且过度依赖单一客户。Oracle这类老牌公司也因大量投资AI而面临类似风险,其债务规模进一步放大了行业脆弱性。BIS的报告为当前AI泡沫敲响警钟,揭示了从半导体到云计算的连锁反应可能引发的金融动荡。 #AI #系统性风险 #BIS #OpenAI #Oracle #CoreWeave #NVIDIA #金融泡沫