停止发送巨型系统提示
当前许多AI产品存在一个隐性浪费:每次请求都发送包含所有规则、示例和知识的巨型系统提示,导致Token消耗巨大。前沿模型每百万输出Token成本约5-15美元,输入Token成本数美元,看似微小,但若提示词达4000 Tokens,十轮对话中模型每轮都重读,累计消耗40000输入Token。这种浪费在规模效应下急剧放大,且随成功线性增长。除成本外,巨大提示还造成显著延迟——模型必须先读完整个提示才能输出首个Token,用户等待感明显。作者指出,问题不在模型价格,而在于团队将Token视为免费资源。解决方案包括:将流程分解为步骤,每个模型调用仅携带必要上下文;使用检索代替上下文填充;缓存静态前缀避免重复计费;用小模型快速分类路由。这些模式并非新奇,而是以稀缺资源视角管理Token的纪律。 #AI #大模型 #成本优化 #Token #系统提示 #延迟 #LLM #效率提升 #AI产品
当前许多AI产品存在一个隐性浪费:每次请求都发送包含所有规则、示例和知识的巨型系统提示,导致Token消耗巨大。前沿模型每百万输出Token成本约5-15美元,输入Token成本数美元,看似微小,但若提示词达4000 Tokens,十轮对话中模型每轮都重读,累计消耗40000输入Token。这种浪费在规模效应下急剧放大,且随成功线性增长。除成本外,巨大提示还造成显著延迟——模型必须先读完整个提示才能输出首个Token,用户等待感明显。作者指出,问题不在模型价格,而在于团队将Token视为免费资源。解决方案包括:将流程分解为步骤,每个模型调用仅携带必要上下文;使用检索代替上下文填充;缓存静态前缀避免重复计费;用小模型快速分类路由。这些模式并非新奇,而是以稀缺资源视角管理Token的纪律。 #AI #大模型 #成本优化 #Token #系统提示 #延迟 #LLM #效率提升 #AI产品
Blur & Unblur AI 在线人脸模糊工具发布,支持本地隐私保护
Blur & Unblur AI 是一款免费的在线人脸模糊工具,用户可在分享照片前对其中的人脸进行模糊处理。该工具运行在浏览器本地,不会将原始图片上传至服务器,从而保护隐私。它能够自动检测照片中的人脸,并生成可编辑的模糊蒙版;若检测遗漏或误检,用户可通过“套索”工具手动标记或移除错误框。模糊强度可实时调整,最终输出干净的PNG图片,不包含任何编辑辅助元素。支持JPG、PNG、WebP格式,适用于截图、集体照、活动照片等场景的隐私编辑。此外还提供“人脸去模糊”和“全图模糊”模式,但核心功能仍是精准的人脸局部模糊。 #人脸模糊 #在线工具 #隐私保护 #AI检测 #图片编辑 #本地处理 #免费工具
Blur & Unblur AI 是一款免费的在线人脸模糊工具,用户可在分享照片前对其中的人脸进行模糊处理。该工具运行在浏览器本地,不会将原始图片上传至服务器,从而保护隐私。它能够自动检测照片中的人脸,并生成可编辑的模糊蒙版;若检测遗漏或误检,用户可通过“套索”工具手动标记或移除错误框。模糊强度可实时调整,最终输出干净的PNG图片,不包含任何编辑辅助元素。支持JPG、PNG、WebP格式,适用于截图、集体照、活动照片等场景的隐私编辑。此外还提供“人脸去模糊”和“全图模糊”模式,但核心功能仍是精准的人脸局部模糊。 #人脸模糊 #在线工具 #隐私保护 #AI检测 #图片编辑 #本地处理 #免费工具
MCPEvol-Bench:评估LLM Agent在动态MCP服务器演化中的表现
近日,研究团队发布了MCPEvol-Bench基准测试,旨在系统评估大语言模型智能体(LLM Agent)在MCP服务器动态演化环境下的性能。该基准由Huanxi Liu等八位研究者共同提出,相关论文已提交至arXiv预印本平台。MCPEvol-Bench通过模拟MCP服务器在功能、接口、数据分布等方面的持续变化,测试LLM Agent的适应能力、鲁棒性和任务完成效率。这一工作填补了现有基准在动态演进场景下的评估空白,为开发更灵活、可靠的LLM Agent提供了标准化测试框架,有望推动智能体在真实复杂环境中的部署与优化。 #LLMAgent #基准测试 #MCP #人工智能 #论文 #动态环境 #鲁棒性 #机器学习 #arXiv
近日,研究团队发布了MCPEvol-Bench基准测试,旨在系统评估大语言模型智能体(LLM Agent)在MCP服务器动态演化环境下的性能。该基准由Huanxi Liu等八位研究者共同提出,相关论文已提交至arXiv预印本平台。MCPEvol-Bench通过模拟MCP服务器在功能、接口、数据分布等方面的持续变化,测试LLM Agent的适应能力、鲁棒性和任务完成效率。这一工作填补了现有基准在动态演进场景下的评估空白,为开发更灵活、可靠的LLM Agent提供了标准化测试框架,有望推动智能体在真实复杂环境中的部署与优化。 #LLMAgent #基准测试 #MCP #人工智能 #论文 #动态环境 #鲁棒性 #机器学习 #arXiv
分析性溯因:新论文提出人机协调因果分解与受控承诺框架
一篇题为《分析性溯因:用于人机协调的因果分解与受控承诺》的学术论文在arXiv预印本平台上发布。该论文由Remo Pareschi教授提交,于2026年7月16日上线。论文聚焦于人类与人工智能系统之间的协调问题,提出了一种名为“分析性溯因”的推理框架,通过因果分解与受控承诺机制,使AI能更有效地理解人类意图并做出可解释的决策。研究内容涉及因果推理、溯因推理以及多智能体系统中的协调策略。论文当前可在arXiv上获取PDF及HTML版本,并提供了相关引用工具与资源链接。 #人工智能 #人机协调 #溯因推理 #因果推理 #多智能体系统 #arXiv论文 #AI安全 #可解释AI
一篇题为《分析性溯因:用于人机协调的因果分解与受控承诺》的学术论文在arXiv预印本平台上发布。该论文由Remo Pareschi教授提交,于2026年7月16日上线。论文聚焦于人类与人工智能系统之间的协调问题,提出了一种名为“分析性溯因”的推理框架,通过因果分解与受控承诺机制,使AI能更有效地理解人类意图并做出可解释的决策。研究内容涉及因果推理、溯因推理以及多智能体系统中的协调策略。论文当前可在arXiv上获取PDF及HTML版本,并提供了相关引用工具与资源链接。 #人工智能 #人机协调 #溯因推理 #因果推理 #多智能体系统 #arXiv论文 #AI安全 #可解释AI
MathCoPilot
一篇发表于arXiv的论文《MathCoPilot: An Interactive System for Human-AI Symbiotic Paradigm of Mathematical Research》提出了一种新型交互系统,旨在实现数学研究中人类与人工智能的深度协作。该系统通过构建人机共生范式,允许数学家与AI在推理、证明、探索等环节实时互动,从而提升数学研究的效率与创造力。论文由Junjie Zhang等14位作者共同完成,目前已在arXiv平台公开,供学界参考与实验验证。 #数学 #AI #人机协作 #MathCoPilot #学术论文 #人工智能 #科研 #arXiv
一篇发表于arXiv的论文《MathCoPilot: An Interactive System for Human-AI Symbiotic Paradigm of Mathematical Research》提出了一种新型交互系统,旨在实现数学研究中人类与人工智能的深度协作。该系统通过构建人机共生范式,允许数学家与AI在推理、证明、探索等环节实时互动,从而提升数学研究的效率与创造力。论文由Junjie Zhang等14位作者共同完成,目前已在arXiv平台公开,供学界参考与实验验证。 #数学 #AI #人机协作 #MathCoPilot #学术论文 #人工智能 #科研 #arXiv
LLM生成的GPU内核能否投入生产?一项跟踪驱动的基准测试与优化代理研究
来自arXiv的一篇论文对当前大语言模型(LLM)自动生成GPU内核的能力进行了系统性评估。研究团队构建了一个基于实际生产环境跟踪数据的基准测试框架,并开发了专门的优化代理,用以衡量LLM生成代码的性能、正确性和稳定性。实验发现,虽然LLM在简单场景下能生成可用内核,但在复杂计算模式、内存访问优化和硬件适配方面仍存在显著不足,生成的代码往往无法直接用于生产环境。该优化代理通过自动识别瓶颈并施加针对性修改,可将部分生成内核的性能提升至接近人工优化的水平。这项工作为评估LLM在底层系统编程中的实用性提供了重要基准,并指出当前模型在高性能计算领域仍需突破。 #LLM #GPU内核 #生产就绪 #基准测试 #优化代理 #高性能计算 #arXiv
来自arXiv的一篇论文对当前大语言模型(LLM)自动生成GPU内核的能力进行了系统性评估。研究团队构建了一个基于实际生产环境跟踪数据的基准测试框架,并开发了专门的优化代理,用以衡量LLM生成代码的性能、正确性和稳定性。实验发现,虽然LLM在简单场景下能生成可用内核,但在复杂计算模式、内存访问优化和硬件适配方面仍存在显著不足,生成的代码往往无法直接用于生产环境。该优化代理通过自动识别瓶颈并施加针对性修改,可将部分生成内核的性能提升至接近人工优化的水平。这项工作为评估LLM在底层系统编程中的实用性提供了重要基准,并指出当前模型在高性能计算领域仍需突破。 #LLM #GPU内核 #生产就绪 #基准测试 #优化代理 #高性能计算 #arXiv
RetroAgent:利用大语言模型搜索结构化记忆实现智能体逆合成规划
该论文提出RetroAgent框架,利用大语言模型(LLMs)结合结构化记忆进行智能体逆合成规划。逆合成是化学合成中的核心问题,传统方法依赖规则或搜索算法,效率较低。RetroAgent通过LLM驱动搜索,将已知化学反应知识存储为结构化记忆,使模型能高效检索并利用这些信息,从而提升规划路径的准确性与成功率。实验结果表明,该方法在多个逆合成基准任务上显著优于现有基线模型,展示了LLM在化学领域深入应用的潜力。该研究为AI辅助药物分子设计和有机合成提供了新的技术路径。 #逆合成 #大语言模型 #RetroAgent #化学合成 #AI #结构化记忆 #智能体 #论文 #有机化学 #药物设计
该论文提出RetroAgent框架,利用大语言模型(LLMs)结合结构化记忆进行智能体逆合成规划。逆合成是化学合成中的核心问题,传统方法依赖规则或搜索算法,效率较低。RetroAgent通过LLM驱动搜索,将已知化学反应知识存储为结构化记忆,使模型能高效检索并利用这些信息,从而提升规划路径的准确性与成功率。实验结果表明,该方法在多个逆合成基准任务上显著优于现有基线模型,展示了LLM在化学领域深入应用的潜力。该研究为AI辅助药物分子设计和有机合成提供了新的技术路径。 #逆合成 #大语言模型 #RetroAgent #化学合成 #AI #结构化记忆 #智能体 #论文 #有机化学 #药物设计
VLT:面向工业智能的视觉-语言
arXiv上最新发布了一篇题为《VLT: A Vision-Language-Time Series Multimodal Foundation Model for Industrial Intelligence》的论文。该研究由Haiteng Wang等四位作者共同完成,提出了一种名为VLT的多模态基础模型,旨在融合视觉、语言和时间序列三种数据类型,以应对工业智能领域的复杂需求。传统工业分析往往依赖单一模态数据,难以全面捕捉设备状态、生产流程及环境变化。VLT通过统一的架构同时处理图像、文本和时序数据,从而实现更精准的故障诊断、预测性维护及生产优化。实验表明,该模型在多个工业场景下显著优于单模态和简单多模态方法,为工业数字化与智能化提供了新的技术路径。论文已在arXiv上公开,并提供PDF及HTML预览。 #VLT #多模态 #基础模型 #工业智能 #arXiv #时间序列 #视觉语言 #故障诊断
arXiv上最新发布了一篇题为《VLT: A Vision-Language-Time Series Multimodal Foundation Model for Industrial Intelligence》的论文。该研究由Haiteng Wang等四位作者共同完成,提出了一种名为VLT的多模态基础模型,旨在融合视觉、语言和时间序列三种数据类型,以应对工业智能领域的复杂需求。传统工业分析往往依赖单一模态数据,难以全面捕捉设备状态、生产流程及环境变化。VLT通过统一的架构同时处理图像、文本和时序数据,从而实现更精准的故障诊断、预测性维护及生产优化。实验表明,该模型在多个工业场景下显著优于单模态和简单多模态方法,为工业数字化与智能化提供了新的技术路径。论文已在arXiv上公开,并提供PDF及HTML预览。 #VLT #多模态 #基础模型 #工业智能 #arXiv #时间序列 #视觉语言 #故障诊断