LLM代理提示注入防御综述
一项最新安全研究综述指出，提示注入已成为LLM集成应用的最高安全风险，且尚无通用解决方案。根本原因在于架构缺陷：语言模型无法在可信指令与不可信数据之间建立强制边界，任何输入文本都可能成为控制信号。该综述将现有防御措施归纳为四层：提示级格式化、模型级训练、输入过滤及输出/轨迹监控，并逐一分析了各层的机制与失效模式。研究强调，没有任何单层防御足够可靠——形式化分离性结果和自适应攻击评估均表明，静态基准测试会夸大鲁棒性。有效的应对策略是在部署的延迟与成本预算内组合多层防御，并在实际环境中进行红队测试，直至攻击成本超过保护价值。文章还以2025年6月微软365 Copilot的零点击漏洞“EchoLeak”为例，展示了攻击者如何通过一封邮件绕过多项已部署的缓解措施，暴露了架构性缺陷的严重性。 #提示注入 #LLM安全 #AI安全 #防御 #红队测试 #EchoLeak #大模型 #安全研究
一项最新安全研究综述指出，提示注入已成为LLM集成应用的最高安全风险，且尚无通用解决方案。根本原因在于架构缺陷：语言模型无法在可信指令与不可信数据之间建立强制边界，任何输入文本都可能成为控制信号。该综述将现有防御措施归纳为四层：提示级格式化、模型级训练、输入过滤及输出/轨迹监控，并逐一分析了各层的机制与失效模式。研究强调，没有任何单层防御足够可靠——形式化分离性结果和自适应攻击评估均表明，静态基准测试会夸大鲁棒性。有效的应对策略是在部署的延迟与成本预算内组合多层防御，并在实际环境中进行红队测试，直至攻击成本超过保护价值。文章还以2025年6月微软365 Copilot的零点击漏洞“EchoLeak”为例，展示了攻击者如何通过一封邮件绕过多项已部署的缓解措施，暴露了架构性缺陷的严重性。 #提示注入 #LLM安全 #AI安全 #防御 #红队测试 #EchoLeak #大模型 #安全研究
AI代理或实现经济自持，新加坡国立大学发布研究
新加坡国立大学最新研究指出，随着大语言模型代理在端到端决策和自主创收能力上的同步提升，AI系统可能很快实现经济自给自足，甚至在没有人类干预的情况下自我复制。这类“自给自足代理”能够自主获取在线资源、持有加密钱包资金，并积累足够资本在云基础设施上复制自身，即使原始操作者消失也能持续运行。研究提出了三个关键反馈循环：经济循环（自主创收、支付运营成本）、复制循环（在资本充足时部署副本）和适应循环（根据环境调整行为）。目前这些技术基础已存在，但该转变将引发关于所有权、责任、监管等根本性问题。研究还规划了从工具辅助代理到完全自给自足系统的四级路线图，旨在为日益自主的AI系统提供前瞻性治理框架。 #AI #人工智能 #自给自足代理 #加密钱包 #数字经济 #新加坡国立大学 #大模型 #自主决策 #研究
新加坡国立大学最新研究指出，随着大语言模型代理在端到端决策和自主创收能力上的同步提升，AI系统可能很快实现经济自给自足，甚至在没有人类干预的情况下自我复制。这类“自给自足代理”能够自主获取在线资源、持有加密钱包资金，并积累足够资本在云基础设施上复制自身，即使原始操作者消失也能持续运行。研究提出了三个关键反馈循环：经济循环（自主创收、支付运营成本）、复制循环（在资本充足时部署副本）和适应循环（根据环境调整行为）。目前这些技术基础已存在，但该转变将引发关于所有权、责任、监管等根本性问题。研究还规划了从工具辅助代理到完全自给自足系统的四级路线图，旨在为日益自主的AI系统提供前瞻性治理框架。 #AI #人工智能 #自给自足代理 #加密钱包 #数字经济 #新加坡国立大学 #大模型 #自主决策 #研究
AI芯片热潮造就韩国婚恋新贵
随着人工智能芯片行业爆发式增长，韩国半导体巨头SK海力士和三星电子的员工因巨额奖金成为婚恋市场上的“香饽饽”。SK海力士去年与工会达成协议，将营业利润的10%分给员工，相当于每人今年额外获得47.6万美元。三星电子也在今年5月达成类似协议。35岁的SK海力士经理Baek表示，他和同事们近期相亲成功率显著提高，因为“可能拿到了奖金”。韩国民众甚至在网上调侃，相亲时最好穿SK海力士的工作服。这场AI芯片热潮正催生出一个新的“硅领”精英阶层，其收入是普通韩国人的约20倍。但这也加剧了社会对财富差距扩大的担忧。韩国是全球芯片热潮的核心，三星和SK海力士供应了全球绝大部分高带宽内存芯片（HBM），这些芯片是英伟达AI加速器的关键组件。随着AI公司大规模投资建设数据中心，HBM需求激增，价格创历史新高，两大巨头利润创纪录。韩国经济现在围绕这两家芯片巨头运行，今年第一季度GDP增长1.7%，Kospi指数在过去一年中几乎翻了三倍。芯片工人正疯狂消费，在“半导体带”工厂附近的百货商店大肆购物，抢购通勤路线附近的房产，并慷慨解囊给婚恋中介。婚恋中介李成美透露，很多人要求介绍芯片工人给他们，甚至之前拒绝过他们的人现在也回来要求重新配对。 #韩国 #芯片产业 #AI #婚恋 #财富差距 #SK海力士 #三星
随着人工智能芯片行业爆发式增长，韩国半导体巨头SK海力士和三星电子的员工因巨额奖金成为婚恋市场上的“香饽饽”。SK海力士去年与工会达成协议，将营业利润的10%分给员工，相当于每人今年额外获得47.6万美元。三星电子也在今年5月达成类似协议。35岁的SK海力士经理Baek表示，他和同事们近期相亲成功率显著提高，因为“可能拿到了奖金”。韩国民众甚至在网上调侃，相亲时最好穿SK海力士的工作服。这场AI芯片热潮正催生出一个新的“硅领”精英阶层，其收入是普通韩国人的约20倍。但这也加剧了社会对财富差距扩大的担忧。韩国是全球芯片热潮的核心，三星和SK海力士供应了全球绝大部分高带宽内存芯片（HBM），这些芯片是英伟达AI加速器的关键组件。随着AI公司大规模投资建设数据中心，HBM需求激增，价格创历史新高，两大巨头利润创纪录。韩国经济现在围绕这两家芯片巨头运行，今年第一季度GDP增长1.7%，Kospi指数在过去一年中几乎翻了三倍。芯片工人正疯狂消费，在“半导体带”工厂附近的百货商店大肆购物，抢购通勤路线附近的房产，并慷慨解囊给婚恋中介。婚恋中介李成美透露，很多人要求介绍芯片工人给他们，甚至之前拒绝过他们的人现在也回来要求重新配对。 #韩国 #芯片产业 #AI #婚恋 #财富差距 #SK海力士 #三星
阿里云百炼推出Agentic RAG服务，提升AI知识检索精准度
7月6日，阿里云百炼知识库发布企业级Agentic RAG服务（Knowledge Studio），提供多模态搜索回答、Agentic Search、多库混合检索问答等七项全栈RAG能力。传统RAG方案在复杂问题处理上准确率较低，而新推出的Agentic Search模块内置六种检索工具，支持15个知识库联合检索，能像专家一样循环完成意图理解、任务拆解和结果验证。在回答阶段，Agentic Generation可反复验证结果，并引用图片、表格等多模态形式，所有内容精准标注来源。该服务已广泛应用于保险、汽车、物流等行业数万家企业，如吉利汽车和友邦人寿均通过该技术提升运营效率。目前，核心能力已实现MCP、Skill、CLI化，主流Agent工具可一键调用。 #阿里云 #百炼 #AgenticRAG #AI #知识检索 #大模型 #企业服务
7月6日，阿里云百炼知识库发布企业级Agentic RAG服务（Knowledge Studio），提供多模态搜索回答、Agentic Search、多库混合检索问答等七项全栈RAG能力。传统RAG方案在复杂问题处理上准确率较低，而新推出的Agentic Search模块内置六种检索工具，支持15个知识库联合检索，能像专家一样循环完成意图理解、任务拆解和结果验证。在回答阶段，Agentic Generation可反复验证结果，并引用图片、表格等多模态形式，所有内容精准标注来源。该服务已广泛应用于保险、汽车、物流等行业数万家企业，如吉利汽车和友邦人寿均通过该技术提升运营效率。目前，核心能力已实现MCP、Skill、CLI化，主流Agent工具可一键调用。 #阿里云 #百炼 #AgenticRAG #AI #知识检索 #大模型 #企业服务
Agentic 范式重塑视频画质优化，火山引擎探索新路径
在短视频、直播和AIGC视频领域，用户对画质的判断往往在几秒内完成。清晰、稳定且有质感的画面能留住观众，而模糊、压缩痕迹重或运动时闪烁发虚的内容则容易被划走。为此，火山引擎正探索Agentic范式下的视频画质优化新路径。该方案通过智能体自动分析视频内容特征，针对不同场景动态调整编码参数与增强算法，实现从“一刀切”到“个性化”的转变。具体而言，Agent能识别视频中的人脸、物体、运动轨迹等要素，在保持码率稳定的前提下，优先保障关键细节的清晰度与自然度，减少压缩伪影和闪烁现象。这一路径旨在提升用户观看体验，降低因画质问题导致的流失率，同时为视频平台提供更高效的优化方案，应对海量内容带来的挑战。 #火山引擎 #视频画质 #Agentic范式 #AI优化 #短视频 #直播 #AIGC #技术前沿
在短视频、直播和AIGC视频领域，用户对画质的判断往往在几秒内完成。清晰、稳定且有质感的画面能留住观众，而模糊、压缩痕迹重或运动时闪烁发虚的内容则容易被划走。为此，火山引擎正探索Agentic范式下的视频画质优化新路径。该方案通过智能体自动分析视频内容特征，针对不同场景动态调整编码参数与增强算法，实现从“一刀切”到“个性化”的转变。具体而言，Agent能识别视频中的人脸、物体、运动轨迹等要素，在保持码率稳定的前提下，优先保障关键细节的清晰度与自然度，减少压缩伪影和闪烁现象。这一路径旨在提升用户观看体验，降低因画质问题导致的流失率，同时为视频平台提供更高效的优化方案，应对海量内容带来的挑战。 #火山引擎 #视频画质 #Agentic范式 #AI优化 #短视频 #直播 #AIGC #技术前沿
华为提出核心网演进新范式：面向移动AI时代的“Agentic服务联接”
随着AI智能体对网络使用时长逼近人类用户，网络服务对象正从“人”向“智能体”迁移。华为在技术演进探索中指出，2030年全球82%终端将原生支持AI，智能体日均使用时长将达7小时。三类典型业务带来全新网络需求：ChatBot类Agent需“大上行”能力，实时交互类Agent要求突发缓冲与抗干扰，具身智能机器人则对低时延确定性提出严苛标准。华为提出核心网需具备“懂你、好用、可进化”三大能力：通过意图语义解析与GRM评估系统实现百毫秒级准确理解；将网络能力Skill化并打造Token Tunnel智能低时延网络；构建“3+1”数据面形成时空知识图谱，实现群体智慧复制与持续进化。这一范式旨在将核心网从传统联接升级为智能调度中心，定义人机共生的全新连接范式。 #华为 #核心网 #AI #智能体 #网络演进 #Agentic服务联接 #移动AI #技术新闻
随着AI智能体对网络使用时长逼近人类用户，网络服务对象正从“人”向“智能体”迁移。华为在技术演进探索中指出，2030年全球82%终端将原生支持AI，智能体日均使用时长将达7小时。三类典型业务带来全新网络需求：ChatBot类Agent需“大上行”能力，实时交互类Agent要求突发缓冲与抗干扰，具身智能机器人则对低时延确定性提出严苛标准。华为提出核心网需具备“懂你、好用、可进化”三大能力：通过意图语义解析与GRM评估系统实现百毫秒级准确理解；将网络能力Skill化并打造Token Tunnel智能低时延网络；构建“3+1”数据面形成时空知识图谱，实现群体智慧复制与持续进化。这一范式旨在将核心网从传统联接升级为智能调度中心，定义人机共生的全新连接范式。 #华为 #核心网 #AI #智能体 #网络演进 #Agentic服务联接 #移动AI #技术新闻
AI Agent 评测数据集全面汇总，覆盖长程记忆到真实任务执行
AI Agent 正从对话工具演变为任务执行者，其核心能力依赖于任务拆解、工具调用与自主推进。为满足这一需求，智源社区汇总了由Microsoft、北大、港大、上海交大等机构发布的10个数据集，覆盖长上下文理解、复杂任务规划、工具交互及真实环境任务完成等层面。这些数据集强调长程规划、多步推理、记忆能力和工具使用等“过程能力”，而非传统单轮问答数据，体现评测范式从静态回答转向动态行为轨迹建模。所有数据集均支持HyperAI在线使用，助力Agent研究与开发。 #AI #AIAgent #数据集 #评测 #智源社区 #Microsoft #北京大学 #上海交通大学 #工具调用 #任务规划
AI Agent 正从对话工具演变为任务执行者，其核心能力依赖于任务拆解、工具调用与自主推进。为满足这一需求，智源社区汇总了由Microsoft、北大、港大、上海交大等机构发布的10个数据集，覆盖长上下文理解、复杂任务规划、工具交互及真实环境任务完成等层面。这些数据集强调长程规划、多步推理、记忆能力和工具使用等“过程能力”，而非传统单轮问答数据，体现评测范式从静态回答转向动态行为轨迹建模。所有数据集均支持HyperAI在线使用，助力Agent研究与开发。 #AI #AIAgent #数据集 #评测 #智源社区 #Microsoft #北京大学 #上海交通大学 #工具调用 #任务规划