新研究提出“可遗忘注意力”机制
一篇来自Vishwajith Ramesh的最新论文《Forgetful Attention: A Trainable Support-Vector Memory with Certified Selection and Exact Unlearning》在arXiv上发布。该研究针对机器学习中的“遗忘学习”难题,提出了一种融合可训练支撑向量记忆的注意力机制,能够实现经过认证的选择性遗忘——在移除特定数据影响的同时,保证模型剩余性能不受干扰。论文首次将支持向量机思想与注意力层结合,使得模型在遗忘过程中拥有可验证的数学保证,为隐私保护、模型更新和合规性需求提供了新方案。该工作于2026年7月13日提交,目前可从arXiv获取全文。 #机器学习 #遗忘学习 #注意力机制 #支撑向量 #AI #arXiv #隐私保护 #可验证
一篇来自Vishwajith Ramesh的最新论文《Forgetful Attention: A Trainable Support-Vector Memory with Certified Selection and Exact Unlearning》在arXiv上发布。该研究针对机器学习中的“遗忘学习”难题,提出了一种融合可训练支撑向量记忆的注意力机制,能够实现经过认证的选择性遗忘——在移除特定数据影响的同时,保证模型剩余性能不受干扰。论文首次将支持向量机思想与注意力层结合,使得模型在遗忘过程中拥有可验证的数学保证,为隐私保护、模型更新和合规性需求提供了新方案。该工作于2026年7月13日提交,目前可从arXiv获取全文。 #机器学习 #遗忘学习 #注意力机制 #支撑向量 #AI #arXiv #隐私保护 #可验证
AI智能体科学社区助力神经算子自动发现
据arXiv预印本平台显示,研究人员Luis Loo与Ulisses Braga-Neto于2026年7月提交了一篇题为《An Agentic AI Scientific Community for Automated Neural Operator Discovery》的论文。该研究提出一种由多个专门化AI智能体组成的科学社区框架,旨在自动发现神经算子。这些智能体模拟真实科研场景中的角色分工,分别负责数据采集、实验设计、模型训练与验证等环节,通过协作实现从问题提出到结果验证的全流程自动化。传统神经算子发现依赖大量人工试错,耗时且成本高昂,而该框架通过智能体间的迭代交互,可快速筛选最优算子结构。这项研究为计算科学和工程领域中复杂物理系统的建模提供了新思路,有望加速科学发现的进程。 #AI #智能体 #科学发现 #神经算子 #自动发现 #arXiv #论文 #计算科学
据arXiv预印本平台显示,研究人员Luis Loo与Ulisses Braga-Neto于2026年7月提交了一篇题为《An Agentic AI Scientific Community for Automated Neural Operator Discovery》的论文。该研究提出一种由多个专门化AI智能体组成的科学社区框架,旨在自动发现神经算子。这些智能体模拟真实科研场景中的角色分工,分别负责数据采集、实验设计、模型训练与验证等环节,通过协作实现从问题提出到结果验证的全流程自动化。传统神经算子发现依赖大量人工试错,耗时且成本高昂,而该框架通过智能体间的迭代交互,可快速筛选最优算子结构。这项研究为计算科学和工程领域中复杂物理系统的建模提供了新思路,有望加速科学发现的进程。 #AI #智能体 #科学发现 #神经算子 #自动发现 #arXiv #论文 #计算科学
PFAdapter:面向个性化联邦多模态大语言模型的层次化LoRA分解
近日,一篇名为《PFAdapter: Hierarchical LoRA Decomposition for Personalized Federated MLLMs》的论文在arXiv上提交。该论文由Jing Liu等八位学者共同完成,提出了一种名为PFAdapter的层次化低秩适配(LoRA)分解方法,旨在解决联邦学习场景下多模态大语言模型(MLLMs)的个性化难题。传统联邦学习在模型聚合时难以兼顾全局知识与客户端本地数据特性,PFAdapter通过分层分解LoRA模块,为每个客户端保留个性化参数的同时,共享通用知识,从而提升模型在异构数据上的表现。该工作有望推动分布式多模态模型在隐私保护前提下的高效微调与部署。 #PFAdapter #联邦学习 #LoRA #多模态大模型 #个性化 #论文 #arXiv #深度学习
近日,一篇名为《PFAdapter: Hierarchical LoRA Decomposition for Personalized Federated MLLMs》的论文在arXiv上提交。该论文由Jing Liu等八位学者共同完成,提出了一种名为PFAdapter的层次化低秩适配(LoRA)分解方法,旨在解决联邦学习场景下多模态大语言模型(MLLMs)的个性化难题。传统联邦学习在模型聚合时难以兼顾全局知识与客户端本地数据特性,PFAdapter通过分层分解LoRA模块,为每个客户端保留个性化参数的同时,共享通用知识,从而提升模型在异构数据上的表现。该工作有望推动分布式多模态模型在隐私保护前提下的高效微调与部署。 #PFAdapter #联邦学习 #LoRA #多模态大模型 #个性化 #论文 #arXiv #深度学习
《企业生产级智能体开发部署指南》发布,破解Agentic AI规模化难题
据亚马逊云科技在2026中国峰会上发布消息,全球近90%企业已启动AI转型,但仅约10%实现规模化,多数停留在试点阶段。为破解这一瓶颈,《企业生产级智能体开发部署指南》正式面世,提出以评估驱动的“Agent开发生命周期方法论”,涵盖定标准、开发、评估、灰度上线、持续监控六步闭环。指南明确八类评估维度,包括任务完成率、工具准确性、安全合规、成本延迟等,并配套量化框架与三层指标库,实现可观测、可评估、可优化的持续改进。通过Amazon购物助手等内部实践案例,展示如何自动化API接入、提升工具选择准确率,帮助企业从原型验证走向生产稳定运行。 #AI #Agent #智能体 #生产级部署 #亚马逊云科技 #企业转型 #评估框架 #开发部署指南 #科技新闻
据亚马逊云科技在2026中国峰会上发布消息,全球近90%企业已启动AI转型,但仅约10%实现规模化,多数停留在试点阶段。为破解这一瓶颈,《企业生产级智能体开发部署指南》正式面世,提出以评估驱动的“Agent开发生命周期方法论”,涵盖定标准、开发、评估、灰度上线、持续监控六步闭环。指南明确八类评估维度,包括任务完成率、工具准确性、安全合规、成本延迟等,并配套量化框架与三层指标库,实现可观测、可评估、可优化的持续改进。通过Amazon购物助手等内部实践案例,展示如何自动化API接入、提升工具选择准确率,帮助企业从原型验证走向生产稳定运行。 #AI #Agent #智能体 #生产级部署 #亚马逊云科技 #企业转型 #评估框架 #开发部署指南 #科技新闻
动态图节点亲和性预测机构股票持仓论文发布
近日,一篇题为《利用动态图节点亲和性预测机构股票持仓》的学术论文在arXiv预印本平台提交。该论文由Emad Izadifar和Zahed Rahmati共同完成,研究聚焦于如何通过动态图的节点亲和性来预测机构投资者的股权持仓变化。论文提出了一种基于图学习的新方法,利用机构间持股网络的动态演化规律,建模节点之间的关联强度,从而提升预测准确性。该方法有望为金融市场监管、投资策略优化以及系统性风险识别提供新的分析工具。目前论文提供PDF、HTML及TeX源码下载,并经过arXiv安全审核。 #机器学习 #图神经网络 #金融预测 #机构持股 #arXiv #学术论文 #动态图
近日,一篇题为《利用动态图节点亲和性预测机构股票持仓》的学术论文在arXiv预印本平台提交。该论文由Emad Izadifar和Zahed Rahmati共同完成,研究聚焦于如何通过动态图的节点亲和性来预测机构投资者的股权持仓变化。论文提出了一种基于图学习的新方法,利用机构间持股网络的动态演化规律,建模节点之间的关联强度,从而提升预测准确性。该方法有望为金融市场监管、投资策略优化以及系统性风险识别提供新的分析工具。目前论文提供PDF、HTML及TeX源码下载,并经过arXiv安全审核。 #机器学习 #图神经网络 #金融预测 #机构持股 #arXiv #学术论文 #动态图
Transformer FFN神经元稀疏层间依赖研究
近日,一篇题为《Sparse Inter-Layer Dependencies of Transformer FFN Neurons》的学术论文在arXiv平台发布,作者为Johannes Knittel和Hanspeter Pfister。该研究深入探讨了Transformer模型中前馈神经网络(FFN)神经元在不同层之间的依赖关系,并发现这些依赖关系具有显著的稀疏性特征。通过分析神经元激活模式,作者揭示了层间信息传递的高效结构,为理解Transformer内部工作机制提供了新视角。该成果有望推动模型压缩、可解释性研究及高效架构设计,对自然语言处理与人工智能领域具有重要理论价值。 #Transformer #FFN #神经元 #稀疏性 #深度学习 #AI #论文 #arXiv
近日,一篇题为《Sparse Inter-Layer Dependencies of Transformer FFN Neurons》的学术论文在arXiv平台发布,作者为Johannes Knittel和Hanspeter Pfister。该研究深入探讨了Transformer模型中前馈神经网络(FFN)神经元在不同层之间的依赖关系,并发现这些依赖关系具有显著的稀疏性特征。通过分析神经元激活模式,作者揭示了层间信息传递的高效结构,为理解Transformer内部工作机制提供了新视角。该成果有望推动模型压缩、可解释性研究及高效架构设计,对自然语言处理与人工智能领域具有重要理论价值。 #Transformer #FFN #神经元 #稀疏性 #深度学习 #AI #论文 #arXiv
LiteTopK 新方法
近日,一篇题为《LiteTopK: Exploiting the Curse of Dimensionality for a Fused Indexer-TopK Kernel in Long-Context Sparse Attention》的学术论文受到关注。该研究提出一种名为 LiteTopK 的创新方法,巧妙利用高维空间中的“维度灾难”现象,将索引器与 TopK 选择操作融合为一个高效核函数,从而显著提升长上下文场景下稀疏注意力的计算效率。传统方法在处理超长序列时,TopK 选择成为性能瓶颈,而 LiteTopK 通过维度变换与优化,减少访存开销并提升并行性。实验表明,该方法在保持精度的前提下,大幅降低延迟,为大型语言模型处理长文本提供了新的优化思路。 #学术论文 #AI #稀疏注意力 #长上下文 #维度灾难 #计算优化 #TopK #机器学习
近日,一篇题为《LiteTopK: Exploiting the Curse of Dimensionality for a Fused Indexer-TopK Kernel in Long-Context Sparse Attention》的学术论文受到关注。该研究提出一种名为 LiteTopK 的创新方法,巧妙利用高维空间中的“维度灾难”现象,将索引器与 TopK 选择操作融合为一个高效核函数,从而显著提升长上下文场景下稀疏注意力的计算效率。传统方法在处理超长序列时,TopK 选择成为性能瓶颈,而 LiteTopK 通过维度变换与优化,减少访存开销并提升并行性。实验表明,该方法在保持精度的前提下,大幅降低延迟,为大型语言模型处理长文本提供了新的优化思路。 #学术论文 #AI #稀疏注意力 #长上下文 #维度灾难 #计算优化 #TopK #机器学习
Self-Evolving In-Context Learning 实现 MU
一篇发表于 arXiv 的预印本论文提出了一种名为“自进化上下文学习”(Self-Evolving In-Context Learning)的新方法,用于多用户多输入单输出(MU-MISO)系统中的导频直接到波束赋形器的设计。传统方法通常需要复杂的信号处理与迭代优化,而该研究通过引入上下文学习机制,使模型能够直接从导频信号中学习并生成波束赋形参数,避免了繁琐的中间步骤。该方法借助自进化策略,持续迭代优化模型在具体通信场景下的推理能力,从而提升波束赋形的实时性与准确性。实验表明,该方案在系统吞吐量和鲁棒性上均优于传统基准。论文作者为 Yubo Zhang 等人,提交日期为 2026 年 7 月 13 日。 #无线通信 #MU-MISO #波束赋形 #自进化学习 #上下文学习 #AI #通信系统
一篇发表于 arXiv 的预印本论文提出了一种名为“自进化上下文学习”(Self-Evolving In-Context Learning)的新方法,用于多用户多输入单输出(MU-MISO)系统中的导频直接到波束赋形器的设计。传统方法通常需要复杂的信号处理与迭代优化,而该研究通过引入上下文学习机制,使模型能够直接从导频信号中学习并生成波束赋形参数,避免了繁琐的中间步骤。该方法借助自进化策略,持续迭代优化模型在具体通信场景下的推理能力,从而提升波束赋形的实时性与准确性。实验表明,该方案在系统吞吐量和鲁棒性上均优于传统基准。论文作者为 Yubo Zhang 等人,提交日期为 2026 年 7 月 13 日。 #无线通信 #MU-MISO #波束赋形 #自进化学习 #上下文学习 #AI #通信系统