AI知识库 @ai521
351 subscribers
23.9K photos
45 videos
20 files
919 links
@ai521 专注分享最实用的AI内容

🤖 AI教程(新手到进阶)
🧠 AI知识科普(大模型 / 提示词 / 自动化)
📰 AI资讯更新(每日最新AI动态)
📚 AI实战技巧(写作 / 绘画 / 编程 / 赚钱)
🔧 最新AI工具推荐

每天更新AI干货
长期做一个真正有价值的AI频道
Download Telegram
合成数据增强何时能提升基于分数的非平衡分类?

arXiv平台近日上线了一篇题为《When Does Synthetic Data Augmentation Improve Score-Based Imbalanced Classification?》的研究论文。该论文由Zhengchi Ma等作者撰写,探讨了在非平衡分类任务中,合成数据增强技术对基于分数模型的影响条件。研究通过理论分析和实验验证,揭示了数据增强效果依赖于类别分布、模型类型及合成数据质量等因素,为实际应用中合理使用数据增强提供了理论指导。该工作有望提升机器学习在不均衡场景下的表现。 #机器学习 #非平衡分类 #数据增强 #合成数据 #学术论文 #AI #arXiv
扩散模型渐近学习曲线

一项新研究正式揭示了扩散模型在复杂数据分布下的渐近学习行为。该论文由Anand Jerry George等学者撰写,聚焦于使用随机特征评分和流形数据的扩散模型。研究通过理论分析推导了模型在训练过程中的学习曲线,阐明了模型容量、数据几何结构与泛化性能之间的关系。这项工作为理解扩散模型在高维、低维流形混合数据上的表现提供了数学基础,有助于优化模型训练效率和生成质量。论文已在arXiv上公开,并经过多版本修订,最终版本于2026年6月发布。 #扩散模型 #随机特征 #流形学习 #渐近分析 #机器学习理论 #AI #深度学习
Telegram必备的搜索引擎,极搜JISOU帮你精准找到,想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025
有效非零数

来自哈工大等多位研究者的一篇论文提出了“有效非零数”(Effective Number of Nonzeros)概念,为稀疏恢复问题提供了全新的理论框架与正则化方法。该研究通过定义一种连续可微的度量,替代传统L0范数,实现了对稀疏性的更精确控制,并证明了其在优化与泛化性能上的优势。实验表明,该方法在图像重建、信号处理等领域显著优于现有稀疏恢复算法。论文已发布于arXiv,相关代码与数据也已公开,为稀疏机器学习领域提供了重要理论支撑。 #稀疏恢复 #有效非零数 #正则化 #机器学习 #信号处理 #论文 #学术研究
从巧合中挖掘信息

一篇题为《Information from coincidences》(来自巧合的信息)的研究论文于2026年6月23日提交至 arXiv 预印本平台。该论文由 Akshay Balsubramani 撰写,主要探讨如何从看似偶然的巧合事件中提取有价值的信息。论文可能涉及信息论、统计推理与概率模型等交叉领域,为理解随机性背后的信息结构提供了新的理论框架。目前论文可通过 arXiv 获取全文及数据资源。 #arXiv #预印本 #信息论 #巧合 #统计推理 #机器学习 #学术论文
层次化偏序排序模型论文在arXiv发布

近日,一篇题为《Hierarchical Partial-Order Models for Ranking》的学术论文在arXiv平台公开发布。该论文由Dongqing Li等两位作者共同撰写,提出了一种基于层次化偏序结构的排序模型。与传统的全序或简单偏序排序方法不同,该模型通过引入层次化结构,能够更灵活地表达排序中存在的部分比较关系和不确定性,从而提升在复杂排序任务上的表现。论文已通过DataCite分配了arXiv DOI(待注册)。目前该论文的PDF全文、HTML实验版本及TeX源码均可公开访问,研究社区可通过引用工具(如BibTeX)获取文献信息。 #机器学习 #排序模型 #层次化偏序 #人工智能 #arXiv #学术论文 #统计学习
随机克里金信徒方法实现带遗憾界的并行贝叶斯优化

据arXiv预印本平台显示,一篇题为“Randomized Kriging Believer for Parallel Bayesian Optimization with Regret Bounds”的研究论文正式上线。该论文由Shuhei Sugiura等人完成,提出了一种名为随机克里金信徒的新算法,用于并行贝叶斯优化场景。该方法在传统Kriging代理模型的基础上引入随机化机制,使得多个候选点可以同时进行评估,大幅提升了优化效率。研究团队还首次为该方法推导了严格的理论遗憾界,保证了算法的收敛性。实验表明,该算法在多个标准测试函数和实际黑箱优化问题上均优于现有并行方法,尤其适用于高维、计算代价昂贵的优化任务。论文已公开PDF全文,并附带了相关代码和数据链接。 #贝叶斯优化 #并行计算 #机器学习 #Kriging #遗憾界 #算法 #arXiv
训练你返回的模型

近日,一篇题为《Training for the Model You Return: Improving Optimization for Iterate-Averaged Language Models》的论文在arXiv上预发布。该论文由Kwok Chun Au和Adam Block共同撰写,聚焦于语言模型训练中的迭代平均(iterate averaging)技术。传统优化方法在训练后期直接返回最终模型参数,而迭代平均则通过对训练过程中多个检查点进行平均来获得更优模型。作者提出了一种新的训练策略,旨在使优化过程本身适应于迭代平均后的模型表现,从而提升语言模型的最终性能。实验表明,该方法在多个基准任务上显著改善了模型的收敛速度与泛化能力,为大规模语言模型的训练提供了更高效的优化路径。 #论文 #机器学习 #优化算法 #语言模型 #AI #深度学
Logit Distance Bounds Representational Similarity

近日,一篇题为《Logit Distance Bounds Representational Similarity》的学术论文在arXiv平台发布,作者为Beatrix M. G. Nielsen等。该论文属于计算机科学和统计学交叉领域,主要探讨神经网络中表征相似性的度量方法。研究提出使用Logit距离作为表征相似性的上界约束,为理解模型内部表示和进行模型比较提供了新的理论工具。论文自2026年2月首次提交以来已更新多个版本,并附带了代码与数据资源,有望推动模型可解释性和神经网络分析领域的发展。 #机器学习 #表征相似性 #Logit距离 #arXiv #神经网络 #论文
CauScale

该论文由Bo Peng等5位作者提交至arXiv,提出一种名为CauScale的神经因果发现框架,旨在解决大规模数据中的因果关系推断问题。传统因果发现方法在计算复杂度和可扩展性上存在瓶颈,CauScale通过神经网络架构创新,显著提升了处理高维变量和复杂非线性关系的能力。论文展示了该方法在多个基准数据集上的优越性能,并提供了开源代码实现,有望推动因果推断在生物信息学、经济学等领域的实际应用。 #因果发现 #神经网络 #大规模数据 #AI #arXiv #论文 #CauScale
arXiv论文提出基于预训练信念表示的高效自适应数据采集方法

近日,一篇题为《Efficient Adaptive Data Acquisition via Pretrained Belief Representations》的研究论文在arXiv预印本平台公开发布。该论文由Daolang Huang等六位作者共同完成,于2026年6月23日提交。论文聚焦于自适应数据采集的效率问题,提出利用预训练的信念表示来指导数据选择过程。具体而言,该方法通过预训练模型生成的信念估计,动态评估各数据样本的信息价值,从而优先采集最具学习潜力的样本,有效降低标注成本。这一框架在主动学习、数据高效机器学习等领域具有潜在应用价值。目前论文提供PDF和HTML版本供研究人员下载查阅。 #arXiv #论文 #机器学习 #自适应数据采集 #预训练表示
SGD在多指标模型中的局限性

一篇由Daniel Barzilai和Ohad Shamir撰写的论文《Limitations of SGD for Multi-Index Models Beyond Statistical Queries》在arXiv上发布。该研究深入探讨了随机梯度下降(SGD)算法在处理多指标模型时的性能边界。传统上,统计查询(SQ)模型为分析学习算法的信息复杂度提供了框架,但SGD在实际应用中常表现出超越SQ模型的效率。论文通过理论分析指出,对于某些多指标模型,SGD的收敛速度受到严格限制,无法像在简单模型中那样高效。这一发现揭示了SGD在复杂高维问题中的固有弱点,为理解深度学习优化算法的局限性提供了新视角,并可能影响未来算法设计与理论分析的方向。 #机器学习 #SGD #多指标模型 #统计查询 #优化算法 #深度学习 #理论计算机科学 #论文
学习可解释文本信号以实现结构化响应

近日,来自Cixiao Jiang等研究者的论文《Learning Interpretable Text Signals for Structured Responses》在arXiv平台发布。该论文聚焦于如何从文本中学习可解释的信号,以生成结构化响应。研究提出一种新方法,旨在提升模型对文本中隐含信号的识别与利用能力,从而使输出结果更具结构化和可解释性。相关工作在自然语言处理、可解释AI等领域具有潜在应用价值。论文已通过DataCite关联arXiv DOI,并提供PDF及HTML等访问方式。 #人工智能 #自然语言处理 #可解释性 #结构化响应 #机器学习 #论文 #arXiv
在线表格MDP中数据与方差依赖的遗憾界新成果

一篇来自arXiv的论文针对在线表格马尔可夫决策过程(MDP)提出了数据依赖和方差依赖的遗憾界。该研究由Mingyi Li等人完成,通过理论分析推导出更紧的遗憾上界,为在线学习中的样本复杂度和算法性能提供了更精细的刻画。这一成果有望对强化学习算法设计产生重要指导意义,特别是在需要权衡探索与利用的场景中。 #强化学习 #MDP #遗憾界 #在线学习 #理论 #arXiv #算法 #机器学习
核梯度流与无穷小梯度提升的函数中心极限定理研究

近日,一篇题为《核梯度流与无穷小梯度提升的函数中心极限定理》的论文在arXiv预印本平台发布。该研究由克莱蒙·东布里(Clément Dombry)等人完成,深入探讨了核梯度流(kernel gradient flow)和无穷小梯度提升(infinitesimal gradient boosting)的渐近性质。论文提出了一个函数中心极限定理,为理解这两类算法的统计收敛性提供了理论基础。这项工作有助于推动机器学习理论的发展,特别是在核方法和梯度提升算法的统计分析方面具有参考价值。论文发布于2026年6月24日,目前可在线获取全文。 #数学 #统计 #机器学习 #核方法 #梯度提升 #中心极限定理 #arXiv #论文
学习单调对抗性污染

一篇题为《Learning with Monotone Adversarial Corruptions》的论文近日在arXiv上发布。该研究由Kasper Green Larsen等学者共同完成,探讨在一种特殊形式的对抗性污染——单调污染下的学习问题。传统对抗性污染假设攻击者可以任意篡改数据,而单调污染则约束攻击者只能以单调方式破坏样本(例如仅增加或减少某些特征)。作者证明了在这种情况下,即使污染比例很高,仍可实现有效学习,并给出了相应的算法与理论保证。这一成果对于理解鲁棒机器学习的极限以及设计更安全的模型具有重要理论价值,有助于推动对抗性学习领域的进一步发展。 #机器学习 #对抗性污染 #鲁棒学习 #单调性 #arXiv #理论计算机科学 #AI安全
Deviance-style 联合过度分散计数归一化方法

该论文由 Akshay Balsubramani 提交至 arXiv,提出了一种针对联合过度分散计数数据的新型归一化方法。在多个科学领域(如基因组学、生态学)中,计数数据常表现出过度分散且变量间存在相关性,传统归一化技术难以同时处理这两种特性。论文基于偏差统计量设计了归一化策略,旨在在保持数据联合分布结构的同时校正过度分散。该方法有望提升后续统计推断的准确性,尤其适用于高维稀疏计数场景。论文目前以预印本形式发布,并提供 PDF 和 HTML 版本供查阅。 #统计学 #归一化 #过度分散 #计数数据 #arXiv #学术论文 #机器学习
预训练分布如何塑造上下文学习?一项基本权衡的揭示

一项来自arXiv的新研究深入探讨了预训练数据分布对大型语言模型上下文学习能力的影响。研究发现,预训练数据的分布结构与模型在推理时吸收并利用上下文信息的方式之间存在一个根本性的权衡。当预训练数据分布与下游任务所需的上下文模式高度匹配时,模型能更有效地进行上下文学习;反之,若分布存在偏差,则可能导致性能下降。该工作为理解大模型涌现能力背后的机制提供了新视角,并暗示在预训练阶段合理设计数据分布对于优化上下文学习至关重要,可能对未来的模型训练策略产生重要影响。 #AI #机器学习 #大语言模型 #上下文学习 #预训练 #数据分布 #研究 #arXiv
鲁棒线性预测论文已被撤回

最新消息,一篇题为《Robust Linear Predictions: Analyses of Uniform Concentration, Fast Rates and Model Misspecification》(鲁棒线性预测:均匀集中、快速速率与模型误设分析)的学术论文已被作者撤回。该论文由Saptarshi Chakraborty等人撰写,最初于2022年1月提交至arXiv预印本平台,先后经历两次更新,最终版本于2026年6月23日被标记为“已撤回”。论文主要探讨了鲁棒线性回归中的均匀集中性质、快速收敛速率以及模型误设问题,属于机器学习与统计学习理论领域的重要研究。撤回原因并未详细说明,但通常涉及数据、模型或结论中的重大缺陷或错误。 #学术 #论文 #撤回 #机器学习 #鲁棒性 #线性预测 #arXiv #统计学习
RotRNN

来自arXiv的一项新研究提出RotRNN模型,旨在解决传统循环神经网络(RNN)在长序列建模中的梯度消失和计算效率问题。该模型的核心思想是将旋转矩阵引入RNN的隐藏状态更新中,通过旋转操作保持信息的长期记忆,同时避免复杂门控机制带来的计算开销。实验表明,RotRNN在多个长序列基准任务上取得了与Transformer相近的性能,但参数量和推理速度更具优势。论文还提供了理论分析,证明旋转操作能够有效缓解梯度爆炸/消失现象。该工作由Kai Biegun等多位研究者共同完成,相关代码与模型已在arXiv上公开。 #RNN #长序列建模 #旋转矩阵 #arXiv #深度学习 #论文 #AI
论文《Structured Approximations of Measures》发布

该论文由Keaton Hamm和Varun Khurana共同撰写,主要研究测度的结构化逼近问题。论文于2023年10月13日首次提交至arXiv平台,并在后续进行了两次修订(最近一次为2026年6月)。文中提出了一种新的方法论,旨在通过结构化方式对测度进行有效逼近,相关结果可能对概率论、统计学及机器学习中的分布近似问题具有理论参考价值。目前论文提供PDF、HTML及TeX源码等多种访问方式,并已被多个学术工具索引。 #测度 #结构化逼近 #数学 #统计 #概率 #arXiv #学术论文