浅层神经网络变分公式化
近日,一篇题为《Born Discrete, Made Smooth: Variational Formulation of Shallow Neural Networks》的论文在arXiv预印本平台发布。该研究由Matej Benko等四位学者共同完成,旨在为浅层神经网络提供一种全新的变分公式化视角。传统上,神经网络被视为离散的、由节点和连接构成的系统,而该论文通过引入变分法,将浅层网络重新诠释为连续平滑的数学对象,从而在理论上统一了离散结构与连续优化。这一框架不仅有助于理解神经网络的泛化能力,还可能为训练算法和架构设计提供更坚实的数学基础。论文提交于2026年7月2日,目前可通过arXiv获取全文。 #神经网络 #变分法 #机器学习 #AI #数学 #论文 #arXiv
近日,一篇题为《Born Discrete, Made Smooth: Variational Formulation of Shallow Neural Networks》的论文在arXiv预印本平台发布。该研究由Matej Benko等四位学者共同完成,旨在为浅层神经网络提供一种全新的变分公式化视角。传统上,神经网络被视为离散的、由节点和连接构成的系统,而该论文通过引入变分法,将浅层网络重新诠释为连续平滑的数学对象,从而在理论上统一了离散结构与连续优化。这一框架不仅有助于理解神经网络的泛化能力,还可能为训练算法和架构设计提供更坚实的数学基础。论文提交于2026年7月2日,目前可通过arXiv获取全文。 #神经网络 #变分法 #机器学习 #AI #数学 #论文 #arXiv
k-means聚类在完全随机缺失数据下的统计性质研究
近日,一篇题为《Statistical Properties of k-means Clustering for Data Missing Completely at Random》的学术论文在arXiv预印本平台发布。该论文由Xin Guan撰写,系统研究了在数据完全随机缺失(MCAR)情况下,k-means聚类算法的统计性质。研究分析了缺失数据对聚类中心估计、聚类分配以及算法收敛性的影响,并探讨了在缺失数据环境下k-means的理论保证。这项工作为处理不完整数据集的聚类分析提供了重要理论支撑,对机器学习和统计学领域具有实际指导意义。 #k-means #聚类 #缺失数据 #统计性质 #机器学习 #arXiv #学术论文
近日,一篇题为《Statistical Properties of k-means Clustering for Data Missing Completely at Random》的学术论文在arXiv预印本平台发布。该论文由Xin Guan撰写,系统研究了在数据完全随机缺失(MCAR)情况下,k-means聚类算法的统计性质。研究分析了缺失数据对聚类中心估计、聚类分配以及算法收敛性的影响,并探讨了在缺失数据环境下k-means的理论保证。这项工作为处理不完整数据集的聚类分析提供了重要理论支撑,对机器学习和统计学领域具有实际指导意义。 #k-means #聚类 #缺失数据 #统计性质 #机器学习 #arXiv #学术论文
完全贝叶斯强化学习新方法 LF
近日,一篇题为《Full Bayesian Reinforcement Learning via LF-IBIS》的学术论文在 arXiv 上公开。该研究由 Stefano Masini 等人完成,提出了一种基于 LF-IBIS(似然自由迭代贝叶斯重要性采样)的完全贝叶斯强化学习框架。传统强化学习常依赖近似或点估计,而该方法通过贝叶斯推断实现对环境模型和策略的不确定性量化,从而在探索与利用之间取得更优平衡。论文展示了 LF-IBIS 在多个标准基准任务上的有效性,为处理复杂、高维决策问题提供了新思路。该工作有望推动贝叶斯方法在机器人、自动驾驶等领域的实际应用。 #贝叶斯 #强化学习 #LFIBIS #机器学习 #AI #论文 #arXiv
近日,一篇题为《Full Bayesian Reinforcement Learning via LF-IBIS》的学术论文在 arXiv 上公开。该研究由 Stefano Masini 等人完成,提出了一种基于 LF-IBIS(似然自由迭代贝叶斯重要性采样)的完全贝叶斯强化学习框架。传统强化学习常依赖近似或点估计,而该方法通过贝叶斯推断实现对环境模型和策略的不确定性量化,从而在探索与利用之间取得更优平衡。论文展示了 LF-IBIS 在多个标准基准任务上的有效性,为处理复杂、高维决策问题提供了新思路。该工作有望推动贝叶斯方法在机器人、自动驾驶等领域的实际应用。 #贝叶斯 #强化学习 #LFIBIS #机器学习 #AI #论文 #arXiv
X-VAE 提出数据自适应高斯混合先验,提升变分自编码器性能
研究人员提出了一种名为 eXact-Prior 变分自编码器(X-VAE)的新方法,旨在学习数据自适应的高斯混合先验用于潜在分布。传统变分自编码器通常使用标准高斯分布作为先验,限制了模型对复杂数据分布的建模能力。X-VAE 通过引入可学习的混合高斯先验,使模型能够根据数据特征自动调整先验分布,从而更准确地捕捉潜在空间的真实结构。该方法在多个基准数据集上进行了验证,实验结果表明,X-VAE 在生成质量和表示学习方面均优于传统 VAE 及其变体。这一工作为提升生成模型的表达能力提供了新的思路,有望在图像生成、异常检测等领域发挥重要作用。 #XVAE #变分自编码器 #高斯混合模型 #生成模型 #机器学习 #AI #深度学习
研究人员提出了一种名为 eXact-Prior 变分自编码器(X-VAE)的新方法,旨在学习数据自适应的高斯混合先验用于潜在分布。传统变分自编码器通常使用标准高斯分布作为先验,限制了模型对复杂数据分布的建模能力。X-VAE 通过引入可学习的混合高斯先验,使模型能够根据数据特征自动调整先验分布,从而更准确地捕捉潜在空间的真实结构。该方法在多个基准数据集上进行了验证,实验结果表明,X-VAE 在生成质量和表示学习方面均优于传统 VAE 及其变体。这一工作为提升生成模型的表达能力提供了新的思路,有望在图像生成、异常检测等领域发挥重要作用。 #XVAE #变分自编码器 #高斯混合模型 #生成模型 #机器学习 #AI #深度学习
GroundEval: 有状态智能体评估中LLM评判的确定性替代方案
来自arXiv的论文《GroundEval: A Deterministic Replacement for LLM-as-Judge in Stateful Agent Evaluation》提出了一种新的评估框架,旨在解决当下广泛使用的“LLM作为评判者”方法在评估有状态智能体时所面临的不确定性和偏见问题。传统方法依赖大语言模型对智能体行为进行打分,但这种方式往往存在随机性、重复性差以及难以量化的问题。GroundEval通过引入一种确定性评估机制,基于预定义的客观指标和状态回溯,在不依赖LLM的情况下更稳定、更可靠地衡量智能体在复杂多步交互任务中的表现。实验结果显示,该方法在评估准确性与一致性上显著优于现有基准,为智能体系统的公平测评提供了新的工具。 #GroundEval #智能体评估 #LLM评判 #确定性方法 #人工智能 #科研论文 #arXiv
来自arXiv的论文《GroundEval: A Deterministic Replacement for LLM-as-Judge in Stateful Agent Evaluation》提出了一种新的评估框架,旨在解决当下广泛使用的“LLM作为评判者”方法在评估有状态智能体时所面临的不确定性和偏见问题。传统方法依赖大语言模型对智能体行为进行打分,但这种方式往往存在随机性、重复性差以及难以量化的问题。GroundEval通过引入一种确定性评估机制,基于预定义的客观指标和状态回溯,在不依赖LLM的情况下更稳定、更可靠地衡量智能体在复杂多步交互任务中的表现。实验结果显示,该方法在评估准确性与一致性上显著优于现有基准,为智能体系统的公平测评提供了新的工具。 #GroundEval #智能体评估 #LLM评判 #确定性方法 #人工智能 #科研论文 #arXiv
Set Diffusion: 插值自回归与扩散的Token排序,实现快速灵活解码
一篇发表在arXiv上的论文《Set Diffusion》提出了一种新颖的生成模型方法,通过在自回归(AR)和扩散模型(DM)之间插值token的排序顺序,实现更快且更灵活的解码。自回归模型逐token生成,速度瓶颈明显;扩散模型并行生成但质量与效率难以平衡。该工作引入“set diffusion”框架,将生成过程视为对一组无序token的概率建模,并允许在生成过程中动态调整排序策略,从而在解码速度与生成质量之间取得折中。实验验证了该方法在多种文本和序列生成任务上的有效性,相比纯自回归或扩散基线,在保持高保真度的同时显著提升了推理效率。这项研究为未来生成模型的设计提供了新的混合范式。 #AI #深度学习 #生成模型 #自回归 #扩散模型 #论文 #机器学习 #自然语言处理
一篇发表在arXiv上的论文《Set Diffusion》提出了一种新颖的生成模型方法,通过在自回归(AR)和扩散模型(DM)之间插值token的排序顺序,实现更快且更灵活的解码。自回归模型逐token生成,速度瓶颈明显;扩散模型并行生成但质量与效率难以平衡。该工作引入“set diffusion”框架,将生成过程视为对一组无序token的概率建模,并允许在生成过程中动态调整排序策略,从而在解码速度与生成质量之间取得折中。实验验证了该方法在多种文本和序列生成任务上的有效性,相比纯自回归或扩散基线,在保持高保真度的同时显著提升了推理效率。这项研究为未来生成模型的设计提供了新的混合范式。 #AI #深度学习 #生成模型 #自回归 #扩散模型 #论文 #机器学习 #自然语言处理
研究揭示持续后训练中在线自蒸馏的密度并非越高越好
来自arXiv的一篇论文《Denser ≠ Better: Limits of On-Policy Self-Distillation for Continual Post-Training》由Meng Wang等作者提出。该研究针对持续后训练场景下的在线自蒸馏方法进行深入分析,发现增加蒸馏密度并不总是带来性能提升,反而存在性能上限和潜在退化。实验表明,过度密集的蒸馏可能导致模型过拟合或遗忘先前知识,从而限制了持续学习的效果。这一发现为优化大模型的后训练策略提供了重要参考,提示研究者需谨慎选择蒸馏密度。 #论文 #持续学习 #自蒸馏 #机器学习 #AI #大模型 #后训练 #研究 #arXiv
来自arXiv的一篇论文《Denser ≠ Better: Limits of On-Policy Self-Distillation for Continual Post-Training》由Meng Wang等作者提出。该研究针对持续后训练场景下的在线自蒸馏方法进行深入分析,发现增加蒸馏密度并不总是带来性能提升,反而存在性能上限和潜在退化。实验表明,过度密集的蒸馏可能导致模型过拟合或遗忘先前知识,从而限制了持续学习的效果。这一发现为优化大模型的后训练策略提供了重要参考,提示研究者需谨慎选择蒸馏密度。 #论文 #持续学习 #自蒸馏 #机器学习 #AI #大模型 #后训练 #研究 #arXiv
新论文提出角色感知神经凸散度头用于非对称表示学习
据arXiv预印本平台显示,一篇由He Huang等四位作者共同撰写的论文《Role-Aware Neural Convex Divergence Heads for Asymmetric Representation Learning》于2026年7月2日提交。该研究针对非对称表示学习场景,提出一种名为“角色感知神经凸散度头”的新方法,通过引入角色区分机制与凸散度优化头,旨在提升模型在不对称数据分布下的表征能力。论文涉及计算机科学和统计学领域,当前浏览上下文标记为cs和stat类别,并已提供PDF、HTML及TeX源文件。该工作获得了NASA ADS、Google Scholar等学术工具的引用支持,并关联了代码、数据及媒体资源。这一方法有望为机器学习中的不对称问题提供新的解决思路,尤其在对抗性学习、推荐系统等需要角色建模的应用中具有潜在价值。 #机器学习 #表示学习 #arXiv #论文 #AI #非对称学习 #角色感知 #凸散度 #深度学习
据arXiv预印本平台显示,一篇由He Huang等四位作者共同撰写的论文《Role-Aware Neural Convex Divergence Heads for Asymmetric Representation Learning》于2026年7月2日提交。该研究针对非对称表示学习场景,提出一种名为“角色感知神经凸散度头”的新方法,通过引入角色区分机制与凸散度优化头,旨在提升模型在不对称数据分布下的表征能力。论文涉及计算机科学和统计学领域,当前浏览上下文标记为cs和stat类别,并已提供PDF、HTML及TeX源文件。该工作获得了NASA ADS、Google Scholar等学术工具的引用支持,并关联了代码、数据及媒体资源。这一方法有望为机器学习中的不对称问题提供新的解决思路,尤其在对抗性学习、推荐系统等需要角色建模的应用中具有潜在价值。 #机器学习 #表示学习 #arXiv #论文 #AI #非对称学习 #角色感知 #凸散度 #深度学习
潜在世界模型闭环性能预测:面向非马尔可夫奖励的离线检查点选择方法
该研究提出一种预测潜在世界模型闭环性能的方法,用于在非马尔可夫奖励场景下进行模型预测控制(MPC)和基于模型的强化学习中的离线检查点选择。研究以LunarLander环境为测试平台,通过分析不同训练阶段的模型检查点,评估其在闭环控制中的实际表现。作者Nikolai Smolyanskiy在arXiv上提交的论文详细阐述了如何利用离线指标预测模型在真实交互中的性能,从而避免昂贵的在线评估。该方法有望提升模型选择效率,推动潜在世界模型在复杂控制任务中的应用。 #机器学习 #强化学习 #世界模型 #MPC #LunarLander #非马尔可夫奖励 #离线检查点 #arXiv #论文
该研究提出一种预测潜在世界模型闭环性能的方法,用于在非马尔可夫奖励场景下进行模型预测控制(MPC)和基于模型的强化学习中的离线检查点选择。研究以LunarLander环境为测试平台,通过分析不同训练阶段的模型检查点,评估其在闭环控制中的实际表现。作者Nikolai Smolyanskiy在arXiv上提交的论文详细阐述了如何利用离线指标预测模型在真实交互中的性能,从而避免昂贵的在线评估。该方法有望提升模型选择效率,推动潜在世界模型在复杂控制任务中的应用。 #机器学习 #强化学习 #世界模型 #MPC #LunarLander #非马尔可夫奖励 #离线检查点 #arXiv #论文
编程示例中的固定集鲁棒性
一篇题为《编程示例中的固定集鲁棒性:示例破坏与语义分区恢复》的学术论文已通过arXiv平台发布。该研究由Yuan Si等人完成,主要探讨在编程示例(Programming by Example)场景下,当输入示例受到破坏或干扰时,如何保持系统的鲁棒性。论文提出了一种通过语义分区恢复的方法,旨在应对示例数据中的噪声和错误,从而提升编程示例系统的稳定性和准确性。该研究对于理解机器学习中示例数据的脆弱性以及设计更可靠的自动化编程工具具有重要意义。论文全文可通过arXiv获取,并支持HTML、TeX源码等多种查看方式。 #编程示例 #鲁棒性 #语义分区 #机器学习 #arXiv #学术论文 #计算机科学
一篇题为《编程示例中的固定集鲁棒性:示例破坏与语义分区恢复》的学术论文已通过arXiv平台发布。该研究由Yuan Si等人完成,主要探讨在编程示例(Programming by Example)场景下,当输入示例受到破坏或干扰时,如何保持系统的鲁棒性。论文提出了一种通过语义分区恢复的方法,旨在应对示例数据中的噪声和错误,从而提升编程示例系统的稳定性和准确性。该研究对于理解机器学习中示例数据的脆弱性以及设计更可靠的自动化编程工具具有重要意义。论文全文可通过arXiv获取,并支持HTML、TeX源码等多种查看方式。 #编程示例 #鲁棒性 #语义分区 #机器学习 #arXiv #学术论文 #计算机科学