对比学习新视角:损失函数并非全部,采样条件与归纳偏置至关重要
来自 arXiv 的一篇预印本研究指出,在对比表示学习领域,仅关注损失函数的设计是远远不够的。该论文题为《损失还不够:对比表示学习中的采样条件和归纳偏置》,由 Justinas Zaliaduonis 等学者撰写。研究深入探讨了对比学习成功的关键因素,认为相比损失函数的形式,样本对的采样策略以及模型本身的归纳偏置对最终学习到的表示质量影响更为显著。相关工作揭示了当前对比学习范式中被忽视的理论层面,为理解和改进自监督表示学习方法提供了新的理论视角与实验依据。该论文已于2026年6月提交至 arXiv。 #对比学习 #表示学习 #归纳偏置 #损失函数 #采样策略 #自监督学习 #机器学习 #深度学习 #AI理论
来自 arXiv 的一篇预印本研究指出,在对比表示学习领域,仅关注损失函数的设计是远远不够的。该论文题为《损失还不够:对比表示学习中的采样条件和归纳偏置》,由 Justinas Zaliaduonis 等学者撰写。研究深入探讨了对比学习成功的关键因素,认为相比损失函数的形式,样本对的采样策略以及模型本身的归纳偏置对最终学习到的表示质量影响更为显著。相关工作揭示了当前对比学习范式中被忽视的理论层面,为理解和改进自监督表示学习方法提供了新的理论视角与实验依据。该论文已于2026年6月提交至 arXiv。 #对比学习 #表示学习 #归纳偏置 #损失函数 #采样策略 #自监督学习 #机器学习 #深度学习 #AI理论
从离散到连续:神经网络强化学习在连续环境中的动态机制
这篇来自arXiv的预印本论文探讨了神经网络强化学习在连续环境中的动态行为。传统强化学习多基于离散时间步和状态,而现实世界中的任务(如机器人控制、自动驾驶)往往需要处理连续的状态和动作空间。研究提出了一种从离散“滴答”事件到连续“流”的转化框架,分析了神经网络的训练动态、收敛特性以及策略学习的底层机制。通过理论推导和模拟实验,论文揭示了连续环境下强化学习算法与神经网络的交互规律,为提升复杂连续决策任务的性能提供了理论基础,有望推动强化学习在物理世界中的应用。 #神经网络 #强化学习 #连续控制 #机器学习 #AI研究 #arXiv #动态系统
这篇来自arXiv的预印本论文探讨了神经网络强化学习在连续环境中的动态行为。传统强化学习多基于离散时间步和状态,而现实世界中的任务(如机器人控制、自动驾驶)往往需要处理连续的状态和动作空间。研究提出了一种从离散“滴答”事件到连续“流”的转化框架,分析了神经网络的训练动态、收敛特性以及策略学习的底层机制。通过理论推导和模拟实验,论文揭示了连续环境下强化学习算法与神经网络的交互规律,为提升复杂连续决策任务的性能提供了理论基础,有望推动强化学习在物理世界中的应用。 #神经网络 #强化学习 #连续控制 #机器学习 #AI研究 #arXiv #动态系统
预训练阶段引入强化学习
一篇题为《预训练期间的强化学习探索:重新审视大语言模型训练的策略优化》的学术论文在arXiv上发布。该研究由Rachit Bansal等四位作者完成,提交于2026年6月2日。论文主要探讨在大型语言模型(LLM)的预训练阶段,如何通过引入强化学习中的“探索”机制来改进策略优化算法。传统预训练通常采用监督学习范式,而该工作重新审视了策略优化在预训练中的角色,试图将强化学习的决策与探索能力融入早期训练环节,以提升模型学习效率与泛化能力。研究可能对现有LLM训练流程提出修正,为未来更高效的模型开发提供新思路。 #AI #大模型 #强化学习 #预训练 #策略优化 #LLM #论文 #arXiv
一篇题为《预训练期间的强化学习探索:重新审视大语言模型训练的策略优化》的学术论文在arXiv上发布。该研究由Rachit Bansal等四位作者完成,提交于2026年6月2日。论文主要探讨在大型语言模型(LLM)的预训练阶段,如何通过引入强化学习中的“探索”机制来改进策略优化算法。传统预训练通常采用监督学习范式,而该工作重新审视了策略优化在预训练中的角色,试图将强化学习的决策与探索能力融入早期训练环节,以提升模型学习效率与泛化能力。研究可能对现有LLM训练流程提出修正,为未来更高效的模型开发提供新思路。 #AI #大模型 #强化学习 #预训练 #策略优化 #LLM #论文 #arXiv
反事实行为的几何视角
arXiv 上近日提交了一篇题为《A Geometric View of Counterfactual Behavior: Interaction of Boundary Proximity and Local Support》的研究论文。该论文由 Ioanna Gemou 等四位作者完成,从几何视角系统探讨了反事实行为的内在机制,重点分析了决策边界邻近度与局部数据支持之间的交互作用。研究可能为机器学习可解释性、因果推理等领域提供新的理论框架。论文当前已在 arXiv 平台发布,相关代码和补充资料可通过链接获取,尚未正式注册 DOI。 #arXiv #反事实 #机器学习 #因果推理 #几何视角 #学术研究 #AI可解释性
arXiv 上近日提交了一篇题为《A Geometric View of Counterfactual Behavior: Interaction of Boundary Proximity and Local Support》的研究论文。该论文由 Ioanna Gemou 等四位作者完成,从几何视角系统探讨了反事实行为的内在机制,重点分析了决策边界邻近度与局部数据支持之间的交互作用。研究可能为机器学习可解释性、因果推理等领域提供新的理论框架。论文当前已在 arXiv 平台发布,相关代码和补充资料可通过链接获取,尚未正式注册 DOI。 #arXiv #反事实 #机器学习 #因果推理 #几何视角 #学术研究 #AI可解释性
无训练词汇
一篇题为《Training-Free Lexical-Dense Fusion for Conversational-Memory Retrieval》的学术论文于2026年6月2日提交至arXiv预印本平台。该论文由研究者Christian Lysenstøen独立完成,提出了一种无需额外训练即可将词汇匹配与密集向量检索相融合的新方法,专门用于对话系统中的记忆检索任务。传统对话记忆检索通常依赖监督训练或复杂微调,而该方法通过巧妙结合词袋模型与稠密嵌入的互补优势,在零训练开销下显著提升检索精度与效率。实验表明,该融合策略在多个对话基准数据集上优于纯词汇或纯密集方法,尤其在处理长对话历史和模糊查询时表现突出。该工作为构建更轻量、灵活的对话记忆模块提供了新思路,有望降低实际部署中的计算与数据标注成本。 #对话系统 #记忆检索 #无训练融合 #词汇-密集检索 #arXiv #自然语言处理 #AI研究
一篇题为《Training-Free Lexical-Dense Fusion for Conversational-Memory Retrieval》的学术论文于2026年6月2日提交至arXiv预印本平台。该论文由研究者Christian Lysenstøen独立完成,提出了一种无需额外训练即可将词汇匹配与密集向量检索相融合的新方法,专门用于对话系统中的记忆检索任务。传统对话记忆检索通常依赖监督训练或复杂微调,而该方法通过巧妙结合词袋模型与稠密嵌入的互补优势,在零训练开销下显著提升检索精度与效率。实验表明,该融合策略在多个对话基准数据集上优于纯词汇或纯密集方法,尤其在处理长对话历史和模糊查询时表现突出。该工作为构建更轻量、灵活的对话记忆模块提供了新思路,有望降低实际部署中的计算与数据标注成本。 #对话系统 #记忆检索 #无训练融合 #词汇-密集检索 #arXiv #自然语言处理 #AI研究
Metric-Aware Hybrid Forecasting for the CTF4Science Lorenz Challenge
Focus to learn more arXiv-issued DOI via DataCite (pending registration) Submission history From: Cen Lu [ view email ] [v1] Tue, 2 Jun 2026 20:20:40 UTC (9 KB) Full-text links: Access Paper: View a PDF of the paper titled Metric-Aware Hybrid Forecasting for the CTF4Science Lorenz Challenge, by Cen Lu View PDF HTML (experimental) TeX Source view license Current browse context: < prev | next > new | recent | 2026-06 Change to browse by: cs References & Citations NASA ADS Google Scholar Semantic Scholar export BibTeX citation Loading... BibTeX formatted citation × loading... Data provided by: Bookmark Bibliographic Tools Bibliographic and Citation Tools Bibliographic Explorer Toggle Bibliographic Explorer ( What is the Explorer? ) Connected Papers Toggle Connected Papers ( What is Connected Papers? ) Lit
Focus to learn more arXiv-issued DOI via DataCite (pending registration) Submission history From: Cen Lu [ view email ] [v1] Tue, 2 Jun 2026 20:20:40 UTC (9 KB) Full-text links: Access Paper: View a PDF of the paper titled Metric-Aware Hybrid Forecasting for the CTF4Science Lorenz Challenge, by Cen Lu View PDF HTML (experimental) TeX Source view license Current browse context: < prev | next > new | recent | 2026-06 Change to browse by: cs References & Citations NASA ADS Google Scholar Semantic Scholar export BibTeX citation Loading... BibTeX formatted citation × loading... Data provided by: Bookmark Bibliographic Tools Bibliographic and Citation Tools Bibliographic Explorer Toggle Bibliographic Explorer ( What is the Explorer? ) Connected Papers Toggle Connected Papers ( What is Connected Papers? ) Lit
maps Toggle Litmaps ( What is Litmaps? ) Toggle scite Smart Citations ( What are Smart Citations? ) Code, Data, Media Code, Data and Media Associated with this Article alphaXiv Toggle alphaXiv ( What is alphaXiv? ) Links to Code Toggle CatalyzeX Code Finder for Papers ( What is CatalyzeX? ) DagsHub Toggle DagsHub ( What is DagsHub? ) GotitPub Toggle ( What is GotitPub? ) Huggingface Toggle Hugging Face ( What is Huggingface? ) ScienceCast Toggle ScienceCast ( What is ScienceCast? ) Demos Demos Replicate Toggle Replicate ( What is Replicate? ) Spaces Toggle Hugging Face Spaces ( What is Spaces? ) Spaces Toggle ( What is ? ) Related Papers Recommenders and Search Tools Link to Influence Flower Influence Flower ( What are Influence Flowers? ) Core recommender toggle CORE Recommender ( What is CORE? ) IArxiv recommender toggle IArxiv Recommender ( What is IArxiv? ) Author Venue Institution Topic About arXivLabs arXivLabs: experimental projects with community collaborators arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website. Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them. Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs .
KODA:面向视觉
近日,一篇题为《KODA: Contrastive Representation Comparison and Alignment for Vision-Language Foundation Models》的论文在arXiv上发布。该研究由Youqi Wu等人提出,旨在通过对比学习优化视觉-语言基础模型中的表示比较与对齐问题。KODA方法通过引入对比表示比较机制,增强模型对跨模态语义差异的捕捉能力,从而提升图文匹配、视觉问答等下游任务的性能。论文还提供了完整的实验代码与数据,为多模态AI领域的研究提供了新的思路。目前该论文已开放PDF全文及HTML预览。 #论文 #视觉语言模型 #对比学习 #多模态AI #arXiv #KODA #表示对齐
近日,一篇题为《KODA: Contrastive Representation Comparison and Alignment for Vision-Language Foundation Models》的论文在arXiv上发布。该研究由Youqi Wu等人提出,旨在通过对比学习优化视觉-语言基础模型中的表示比较与对齐问题。KODA方法通过引入对比表示比较机制,增强模型对跨模态语义差异的捕捉能力,从而提升图文匹配、视觉问答等下游任务的性能。论文还提供了完整的实验代码与数据,为多模态AI领域的研究提供了新的思路。目前该论文已开放PDF全文及HTML预览。 #论文 #视觉语言模型 #对比学习 #多模态AI #arXiv #KODA #表示对齐
无神经元智能交通
一篇来自arXiv的预印本论文提出了一种新颖的地铁网络扩展方法,利用表格强化学习(Tabular Reinforcement Learning)在无需神经网络的情况下实现公平的交通规划。该方法名为“无神经元智能交通”,旨在解决传统地铁扩建中可能出现的区域发展不均衡问题。研究团队通过构建状态-动作表格,将地铁线路的扩展决策建模为强化学习问题,并引入公平性约束,确保不同社区都能获得合理的交通服务。实验表明,该表格强化学习方法在计算效率和可解释性上优于基于深度神经网络的方案,为城市交通规划提供了一种轻量级、透明的替代工具。论文作者来自希腊等机构,目前该研究尚处于学术讨论阶段。 #强化学习 #地铁规划 #公平交通 #表格方法 #智能交通 #arXiv #城市计算
一篇来自arXiv的预印本论文提出了一种新颖的地铁网络扩展方法,利用表格强化学习(Tabular Reinforcement Learning)在无需神经网络的情况下实现公平的交通规划。该方法名为“无神经元智能交通”,旨在解决传统地铁扩建中可能出现的区域发展不均衡问题。研究团队通过构建状态-动作表格,将地铁线路的扩展决策建模为强化学习问题,并引入公平性约束,确保不同社区都能获得合理的交通服务。实验表明,该表格强化学习方法在计算效率和可解释性上优于基于深度神经网络的方案,为城市交通规划提供了一种轻量级、透明的替代工具。论文作者来自希腊等机构,目前该研究尚处于学术讨论阶段。 #强化学习 #地铁规划 #公平交通 #表格方法 #智能交通 #arXiv #城市计算
ADAPTOOD:面向分布外心电图时间序列模型的不确定性感知微调方法
一篇发表于arXiv的论文提出了一种名为ADAPTOOD的新方法,旨在解决心电图(ECG)时间序列模型在分布外数据上的泛化问题。该方法通过不确定性感知的微调策略,使预训练模型能够更好地适应与训练数据分布不同的真实场景,从而提升对异常心电信号的识别能力。研究团队在多个公开数据集上验证了该方法的有效性,结果显示ADAPTOOD在保持原有模型性能的同时,显著增强了模型对未知分布的鲁棒性。这一工作为医疗AI中的时间序列模型部署提供了新的思路,尤其适用于心电图等动态生理信号的实时监测与诊断。 #论文 #ECG #时间序列 #不确定性 #微调 #AI #医疗 #分布外泛化 #鲁棒性
一篇发表于arXiv的论文提出了一种名为ADAPTOOD的新方法,旨在解决心电图(ECG)时间序列模型在分布外数据上的泛化问题。该方法通过不确定性感知的微调策略,使预训练模型能够更好地适应与训练数据分布不同的真实场景,从而提升对异常心电信号的识别能力。研究团队在多个公开数据集上验证了该方法的有效性,结果显示ADAPTOOD在保持原有模型性能的同时,显著增强了模型对未知分布的鲁棒性。这一工作为医疗AI中的时间序列模型部署提供了新的思路,尤其适用于心电图等动态生理信号的实时监测与诊断。 #论文 #ECG #时间序列 #不确定性 #微调 #AI #医疗 #分布外泛化 #鲁棒性
When Offline Selectors Cannot Beat the Best Single Model: A Diagnostic Study on edX Dropout Prediction
Focus to learn more arXiv-issued DOI via DataCite (pending registration) Submission history From: Tyler Crosse [ view email ] [v1] Tue, 2 Jun 2026 19:24:09 UTC (1,341 KB) Full-text links: Access Paper: View a PDF of the paper titled When Offline Selectors Cannot Beat the Best Single Model: A Diagnostic Study on edX Dropout Prediction, by Tyler Crosse and 5 other authors View PDF HTML (experimental) TeX Source view license Current browse context: < prev | next > new | recent | 2026-06 Change to browse by: cs References & Citations NASA ADS Google Scholar Semantic Scholar export BibTeX citation Loading... BibTeX formatted citation × loading... Data provided by: Bookmark Bibliographic Tools Bibliographic and Citation Tools Bibliographic Explorer Toggle Bibliographic Explo
Focus to learn more arXiv-issued DOI via DataCite (pending registration) Submission history From: Tyler Crosse [ view email ] [v1] Tue, 2 Jun 2026 19:24:09 UTC (1,341 KB) Full-text links: Access Paper: View a PDF of the paper titled When Offline Selectors Cannot Beat the Best Single Model: A Diagnostic Study on edX Dropout Prediction, by Tyler Crosse and 5 other authors View PDF HTML (experimental) TeX Source view license Current browse context: < prev | next > new | recent | 2026-06 Change to browse by: cs References & Citations NASA ADS Google Scholar Semantic Scholar export BibTeX citation Loading... BibTeX formatted citation × loading... Data provided by: Bookmark Bibliographic Tools Bibliographic and Citation Tools Bibliographic Explorer Toggle Bibliographic Explo
rer ( What is the Explorer? ) Connected Papers Toggle Connected Papers ( What is Connected Papers? ) Litmaps Toggle Litmaps ( What is Litmaps? ) Toggle scite Smart Citations ( What are Smart Citations? ) Code, Data, Media Code, Data and Media Associated with this Article alphaXiv Toggle alphaXiv ( What is alphaXiv? ) Links to Code Toggle CatalyzeX Code Finder for Papers ( What is CatalyzeX? ) DagsHub Toggle DagsHub ( What is DagsHub? ) GotitPub Toggle ( What is GotitPub? ) Huggingface Toggle Hugging Face ( What is Huggingface? ) ScienceCast Toggle ScienceCast ( What is ScienceCast? ) Demos Demos Replicate Toggle Replicate ( What is Replicate? ) Spaces Toggle Hugging Face Spaces ( What is Spaces? ) Spaces Toggle ( What is ? ) Related Papers Recommenders and Search Tools Link to Influence Flower Influence Flower ( What are Influence Flowers? ) Core recommender toggle CORE Recommender ( What is CORE? ) IArxiv recommender toggle IArxiv Recommender ( What is IArxiv? ) Author Venue Institution Topic About arXivLabs arXivLabs: experimental projects with community collaborators arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website. Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them. Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs .