AI知识库 @ai521
312 subscribers
21.7K photos
42 videos
19 files
833 links
@ai521 专注分享最实用的AI内容

🤖 AI教程(新手到进阶)
🧠 AI知识科普(大模型 / 提示词 / 自动化)
📰 AI资讯更新(每日最新AI动态)
📚 AI实战技巧(写作 / 绘画 / 编程 / 赚钱)
🔧 最新AI工具推荐

每天更新AI干货
长期做一个真正有价值的AI频道
Download Telegram
RL后训练计算资源分配策略研究

近日,一篇题为《RL后训练计算资源应如何分配?模型规模、搜索、学习与反馈》的论文在arXiv预印本平台发布。该研究聚焦于强化学习(RL)后训练阶段的计算资源优化配置问题,系统分析了模型规模、搜索策略、学习机制以及反馈信号四大核心因素对训练效率与效果的影响。作者Patrick Wilhelm等人通过实验对比了不同资源分配方案,旨在为RL后训练提供更具性价比的计算投入指导。这一研究对于提升大型语言模型及AI系统的后训练效率具有重要意义,也为后续相关领域的研究方向提供了新的理论依据。 #AI #强化学习 #计算资源 #模型训练 #arXiv #机器学习
Telegram必备的搜索引擎,极搜JISOU帮你精准找到,想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025
现代深度网络中权重反馈局部计算雅可比转置

一篇由Junlong Shen和Xingyu Li提交至arXiv的研究论文揭示,现代深度神经网络中的权重反馈机制能够局部计算雅可比矩阵的转置。该工作突破了传统反向传播依赖全局误差信号的限制,证明通过局部反馈路径即可精确实现梯度传播中的转置运算。这一发现不仅为深度学习算法的生物合理性提供了新证据,还有望启发更高效的学习规则设计,对神经科学和人工智能交叉领域具有重要理论意义。 #arXiv #深度学习 #权重反馈 #雅可比转置 #反向传播 #神经网络 #AI研究
Agora:实现无许可、集体化的互联网规模大语言模型预训练

一篇题为《Agora:集体化且无需许可的互联网规模大语言模型预训练》的论文近日在arXiv平台发布。该研究由Gil Avraham等11位作者共同完成,提出了一种全新的分布式预训练范式,旨在打破当前大模型训练对中心化算力集群的依赖。Agora框架允许全球各地的个体或组织贡献闲置计算资源,以无许可、去中心化的方式协作训练超大规模语言模型。这一方法有望大幅降低大模型训练的门槛和成本,推动AI民主化进程。论文详细描述了系统架构、去中心化训练的通信协议及容错机制,并展示了在互联网规模数据上的初步实验结果。该工作为未来开放、协作的AI基础设施建设提供了新思路。 #Agora #大模型 #预训练 #去中心化 #AI #算法 #arXiv
大规模零售需求预测中的保精度稳定性正则化方法

一篇题为《Accuracy-Preserving Stability Regularization for Large-Scale Retail Demand Forecasting》的学术论文近日在 arXiv 预印本平台发布。该论文由 Jize Li 等六位作者共同完成,提交于 2026 年 7 月 14 日。研究聚焦大规模零售需求预测中模型稳定性与预测精度的平衡问题,提出了一种保精度稳定性正则化方法,旨在在不牺牲预测准确性的前提下增强模型对数据波动的鲁棒性。目前论文提供 PDF 全文及 BibTeX 引用信息,相关代码和数据链接尚未公开。 #机器学习 #需求预测 #零售 #稳定性正则化 #arXiv #论文
面向离散选择估计的表格基础模型

近日,一篇题为《Tabular Foundation Models for Discrete Choice Estimation》的预印本论文出现在arXiv上。该研究由Liu Liu和Dan Zhang共同完成,旨在探索利用表格基础模型解决离散选择估计问题。离散选择模型广泛应用于经济学、交通科学等领域,传统方法依赖手工特征工程和参数假设。论文提出了一种基于大规模表格数据预训练的基础模型框架,能够自动从结构化数据中学习选择模式,提升估计的准确性和泛化能力。这一方法有望为市场调研、交通需求预测等应用提供更高效的解决方案。目前论文已提交,等待正式出版。 #表格基础模型 #离散选择 #经济学 #机器学习 #arXiv #预训练模型 #科技新闻
解构Actor-Critic

一项大规模实证研究系统性地分析了Actor-Critic强化学习算法中的关键设计组件。研究团队通过大量实验,评估了不同架构选择、更新策略、探索机制等对算法性能的影响,并针对实际应用场景给出了具体的组件选择建议。该工作旨在为强化学习从业者提供可操作的指导,帮助他们更高效地设计和部署Actor-Critic算法。研究成果已提交至arXiv预印本平台,论文标题为《Deconstructing Actor-Critic: A Large-scale Empirical Study of Design Components for Practitioners》,作者包括Haseeb Shah等。这一研究填补了Actor-Critic算法组件对比的空白,对推动强化学习在机器人控制、游戏AI等领域的工程化落地具有重要参考价值。 #强化学习 #ActorCritic #大规模实证 #机器学习 #AI研究 #算法设计 #论文
重新评估Muon在矩阵分解中的应用

一篇来自arXiv预印本平台的论文《Reassessing Muon for Matrix Factorization》于2026年7月14日提交,作者包括Ali Parviz等三人。该论文旨在重新评估Muon方法在矩阵分解任务中的表现。矩阵分解是机器学习和推荐系统的核心基础技术,而Muon作为一种优化策略,其有效性值得系统审视。目前论文的PDF和HTML版本已开放获取,可供研究者参考。 #论文 #arXiv #矩阵分解 #机器学习 #Muon #优化 #预印本
新研究提出高效多注意力图网络EMAGN,用于可扩展交通预测

一篇发表于arXiv的论文提出了名为EMAGN(高效多注意力图网络)的新型模型,旨在解决大规模交通预测中的计算效率问题。该研究由Mingxing Xu等10位作者共同完成,于2026年7月14日提交。EMAGN通过学习聚类的机制,将多注意力机制与图神经网络结合,在保持预测精度的同时显著降低了计算复杂度,从而支持更广泛的交通网络应用。该方法有望为智能交通系统中的实时预测提供更高效的解决方案,推动相关领域的可扩展性发展。 #交通预测 #图神经网络 #多注意力 #论文 #arXiv #AI #可扩展性 #智能交通
联合图像理解与生成

Minh-Quan Le 等研究人员在 arXiv 上提交了一篇题为《Concurrent Image Understanding and Generation: Self-Correcting Coupled Markov Jump Processes》的论文。该研究提出了一种基于自校正耦合马尔可夫跳跃过程的新框架,旨在同时实现图像理解与生成。该方法通过引入耦合过程与自校正机制,提升了模型在多任务处理中的鲁棒性和准确性,为计算机视觉领域提供了新的理论工具。论文已于2026年7月14日提交,并可在 arXiv 上获取全文。 #计算机视觉 #图像理解 #图像生成 #马尔可夫过程 #AI #arXiv #论文
SteinGate:通过Stein散度实现尾部敏感的安全强化学习

来自Yassine Chemingui等研究者的论文《SteinGate: Tail-Sensitive Safe Reinforcement Learning via Stein Discrepancy》已提交至arXiv预印本平台。该工作针对安全强化学习中的尾部风险问题,提出一种基于Stein散度的新方法SteinGate,通过度量分布差异来更敏感地捕捉极端不利事件的概率,从而在保证安全约束的同时提升策略性能。该方法在多个连续控制基准任务上表现出优于现有算法的安全性和样本效率,为高风险场景下的决策优化提供了新思路。 #强化学习 #安全RL #Stein散度 #尾部风险 #AI安全 #arXiv论文 #机器学习
HEDGEHOG: Hierarchical Evaluation of Drug Generators Through Rigorous Filtration

Daria A. Ryabchenko 等研究团队在 arXiv 预印本上提交了一篇题为《HEDGEHOG: Hierarchical Evaluation of Drug Generators Through Rigorous Filtration》的论文。该论文提出了一种名为 HEDGEHOG 的层次化评估框架,旨在通过严格的过滤流程系统评价药物分子生成模型的性能。药物生成器是人工智能驱动的分子设计工具,但其输出质量参差不齐,缺乏统一的评估标准。HEDGEHOG 框架通过多层级指标和逐步筛选机制,能够更全面、更可靠地衡量生成分子的有效性、多样性和可合成性,从而帮助研究人员在药物发现过程中选择最优模型。该工作有望推动 AI 药物设计领域的标准化评估,加速新药研发进程。论文目前已在 arXiv 存档,并附带补充数据文件。 #AI #药物发现 #深度学习 #评估框架 #arXiv #分子生成 #HEDGEHOG
ShortOPD:利用短到长在线策略蒸馏恢复剪枝后的大语言模型

该研究提出ShortOPD方法,旨在恢复经剪枝后性能下降的大语言模型。剪枝虽能减小模型规模,但常导致推理能力损失。ShortOPD采用短到长的在线策略蒸馏,先让剪枝模型从原始教师模型学习短序列知识,再逐步过渡到长序列,以逐步恢复其推理与生成能力。实验表明,该方法在多任务上接近甚至超越原始模型,为模型压缩后性能恢复提供了高效方案。 #大语言模型 #模型剪枝 #知识蒸馏 #在线学习 #自然语言处理 #AI #论文
CoDiffGRN论文提出基因调控网络推断新方法

近日,一篇题为《CoDiffGRN: Rethinking Gene Regulatory Network Inference via the BEELINE-KGC Benchmark and Co-evolutionary Discrete Diffusion》的论文引起关注。该研究由Jiaze Song等人完成,在BEELINE-KGC基准下重新审视基因调控网络(GRN)推断问题,并提出一种基于共进化离散扩散模型的新方法。该方法通过模拟基因间的共进化动态,结合离散扩散过程,有效提升了GRN推断的准确性和鲁棒性。研究团队在多个标准数据集上进行了验证,结果显示所提方法在性能上优于现有主流算法。这一工作有望为生物网络推断和系统生物学研究提供新的技术路径,尤其在单细胞转录组数据分析中具有潜在应用价值。 #基因调控网络 #CoDiffGRN #离散扩散 #生物信息学 #系统生物学 #论文 #机器学习 #AI
混合Mamba模型用于音频

近期,研究团队在arXiv上提交了一篇题为“A Hybrid Mamba for Audio-Visual Navigation”的论文。该工作针对机器人或智能体在复杂环境中结合音频与视觉信息进行导航的任务,提出了一种基于混合Mamba架构的新方法。Mamba作为近年兴起的状态空间模型,在长序列建模中具有高效优势,而混合设计则旨在融合音频和视觉两种模态的特征。论文通过仿真实验验证了该方法在导航精度和鲁棒性上的提升,为多模态感知与自主导航领域提供了新思路。目前该论文已可在线获取全文及代码资源。 #AI #机器人 #音频视觉导航 #Mamba #多模态 #arXiv #科技论文
STKAN:基于Kolmogorov

近期,研究团队在arXiv上提交了题为《STKAN: Kolmogorov-Arnold Networks for Spatio-Temporal Forecasting》的论文。该论文提出了一种名为STKAN的新型时空预测模型,其核心创新在于将Kolmogorov-Arnold网络(KAN)引入时空序列分析领域。KAN基于Kolmogorov-Arnold表示定理,与传统的多层感知机不同,它使用可学习的激活函数而非固定非线性函数,从而更高效地捕捉复杂非线性关系。STKAN模型通过将KAN层融入时空网络架构,旨在提升交通流量、气象数据等时空预测任务的准确性。作者Sicong Lai等人已在arXiv上公开论文全文及代码链接,为相关领域提供了新的研究思路。 #STKAN #KolmogorovArnold #时空预测 #深度学习 #AI论文 #arXiv #科技前沿
知识追踪新方法

一项关于知识追踪的研究提出了一种新模型,通过分别建模学生的“能力”和“熟练度”来解耦知识状态。传统知识追踪方法往往将学生知识视为单一维度,导致难以区分不同知识点间的细微差异。该研究提出的方法能够更精细地捕捉学生各知识点的掌握程度与潜在能力之间的关系,从而提升学习路径预测的准确性。论文由Duantengchuan Li等五位作者完成,于2026年7月提交至arXiv,目前可通过PDF和HTML形式查看。 #知识追踪 #知识状态解耦 #能力建模 #熟练度 #教育数据挖掘 #机器学习 #AI #学术论文
TSSM: 三轴状态空间模型实现全球气象站高精度预报

近日,一篇题为《TSSM: Triaxial State Space Model for Global Station Weather Forecasting with Temporal-Variable-Historical Modeling》的论文在arXiv预印本平台发布。该研究针对全球气象站预报中的复杂时空依赖问题,提出了一种新颖的三轴状态空间模型(TSSM),通过同时建模时间、变量和历史三个维度的动态特征,显著提升了预报精度。传统模型往往仅考虑时间或空间维度,而TSSM通过三轴结构有效捕获了气象变量间的因果关联与长期记忆效应。实验表明,该模型在全球多站点数据集上优于现有基线方法,尤其在极端天气事件预测中的表现更为突出。这一工作为气象预报领域提供了一种高效且可扩展的深度学习范式。 #人工智能 #天气预报 #状态空间模型 #三轴建模 #TSSM #深度学习 #气象学 #arXiv
从神经网络中定向恢复权重空间机制的新方法

一篇由Antoine Vigouroux等人提交至arXiv的论文提出了从神经网络中定向恢复权重空间机制的方法。该方法旨在解析神经网络内部复杂的权重空间结构,实现对特定功能模块的精准定位与恢复,有助于提升模型的可解释性和安全性。研究团队通过实验验证了该方法的有效性,为理解深度学习模型的内部工作机制提供了新工具。 #神经网络 #权重空间 #可解释性 #AI安全 #深度学习 #arXiv #学术研究
Telegram必备的搜索引擎,极搜JISOU帮你精准找到,想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025
从零实现自动微分:PyTorch在物理信息神经网络中如何计算梯度

一篇题为《从零实现自动微分:PyTorch如何在物理信息神经网络中计算梯度》的论文近日在arXiv上公开。作者Abdeladhim Tahimi深入探讨了自动微分的底层原理,详细阐述了如何在不借助高级框架的情况下自行构建这一核心技术。论文重点聚焦物理信息神经网络(PINNs),系统解释了PyTorch如何通过自动微分机制高效计算损失函数对网络参数的梯度,从而满足物理方程约束。这项工作为理解深度学习中的梯度计算提供了从理论到实践的完整路径,对PINNs的研究与教学具有重要参考价值。 #自动微分 #PyTorch #物理信息神经网络 #PINNs #深度学习 #梯度计算 #arXiv #论文