反事实评估揭示临床大语言模型与智能体的隐藏能力轮廓
一项最新研究通过反事实评估方法，系统揭示了临床大语言模型（LLMs）及其智能体在医疗场景中的隐藏能力轮廓。研究团队设计了一系列反事实测试，模拟患者病史、症状描述或治疗方案的细微变化，以检验模型在不同临床决策中的鲁棒性和潜在偏差。结果表明，当前主流临床LLMs在面对反事实扰动时表现出显著的能力波动，部分模型在标准测试中表现良好，但在反事实情境下暴露出推理漏洞或偏见。该发现强调了传统评估指标的局限性，并指出反事实评估能更真实地反映模型在复杂临床环境中的实际表现。研究为未来临床AI系统的安全部署和可靠性验证提供了新思路，有助于避免因模型隐藏缺陷导致的医疗误判。 #反事实评估 #临床大语言模型 #AI安全 #医疗AI #模型鲁棒性 #arXiv论文
一项最新研究通过反事实评估方法，系统揭示了临床大语言模型（LLMs）及其智能体在医疗场景中的隐藏能力轮廓。研究团队设计了一系列反事实测试，模拟患者病史、症状描述或治疗方案的细微变化，以检验模型在不同临床决策中的鲁棒性和潜在偏差。结果表明，当前主流临床LLMs在面对反事实扰动时表现出显著的能力波动，部分模型在标准测试中表现良好，但在反事实情境下暴露出推理漏洞或偏见。该发现强调了传统评估指标的局限性，并指出反事实评估能更真实地反映模型在复杂临床环境中的实际表现。研究为未来临床AI系统的安全部署和可靠性验证提供了新思路，有助于避免因模型隐藏缺陷导致的医疗误判。 #反事实评估 #临床大语言模型 #AI安全 #医疗AI #模型鲁棒性 #arXiv论文
机器学习不确定性量化方法基准测试
一篇题为《Benchmarking Machine Learning Uncertainty Quantification Methodologies for Predicting Turbine Gas Temperature Degradation》的研究论文近日在arXiv预印本平台发布。该论文由Jostein Barry-Straume等七位作者共同完成，系统性地对多种机器学习不确定性量化方法进行了基准测试，旨在预测涡轮气体温度退化过程。研究团队通过对比不同方法在预测精度、鲁棒性和计算效率等方面的表现，为工程应用中如何选择合适的不确定性量化技术提供了重要参考。该工作对于提升涡轮发动机健康监测与预测性维护的可靠性具有实际意义，有助于降低运维成本并提高设备安全性。 #机器学习 #不确定性量化 #涡轮 #温度退化 #基准测试 #工程 #AI #论文 #预测维护
一篇题为《Benchmarking Machine Learning Uncertainty Quantification Methodologies for Predicting Turbine Gas Temperature Degradation》的研究论文近日在arXiv预印本平台发布。该论文由Jostein Barry-Straume等七位作者共同完成，系统性地对多种机器学习不确定性量化方法进行了基准测试，旨在预测涡轮气体温度退化过程。研究团队通过对比不同方法在预测精度、鲁棒性和计算效率等方面的表现，为工程应用中如何选择合适的不确定性量化技术提供了重要参考。该工作对于提升涡轮发动机健康监测与预测性维护的可靠性具有实际意义，有助于降低运维成本并提高设备安全性。 #机器学习 #不确定性量化 #涡轮 #温度退化 #基准测试 #工程 #AI #论文 #预测维护
长庚大学推出智慧代理AI平台，全校师生每人每周获10美元AI额度
台湾长庚大学宣布建置全台首座全校师生共享的智慧代理AI平台“CGU AIR”，提出“人人有Agentic AI”愿景。该平台整合生成式AI工具与校园算力资源，为不同学习阶段的学生提供个性化AI助手。从大学部的AI Tutor、CourseMatch AI选课规划、Prompt Lab提示词训练，到硕博士生的LitScreen AI文献筛选、Paper DeepDive深度阅读及Presentation Coach口试模拟，AI全面融入学习与研究。学校同步提供每位师生每周10美元的进阶AI额度，鼓励学生自主开发个人化智慧代理AI，并通过成果展示与社群分享形成“学生开发、学生分享、学生再创新”的共学文化。教务长陈光武表示，AI不再是简单工具，而是能主动协作的智慧助手，旨在培养学生善用、理解与管理AI的能力，提升未来职场竞争力。资讯中心主任谢万云强调，学习AI无需深厚程式背景，专业知识结合Agentic AI即可创造价值。 #长庚大学 #智慧代理AI #AgenticAI #AI教育 #校园AI #台湾科技 #AI平台 #教育创新
台湾长庚大学宣布建置全台首座全校师生共享的智慧代理AI平台“CGU AIR”，提出“人人有Agentic AI”愿景。该平台整合生成式AI工具与校园算力资源，为不同学习阶段的学生提供个性化AI助手。从大学部的AI Tutor、CourseMatch AI选课规划、Prompt Lab提示词训练，到硕博士生的LitScreen AI文献筛选、Paper DeepDive深度阅读及Presentation Coach口试模拟，AI全面融入学习与研究。学校同步提供每位师生每周10美元的进阶AI额度，鼓励学生自主开发个人化智慧代理AI，并通过成果展示与社群分享形成“学生开发、学生分享、学生再创新”的共学文化。教务长陈光武表示，AI不再是简单工具，而是能主动协作的智慧助手，旨在培养学生善用、理解与管理AI的能力，提升未来职场竞争力。资讯中心主任谢万云强调，学习AI无需深厚程式背景，专业知识结合Agentic AI即可创造价值。 #长庚大学 #智慧代理AI #AgenticAI #AI教育 #校园AI #台湾科技 #AI平台 #教育创新
零阶非对数凹采样方差缩减方法及其在逆问题中的应用
该论文提出了一种针对非对数凹分布的新型零阶采样方法，通过引入方差缩减技术有效降低了采样过程中的梯度估计误差。传统采样方法在处理非对数凹目标分布时面临收敛慢和计算成本高的问题，而零阶方法仅依赖于函数值而非梯度信息，适用于黑箱优化和逆问题场景。作者结合随机拟牛顿方法与重要性采样，实现了对复杂后验分布的高效采样。理论分析证明了算法的收敛性，并在图像反卷积、压缩感知等逆问题实验中展示了优于现有算法的精度与稳定性。该工作为高维非凸采样及医学成像等实际应用提供了新工具。 #arXiv #机器学习 #采样算法 #逆问题 #非凸优化 #方差缩减 #AI #学术论文
该论文提出了一种针对非对数凹分布的新型零阶采样方法，通过引入方差缩减技术有效降低了采样过程中的梯度估计误差。传统采样方法在处理非对数凹目标分布时面临收敛慢和计算成本高的问题，而零阶方法仅依赖于函数值而非梯度信息，适用于黑箱优化和逆问题场景。作者结合随机拟牛顿方法与重要性采样，实现了对复杂后验分布的高效采样。理论分析证明了算法的收敛性，并在图像反卷积、压缩感知等逆问题实验中展示了优于现有算法的精度与稳定性。该工作为高维非凸采样及医学成像等实际应用提供了新工具。 #arXiv #机器学习 #采样算法 #逆问题 #非凸优化 #方差缩减 #AI #学术论文
DisasterLex：面向灾害分析地理空间推理的专家概念到模式知识图谱
近日，一项题为《DisasterLex: An Expert Concept-to-Schema Knowledge Graph for Geospatial Reasoning in Disaster Analytics》的研究在arXiv预印本平台发布。该研究由Yiming Xiao等学者提出，旨在构建一个将专家概念转化为结构模式的知识图谱，专门用于灾害分析中的地理空间推理。通过整合多源灾害数据和专家知识，DisasterLex能够提升灾害响应与决策支持系统的智能水平，为地理空间推理提供可扩展的语义基础。论文目前以PDF和HTML格式开放访问，并提供了BibTeX引用数据。该工作有望推动灾害管理领域知识图谱的标准化应用。 #知识图谱 #灾害分析 #地理空间推理 #AI #arXiv #科研前沿
近日，一项题为《DisasterLex: An Expert Concept-to-Schema Knowledge Graph for Geospatial Reasoning in Disaster Analytics》的研究在arXiv预印本平台发布。该研究由Yiming Xiao等学者提出，旨在构建一个将专家概念转化为结构模式的知识图谱，专门用于灾害分析中的地理空间推理。通过整合多源灾害数据和专家知识，DisasterLex能够提升灾害响应与决策支持系统的智能水平，为地理空间推理提供可扩展的语义基础。论文目前以PDF和HTML格式开放访问，并提供了BibTeX引用数据。该工作有望推动灾害管理领域知识图谱的标准化应用。 #知识图谱 #灾害分析 #地理空间推理 #AI #arXiv #科研前沿
新研究提出测量、定位与消除LLM对齐特征的方法
来自arXiv的一项最新研究论文《Measuring, Localizing, and Ablating Alignment Signatures in LLMs》正式发布。该研究由Aniket Anand等五位作者共同完成，聚焦大语言模型（LLM）的对齐问题。论文提出了一套系统方法，用于测量模型中的对齐特征、定位这些特征在模型中的具体位置，并探索通过消融来消除或调整这些特征。这项工作有助于深入理解LLM的对齐机制，为提升模型的安全性和可控性提供新思路。论文已通过arXiv平台开放访问，提供PDF及HTML版本。 #LLM #对齐 #AI安全 #大模型 #论文 #arXiv
来自arXiv的一项最新研究论文《Measuring, Localizing, and Ablating Alignment Signatures in LLMs》正式发布。该研究由Aniket Anand等五位作者共同完成，聚焦大语言模型（LLM）的对齐问题。论文提出了一套系统方法，用于测量模型中的对齐特征、定位这些特征在模型中的具体位置，并探索通过消融来消除或调整这些特征。这项工作有助于深入理解LLM的对齐机制，为提升模型的安全性和可控性提供新思路。论文已通过arXiv平台开放访问，提供PDF及HTML版本。 #LLM #对齐 #AI安全 #大模型 #论文 #arXiv
监督训练快速破坏早期视觉皮层与生物学习规则的对齐
一篇题为《Supervised Training Rapidly Degrades Early Visual Cortex Alignment Across Biologically Plausible Learning Rules》的预印本论文在arXiv上发布。该研究探讨了在生物可塑性学习规则下，监督训练如何迅速导致早期视觉皮层神经表征与自然图像统计结构的对齐程度下降。作者通过模拟实验发现，当采用基于反向传播或局部学习规则的监督训练时，早期视觉皮层（如V1区）的神经元活动模式会迅速偏离原本反映自然图像统计特征的稀疏编码或ICA对齐，转而过度拟合分类任务。这一发现对当前深度学习与神经科学的交叉研究提出了警示：人工神经网络中的监督学习可能会牺牲神经表征的生物学合理性，导致模型内部表征与真实视觉皮层的对齐在训练早期即发生显著退化。该研究为理解生物视觉与人工视觉系统的差异提供了新视角，并提示未来在构建类脑计算模型时需要更谨慎地设计学习规则。 #神经科学 #视觉皮层 #监督学习 #深度学习 #生物学习规则 #神经网络 #类脑计算 #人工智能
一篇题为《Supervised Training Rapidly Degrades Early Visual Cortex Alignment Across Biologically Plausible Learning Rules》的预印本论文在arXiv上发布。该研究探讨了在生物可塑性学习规则下，监督训练如何迅速导致早期视觉皮层神经表征与自然图像统计结构的对齐程度下降。作者通过模拟实验发现，当采用基于反向传播或局部学习规则的监督训练时，早期视觉皮层（如V1区）的神经元活动模式会迅速偏离原本反映自然图像统计特征的稀疏编码或ICA对齐，转而过度拟合分类任务。这一发现对当前深度学习与神经科学的交叉研究提出了警示：人工神经网络中的监督学习可能会牺牲神经表征的生物学合理性，导致模型内部表征与真实视觉皮层的对齐在训练早期即发生显著退化。该研究为理解生物视觉与人工视觉系统的差异提供了新视角，并提示未来在构建类脑计算模型时需要更谨慎地设计学习规则。 #神经科学 #视觉皮层 #监督学习 #深度学习 #生物学习规则 #神经网络 #类脑计算 #人工智能
SubsurfaceGen: 程序化生成野外尺度地球模型与地震数据新方法
一篇题为“SubsurfaceGen: Procedural Generation of Field-Scale Earth Models and Seismic Data”的论文于近日提交至arXiv预印本平台。该研究由Joseph Stitt等四位作者共同完成，提出了一种基于程序化生成技术构建高质量、大规模地球模型和地震数据的新框架。传统地球物理建模通常依赖人工解释或有限观测数据，难以高效生成具有真实复杂性的野外尺度模型。SubsurfaceGen通过算法自动生成多样化的地质构造和地震响应，有望为勘探地球物理、地质建模及机器学习训练数据增强提供重要支撑。论文展示了该方法的可行性，相关代码和数据资源也已公开，便于学界复现与进一步研究。 #地球科学 #地震数据 #程序化生成 #地质建模 #机器学习 #arXiv #AI #勘探技术
一篇题为“SubsurfaceGen: Procedural Generation of Field-Scale Earth Models and Seismic Data”的论文于近日提交至arXiv预印本平台。该研究由Joseph Stitt等四位作者共同完成，提出了一种基于程序化生成技术构建高质量、大规模地球模型和地震数据的新框架。传统地球物理建模通常依赖人工解释或有限观测数据，难以高效生成具有真实复杂性的野外尺度模型。SubsurfaceGen通过算法自动生成多样化的地质构造和地震响应，有望为勘探地球物理、地质建模及机器学习训练数据增强提供重要支撑。论文展示了该方法的可行性，相关代码和数据资源也已公开，便于学界复现与进一步研究。 #地球科学 #地震数据 #程序化生成 #地质建模 #机器学习 #arXiv #AI #勘探技术
MAAT
一篇题为“MAAT: Multi-phase Adapter-Aware Targeted Unlearning”的学术论文近日在arXiv预印本平台发布。该研究由Suryash Yagnik等五位作者共同完成，提出了一种多阶段、适配器感知的目标遗忘学习方法。该方法旨在高效地从预训练模型中移除特定数据或知识，同时最大程度保留模型在其他任务上的性能。研究团队通过引入适配器机制，在不同阶段动态调整遗忘策略，以解决传统遗忘方法中存在的效率低、副作用大等问题。该工作对于提升机器学习模型的隐私合规性、实现“被遗忘权”具有重要参考价值，有望推动AI系统在数据删除和模型修正方面的实用化进展。 #机器学习 #遗忘学习 #AI #隐私保护 #arXiv #论文 #深度学习 #模型修正
一篇题为“MAAT: Multi-phase Adapter-Aware Targeted Unlearning”的学术论文近日在arXiv预印本平台发布。该研究由Suryash Yagnik等五位作者共同完成，提出了一种多阶段、适配器感知的目标遗忘学习方法。该方法旨在高效地从预训练模型中移除特定数据或知识，同时最大程度保留模型在其他任务上的性能。研究团队通过引入适配器机制，在不同阶段动态调整遗忘策略，以解决传统遗忘方法中存在的效率低、副作用大等问题。该工作对于提升机器学习模型的隐私合规性、实现“被遗忘权”具有重要参考价值，有望推动AI系统在数据删除和模型修正方面的实用化进展。 #机器学习 #遗忘学习 #AI #隐私保护 #arXiv #论文 #深度学习 #模型修正
图条件混合专家图神经网络模型助力交通预测
近日，一篇题为《Graph-Conditioned Mixture of Graph Neural Network Experts for Traffic Forecasting》的学术论文在arXiv平台发布。该研究由Amirhossein Ghaffari等人完成，提出了一种基于图条件混合专家机制的图神经网络模型，旨在提升交通预测的准确性与鲁棒性。传统图神经网络在处理复杂时空依赖时存在局限性，而该模型通过动态选择多个专家子网络，并依据输入图结构条件进行融合，有效捕捉了交通流中的多模态模式。实验表明，该方法在多个真实交通数据集上取得了优于现有基准的性能，为智能交通系统的发展提供了新的技术思路。 #交通预测 #图神经网络 #混合专家模型 #AI #学术研究 #智能交通
近日，一篇题为《Graph-Conditioned Mixture of Graph Neural Network Experts for Traffic Forecasting》的学术论文在arXiv平台发布。该研究由Amirhossein Ghaffari等人完成，提出了一种基于图条件混合专家机制的图神经网络模型，旨在提升交通预测的准确性与鲁棒性。传统图神经网络在处理复杂时空依赖时存在局限性，而该模型通过动态选择多个专家子网络，并依据输入图结构条件进行融合，有效捕捉了交通流中的多模态模式。实验表明，该方法在多个真实交通数据集上取得了优于现有基准的性能，为智能交通系统的发展提供了新的技术思路。 #交通预测 #图神经网络 #混合专家模型 #AI #学术研究 #智能交通
通用多类转导在线学习新方法
一篇名为《通用多类转导在线学习》的论文近日在arXiv预印本平台发布。该研究由Steve Hanneke等人完成，针对多类分类问题提出了一种通用的转导在线学习算法。传统在线学习通常假设数据独立同分布，而转导学习则允许在未标记数据上进行预测。研究者通过理论分析证明了该算法在多种损失函数下的最优性，并提供了收敛性保证。该方法在无分布假设下仍能保持高效性能，为在线学习与半监督学习的结合提供了新思路。论文还探讨了该算法在分类任务中的实际应用潜力，尤其是对动态数据流和有限标注场景的适应性。相关代码和数据已开源，供学界复现与进一步研究。 #机器学习 #在线学习 #转导学习 #多类分类 #理论计算机 #arXiv #科研论文 #AI算法
一篇名为《通用多类转导在线学习》的论文近日在arXiv预印本平台发布。该研究由Steve Hanneke等人完成，针对多类分类问题提出了一种通用的转导在线学习算法。传统在线学习通常假设数据独立同分布，而转导学习则允许在未标记数据上进行预测。研究者通过理论分析证明了该算法在多种损失函数下的最优性，并提供了收敛性保证。该方法在无分布假设下仍能保持高效性能，为在线学习与半监督学习的结合提供了新思路。论文还探讨了该算法在分类任务中的实际应用潜力，尤其是对动态数据流和有限标注场景的适应性。相关代码和数据已开源，供学界复现与进一步研究。 #机器学习 #在线学习 #转导学习 #多类分类 #理论计算机 #arXiv #科研论文 #AI算法
子图解释可被武器化窃取图神经网络？新研究揭示安全风险
一项来自arXiv预印本的研究探讨了图神经网络（GNN）的可解释性机制是否可能被恶意利用。论文作者Ojas Nimase等人提出，攻击者可以通过分析模型对子图结构的解释反馈，逆向推断出GNN的内部参数和训练数据分布，从而实现模型窃取。实验表明，在多个基准数据集上，利用子图解释的攻击方法能以较低查询成本达到高精度复制目标模型的效果。该研究首次系统性地揭示了GNN解释方法的潜在安全漏洞，对当前依赖可解释性进行模型审计和部署的实践提出了警示。研究团队呼吁开发更鲁棒的解释机制，并建议在敏感场景中限制解释接口的访问权限。 #图神经网络 #模型窃取 #可解释性 #AI安全 #子图解释 #arXiv #网络安全
一项来自arXiv预印本的研究探讨了图神经网络（GNN）的可解释性机制是否可能被恶意利用。论文作者Ojas Nimase等人提出，攻击者可以通过分析模型对子图结构的解释反馈，逆向推断出GNN的内部参数和训练数据分布，从而实现模型窃取。实验表明，在多个基准数据集上，利用子图解释的攻击方法能以较低查询成本达到高精度复制目标模型的效果。该研究首次系统性地揭示了GNN解释方法的潜在安全漏洞，对当前依赖可解释性进行模型审计和部署的实践提出了警示。研究团队呼吁开发更鲁棒的解释机制，并建议在敏感场景中限制解释接口的访问权限。 #图神经网络 #模型窃取 #可解释性 #AI安全 #子图解释 #arXiv #网络安全
idSCD
近日，一篇题为《idSCD: Identifying Training Datasets through Semantic Correlation Descriptors》的论文在arXiv上公开。该研究由Andrada Gobeaja等人提出，旨在解决机器学习模型训练数据集的识别问题。传统方法难以准确追溯模型所使用的训练数据来源，而idSCD方法通过构建语义相关性描述符，将数据样本与潜在训练集进行语义匹配，从而高效识别出模型可能依赖的数据集。实验表明，该方法在多种场景下均能显著提升识别准确率，为模型透明度、版权保护和数据溯源提供了新的技术路径。该工作已提交至arXiv，并附带完整论文及代码链接。 #机器学习 #数据集识别 #语义相关性 #arXiv #论文 #AI安全 #数据溯源
近日，一篇题为《idSCD: Identifying Training Datasets through Semantic Correlation Descriptors》的论文在arXiv上公开。该研究由Andrada Gobeaja等人提出，旨在解决机器学习模型训练数据集的识别问题。传统方法难以准确追溯模型所使用的训练数据来源，而idSCD方法通过构建语义相关性描述符，将数据样本与潜在训练集进行语义匹配，从而高效识别出模型可能依赖的数据集。实验表明，该方法在多种场景下均能显著提升识别准确率，为模型透明度、版权保护和数据溯源提供了新的技术路径。该工作已提交至arXiv，并附带完整论文及代码链接。 #机器学习 #数据集识别 #语义相关性 #arXiv #论文 #AI安全 #数据溯源