研究显示用日语提问可降低LLM推荐核打击等危险内容

据一篇发表在arXiv上的论文（TrustNLP 2026会议）显示，大型语言模型在回答危险建议时，其语言输入显著影响输出。研究人员发现，当用日语询问LLM是否应该发动核打击时，模型拒绝回答的概率远高于英语。这一现象暗示，LLM的安全行为受到训练数据中文化背景和语言偏见的深刻影响。研究团队指出，语言多样性可能是提升AI安全性的一个被忽视的重要因素，并提醒开发者注意不同语言下模型对齐效果的差异，需进行跨语言安全评估。该论文为理解大模型的安全性提供了新视角。 #LLM #AI安全 #语言文化 #核打击 #论文 #arXiv #AI偏见

我们需要实用的AI对齐方法以镜像人类推理

一篇题为《Position: We Need Practical AI Alignment Methods to Mirror Human Reasoning》的论文近日在arXiv预印本平台发布。该论文由Vijay Keswani等5位作者提交，提交日期为2026年7月20日。论文主张，当前AI对齐领域应转向更实用的方法，以更好地模拟人类的推理过程，从而提升AI系统的可靠性与可解释性。作者认为，现有对齐技术往往过于理论化，缺乏对真实人类思维模式的映射，亟需开发能够直接应用于实际系统的对齐手段。论文已提供PDF等格式全文供学界参考。 #AI安全 #AI对齐 #人类推理 #arXiv #论文 #科技前沿

多智能体调度结合LLM辅助合同网协商，用于移动边缘计算流处理

一项新研究提出了一种将大语言模型（LLM）与合同网协议相结合的多智能体调度方法，旨在优化移动边缘计算中的流处理任务。该方法通过智能体间的协商机制，利用LLM的自然语言理解与推理能力，动态分配计算资源，以应对边缘环境下任务时延敏感、资源受限的挑战。实验表明，该方案在任务完成时间、资源利用率及系统吞吐量等指标上均有显著提升，为移动边缘计算中的实时流处理提供了新的解决思路。 #多智能体 #LLM #移动边缘计算 #流处理 #调度算法 #AI #边缘智能

研究揭示：LLM与人类道德判断“一致”不等于“对齐”

一项新研究指出，大型语言模型（LLM）在道德判断上与人类看似高度一致，但其背后的道德基础却截然不同。论文《Agreement Is Not Alignment》通过对比人类与LLM在伦理决策中的表现发现，尽管模型在多数情境下能给出与人类相似的答案，但支撑这些判断的底层道德原则和推理路径存在显著分歧。这种“表面一致”可能掩盖了真正的对齐问题，即模型并未真正理解或内化人类的道德价值观。研究警告，仅以行为一致性作为对齐标准是危险的，需深入审视模型内部的道德根基，以确保AI系统在复杂伦理场景中做出可靠决策。 #AI伦理 #大模型 #道德判断 #人工智能 #研究 #LLM #对齐

AI对齐研究可能无意中助长审查工具

近日，一篇发表于第43届国际机器学习大会（ICML 2026）的论文引发关注。该论文标题为“立场：对齐社区无意中在构建审查工具包”，作者Sarah Ball和Phil Hackemann指出，当前AI安全与对齐研究领域可能在不经意间为内容审查系统提供了技术基础。论文认为，旨在使AI系统与人类价值观对齐的技术，如偏好优化、价值观嵌入等，若被滥用或误用，可能转化为压制特定言论的审查工具。研究团队呼吁对齐社区反思自身工作的潜在社会影响，避免技术成果被用作控制信息流通的手段。该论文已在arXiv上公开，并提供了PDF版本供下载。 #AI对齐 #审查 #ICML2026 #机器学习 #AI安全 #技术伦理 #论文

LLM作为科研伙伴

一项发表于arXiv的研究提出了一种评估大型语言模型（LLM）作为“共同科学家”时研究诚信的诊断框架。该框架由Yash Tripathi等五位学者共同开发，旨在系统性地检测LLM在科研协作中可能出现的虚假信息、数据偏见或逻辑漏洞。研究团队认为，随着LLM越来越多地参与论文撰写、实验设计甚至数据分析，传统的科研诚信审查机制已不足以应对其带来的新型风险。该诊断基础通过多维度测试，模拟LLM在科研场景下的行为，从而判断其是否具备可信赖的研究伙伴素质。这一工作为AI辅助科研的伦理与质量控制提供了重要参考，也为未来制定相关规范奠定了基础。 #LLM #科研诚信 #AI伦理 #诊断框架 #学术论文 #人工智能 #科研合作

推理是可学习的基于规则的过程

一篇题为《Position: Reasoning is a Learnable Rule-Based Process》的论文在arXiv上发布，并已被第43届国际机器学习大会（ICML 2026，韩国首尔）接收。论文作者Rachel Lawrence和Jacqueline Maasch提出，推理本质上是一种可学习的、基于规则的过程，而非纯粹直觉或不可训练的认知能力。该观点挑战了当前AI领域对推理机制的固有理解，暗示通过系统化规则学习，机器和人类均可提升推理能力。论文的发表引发了学术界对推理本质与AI训练方法的新一轮讨论。 #AI #机器学习 #推理 #ICML2026 #学术论文 #认知科学 #arXiv

AI自动设计芯片引热议，EDA三巨头加速布局Agentic AI

上个月，国内大模型企业Kimi完成K3模型自主设计芯片实验，全程未用商业EDA软件，引发行业讨论。但分析指出，该芯片性能仅相当于20年前技术水平，距替代人类工程师尚远。尽管如此，AI正深刻改变芯片设计流程。全球三大EDA厂商在DAC大会上展示Agentic AI布局：Synopsys侧重设计验证深度，推出自主验证智能体，提出L1-L5自主等级，目前处于L3阶段；Cadence强调端到端覆盖，推出AuraStack AI Super Agent，覆盖芯片到系统，获NVIDIA、高通等客户认可；Siemens EDA则提出“可信的自主”，用物理引擎验证AI决策，降低幻觉风险。三家方案均依赖NVIDIA算力支持。中国EDA厂商有望借助差异化AI方案迎来黄金窗口期。 #AI #芯片设计 #EDA #新思科技 #Cadence #西门子 #NVIDIA #中国芯片 #科技新闻 #AgenticAI

Claude 调整退款政策引发争议，网页及谷歌支付通道已取消退款支持

据科技社区用户反馈，Anthropic 旗下 AI 产品 Claude 近期悄然调整退款政策，网页端及谷歌支付渠道已不再支持退款申请。此前用户可通过上述渠道申请退款，但新政策下仅剩苹果应用内购等少数方式保留退款功能。多位用户表示遭遇误扣费或重复订阅后无法退款，引发广泛不满。目前 Anthropic 官方尚未就政策变更发布正式说明，社区呼吁平台公开退款规则并保障用户权益。 #Claude #Anthropic #退款政策 #AI #用户权益 #科技新闻

超越 Cursor：DeepSeek Harness 推动 AI Agent Runtime 架构革新

近期，技术社区围绕 DeepSeek Harness 展开热议，认为其有望超越 Cursor 等现有工具，成为下一代 AI Agent Runtime 架构的关键突破。DeepSeek Harness 通过优化模型执行环境与任务调度机制，显著提升了 Agent 的自主推理与工具调用能力。分析人士指出，该架构在降低延迟、增强多步骤任务连贯性方面表现突出，或将重新定义 AI 辅助编程与自动化工作流的底层逻辑。这一进展标志着 AI Agent 从简单对话迈向复杂任务执行的重要一步。 #AI #Agent #DeepSeek #Runtime #架构

智谱AI回应DeepSeek竞争：唐杰暗示GLM-5.3“很快”到来，高管发文“独木不成林”

近日，国产大模型领域关于智谱AI下一代模型的讨论热度急剧上升。智谱AI首席科学家唐杰在社交媒体回应竞争，暗示GLM-5.3“很快”到来。同时，智谱AI高管发文“独木不成林”，或暗示行业合作的重要性。面对DeepSeek等竞争对手的挑战，智谱AI正加速推进新一代模型研发，国产大模型竞争态势进一步升级。 #智谱AI #GLM5.3 #DeepSeek #大模型 #国产AI #AI竞争

Telegram必备的搜索引擎，极搜JISOU帮你精准找到，想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025

AI智能体“找工作”有了新标准

随着AI智能体（AI Agent）技术的快速发展，如何让智能体高效、自主地“寻找”并执行任务成为行业关注焦点。近日，基于MCP（Model Context Protocol）协议的OJCP（Open Job Consumer Protocol）开源项目正式发布。该协议旨在为AI智能体与任务服务端之间建立统一的交互标准，让智能体能够像“求职者”一样，通过标准化接口发现、匹配并消费各类服务。OJCP的推出有望解决当前AI智能体生态中协议碎片化、互操作性差的问题，为开发者提供更便捷的智能体任务编排方式。项目已托管于开源社区，并吸引多家企业关注，或将推动AI智能体应用进入新阶段。 #AI智能体 #MCP #OJCP #开源 #协议 #标准 #AI #科技新闻