研究揭示：LLM与人类道德判断“一致”不等于“对齐”

一项新研究指出，大型语言模型（LLM）在道德判断上与人类看似高度一致，但其背后的道德基础却截然不同。论文《Agreement Is Not Alignment》通过对比人类与LLM在伦理决策中的表现发现，尽管模型在多数情境下能给出与人类相似的答案，但支撑这些判断的底层道德原则和推理路径存在显著分歧。这种“表面一致”可能掩盖了真正的对齐问题，即模型并未真正理解或内化人类的道德价值观。研究警告，仅以行为一致性作为对齐标准是危险的，需深入审视模型内部的道德根基，以确保AI系统在复杂伦理场景中做出可靠决策。 #AI伦理 #大模型 #道德判断 #人工智能 #研究 #LLM #对齐

AI对齐研究可能无意中助长审查工具

近日，一篇发表于第43届国际机器学习大会（ICML 2026）的论文引发关注。该论文标题为“立场：对齐社区无意中在构建审查工具包”，作者Sarah Ball和Phil Hackemann指出，当前AI安全与对齐研究领域可能在不经意间为内容审查系统提供了技术基础。论文认为，旨在使AI系统与人类价值观对齐的技术，如偏好优化、价值观嵌入等，若被滥用或误用，可能转化为压制特定言论的审查工具。研究团队呼吁对齐社区反思自身工作的潜在社会影响，避免技术成果被用作控制信息流通的手段。该论文已在arXiv上公开，并提供了PDF版本供下载。 #AI对齐 #审查 #ICML2026 #机器学习 #AI安全 #技术伦理 #论文

LLM作为科研伙伴

一项发表于arXiv的研究提出了一种评估大型语言模型（LLM）作为“共同科学家”时研究诚信的诊断框架。该框架由Yash Tripathi等五位学者共同开发，旨在系统性地检测LLM在科研协作中可能出现的虚假信息、数据偏见或逻辑漏洞。研究团队认为，随着LLM越来越多地参与论文撰写、实验设计甚至数据分析，传统的科研诚信审查机制已不足以应对其带来的新型风险。该诊断基础通过多维度测试，模拟LLM在科研场景下的行为，从而判断其是否具备可信赖的研究伙伴素质。这一工作为AI辅助科研的伦理与质量控制提供了重要参考，也为未来制定相关规范奠定了基础。 #LLM #科研诚信 #AI伦理 #诊断框架 #学术论文 #人工智能 #科研合作

推理是可学习的基于规则的过程

一篇题为《Position: Reasoning is a Learnable Rule-Based Process》的论文在arXiv上发布，并已被第43届国际机器学习大会（ICML 2026，韩国首尔）接收。论文作者Rachel Lawrence和Jacqueline Maasch提出，推理本质上是一种可学习的、基于规则的过程，而非纯粹直觉或不可训练的认知能力。该观点挑战了当前AI领域对推理机制的固有理解，暗示通过系统化规则学习，机器和人类均可提升推理能力。论文的发表引发了学术界对推理本质与AI训练方法的新一轮讨论。 #AI #机器学习 #推理 #ICML2026 #学术论文 #认知科学 #arXiv

AI自动设计芯片引热议，EDA三巨头加速布局Agentic AI

上个月，国内大模型企业Kimi完成K3模型自主设计芯片实验，全程未用商业EDA软件，引发行业讨论。但分析指出，该芯片性能仅相当于20年前技术水平，距替代人类工程师尚远。尽管如此，AI正深刻改变芯片设计流程。全球三大EDA厂商在DAC大会上展示Agentic AI布局：Synopsys侧重设计验证深度，推出自主验证智能体，提出L1-L5自主等级，目前处于L3阶段；Cadence强调端到端覆盖，推出AuraStack AI Super Agent，覆盖芯片到系统，获NVIDIA、高通等客户认可；Siemens EDA则提出“可信的自主”，用物理引擎验证AI决策，降低幻觉风险。三家方案均依赖NVIDIA算力支持。中国EDA厂商有望借助差异化AI方案迎来黄金窗口期。 #AI #芯片设计 #EDA #新思科技 #Cadence #西门子 #NVIDIA #中国芯片 #科技新闻 #AgenticAI

Claude 调整退款政策引发争议，网页及谷歌支付通道已取消退款支持

据科技社区用户反馈，Anthropic 旗下 AI 产品 Claude 近期悄然调整退款政策，网页端及谷歌支付渠道已不再支持退款申请。此前用户可通过上述渠道申请退款，但新政策下仅剩苹果应用内购等少数方式保留退款功能。多位用户表示遭遇误扣费或重复订阅后无法退款，引发广泛不满。目前 Anthropic 官方尚未就政策变更发布正式说明，社区呼吁平台公开退款规则并保障用户权益。 #Claude #Anthropic #退款政策 #AI #用户权益 #科技新闻

超越 Cursor：DeepSeek Harness 推动 AI Agent Runtime 架构革新

近期，技术社区围绕 DeepSeek Harness 展开热议，认为其有望超越 Cursor 等现有工具，成为下一代 AI Agent Runtime 架构的关键突破。DeepSeek Harness 通过优化模型执行环境与任务调度机制，显著提升了 Agent 的自主推理与工具调用能力。分析人士指出，该架构在降低延迟、增强多步骤任务连贯性方面表现突出，或将重新定义 AI 辅助编程与自动化工作流的底层逻辑。这一进展标志着 AI Agent 从简单对话迈向复杂任务执行的重要一步。 #AI #Agent #DeepSeek #Runtime #架构

智谱AI回应DeepSeek竞争：唐杰暗示GLM-5.3“很快”到来，高管发文“独木不成林”

近日，国产大模型领域关于智谱AI下一代模型的讨论热度急剧上升。智谱AI首席科学家唐杰在社交媒体回应竞争，暗示GLM-5.3“很快”到来。同时，智谱AI高管发文“独木不成林”，或暗示行业合作的重要性。面对DeepSeek等竞争对手的挑战，智谱AI正加速推进新一代模型研发，国产大模型竞争态势进一步升级。 #智谱AI #GLM5.3 #DeepSeek #大模型 #国产AI #AI竞争

Telegram必备的搜索引擎，极搜JISOU帮你精准找到，想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025

AI智能体“找工作”有了新标准

随着AI智能体（AI Agent）技术的快速发展，如何让智能体高效、自主地“寻找”并执行任务成为行业关注焦点。近日，基于MCP（Model Context Protocol）协议的OJCP（Open Job Consumer Protocol）开源项目正式发布。该协议旨在为AI智能体与任务服务端之间建立统一的交互标准，让智能体能够像“求职者”一样，通过标准化接口发现、匹配并消费各类服务。OJCP的推出有望解决当前AI智能体生态中协议碎片化、互操作性差的问题，为开发者提供更便捷的智能体任务编排方式。项目已托管于开源社区，并吸引多家企业关注，或将推动AI智能体应用进入新阶段。 #AI智能体 #MCP #OJCP #开源 #协议 #标准 #AI #科技新闻

谷歌推出 Gemini 3.7 Flash 模型，专攻编程与智能代理

谷歌近日发布了 Gemini 3.7 Flash AI 模型，该模型针对编程和智能代理工作流进行了专门优化。作为 Gemini 系列的最新迭代，3.7 Flash 版本在代码生成、调试和自动化任务执行方面表现突出，能够更高效地处理复杂编程逻辑，并支持多步骤智能代理场景。谷歌表示，该模型旨在提升开发者的生产力，同时降低企业级 AI 应用的门槛。目前，Gemini 3.7 Flash 已通过 Google Cloud 向开发者开放，并集成到相关工具链中。 #谷歌 #Gemini3.7 #AI模型 #编程 #智能代理 #科技新闻

VSCode Copilot 实战价值分析

一位长期使用 GitHub Copilot 的开发者在社区发帖，深入对比了 VSCode Copilot 与原生 GPT 在 IDE 集成深度上的差异。文章指出，VSCode Copilot 通过深度嵌入编辑器，实现了上下文感知的代码补全、实时错误提示、以及基于项目代码库的智能建议，显著提升了开发效率。相比之下，原生 GPT 虽然功能强大，但在 IDE 内缺乏无缝交互，需要手动复制粘贴代码，导致流程中断。该开发者认为，对于日常编码任务，VSCode Copilot 的实战价值更高，尤其适合快速原型开发和代码重构。不过，在复杂逻辑推理和跨领域知识问答方面，原生 GPT 仍具优势。 #VSCode #Copilot #GitHub #IDE #AI编程 #代码补全 #开发效率

实测DeepSeek V4 Flash与Claude双模协作：自研handoff工具打造自动化编程流程

一位开发者通过实测多个AI模型，提出了以DeepSeek V4 Flash作为执行核心、Claude作为辅助规划的协作方案，并自研了handoff工具实现两个模型间的无缝任务切换。该工具允许DeepSeek V4 Flash负责代码生成与执行，Claude则承担逻辑验证与结构优化，从而形成自动化编程工作流。实测表明，这种双模协作模式能显著提升复杂任务的完成效率，减少人工干预，同时降低单模型在长链条推理中的错误率。开发者公开了技术细节与测试数据，为AI辅助编程提供了新的实践思路。 #DeepSeek #Claude #AI编程 #自动化工作流 #双模型协作 #开源工具 #开发者