基于解释的运行时验证方法，保障ML驱动光网络的可信性

一项发表在arXiv上的研究提出了基于解释的运行时验证框架，旨在提升机器学习驱动的光网络系统的可信赖性。该论文由Omran Ayoub等七位作者共同完成，于2026年7月22日提交。研究指出，随着机器学习在光网络中的广泛应用，其决策过程的透明度和可靠性成为关键挑战。为此，团队利用可解释性技术，在系统运行期间持续验证ML模型的输出，确保其符合预设的安全与性能约束。该方法通过引入解释机制，不仅能检测异常行为，还能提供可理解的反馈，帮助运维人员及时调整策略。实验表明该框架在保证网络性能的同时，显著增强了系统的鲁棒性和可审计性。该工作为智能光网络的可靠部署提供了新的技术路径。 #光网络 #机器学习 #可信赖AI #运行时验证 #可解释性 #网络运维

LLMs在用户意图演化中“迷失”

一项预印本研究《LLMs Get Lost in Evolving User Intent》指出，大语言模型在处理用户意图随时间演变的任务时表现不佳，容易在动态交互中“迷失”方向。该研究由Jihoon Tack等人完成，已在arXiv平台发布。这一发现揭示了当前LLMs在适应不断变化的目标和情境时的局限性，为改进模型在多轮对话中的灵活性和持续理解能力提供了重要参考。 #大语言模型 #用户意图 #AI研究 #arXiv #LLM #动态交互 #自然语言处理

One Round Is All You Need：作者提出单轮联邦学习解决多标签医学图像分类任务异构问题

研究人员提出一种名为"Analytic Federated Learning"的新框架，仅需一轮通信即可完成多标签医学图像分类中的任务异构联邦学习。传统联邦学习通常需要多轮迭代，而该方法通过解析解直接计算全局模型，大幅降低通信成本。实验表明，该方案在保持高精度的同时，显著提高了训练效率，为医疗影像分布式诊断提供了新的解决方案。 #联邦学习 #医学图像 #多标签分类 #人工智能 #机器学习 #医疗AI #arXiv

研究提出视角潜在作为主动推理智能体中因果涌现的结构条件

一篇题为“Perspective Latents as an Architectural Condition for Causal Emergence in Active Inference Agents”的论文近日在预印本平台arXiv上发布。该论文由Pae Hongju撰写，探讨了在主动推理框架中，如何通过视角潜在变量作为架构条件来实现因果涌现。研究结合计算机科学与定量生物学视角，为理解智能体从微观层级互动中产生宏观因果结构提供了新思路。该工作有望推动主动推理理论在人工智能和认知科学领域的进一步发展。 #主动推理 #因果涌现 #智能体 #arXiv #AI #论文 #认知科学 #计算建模

SalesLoop：利用绩效反馈的强化学习优化销售线索排名

一篇题为《SalesLoop: Reinforcement Learning from Performance Feedback for Sales Lead Ranking》的学术论文近期在arXiv上发布。该研究由Chenyu Zhang等人提出，核心思路是通过强化学习框架，从销售人员的实际绩效反馈中动态优化销售线索的排序模型。传统方法通常依赖静态规则或历史数据，而SalesLoop能持续学习销售团队对不同线索的响应效果，从而提升转化率与资源分配效率。论文展示了在真实销售场景中的应用潜力，为销售自动化与智能决策提供了新思路。 #强化学习 #SalesLoop #销售线索排名 #AI #arXiv #论文

可扩展可解释Transformer

一篇来自arXiv的论文提出了一种名为“奇偶瓶颈层”的新型Transformer架构，旨在提升模型的可解释性和可扩展性。该研究由Andrew Mack等五位作者完成，论文详细介绍了如何通过引入奇偶性约束的瓶颈层，使Transformer在保持高性能的同时，其内部决策过程更加透明。实验表明，该架构在多个自然语言处理任务上取得了与标准Transformer相当的结果，但显著增强了模型的可解释性，为构建更可靠、更易理解的AI系统提供了新思路。论文已提交arXiv，并提供了PDF和HTML版本供学术社区参考。 #AI #机器学习 #Transformer #可解释性 #arXiv #论文 #深度学习

Debian 社区发起关于 LLM 使用规范的通用决议

Debian 项目近日发起一项通用决议，旨在规范大型语言模型（LLM）在项目中的使用。该决议由多位开发者联合提出，核心内容包括：要求所有由 LLM 生成的代码、文档或翻译必须明确标注来源；禁止将 LLM 作为代码审查的唯一依据；以及要求贡献者对其使用 LLM 生成的内容负责。此举旨在维护 Debian 自由软件社区的质量标准和透明度，避免因 AI 生成内容引发的版权、许可证及可靠性问题。目前该决议正处于讨论阶段，社区成员可投票表达意见。 #Debian #LLM #开源社区 #AI治理 #软件自由 #通用决议 #技术伦理

美能源部宣布“创世纪使命”首批AI项目，278个项目入选

美国能源部（DOE）宣布“创世纪使命”首批项目遴选结果，共计278个研究团队入选，覆盖全美50个州。这是DOE历史上响应最热烈的资助机会，旨在利用人工智能加速能源、基础科学和国家安全领域的突破。该使命由总统特朗普发起，目标是使美国科研生产力翻倍，结合DOE顶尖科研能力、先进AI、高性能计算资源，重塑科学发现方式。最大项目为核能领域，三年投资6000万美元，利用AI实现核设施更快速、安全交付并降低运营成本。入选团队将获得“创世纪使命平台”访问权限，包括AI智能体框架、先进模型及DOE国家实验室的高性能计算资源。能源部长克里斯·赖特表示，美国有大胆想法和天才科学家，这批项目代表了国家科研事业的最优成果。副国务卿达里奥·吉尔称，科学界已准备好重新构想发现方式。 #美国能源部 #创世纪使命 #AI #科学发现 #核能 #高性能计算 #特朗普 #科技新闻

图书馆与图书管理员

近日，一个关于AI模型失败的案例引发思考：当被问及一个组合新颖的普通问题时，模型自信地给出了听起来合理但逻辑混乱的答案。这并非知识缺失，而是模型虽存储了所有事实，却无法正确应用规则解决未见过的问题。作者指出，当前大语言模型被要求同时扮演“图书馆”——存储海量知识，和“图书管理员”——对知识进行推理应用，这两种截然不同的角色被压缩在同一组参数中。这种设计虽然通过扩大规模取得了显著成效，但图书馆总有容量上限，且模型训练截止后的知识会逐渐过时。因此，检索增强生成（RAG）等外部知识源结合方式正成为部署主流，暗示未来应分离知识存储与推理功能，而非继续混为一体。 #AI #人工智能 #大语言模型 #知识存储 #推理能力 #检索增强 #架构设计 #科技趋势

一位哲学家拒绝Anthropic邀请，称AI行业在问错误的问题

据英国《金融时报》报道，一位匿名哲学家拒绝了人工智能公司Anthropic的工作邀请。该哲学家表示，当前AI行业所提出的问题方向存在根本性错误，过于关注技术能力的提升而忽视了更深层的伦理与哲学思考。这一事件引发了业界对AI发展方向的重新审视。Anthropic是一家致力于AI安全的研究公司，其目标包括构建可靠且有益的AI系统。 #哲学家 #Anthropic #AI伦理 #AI安全 #科技新闻

AI代码分析工具getdebug发布0.4.0版本，新增Python AI反模式检测

getdebug CLI 0.4.0版本正式发布，在原有JS/TS基础上新增Python AI应用的正则预过滤器，可检测提示注入、不安全角色合并、提示中的PII、无界流和不安全工具输出五类安全反模式。所有检测均为确定性规则，无需调用大模型，分析一个Python仓库仅需毫秒级时间且零成本。开发团队将该工具与Bandit、Semgrep、vulnhuntr等同类工具进行基准测试，在5个含漏洞的Python AI应用用例中，getdebug成功检出全部5个，召回率100%，但精度为83%（因存在1个误报）。相比之下，Bandit和Semgrep仅检出1个漏洞，且无法覆盖提示注入等行为类反模式。vulnhuntr则因未选中任何文件而无法参与测试。该工具还包含可选的本地LLM SAST通道（通过Ollama）和托管LLM SAST通道（通过Claude）。团队同时使用真实代码库（simonw/llm项目）进行了验证。 #AI #代码安全 #getdebug #Python #静态分析 #安全工具 #正则表达式

AI训练师平台前6个月运营实录

一位独立创业者于今年1月推出AI训练师聚合平台，最初仅整合多家平台的AI训练、RLHF及数据标注岗位，随后逐步扩展出平台情报、用户评价、免费培训学院及付费认证功能，并建立数百人的人才库。收入主要依赖各平台的推荐佣金与收入分成，然而许多成功入职的候选人因项目不足长期闲置，导致早期收入主要来自入职奖金而非分成。流量方面，2月遭遇Google更新的排名惩罚，但Bing和ChatGPT带来的有机流量稳定了局面，形成“AI训练师求职板反被AI聊天机器人导流”的讽刺现象。创始人强调，凭借扎实的UX背景，平台在设计上追求差异化与极致体验，旨在通过高价值内容和用户留存策略在同类站点中脱颖而出。 #AI训练师 #求职平台 #聚合器 #创业案例 #RLHF #数据标注 #流量分析 #UX设计 #Google更新

AI Toolbox 新增支持 Claude Opus 5，功能全面升级

一款名为 AI Toolbox 的工具近日宣布集成对 Claude Opus 5 的支持。该工具箱提供了文件夹管理、全文搜索、智能标签、上下文提及、批量导出、提示词库（支持链式调用）、消息书签以及使用量仪表盘等一系列实用功能，旨在提升用户与 AI 模型交互的效率与体验。此次更新进一步丰富了 Claude Opus 5 的应用场景，为开发者及高级用户提供了更强大的工作流管理能力。 #AI #Claude #工具 #效率 #生产力 #科技

Telegram必备的搜索引擎，极搜JISOU帮你精准找到，想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025

AMD 苏姿丰：AI 推理需求首超训练，60% 计算用于推理

在 AMD 举办的 Advancing AI 2026 大会上，首席执行官苏姿丰指出，AI 正在深刻改变每个行业，计算需求每年增长 5 倍。她强调，今年是推理需求首次超过训练的关键年份，目前 60% 的计算资源用于推理。智能体 AI 正带来巨大飞跃，推动需求加速增长，预计到 2030 年 AI 加速器市场将达 1.4 万亿美元。AMD 发布的 Helios 系统集成 CPU、GPU 与网络，其 Instinct MI455X 采用 3nm 和 2nm 工艺，拥有 3200 亿晶体管，性能比 NVIDIA 同类产品高出 15%。同时，AMD 展示了基于 2nm 工艺的 EPYC “Venice” CPU，针对智能体 AI 设计，配备 256 核心 512 线程。苏姿丰还宣布与 Anthropic 深化合作，共同扩大 GPU 规模并加强安全性。 #AMD #苏姿丰 #AI #推理 #数据中心 #Helios #MI455X #EPYC #Anthropic

sandbox-bwrap-nix

运行AI代码工具时，用户常担心代理误操作删除文件或破坏系统配置。传统容器（如Docker、Podman）虽能隔离，但需要守护进程、镜像管理、sudo权限，且启动缓慢。sandbox-bwrap-nix提供了一种更简洁的方案：它结合bubblewrap和Nix，在不到一秒内启动一个隔离环境，无需守护进程、无需拉取镜像、无需root权限。该项目仅由几个脚本文件组成，通过bwrap挂载只读的Nix存储，并创建独立的/tmp、/home和进程命名空间，使宿主文件系统从沙箱内不可见。沙箱随后运行nix develop，激活包含git、bun、uv等工具的开发者shell。该沙箱特别适合运行AI编码代理（如OpenCode），代理可操作代码库但无法触及真实家目录；也适合学习Nix或测试新flake，以及运行不受信任的脚本。它提供三层保护：目录隔离、进程隔离（独立PID命名空间）、环境隔离（清空环境变量，防止密钥泄露）。这不是一个完整的容器，而是专为AI代理和实验设计的轻量级替代方案。 #sandbox #bwrap #Nix #AI代理 #沙箱 #Linux #安全 #轻量级 #开源

3D打印的电子阅读器枪形外壳引发关于强制枪支检测软件的争议

肯塔基州创客Luke The Maker为小众产品Xteink X4阅读器设计了一款3D打印的枪形外壳“Gundle”，外形模仿真枪但无法射击，扣动扳机毫无作用。尽管这显然是个玩笑或评论，但它恰好撞上了美国多州推动的强制3D打印机安装枪支检测软件的法律争议。纽约和加州已通过相关法案，要求用算法扫描打印文件，判断是否为枪支或部件，若识别为枪则阻止打印。然而创客和专家指出该技术不成熟，容易误判，像这款阅读器外壳就处于灰色地带。Luke表示自己反对这种强制检测，认为想打印枪支的人总有办法，不应由软件制造商控制。该案例凸显了通过技术手段预防枪支制造的困境。 #3D打印 #电子阅读器 #枪支管制 #法律争议 #创客 #技术局限性 #误判风险 #美国新闻