MIT 团队开发新方法检测AI生成儿童性虐待内容，无需生成任何违规图像即可识别模型是否被恶意改造

随着生成式人工智能的普及，大量开源模型可供任何人使用，但也被不法分子利用来生成仇恨言论或儿童性虐待材料等非法内容。美国国家失踪与受虐儿童中心报告显示，2025年AI生成的此类内容报告超过150万份，较2024年的6.7万份剧增。由于在美国生成儿童性虐待内容本身违法，传统通过提示模型并检查输出的测试方法完全不可行。为此，麻省理工学院科学家与儿童安全非营利组织Thorn合作，开发了一种全新审计方法。该技术通过检查模型内部隐藏表示的变化来判断其是否被专门化用于生成有害图像，全程不产生任何输出。测试结果显示，该方法能100%准确识别出被改造为生成儿童性虐待内容的模型变体。托管平台可利用该技术在模型上传前提前标记并移除不安全模型，填补了此前AI安全领域的重大盲点。相关论文已在国际机器学习大会的研讨会上展示。 #AI安全 #儿童保护 #MIT #开源模型 #技术审计 #人工智能 #网络安全

AI Agent 安全访问API的六大工具层解析

针对AI智能体在生产环境中调用真实API的安全问题，目前存在六种不同的工具类别，各自解决不同层面的安全性，而非互相替代。最突出的安全缺口在于授权和治理层面：多数团队仅解决了身份认证，却忽视了请求内容审查和响应数据脱敏。集成平台如Composio提供快速连接能力但授权深度有限；Agent运行时如Arcade和AWS AgentCore分别擅长用户OAuth和云环境治理，但数据流监控需额外构建；身份安全类工具（如Okta、Astrix）能发现凭证隐患但无法控制单次请求的形态；LLM网关仅管理模型通信，入站API网关只控制API被调用权限，均不解决Agent外发请求的管控。核心结论是：提示词指令无法替代基础设施层中的确定性授权与治理。 #AI安全 #API治理 #Agent安全 #LLM网关 #身份安全 #云安全

Richard Sutton 离开 Keen AI，创立 Oak Lab 专注 AI 新路径

强化学习先驱理查德·萨顿（Richard Sutton）在社交平台宣布，他已与胡拉姆·贾韦德（Khurram Javed）一同离开约翰·卡马克的 Keen Technologies，共同创立了专注于人工智能研究的新公司 Oak Lab。萨顿表示，Oak Lab 与 Keen 及 Ineffable 一样，坚信强化学习是构建智能的核心，智能应通过运行时经验来创建和维持。但他同时指出，当前的深度学习方法存在薄弱且效率低下的问题，需要进行彻底重构，而非仅通过小修小补来改进。Oak Lab 的目标是寻求根本性的新思路，为达成更宏大的 AI 目标奠定更坚实的基础。 #RichardSutton #OakLab #AI #强化学习 #深度学习 #人工智能 #创业 #科技新闻

AI经济报告揭示需求侧透明度危机

一份由Exponential View发布的66页报告《AI经济现状》指出，当前AI经济存在严重的需求侧可见性问题。报告分析称，虽然供应端（半导体公司和超大规模云服务商）的活动已得到充分记录，但客户实际支付了什么、收入是否真实，至今仍像“黑箱”一样难以解读。由于最大AI实验室多为私营企业，上市公司又常将AI收入隐藏在总营收中，外界无法判断支撑22.7万亿美元股市市值、并驱动美国过去六个季度GDP增长的AI经济是否健康。研究团队通过专有模型，对全球（不含中国）超过1000家企业的AI收入进行分层追踪，确保每笔支出只计数一次，避免重复计算。报告旨在提供一份不受炒作与恐惧影响的参考基准，帮助公众更理性地讨论AI对经济的引力作用。 #AI经济 #需求侧 #透明度 #股市市值 #GDP增长 #大模型 #半导体 #超大规模云 #ExponentialView #报告

苹果股价创历史新高，投资者质疑AI重金投入

苹果股价自6月25日创下一年多来最差单日表现后，累计上涨15%，市值增加近6000亿美元，重回收录高位。这一反弹恰逢投资者对科技巨头持续大规模投入AI数据中心建设感到不安，且缺乏明确的回报时间表。苹果选择不参与数据中心军备竞赛，转而向谷歌支付费用获取其前沿AI模型，这一策略正被市场视为优势而非负担。苹果利用谷歌Gemini增强Siri及Apple Intelligence功能。尽管面临内存芯片成本飙升的压力，苹果在6月25日上调Mac、iPad等产品价格，导致股价单日大跌，但随后强劲反弹。投资者还将苹果预计9月推出的可折叠iPhone视为潜在催化剂，供应商已接到约1000万台的备货量，高于此前预期。苹果股价2026年至今上涨16%，在“科技七巨头”中表现最佳。 #苹果 #股价 #AI投资 #数据中心 #科技新闻 #谷歌Gemini #可折叠iPhone

FABRAIX 发布 AI 破解挑战，悬赏12个月奖金

FABRAIX 公司推出了一项名为 "The Gatekeeper" 的 AI 安全挑战赛，旨在通过让参与者破解 AI 助手的秘密访问码来提升 AI 安全性。挑战中，参与者需要与名为 "Kai" 的 AI 助手进行对话，通过提示注入、社会工程学等手段引导其泄露预设的秘密代码。每轮对话都经过护栏评分，成功获取代码即获胜，并可参与每周奖金争夺。FABRAIX 表示，未来12个月内将持续提供奖金，鼓励更多人参与 AI 安全研究。 #AI安全 #FABRAIX #提示注入 #破解挑战 #科技新闻

Telegram必备的搜索引擎，极搜JISOU帮你精准找到，想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025

我如何将 AI Agent 的 Token 用量削减 94%

一位开发者通过“编译”将日常 AI 工作流的 Token 消耗减少了 94%。他原本使用自然语言指令让 AI Agent 自动完成博客内容挖掘和 LinkedIn 帖子草稿的生成。经过多次运行后，他发现流程中的大部分步骤（如检索、过滤、状态管理）已经固化，无需每次都调用大模型进行推理。真正的“大脑”工作只有两步：从候选内容中选择最佳选题和撰写帖子草稿。于是他将其他步骤“编译”为确定性 Python 代码，仅在这两个关键环节调用 LLM。实测结果显示，Token 用量减少 94%，延迟降低 87%，输出质量基本不变。这一实践表明，通过分析历史执行轨迹、把可重复步骤“降级”为普通代码，能有效降低 AI Agent 的推理成本。 #AI #LLM #Token优化 #工作流 #自动化 #效率 #编程

AI像素画修复工具

针对AI生成图像中常见的模糊、像素错位问题，Sprite Fusion推出了一款名为Pixel Snapper的开源修复工具。该工具采用四步修复流程：首先通过K-means算法量化颜色，将杂乱调色板简化为有限色系；随后分析图像边缘轮廓，检测亮度变化峰值以估算像素步长；接着沿最强边缘引导切割，建立对齐网格；最后在每个网格单元内进行颜色投票，选取最受欢迎的色彩作为最终像素。最终输出作品将保持原图形状与细节，同时形成干净、对齐的像素艺术效果。该工具已支持Unity、Godot等多种游戏引擎集成，并提供在线试用版本。 #AI #像素画 #图像修复 #开源工具 #游戏开发

QuantumReckon 揭示企业真实云与 AI 开支，发现隐藏成本黑洞

QuantumReckon 推出全新 FinOps 工具，可一站式扫描企业云基础设施和 AI 供应商，精准定位闲置资源、模型令牌消耗及休眠密钥等隐性成本。该工具仅需一次只读扫描，即可生成包含量化修复建议的可验证报告，绝不会直接修改客户基础架构。通过监测一家企业一周内 317M 令牌的使用情况，发现 87% 花费在以 gpt-5.5 为代表的高价模型上，而低价层几乎闲置；同时利用提示缓存优化，每月可节省约 1016 美元。此外，工具还能识别零流量的模型部署和失活的 API 密钥，帮助减少攻击面。QuantumReckon 支持持续定时扫描，自动检测异常与漂移，并通过 Slack 实时告警及基于真实数据的成本预测，填补了传统仪表盘无法覆盖的 AI 令牌支出盲区。 #云计算 #AI成本 #FinOps #成本优化 #令牌消耗 #工具

HN 社区出现生成式 AI 抵制潮

近期，Hacker News 上涌现了多起用户对生成式 AI 内容的抵制行为。部分用户认为，AI 生成的评论、文章和代码缺乏原创性和深度，甚至可能淹没真正的人工贡献。一些帖子明确要求限制 AI 生成内容，并呼吁社区加强人工审核。这一现象反映出技术社区对 AI 内容泛滥的担忧，也引发了关于技术创新与人文价值平衡的讨论。 #HackerNews #生成式AI #技术社区 #内容审核 #AI伦理 #科技趋势