Dike：欧盟AI产品合规网关，一键实现审计级日志与报告
Dike是一款专为欧盟AI产品设计的合规网关服务，旨在简化企业在《欧盟AI法案》下的合规流程。用户只需更改基础URL，将LLM流量路由至Dike代理，即可自动获得审计级日志、人工监督记录和事件报告。该服务针对《欧盟AI法案》的重要时间节点（如2026年12月前的AI内容透明度义务、2027年12月前的高风险AI系统义务）提供支持。Dike能实时屏蔽PII信息、阻止恶意调用（如提示注入），并为标记内容添加AI生成标签。它支持RAG和聊天机器人场景，记录模型使用的参考文档，为Article 12(2)提供精确证据。人工审批、编辑和覆盖操作均作为一级事件记录，满足Article 14要求。严重事件触发15天报告倒计时（Article 73），自动生成向市场监督机构提交的报告。PII在网关层面即被去除，存储仅限欧盟境内，保留期默认6个月，可配置。系统设计为fail-open模式，即使审计存储不可用，网关仍传递请求，延迟小于毫秒级，支持流式传输。目前Dike处于封闭测试阶段，违法最高罚款为全球营业额的7%或3500万欧元。 #AI合规 #欧盟AI法案 #合规网关 #数据隐私 #LLM
Dike是一款专为欧盟AI产品设计的合规网关服务，旨在简化企业在《欧盟AI法案》下的合规流程。用户只需更改基础URL，将LLM流量路由至Dike代理，即可自动获得审计级日志、人工监督记录和事件报告。该服务针对《欧盟AI法案》的重要时间节点（如2026年12月前的AI内容透明度义务、2027年12月前的高风险AI系统义务）提供支持。Dike能实时屏蔽PII信息、阻止恶意调用（如提示注入），并为标记内容添加AI生成标签。它支持RAG和聊天机器人场景，记录模型使用的参考文档，为Article 12(2)提供精确证据。人工审批、编辑和覆盖操作均作为一级事件记录，满足Article 14要求。严重事件触发15天报告倒计时（Article 73），自动生成向市场监督机构提交的报告。PII在网关层面即被去除，存储仅限欧盟境内，保留期默认6个月，可配置。系统设计为fail-open模式，即使审计存储不可用，网关仍传递请求，延迟小于毫秒级，支持流式传输。目前Dike处于封闭测试阶段，违法最高罚款为全球营业额的7%或3500万欧元。 #AI合规 #欧盟AI法案 #合规网关 #数据隐私 #LLM
Ekka：大语言模型推理中“静默错误”的自动诊断系统
现代大语言模型推理框架（如vLLM和SGLang）虽然功能强大，但也容易引入“静默错误”——这些错误不会引发崩溃或报错，却悄悄降低输出质量。研究人员从vLLM和SGLang的GitHub问题中收集了90个真实静默错误案例，发现最常见症状是基准测试分数下降（占43.8%），但症状与根本原因之间几乎无直接关联。例如，vLLM服务Gemma 3模型时，HellaSwag基准准确率下降30%，最终诊断耗时三个月才发现是注意力窗口配置错误。为此，研究团队开发了Ekka自动诊断系统。该系统将诊断视为差分调试：对齐并比较错误框架与可信参考框架的中间执行状态，精准定位偏离点。在vLLM和SGLang的17个真实错误上，Ekka实现了80%的首次诊断准确率，每次诊断成本约30美元，并已发现4个被开发者确认的新错误。该成果将在ICML 2026上展示。 #大语言模型 #静默错误 #自动诊断 #AI基础设施 #ICML2026
现代大语言模型推理框架（如vLLM和SGLang）虽然功能强大，但也容易引入“静默错误”——这些错误不会引发崩溃或报错，却悄悄降低输出质量。研究人员从vLLM和SGLang的GitHub问题中收集了90个真实静默错误案例，发现最常见症状是基准测试分数下降（占43.8%），但症状与根本原因之间几乎无直接关联。例如，vLLM服务Gemma 3模型时，HellaSwag基准准确率下降30%，最终诊断耗时三个月才发现是注意力窗口配置错误。为此，研究团队开发了Ekka自动诊断系统。该系统将诊断视为差分调试：对齐并比较错误框架与可信参考框架的中间执行状态，精准定位偏离点。在vLLM和SGLang的17个真实错误上，Ekka实现了80%的首次诊断准确率，每次诊断成本约30美元，并已发现4个被开发者确认的新错误。该成果将在ICML 2026上展示。 #大语言模型 #静默错误 #自动诊断 #AI基础设施 #ICML2026
AMD Ryzen AI Halo 迷你主机正式发货，支持本地AI大模型与开源系统
AMD Ryzen AI Halo 迷你主机基于其顶级 Ryzen AI Max+ "Strix Halo" 平台打造，现已正式发货。该设备专为本地AI开发和推理设计，配备128GB统一内存（LPDDR5x-8000MT/s）和Radeon 8060S显卡，可运行高达2000亿参数的大语言模型。它采用紧凑且节能的设计（150×150×45mm，重约1.2千克，TDP 120瓦），性能可与英伟达 DGX Spark/GB10 媲美。机器可运行 Windows 11 或基于 Debian 定制的 AMD Ryzen AI 开发者平台 Linux 系统，并内置2TB PCIe Gen5 NVMe 固态硬盘。接口包括三个USB-C（支持电力传输和视频输出）、10GbE网口、WiFi 7、蓝牙5.4及HDMI 2.1b。评测者称，这款设备在其22年的Linux硬件评测生涯中，是发布一年后仍保持高度满意度的罕见案例。AMD未来还将推出基于 Ryzen AI Max 400 "Gorgon Halo" 的版本。 #AMD #RyzenAI #Halo #迷你主机 #AI #大模型 #Linux #开源
AMD Ryzen AI Halo 迷你主机基于其顶级 Ryzen AI Max+ "Strix Halo" 平台打造，现已正式发货。该设备专为本地AI开发和推理设计，配备128GB统一内存（LPDDR5x-8000MT/s）和Radeon 8060S显卡，可运行高达2000亿参数的大语言模型。它采用紧凑且节能的设计（150×150×45mm，重约1.2千克，TDP 120瓦），性能可与英伟达 DGX Spark/GB10 媲美。机器可运行 Windows 11 或基于 Debian 定制的 AMD Ryzen AI 开发者平台 Linux 系统，并内置2TB PCIe Gen5 NVMe 固态硬盘。接口包括三个USB-C（支持电力传输和视频输出）、10GbE网口、WiFi 7、蓝牙5.4及HDMI 2.1b。评测者称，这款设备在其22年的Linux硬件评测生涯中，是发布一年后仍保持高度满意度的罕见案例。AMD未来还将推出基于 Ryzen AI Max 400 "Gorgon Halo" 的版本。 #AMD #RyzenAI #Halo #迷你主机 #AI #大模型 #Linux #开源
AI 编排进入浏览器
当前大多数 AI 助手的编排、代理和工具调用均在服务器端完成。然而，对于 Web 地理信息系统（GIS）而言，这一模式并不理想。浏览器本身已拥有与地图交互所需的实时运行时环境（如数据显示与状态）。因此，开发团队探索了一种新路径：直接在浏览器中运行 AI 编排与代理。该架构围绕浏览器端编排器设计，无需额外搭建后端编排服务。例如，当用户请求“显示德克萨斯州的养老院”时，浏览器端通过向量搜索快速识别相关图层与字段，选出“数据探索代理”生成空间查询，更新地图并高亮结果。向量搜索是关键环节：它在调用大语言模型前，从众多图层中筛选出最相关的信息，从而精简上下文，提升响应准确性与效率。需要强调的是，这种架构仍可调用服务器端模型与企业 API，适用于复杂任务，但不适合大规模批处理或高度敏感的逻辑。 #AI编排 #浏览器原生 #WebGIS #地理信息系统 #大语言模型 #架构设计
当前大多数 AI 助手的编排、代理和工具调用均在服务器端完成。然而，对于 Web 地理信息系统（GIS）而言，这一模式并不理想。浏览器本身已拥有与地图交互所需的实时运行时环境（如数据显示与状态）。因此，开发团队探索了一种新路径：直接在浏览器中运行 AI 编排与代理。该架构围绕浏览器端编排器设计，无需额外搭建后端编排服务。例如，当用户请求“显示德克萨斯州的养老院”时，浏览器端通过向量搜索快速识别相关图层与字段，选出“数据探索代理”生成空间查询，更新地图并高亮结果。向量搜索是关键环节：它在调用大语言模型前，从众多图层中筛选出最相关的信息，从而精简上下文，提升响应准确性与效率。需要强调的是，这种架构仍可调用服务器端模型与企业 API，适用于复杂任务，但不适合大规模批处理或高度敏感的逻辑。 #AI编排 #浏览器原生 #WebGIS #地理信息系统 #大语言模型 #架构设计