辨别真伪
当数学天才陶哲轩与ChatGPT关于“雅可比猜想反例”的对话在网上流传时，许多人被其专业性所震撼。然而，对于大多数数学知识仅停留在微积分水平的人来说，这种专业对话的真实性完全无法判断。这种信息辨别能力的缺失正是当前AI工具使用中的核心问题。虽然AI能生成看似合理的专业内容，但也充斥着明显的错误和难以察觉的细微漏洞。这些被业界婉称为“幻觉”的错误，根源于AI缺乏真正的理解能力。因此，可靠地使用AI必须以使用者的专业知识和经验为前提。一位常年使用本地聊天机器人进行拼写检查的作者指出，关键在于明确AI的辅助角色：它用于纠正标点错误或打字失误，而非替代人类写作或提供专业解释。反对者提出的碳排放、隐私泄露等质疑，在实际数据和本地运行模式面前均不成立。这揭示了一个基本事实：AI的价值取决于使用者的判断力，而判断力只能由真实技能和知识支撑。 #AI #大模型 #事实核查 #科技素养 #人工智能 #聊天机器人 #信息辨别
当数学天才陶哲轩与ChatGPT关于“雅可比猜想反例”的对话在网上流传时，许多人被其专业性所震撼。然而，对于大多数数学知识仅停留在微积分水平的人来说，这种专业对话的真实性完全无法判断。这种信息辨别能力的缺失正是当前AI工具使用中的核心问题。虽然AI能生成看似合理的专业内容，但也充斥着明显的错误和难以察觉的细微漏洞。这些被业界婉称为“幻觉”的错误，根源于AI缺乏真正的理解能力。因此，可靠地使用AI必须以使用者的专业知识和经验为前提。一位常年使用本地聊天机器人进行拼写检查的作者指出，关键在于明确AI的辅助角色：它用于纠正标点错误或打字失误，而非替代人类写作或提供专业解释。反对者提出的碳排放、隐私泄露等质疑，在实际数据和本地运行模式面前均不成立。这揭示了一个基本事实：AI的价值取决于使用者的判断力，而判断力只能由真实技能和知识支撑。 #AI #大模型 #事实核查 #科技素养 #人工智能 #聊天机器人 #信息辨别
hero-final.webm
2.9 MB
Lucebox 在 AMD Ryzen AI MAX+ 395 上运行 DeepSeek V4 Flash，解码速度达 32 tok/s
AMD 驱动的 Lucebox 在配备 128 GB 统一内存的 AMD Ryzen AI MAX+ 395 上，完全本地运行了 DeepSeek V4 Flash 模型。该模型是拥有 284B 参数的混合专家模型，CPU 和 Radeon 8060S 共享同一 128 GB LPDDR5X 内存池，无需独立显卡、第二台机器或远程推理服务。解码速度达到 32.0 tok/s，索引稀疏预填充速度约为 250 tok/s。这一成绩在 LocalMaxxing 平台上比第二名 HipFire（18.99 tok/s）快 68.5%，是第三名 DwarfStar（15.6 tok/s）的两倍多。此外，项目团队为 DeepSeek V4 Flash 定制了 ROCmFPX 混合精度量化方案，采用 2.88 bits/parameter 的模型精度，并结合专门的 HIP 解码路径和 DSpark 投机解码技术，实现了显著加速。 #AMD #DeepSeek #大模型 #AI #科技 #ROCm #Lucebox
AMD 驱动的 Lucebox 在配备 128 GB 统一内存的 AMD Ryzen AI MAX+ 395 上，完全本地运行了 DeepSeek V4 Flash 模型。该模型是拥有 284B 参数的混合专家模型，CPU 和 Radeon 8060S 共享同一 128 GB LPDDR5X 内存池，无需独立显卡、第二台机器或远程推理服务。解码速度达到 32.0 tok/s，索引稀疏预填充速度约为 250 tok/s。这一成绩在 LocalMaxxing 平台上比第二名 HipFire（18.99 tok/s）快 68.5%，是第三名 DwarfStar（15.6 tok/s）的两倍多。此外，项目团队为 DeepSeek V4 Flash 定制了 ROCmFPX 混合精度量化方案，采用 2.88 bits/parameter 的模型精度，并结合专门的 HIP 解码路径和 DSpark 投机解码技术，实现了显著加速。 #AMD #DeepSeek #大模型 #AI #科技 #ROCm #Lucebox
MCP 详解
在 AI 代理开发中，工具调用是关键环节，但传统方式存在严重问题：每个工具需要定制集成，每对模型-工具组合需要单独适配器。例如，使用三个模型和十个工具时，可能需维护三十个集成，且任一元素变动都可能导致系统崩溃，这种 M×N 问题严重限制了扩展性。为解决这一挑战，Anthropic 于 2024 年 11 月开源了模型上下文协议（MCP），它如同 AI 领域的 USB 标准，提供统一协议，使任何支持 MCP 的代理都能连接任何支持 MCP 的工具，无需重复定制。MCP 架构包括主机、客户端和服务器三部分，服务器可提供资源、工具和提示三类能力，从而简化开发、提升互操作性。 #MCP #AI代理 #模型上下文协议 #标准化 #Anthropic #开源 #人工智能 #技术
在 AI 代理开发中，工具调用是关键环节，但传统方式存在严重问题：每个工具需要定制集成，每对模型-工具组合需要单独适配器。例如，使用三个模型和十个工具时，可能需维护三十个集成，且任一元素变动都可能导致系统崩溃，这种 M×N 问题严重限制了扩展性。为解决这一挑战，Anthropic 于 2024 年 11 月开源了模型上下文协议（MCP），它如同 AI 领域的 USB 标准，提供统一协议，使任何支持 MCP 的代理都能连接任何支持 MCP 的工具，无需重复定制。MCP 架构包括主机、客户端和服务器三部分，服务器可提供资源、工具和提示三类能力，从而简化开发、提升互操作性。 #MCP #AI代理 #模型上下文协议 #标准化 #Anthropic #开源 #人工智能 #技术
ICON 联手 Anthropic 将 Claude 引入临床试验全流程
全球领先临床研究机构 ICON 宣布与人工智能公司 Anthropic 达成多年期合作，计划将 Claude 的 AI 能力全面嵌入临床试验生命周期，旨在深化数字创新与 AI 战略。双方将基于安全合规的 AI 平台 Orbis，共同开发四项核心生产能力：利用前沿模型优化研究中心选择与可行性、实时检测入组风险、辅助方案设计与场景建模以减少修订，以及将临床专业知识集成至客户系统。ICON 还将在内部布局 Claude 工具，提升开发、知识与临床团队的效率。ICON 表示，临床试验入组是主要瓶颈之一，高达 80% 的试验因此延迟，此次合作有望加速药物交付并改善患者预后。 #ICON #Anthropic #Claude #AI #临床试验 #药物研发 #医疗创新
全球领先临床研究机构 ICON 宣布与人工智能公司 Anthropic 达成多年期合作，计划将 Claude 的 AI 能力全面嵌入临床试验生命周期，旨在深化数字创新与 AI 战略。双方将基于安全合规的 AI 平台 Orbis，共同开发四项核心生产能力：利用前沿模型优化研究中心选择与可行性、实时检测入组风险、辅助方案设计与场景建模以减少修订，以及将临床专业知识集成至客户系统。ICON 还将在内部布局 Claude 工具，提升开发、知识与临床团队的效率。ICON 表示，临床试验入组是主要瓶颈之一，高达 80% 的试验因此延迟，此次合作有望加速药物交付并改善患者预后。 #ICON #Anthropic #Claude #AI #临床试验 #药物研发 #医疗创新
运行本地大模型到底要花多少钱？我在 Apple Silicon 上逐一测量
有人觉得，在自己的硬件上运行大语言模型是免费的：机器已经买了，电费不值一提，生成每个 token 都是白赚。但实际测量显示事实并非如此。我使用自建工具 TokenWatt 在 M3 Ultra Mac Studio（96GB 统一内存）上，对五款模型进行了持续生成测试，并通过墙式插座的实际能耗数据进行校准。结果发现，即使在小尺寸模型上，每 token 成本也可能高于大型模型。例如，1200 亿参数的混合专家模型，每百万 token 成本为 0.109 美元，而 30 亿参数的模型成本反而更高。这说明成本取决于吞吐量而非参数数量，且 Apple Silicon 上的差异更为显著。 #本地大模型 #AI成本 #AppleSilicon #TokenWatt #能源测量 #大语言模型 #技术评测
有人觉得，在自己的硬件上运行大语言模型是免费的：机器已经买了，电费不值一提，生成每个 token 都是白赚。但实际测量显示事实并非如此。我使用自建工具 TokenWatt 在 M3 Ultra Mac Studio（96GB 统一内存）上，对五款模型进行了持续生成测试，并通过墙式插座的实际能耗数据进行校准。结果发现，即使在小尺寸模型上，每 token 成本也可能高于大型模型。例如，1200 亿参数的混合专家模型，每百万 token 成本为 0.109 美元，而 30 亿参数的模型成本反而更高。这说明成本取决于吞吐量而非参数数量，且 Apple Silicon 上的差异更为显著。 #本地大模型 #AI成本 #AppleSilicon #TokenWatt #能源测量 #大语言模型 #技术评测
AI编程代理削弱团队协作，研究揭示个人使用为主
据对GitHub上2361个热门仓库中25264个AI代理生成的拉取请求的分析，AI编程代理并未如预期那样促进团队协作。研究发现，2025年三个月内，中位数项目仅产生一两个代理PR；70%的项目中，参与代理工作流的贡献者不到五分之一。更令人担忧的是，79%的代理PR由同一开发者审查并修改，仅八分之一的工作流涉及多人协作。专家指出，这反映了工具被个人边缘化使用，而非团队能力。乔治华盛顿大学教授Courtney Miller认为，组织应提供共享学习空间如问答频道、短会等，将代理使用从个人责任转变为团队发展过程，避免因奖励使用量而阻碍失败经验的分享。 #AI编程 #团队协作 #GitHub #软件开发 #代理 #工程管理 #研究分析
据对GitHub上2361个热门仓库中25264个AI代理生成的拉取请求的分析，AI编程代理并未如预期那样促进团队协作。研究发现，2025年三个月内，中位数项目仅产生一两个代理PR；70%的项目中，参与代理工作流的贡献者不到五分之一。更令人担忧的是，79%的代理PR由同一开发者审查并修改，仅八分之一的工作流涉及多人协作。专家指出，这反映了工具被个人边缘化使用，而非团队能力。乔治华盛顿大学教授Courtney Miller认为，组织应提供共享学习空间如问答频道、短会等，将代理使用从个人责任转变为团队发展过程，避免因奖励使用量而阻碍失败经验的分享。 #AI编程 #团队协作 #GitHub #软件开发 #代理 #工程管理 #研究分析