AI Agent 的真实杠杆
作者分享了使用 AI agent 获得的实际杠杆——将杂乱语音笔记转化为草稿、代码变更、测试、PR、修复等流程自动化。但这种杠杆也有“诅咒”：经济学在奇怪的地方起作用，尤其对个人和小团队，但并非处处有效。token 费用可能快速增长，若缺乏系统构建，agent 容易成为产生未完成工作的昂贵方式。核心问题不是单个 agent 是否比人类快，而是人类能否同时并行指定、运行、审核和改进多个有边界的执行循环。George Hotz 警告 agent 输出会前置令人印象深刻的表面部分，而将艰苦的打磨工作留给人，产生难以被旧有质量指标检测的劣质产物。关键在于谁能在不降低自身系统质量的前提下吸收这种杠杆。有用的单位不是模型本身，而是整个系统：模型 × 工具 × 环境 × 评估器。不同任务需要不同模型/工具组合，且模型不是产品，工具和环境同样重要。 #AI #Agent #杠杆 #效率 #经济学 #软件工程 #技术评论 #自动化 #工作流
作者分享了使用 AI agent 获得的实际杠杆——将杂乱语音笔记转化为草稿、代码变更、测试、PR、修复等流程自动化。但这种杠杆也有“诅咒”：经济学在奇怪的地方起作用，尤其对个人和小团队，但并非处处有效。token 费用可能快速增长，若缺乏系统构建，agent 容易成为产生未完成工作的昂贵方式。核心问题不是单个 agent 是否比人类快，而是人类能否同时并行指定、运行、审核和改进多个有边界的执行循环。George Hotz 警告 agent 输出会前置令人印象深刻的表面部分，而将艰苦的打磨工作留给人，产生难以被旧有质量指标检测的劣质产物。关键在于谁能在不降低自身系统质量的前提下吸收这种杠杆。有用的单位不是模型本身，而是整个系统：模型 × 工具 × 环境 × 评估器。不同任务需要不同模型/工具组合，且模型不是产品，工具和环境同样重要。 #AI #Agent #杠杆 #效率 #经济学 #软件工程 #技术评论 #自动化 #工作流
Vanta 发布 Trustcraft 方法论
Vanta 是一家为小企业提供安全合规解决方案的公司，近日分享了其 AI 产品构建理念“Trustcraft”。该公司强调，AI 功能不能只是“演示好看”，而必须真正帮助客户完成实际工作，如证明安全状态、履行合同承诺或修复控制项。Vanta 通过构建“信任图谱”（Trust Graph）整合客户合规数据，使 AI 在合规领域具备精准判断力，而非依赖大模型猜测。同时，Vanta 倾向于将合规智能嵌入客户已有的工具（如 IDE、CI 管道），而非要求用户切换上下文。与 Tagore 的合作案例显示，这种策略帮助客户在竞争市场中实现差异化。目前已有超过 16000 家公司使用 Vanta 持续证明其安全态势。 #Vanta #Trustcraft #AI #合规 #安全 #小企业 #信任图谱 #B2B #科技新闻
Vanta 是一家为小企业提供安全合规解决方案的公司，近日分享了其 AI 产品构建理念“Trustcraft”。该公司强调，AI 功能不能只是“演示好看”，而必须真正帮助客户完成实际工作，如证明安全状态、履行合同承诺或修复控制项。Vanta 通过构建“信任图谱”（Trust Graph）整合客户合规数据，使 AI 在合规领域具备精准判断力，而非依赖大模型猜测。同时，Vanta 倾向于将合规智能嵌入客户已有的工具（如 IDE、CI 管道），而非要求用户切换上下文。与 Tagore 的合作案例显示，这种策略帮助客户在竞争市场中实现差异化。目前已有超过 16000 家公司使用 Vanta 持续证明其安全态势。 #Vanta #Trustcraft #AI #合规 #安全 #小企业 #信任图谱 #B2B #科技新闻
特朗普签署新AI行政令，扩大模型监管力度
美国前总统特朗普在废除此前AI行政令不到两周后，于周二签署了一项新命令，旨在促进创新与安全。该政策要求科技公司在发布前沿模型前30天自愿提交给政府审查，但未设立强制许可制度。同时，新设网络安全中心协调私营部门安全评估。外界认为，此令虽较此前版本有所弱化（此前要求提前90天提交），但仍标志着白宫在AI治理上从“放手”转向加强监管。此外，防务科技公司Anduril与Meta合作，为军方开发增强现实头盔，可通过眼神和语音指令控制无人机打击。SpaceX也计划以每股135美元进行IPO，筹资750亿美元。 #特朗普 #AI行政令 #人工智能 #科技政策 #无人机 #AR头盔 #SpaceX #IPO
美国前总统特朗普在废除此前AI行政令不到两周后，于周二签署了一项新命令，旨在促进创新与安全。该政策要求科技公司在发布前沿模型前30天自愿提交给政府审查，但未设立强制许可制度。同时，新设网络安全中心协调私营部门安全评估。外界认为，此令虽较此前版本有所弱化（此前要求提前90天提交），但仍标志着白宫在AI治理上从“放手”转向加强监管。此外，防务科技公司Anduril与Meta合作，为军方开发增强现实头盔，可通过眼神和语音指令控制无人机打击。SpaceX也计划以每股135美元进行IPO，筹资750亿美元。 #特朗普 #AI行政令 #人工智能 #科技政策 #无人机 #AR头盔 #SpaceX #IPO
VAMPS
来自arXiv的一篇论文介绍了VAMPS（Visual-Assisted Mathematical Problem Solving Benchmark），这是一个专门用于评估多模态大模型在视觉辅助数学推理能力上的新基准。该基准由Amirhossein Dabiriaghdam等八位研究者共同提出，旨在填补当前多模态模型在复杂数学问题中结合视觉信息进行推理的评估空白。VAMPS包含大量需要同时理解文本描述和图像信息的数学题目，覆盖几何、代数、概率等多个领域。研究团队通过该基准对现有主流多模态模型进行了测试，发现它们在视觉与数学推理的深度融合上仍存在显著不足，尤其在需要空间推理和图表解读的任务中表现欠佳。该基准的发布为未来多模态AI在教育和科研领域的应用提供了重要的评估工具和优化方向。 #VAMPS #多模态 #数学推理 #基准测试 #AI #arXiv #视觉辅助
来自arXiv的一篇论文介绍了VAMPS（Visual-Assisted Mathematical Problem Solving Benchmark），这是一个专门用于评估多模态大模型在视觉辅助数学推理能力上的新基准。该基准由Amirhossein Dabiriaghdam等八位研究者共同提出，旨在填补当前多模态模型在复杂数学问题中结合视觉信息进行推理的评估空白。VAMPS包含大量需要同时理解文本描述和图像信息的数学题目，覆盖几何、代数、概率等多个领域。研究团队通过该基准对现有主流多模态模型进行了测试，发现它们在视觉与数学推理的深度融合上仍存在显著不足，尤其在需要空间推理和图表解读的任务中表现欠佳。该基准的发布为未来多模态AI在教育和科研领域的应用提供了重要的评估工具和优化方向。 #VAMPS #多模态 #数学推理 #基准测试 #AI #arXiv #视觉辅助
CHARM框架发布：精准检测与缓解Agentic RAG中的级联幻觉问题
一篇发表于arXiv的论文提出了名为CHARM的框架，用于检测和缓解代理式检索增强生成（Agentic RAG）中的级联幻觉现象。研究团队指出，在多步骤推理的Agentic RAG系统中，幻觉会沿推理链逐级累积，导致最终输出严重偏离事实。CHARM框架通过引入分层监测机制，在每一步推理中识别潜在幻觉信号，并利用回溯修正方法阻断错误传播。实验表明，该框架能显著降低级联幻觉的发生率，同时保持系统响应效率。这一工作为提升大语言模型在复杂任务中的可靠性提供了新思路。 #AI #大模型 #RAG #幻觉 #CHARM #arXiv #论文
一篇发表于arXiv的论文提出了名为CHARM的框架，用于检测和缓解代理式检索增强生成（Agentic RAG）中的级联幻觉现象。研究团队指出，在多步骤推理的Agentic RAG系统中，幻觉会沿推理链逐级累积，导致最终输出严重偏离事实。CHARM框架通过引入分层监测机制，在每一步推理中识别潜在幻觉信号，并利用回溯修正方法阻断错误传播。实验表明，该框架能显著降低级联幻觉的发生率，同时保持系统响应效率。这一工作为提升大语言模型在复杂任务中的可靠性提供了新思路。 #AI #大模型 #RAG #幻觉 #CHARM #arXiv #论文
AICompanionBench 提出新基准，评估大语言模型作为 AI 伴侣的安全性
近期，一项名为 AICompanionBench 的研究提出了一种新的基准测试，旨在评估大语言模型（LLM）作为 AI 伴侣时的安全性。该研究由 Yanjing Ren 等学者完成，论文已提交至 arXiv。随着 AI 伴侣产品的普及，确保 LLM 在对话中不产生有害内容、不误导用户至关重要。AICompanionBench 通过设计多种安全场景，系统性地评测 LLM 作为“裁判”时对安全风险的识别与应对能力。这项研究为 AI 伴侣的安全评估提供了标准化工具，有助于推动更负责任的 AI 发展。 #AI伴侣 #安全 #大模型 #基准测试 #arXiv #LLM #人工智能 #安全评估 #AI伦理
近期，一项名为 AICompanionBench 的研究提出了一种新的基准测试，旨在评估大语言模型（LLM）作为 AI 伴侣时的安全性。该研究由 Yanjing Ren 等学者完成，论文已提交至 arXiv。随着 AI 伴侣产品的普及，确保 LLM 在对话中不产生有害内容、不误导用户至关重要。AICompanionBench 通过设计多种安全场景，系统性地评测 LLM 作为“裁判”时对安全风险的识别与应对能力。这项研究为 AI 伴侣的安全评估提供了标准化工具，有助于推动更负责任的 AI 发展。 #AI伴侣 #安全 #大模型 #基准测试 #arXiv #LLM #人工智能 #安全评估 #AI伦理
训练数据成AI竞争新焦点，生物模型数据市场崛起
前沿AI实验室正斥资数十亿美元，通过外部合作伙伴获取专有训练数据。数据显示，2025年6月时，头部数据标注公司Surge AI和Scale AI的营收已分别接近10亿美元，主要来自前沿实验室的订单。据估算，顶级实验室每年在专有数据集和强化学习环境上的投入达10至100亿美元，且这一数字持续增长。随着互联网文本数据被逐渐耗尽、模型架构优势难以长期保持，获取高质量、任务相关的数据成为提升模型性能的关键。这股数据采购热潮已从编程、金融延伸至生命科学领域：模型开发者正大量签署生物数据许可协议，例如将高质量抗体亲和力数据加入训练集以提升蛋白质设计能力。同时，自动化生命科学机器人公司正以“数据工厂”身份切入市场，加速数据收集、模型训练与评估的循环。然而，生物基础模型与通用语言模型在数据策略上存在本质差异，如何借鉴LLM经验、构建有效的数据体系仍是行业需要深思的问题。 #AI训练数据 #生物AI #前沿实验室 #数据标注 #生命科学 #机器学习 #数据策略 #蛋白质设计
前沿AI实验室正斥资数十亿美元，通过外部合作伙伴获取专有训练数据。数据显示，2025年6月时，头部数据标注公司Surge AI和Scale AI的营收已分别接近10亿美元，主要来自前沿实验室的订单。据估算，顶级实验室每年在专有数据集和强化学习环境上的投入达10至100亿美元，且这一数字持续增长。随着互联网文本数据被逐渐耗尽、模型架构优势难以长期保持，获取高质量、任务相关的数据成为提升模型性能的关键。这股数据采购热潮已从编程、金融延伸至生命科学领域：模型开发者正大量签署生物数据许可协议，例如将高质量抗体亲和力数据加入训练集以提升蛋白质设计能力。同时，自动化生命科学机器人公司正以“数据工厂”身份切入市场，加速数据收集、模型训练与评估的循环。然而，生物基础模型与通用语言模型在数据策略上存在本质差异，如何借鉴LLM经验、构建有效的数据体系仍是行业需要深思的问题。 #AI训练数据 #生物AI #前沿实验室 #数据标注 #生命科学 #机器学习 #数据策略 #蛋白质设计
从零训练大语言模型？一位开发者的实战记录
一位技术作者在亲自尝试端到端构建大语言模型后，分享了其完整过程与心得。不同于依赖云端超算，他在一台搭载Apple Silicon芯片的笔记本上完成了小型LLM的训练，目标不是追求性能，而是让底层机制透明可见。为了加速开发，他采用"vibe coding"方式，让AI助手（如Claude Code、OpenAI Codex）在Xcode中生成完整的训练应用，涵盖数据处理、模型定义、训练、评估、部署与推理等全生命周期。整个过程耗时远少于模型训练本身，凸显了AI辅助编程对软件工程的变革。最终，他将模型部署在Exasol数据库中，实现了在数据所在地直接运行推理。文章强调，训练模型只是冰山一角，如何在实际数据环境中使用才是关键。 #大模型 #机器学习 #AI开发 #开源 #本地训练 #AppleSilicon #VibeCoding #数据库 #技术探索
一位技术作者在亲自尝试端到端构建大语言模型后，分享了其完整过程与心得。不同于依赖云端超算，他在一台搭载Apple Silicon芯片的笔记本上完成了小型LLM的训练，目标不是追求性能，而是让底层机制透明可见。为了加速开发，他采用"vibe coding"方式，让AI助手（如Claude Code、OpenAI Codex）在Xcode中生成完整的训练应用，涵盖数据处理、模型定义、训练、评估、部署与推理等全生命周期。整个过程耗时远少于模型训练本身，凸显了AI辅助编程对软件工程的变革。最终，他将模型部署在Exasol数据库中，实现了在数据所在地直接运行推理。文章强调，训练模型只是冰山一角，如何在实际数据环境中使用才是关键。 #大模型 #机器学习 #AI开发 #开源 #本地训练 #AppleSilicon #VibeCoding #数据库 #技术探索
OpenAI、Anthropic 等 CEO 联名呼吁立法严防 AI 开发生物武器
包括 OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei、Google DeepMind 的 Demis Hassabis 及微软 AI 的 Mustafa Suleyman 在内的多位 AI 公司 CEO，联合签署了一封公开信，呼吁美国国会出台新法律，强制合成 DNA 与 RNA 的销售企业对客户及订单进行筛查，以防止基因材料被恶意利用用于开发生物武器。该信由无党派机构组织，指出随着 AI 快速发展，历史上阻碍不法分子获取生物武器的知识壁垒可能显著瓦解。信中提到，当前基因合成技术已高度自动化，但部分供应商缺乏对客户和序列的审查；2017 年曾有研究者通过邮购 DNA 复活已灭绝病毒，引发担忧。专家表示，AI 可帮助用户绕过筛查系统，设计新型毒素或病原体，尽管制造功能性病毒仍需专业知识。签署方还包括多位科学家、安全专家及基因合成公司高管，他们支持将现有的自愿筛查机制升级为法律强制要求，以降低生物恐怖袭击或意外引发全球大流行的风险。 #AI安全 #生物武器 #OpenAI #Anthropic #基因合成 #法规 #科技新闻 #生物安全
包括 OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei、Google DeepMind 的 Demis Hassabis 及微软 AI 的 Mustafa Suleyman 在内的多位 AI 公司 CEO，联合签署了一封公开信，呼吁美国国会出台新法律，强制合成 DNA 与 RNA 的销售企业对客户及订单进行筛查，以防止基因材料被恶意利用用于开发生物武器。该信由无党派机构组织，指出随着 AI 快速发展，历史上阻碍不法分子获取生物武器的知识壁垒可能显著瓦解。信中提到，当前基因合成技术已高度自动化，但部分供应商缺乏对客户和序列的审查；2017 年曾有研究者通过邮购 DNA 复活已灭绝病毒，引发担忧。专家表示，AI 可帮助用户绕过筛查系统，设计新型毒素或病原体，尽管制造功能性病毒仍需专业知识。签署方还包括多位科学家、安全专家及基因合成公司高管，他们支持将现有的自愿筛查机制升级为法律强制要求，以降低生物恐怖袭击或意外引发全球大流行的风险。 #AI安全 #生物武器 #OpenAI #Anthropic #基因合成 #法规 #科技新闻 #生物安全
微软与NVIDIA联手在Windows上打造个人AI代理新工具
微软与NVIDIA宣布合作，推出一系列面向Windows平台的新工具，旨在让开发者更轻松地构建和部署本地AI代理。随着AI代理在编码、视频编辑、内容管理等日常任务中的广泛应用，双方在GTC台北和Microsoft Build大会上发布的关键创新包括：原生Windows代理沙箱、2倍推理加速、基于微软执行容器（MXC）的安全策略层，以及NVIDIA OpenShell运行时集成。MXC为代理与个人文件和应用交互提供隔离保护，有效防范提示注入风险。此外，NVIDIA发布RTX Spark产品系列，提供1 petaflop AI算力与高达128GB内存，微软同步推出Surface RTX Spark Dev Box开发者版。NVIDIA NemoClaw现已支持所有客户端系统，并可运行Hermes Agent等开源代理，简化了本地AI代理的开发与部署流程。这些工具降低了开发门槛，加速了安全、自主的AI代理在Windows PC上的普及。 #微软 #NVIDIA #AI代理 #Windows #本地AI #安全 #工具 #科技 #人工智能
微软与NVIDIA宣布合作，推出一系列面向Windows平台的新工具，旨在让开发者更轻松地构建和部署本地AI代理。随着AI代理在编码、视频编辑、内容管理等日常任务中的广泛应用，双方在GTC台北和Microsoft Build大会上发布的关键创新包括：原生Windows代理沙箱、2倍推理加速、基于微软执行容器（MXC）的安全策略层，以及NVIDIA OpenShell运行时集成。MXC为代理与个人文件和应用交互提供隔离保护，有效防范提示注入风险。此外，NVIDIA发布RTX Spark产品系列，提供1 petaflop AI算力与高达128GB内存，微软同步推出Surface RTX Spark Dev Box开发者版。NVIDIA NemoClaw现已支持所有客户端系统，并可运行Hermes Agent等开源代理，简化了本地AI代理的开发与部署流程。这些工具降低了开发门槛，加速了安全、自主的AI代理在Windows PC上的普及。 #微软 #NVIDIA #AI代理 #Windows #本地AI #安全 #工具 #科技 #人工智能
Curlo：macOS 原生应用，本地 AI 实现自然语言声音库搜索
Curlo 是一款专为 macOS 设计的原生应用，利用设备端 AI 实现自然语言声音库搜索。用户无需联网或上传音频，即可通过简单描述快速找到所需音效。该应用支持语义搜索、元数据搜索与编辑、相似音频查找、自定义标签及 UCS 分类，并提供本地 API 集成。所有计算均在 Mac 本地完成，保障隐私安全。免费版支持最多 5000 个文件索引，Pro 版解锁元数据写入、本地 API、相似音频搜索及无限索引功能，同时提供终身买断选项。未来计划包括自动解析配套文件、灵活重命名规则、重复资产检测及 DAW 集成等。Curlo 旨在帮助音频创作者高效管理音效库，无需依赖云端服务。 #macOS #AI #音频搜索 #本地AI #自然语言处理 #音效管理 #隐私保护
Curlo 是一款专为 macOS 设计的原生应用，利用设备端 AI 实现自然语言声音库搜索。用户无需联网或上传音频，即可通过简单描述快速找到所需音效。该应用支持语义搜索、元数据搜索与编辑、相似音频查找、自定义标签及 UCS 分类，并提供本地 API 集成。所有计算均在 Mac 本地完成，保障隐私安全。免费版支持最多 5000 个文件索引，Pro 版解锁元数据写入、本地 API、相似音频搜索及无限索引功能，同时提供终身买断选项。未来计划包括自动解析配套文件、灵活重命名规则、重复资产检测及 DAW 集成等。Curlo 旨在帮助音频创作者高效管理音效库，无需依赖云端服务。 #macOS #AI #音频搜索 #本地AI #自然语言处理 #音效管理 #隐私保护