AI功能实用性的“试金石”
当前几乎所有软件都在疯狂嵌入AI功能，从Word到Photoshop，从Slack到WhatsApp，AI按钮无处不在。但经过数月的观察，我发现了一条简单有效的判断法则：AI功能的实用性与开发者为推广它而占据的屏幕面积成反比。以Adobe Acrobat为例，打开一个PDF文件竟能看到7个AI按钮，包括顶栏的“AI助手”、侧边栏的“生成摘要”、底部的弹窗提示等，堪称“对抗性界面”的典范。相比之下，Photoshop只在用户需要时提供一个上下文相关的“生成式填充”按钮，界面清爽高效。同样，在代码编辑工具中，AI功能虽然深度集成，但启动按钮仅安静地藏于标题栏。这背后的逻辑很简单：真正有价值的AI功能会因用户自然需求而被发现和使用，无需强行推广；而缺乏实际价值的AI功能则只能靠铺天盖地的按钮来刷存在感。微软Office 365等应用更是在用户打开文档时直接弹出AI助手窗口，这种设计明显更有利于厂商而非用户。 #AI #用户体验 #软件设计 #Adobe #微软 #科技趋势
当前几乎所有软件都在疯狂嵌入AI功能，从Word到Photoshop，从Slack到WhatsApp，AI按钮无处不在。但经过数月的观察，我发现了一条简单有效的判断法则：AI功能的实用性与开发者为推广它而占据的屏幕面积成反比。以Adobe Acrobat为例，打开一个PDF文件竟能看到7个AI按钮，包括顶栏的“AI助手”、侧边栏的“生成摘要”、底部的弹窗提示等，堪称“对抗性界面”的典范。相比之下，Photoshop只在用户需要时提供一个上下文相关的“生成式填充”按钮，界面清爽高效。同样，在代码编辑工具中，AI功能虽然深度集成，但启动按钮仅安静地藏于标题栏。这背后的逻辑很简单：真正有价值的AI功能会因用户自然需求而被发现和使用，无需强行推广；而缺乏实际价值的AI功能则只能靠铺天盖地的按钮来刷存在感。微软Office 365等应用更是在用户打开文档时直接弹出AI助手窗口，这种设计明显更有利于厂商而非用户。 #AI #用户体验 #软件设计 #Adobe #微软 #科技趋势
AI公司为何不与客户直接竞争？
诗人奥马尔·海亚姆曾写道：“酿酒人买的东西，哪一半能和他们的酒一样珍贵？”这个问题同样适用于当下的AI公司。如果OpenAI或Anthropoic真的拥有能取代医生、会计师或教师的AI技术，为何不直接开办自己的医院或学校，而是将这些技术卖给现有的服务商？原因在于，这些AI公司实际上并不相信自己的产品能真正替代人类工作。他们需要客户付费来维持研发，却将利润与中间商分享。如果AI真能高效完成工作，公司完全可以自己提供终端服务赚取全部利润，而不是依靠销售许可费。这种商业模式暗示，AI公司要么对自己的技术缺乏信心，要么就是更看重稳定的软件订阅收入，而非承担运营实体服务的风险。 #AI #商业 #科技 #商业模式 #人工智能 #科技评论 #市场 #创新
诗人奥马尔·海亚姆曾写道：“酿酒人买的东西，哪一半能和他们的酒一样珍贵？”这个问题同样适用于当下的AI公司。如果OpenAI或Anthropoic真的拥有能取代医生、会计师或教师的AI技术，为何不直接开办自己的医院或学校，而是将这些技术卖给现有的服务商？原因在于，这些AI公司实际上并不相信自己的产品能真正替代人类工作。他们需要客户付费来维持研发，却将利润与中间商分享。如果AI真能高效完成工作，公司完全可以自己提供终端服务赚取全部利润，而不是依靠销售许可费。这种商业模式暗示，AI公司要么对自己的技术缺乏信心，要么就是更看重稳定的软件订阅收入，而非承担运营实体服务的风险。 #AI #商业 #科技 #商业模式 #人工智能 #科技评论 #市场 #创新
没有 AI 实验室拥有真正的护城河
1973年，进化生物学家利·范瓦伦提出了“红皇后效应”，用以描述物种在协同进化中，即使不断进化也难以提升生存概率的现象——捕食者变快，猎物也随之加速，竞赛最终回到原点。如今，这一现象正完美映射AI基础模型行业的现状。自2023年以来，“世界最佳模型”的头衔每几个月就易主一次：GPT-4、Claude、Gemini，再到中国开源模型，差距不断缩小。关键的基准测试（如MMLU、GPQA）得分已趋于饱和，各实验室只能在小数点后竞争，而token价格在不到两年内暴跌数个数量级。这与拥有持久技术领先的市场逻辑相悖——在存在真正护城河的市场中，领导地位会不断巩固；而在这里，每一代新模型的发布既是进攻，也是无言的“承认”。 传统“护城河”理论（如网络效应、数据飞轮）在AI领域几乎失灵。训练配方通过论文扩散，人才在各实验室间流动，算力只要有资本就能租用。最终存活下来的，不是模型本身的性能领先，而是分发渠道、品牌信任、企业锁仓和雄厚资金——这些模型之外的东西。这并非“我们拥有最佳AI”的宣言，而是“我们现在拥有最佳AI，但下一季度可能就没了”的无奈。真正的竞争，已从技术高地，转向了生态与资本的持久战。 #AI #红皇后效应 #大模型 #竞争 #科技 #护城河 #模型 #人工智能
1973年，进化生物学家利·范瓦伦提出了“红皇后效应”，用以描述物种在协同进化中，即使不断进化也难以提升生存概率的现象——捕食者变快，猎物也随之加速，竞赛最终回到原点。如今，这一现象正完美映射AI基础模型行业的现状。自2023年以来，“世界最佳模型”的头衔每几个月就易主一次：GPT-4、Claude、Gemini，再到中国开源模型，差距不断缩小。关键的基准测试（如MMLU、GPQA）得分已趋于饱和，各实验室只能在小数点后竞争，而token价格在不到两年内暴跌数个数量级。这与拥有持久技术领先的市场逻辑相悖——在存在真正护城河的市场中，领导地位会不断巩固；而在这里，每一代新模型的发布既是进攻，也是无言的“承认”。 传统“护城河”理论（如网络效应、数据飞轮）在AI领域几乎失灵。训练配方通过论文扩散，人才在各实验室间流动，算力只要有资本就能租用。最终存活下来的，不是模型本身的性能领先，而是分发渠道、品牌信任、企业锁仓和雄厚资金——这些模型之外的东西。这并非“我们拥有最佳AI”的宣言，而是“我们现在拥有最佳AI，但下一季度可能就没了”的无奈。真正的竞争，已从技术高地，转向了生态与资本的持久战。 #AI #红皇后效应 #大模型 #竞争 #科技 #护城河 #模型 #人工智能
两重世界的建模
在攻读博士学位期间，我试图预测的是老年人对品牌社交媒体互动的意图，这需要从调查问卷中获取数据。而在如今广告测量领域，我直接预测点击或购买这类行为信号。虽然两者都涉及“预测”，但前者是藏在人脑海中的构想，需通过间接证据重建；后者则直接存储在数据库中等待查询。这一差异决定了后续所有建模决策。本文通过代码示例对比了这两种建模世界：潜在变量模型需要从多个调查问题中提取共享方差来代表构念，并用结构方程模型分离测量误差；而行为数据模型则直接使用数据库中的明确标签。例如，在社交科学领域，研究老年人是否接受自适应服装品牌时，需构建感知有用性、隐私担忧等潜变量，每个潜变量由多个指标问题定义。模型通过测量模型与结构模型的联合拟合，才能准确估计构念间的关系。 #建模 #潜在变量 #行为信号 #结构方程模型 #数据分析
在攻读博士学位期间，我试图预测的是老年人对品牌社交媒体互动的意图，这需要从调查问卷中获取数据。而在如今广告测量领域，我直接预测点击或购买这类行为信号。虽然两者都涉及“预测”，但前者是藏在人脑海中的构想，需通过间接证据重建；后者则直接存储在数据库中等待查询。这一差异决定了后续所有建模决策。本文通过代码示例对比了这两种建模世界：潜在变量模型需要从多个调查问题中提取共享方差来代表构念，并用结构方程模型分离测量误差；而行为数据模型则直接使用数据库中的明确标签。例如，在社交科学领域，研究老年人是否接受自适应服装品牌时，需构建感知有用性、隐私担忧等潜变量，每个潜变量由多个指标问题定义。模型通过测量模型与结构模型的联合拟合，才能准确估计构念间的关系。 #建模 #潜在变量 #行为信号 #结构方程模型 #数据分析
ChatGPT 入门指南
ChatGPT 是一款由 OpenAI 开发的 AI 对话工具，旨在帮助用户进行写作、头脑风暴和问题解决。初学者只需创建一个免费账户，即可通过自然语言与 AI 进行互动。用户可以像聊天一样输入问题或指令，ChatGPT 会即时生成回答。这一工具支持多种任务，包括撰写邮件、生成创意灵感、解释复杂概念等。使用时，建议明确表达需求，从而获得更精准的反馈。随着对话深入，AI 能记住上下文，提供连贯的辅助。无论是日常学习还是工作场景，ChatGPT 都能显著提升效率。注意保护隐私，不要分享敏感信息，并通过反馈帮助模型改进。 #ChatGPT #AI #人工智能 #对话工具 #入门指南
ChatGPT 是一款由 OpenAI 开发的 AI 对话工具，旨在帮助用户进行写作、头脑风暴和问题解决。初学者只需创建一个免费账户，即可通过自然语言与 AI 进行互动。用户可以像聊天一样输入问题或指令，ChatGPT 会即时生成回答。这一工具支持多种任务，包括撰写邮件、生成创意灵感、解释复杂概念等。使用时，建议明确表达需求，从而获得更精准的反馈。随着对话深入，AI 能记住上下文，提供连贯的辅助。无论是日常学习还是工作场景，ChatGPT 都能显著提升效率。注意保护隐私，不要分享敏感信息，并通过反馈帮助模型改进。 #ChatGPT #AI #人工智能 #对话工具 #入门指南
10 种语言，3 天完成
Transept 团队在 7 月初的一个周末，将产品从仅支持英语扩展到 11 种语言。他们采用了自己向用户推荐的方式：用机器翻译覆盖广度，用人类判断处理关键决策，并记录每个决策以避免重复劳动。每个语言约涉及 3300 个应用内字符串、3000 个营销和帮助中心字符串、6 个法律页面以及所有邮件。团队发现，缺乏上下文的纯机器翻译会导致标语与补语分离、FAQ 答案与问题脱节、对比表格列项不匹配等问题。为此，他们为每个字符串附上详细的上下文说明，例如“保存按钮”会被标注为“通用表单提交时的保存按钮标签，用户刚编辑完值并确认提交”。此外，团队还遇到了语体选择（如德语中的“你”与“您”）、复数字规则、术语一致性、同源语言之间的分歧、未翻译的隐藏字符串、以及乌克兰语中文化特指度等挑战。他们手动翻译了法律文件、战略定位等内容，而尝试让 AI 生成乌克兰语谚语时，因模型倾向于使用普适版本而非乌克兰本地习语而失败。 #AI翻译 #本地化 #多语言产品 #机器翻译 #人机协作 #技术实践 #产品国际化 #翻译工程
Transept 团队在 7 月初的一个周末，将产品从仅支持英语扩展到 11 种语言。他们采用了自己向用户推荐的方式：用机器翻译覆盖广度，用人类判断处理关键决策，并记录每个决策以避免重复劳动。每个语言约涉及 3300 个应用内字符串、3000 个营销和帮助中心字符串、6 个法律页面以及所有邮件。团队发现，缺乏上下文的纯机器翻译会导致标语与补语分离、FAQ 答案与问题脱节、对比表格列项不匹配等问题。为此，他们为每个字符串附上详细的上下文说明，例如“保存按钮”会被标注为“通用表单提交时的保存按钮标签，用户刚编辑完值并确认提交”。此外，团队还遇到了语体选择（如德语中的“你”与“您”）、复数字规则、术语一致性、同源语言之间的分歧、未翻译的隐藏字符串、以及乌克兰语中文化特指度等挑战。他们手动翻译了法律文件、战略定位等内容，而尝试让 AI 生成乌克兰语谚语时，因模型倾向于使用普适版本而非乌克兰本地习语而失败。 #AI翻译 #本地化 #多语言产品 #机器翻译 #人机协作 #技术实践 #产品国际化 #翻译工程
MIT 团队开发新方法检测AI生成儿童性虐待内容，无需生成任何违规图像即可识别模型是否被恶意改造
随着生成式人工智能的普及，大量开源模型可供任何人使用，但也被不法分子利用来生成仇恨言论或儿童性虐待材料等非法内容。美国国家失踪与受虐儿童中心报告显示，2025年AI生成的此类内容报告超过150万份，较2024年的6.7万份剧增。由于在美国生成儿童性虐待内容本身违法，传统通过提示模型并检查输出的测试方法完全不可行。为此，麻省理工学院科学家与儿童安全非营利组织Thorn合作，开发了一种全新审计方法。该技术通过检查模型内部隐藏表示的变化来判断其是否被专门化用于生成有害图像，全程不产生任何输出。测试结果显示，该方法能100%准确识别出被改造为生成儿童性虐待内容的模型变体。托管平台可利用该技术在模型上传前提前标记并移除不安全模型，填补了此前AI安全领域的重大盲点。相关论文已在国际机器学习大会的研讨会上展示。 #AI安全 #儿童保护 #MIT #开源模型 #技术审计 #人工智能 #网络安全
随着生成式人工智能的普及，大量开源模型可供任何人使用，但也被不法分子利用来生成仇恨言论或儿童性虐待材料等非法内容。美国国家失踪与受虐儿童中心报告显示，2025年AI生成的此类内容报告超过150万份，较2024年的6.7万份剧增。由于在美国生成儿童性虐待内容本身违法，传统通过提示模型并检查输出的测试方法完全不可行。为此，麻省理工学院科学家与儿童安全非营利组织Thorn合作，开发了一种全新审计方法。该技术通过检查模型内部隐藏表示的变化来判断其是否被专门化用于生成有害图像，全程不产生任何输出。测试结果显示，该方法能100%准确识别出被改造为生成儿童性虐待内容的模型变体。托管平台可利用该技术在模型上传前提前标记并移除不安全模型，填补了此前AI安全领域的重大盲点。相关论文已在国际机器学习大会的研讨会上展示。 #AI安全 #儿童保护 #MIT #开源模型 #技术审计 #人工智能 #网络安全
AI Agent 安全访问API的六大工具层解析
针对AI智能体在生产环境中调用真实API的安全问题，目前存在六种不同的工具类别，各自解决不同层面的安全性，而非互相替代。最突出的安全缺口在于授权和治理层面：多数团队仅解决了身份认证，却忽视了请求内容审查和响应数据脱敏。集成平台如Composio提供快速连接能力但授权深度有限；Agent运行时如Arcade和AWS AgentCore分别擅长用户OAuth和云环境治理，但数据流监控需额外构建；身份安全类工具（如Okta、Astrix）能发现凭证隐患但无法控制单次请求的形态；LLM网关仅管理模型通信，入站API网关只控制API被调用权限，均不解决Agent外发请求的管控。核心结论是：提示词指令无法替代基础设施层中的确定性授权与治理。 #AI安全 #API治理 #Agent安全 #LLM网关 #身份安全 #云安全
针对AI智能体在生产环境中调用真实API的安全问题，目前存在六种不同的工具类别，各自解决不同层面的安全性，而非互相替代。最突出的安全缺口在于授权和治理层面：多数团队仅解决了身份认证，却忽视了请求内容审查和响应数据脱敏。集成平台如Composio提供快速连接能力但授权深度有限；Agent运行时如Arcade和AWS AgentCore分别擅长用户OAuth和云环境治理，但数据流监控需额外构建；身份安全类工具（如Okta、Astrix）能发现凭证隐患但无法控制单次请求的形态；LLM网关仅管理模型通信，入站API网关只控制API被调用权限，均不解决Agent外发请求的管控。核心结论是：提示词指令无法替代基础设施层中的确定性授权与治理。 #AI安全 #API治理 #Agent安全 #LLM网关 #身份安全 #云安全
Richard Sutton 离开 Keen AI，创立 Oak Lab 专注 AI 新路径
强化学习先驱理查德·萨顿（Richard Sutton）在社交平台宣布，他已与胡拉姆·贾韦德（Khurram Javed）一同离开约翰·卡马克的 Keen Technologies，共同创立了专注于人工智能研究的新公司 Oak Lab。萨顿表示，Oak Lab 与 Keen 及 Ineffable 一样，坚信强化学习是构建智能的核心，智能应通过运行时经验来创建和维持。但他同时指出，当前的深度学习方法存在薄弱且效率低下的问题，需要进行彻底重构，而非仅通过小修小补来改进。Oak Lab 的目标是寻求根本性的新思路，为达成更宏大的 AI 目标奠定更坚实的基础。 #RichardSutton #OakLab #AI #强化学习 #深度学习 #人工智能 #创业 #科技新闻
强化学习先驱理查德·萨顿（Richard Sutton）在社交平台宣布，他已与胡拉姆·贾韦德（Khurram Javed）一同离开约翰·卡马克的 Keen Technologies，共同创立了专注于人工智能研究的新公司 Oak Lab。萨顿表示，Oak Lab 与 Keen 及 Ineffable 一样，坚信强化学习是构建智能的核心，智能应通过运行时经验来创建和维持。但他同时指出，当前的深度学习方法存在薄弱且效率低下的问题，需要进行彻底重构，而非仅通过小修小补来改进。Oak Lab 的目标是寻求根本性的新思路，为达成更宏大的 AI 目标奠定更坚实的基础。 #RichardSutton #OakLab #AI #强化学习 #深度学习 #人工智能 #创业 #科技新闻
AI经济报告揭示需求侧透明度危机
一份由Exponential View发布的66页报告《AI经济现状》指出，当前AI经济存在严重的需求侧可见性问题。报告分析称，虽然供应端（半导体公司和超大规模云服务商）的活动已得到充分记录，但客户实际支付了什么、收入是否真实，至今仍像“黑箱”一样难以解读。由于最大AI实验室多为私营企业，上市公司又常将AI收入隐藏在总营收中，外界无法判断支撑22.7万亿美元股市市值、并驱动美国过去六个季度GDP增长的AI经济是否健康。研究团队通过专有模型，对全球（不含中国）超过1000家企业的AI收入进行分层追踪，确保每笔支出只计数一次，避免重复计算。报告旨在提供一份不受炒作与恐惧影响的参考基准，帮助公众更理性地讨论AI对经济的引力作用。 #AI经济 #需求侧 #透明度 #股市市值 #GDP增长 #大模型 #半导体 #超大规模云 #ExponentialView #报告
一份由Exponential View发布的66页报告《AI经济现状》指出，当前AI经济存在严重的需求侧可见性问题。报告分析称，虽然供应端（半导体公司和超大规模云服务商）的活动已得到充分记录，但客户实际支付了什么、收入是否真实，至今仍像“黑箱”一样难以解读。由于最大AI实验室多为私营企业，上市公司又常将AI收入隐藏在总营收中，外界无法判断支撑22.7万亿美元股市市值、并驱动美国过去六个季度GDP增长的AI经济是否健康。研究团队通过专有模型，对全球（不含中国）超过1000家企业的AI收入进行分层追踪，确保每笔支出只计数一次，避免重复计算。报告旨在提供一份不受炒作与恐惧影响的参考基准，帮助公众更理性地讨论AI对经济的引力作用。 #AI经济 #需求侧 #透明度 #股市市值 #GDP增长 #大模型 #半导体 #超大规模云 #ExponentialView #报告