AI供应链中的模型信任危机

当前部署AI模型（包括“开放权重”模型）面临显著的黑箱风险。即便模型权重公开，我们几乎无法预测其行为，这与传统二进制程序可通过逆向工程完全分析形成鲜明对比。多项研究表明，预训练时有限的数据投毒即可产生持久后门行为，且所需样本量不会随模型规模增大而增加。这意味着训练数据的来源至关重要，但当前缺乏可靠手段检测后门注入，尤其针对特定用户的定向攻击。虽然尚无公开证据显示主流开源模型被恶意投毒，但模型可被“对齐”以拒绝某些内容，这使得投毒与对齐的界限模糊。与传统软件依赖中恶意代码可被追踪和缓解不同，被操控的模型无需“崩溃”就会带来业务风险，如生成不安全代码、偏颇推荐或隐藏触发行为，且影响可能在长期内难以察觉。一国的模型投毒可能是另一国的对齐问题，这种认知差异加剧了供应链信任难题。 #AI安全 #模型信任 #供应链 #开源模型 #后门攻击 #对齐问题 #黑箱风险 #可解释性 #AI治理

淘天连发四项AI购物黑科技，视频通话式购物成现实

在阿里巴巴硬核少年技术节上，淘天集团公布AIGX技术体系四项最新成果：拍立淘升级为全模态实时Agent，支持用户与AI视频通话实时购物，可识别商品、提供建议并链接淘宝同款；If Studio多智能体创作平台降低内容生产门槛，让个人拥有设计、视频、建站能力；Coupella智惠引擎基于因果推断大模型精准计算补贴增量，AI红包转化率提升81%；Dream推荐系统通过意图引擎和MetaModel实现“千人千时千面”个性化推荐，已带动手淘首猜浏览量等指标提升约7个百分点。这些技术覆盖消费者购物、商家营销和内容创作全链路。技术节同期举办学术对话、AI Hackathon竞赛及5000余场Agent对战，展现大模型对电商行业的重构。 #淘天集团 #AI购物 #拍立淘 #电商黑科技 #Agent #AIGX #推荐系统 #人工智能

谁在害怕中国模型？

近期多篇技术文章引发关注。一篇关于Kimi K3模型的分析回顾了其在pelican基准测试中的表现，指出仍有值得学习的经验。与此同时，OpenAI发布了全新的GPT-5.6系列，包括Luna、Terra、Sol三个版本，进一步推动大模型能力边界。此外，sqlite-utils工具也迎来4.0版本，新增数据库模式迁移功能。这些动态共同反映出人工智能和开发者工具领域的快速发展，尤其是中国模型在全球竞争中的崛起引发讨论。 #AI #大模型 #中国模型 #Kimi #GPT5 #OpenAI #科技新闻 #开发者工具 #数据库

Anthropic 推出罕见遗传病 AI 研究资助计划，最高提供5万美元信用额度

Anthropic 宣布启动一项聚焦罕见遗传病的 AI 资助计划，作为其“AI for Science”项目下的专题项目。该计划面向基础科研人员与早期生物技术公司，成功申请者将在六个月内获得最高5万美元的 Claude API 信用额度。罕见病影响全球约4亿人，但因其种群分散、数据有限、临床试验难度大等问题，基础科学认知严重不足。Anthropic 认为 AI 能帮助建模罕见病、识别跨疾病模式、整合文献信息，从而加速机制发现与临床开发。合作方 Monarch Initiative 将提供 Mondo 疾病本体论及知识图谱等标准资源，助力疾病诊断与机制研究。申请将按季度滚动评审，旨在构建研究社区，推动 AI 在罕见病领域的应用。 #Anthropic #AIforScience #罕见病 #基因疾病 #AI #生物科技 #资助计划 #药物研发 #MonarchInitiative

数据中心和AI能耗占全球电力1.5%

根据国际能源署（IEA）数据，全球数据中心2025年消耗约485太瓦时电力，相当于德国全年发电量，占全球发电总量的1.5%。其中，AI专用数据中心约占三分之一，即全球电力的0.5%。文章指出，AI能耗主要来自模型推理而非训练，且地理分布高度集中。尽管整体占比不大，但随着AI快速普及，能耗增长可能加剧碳排放、推高当地电价，并成为技术扩展的瓶颈。目前AI消耗的电力约占全球一次能源总量的0.1%-0.2%。 #数据中心 #AI #能耗 #碳排放 #电力 #国际能源署 #人工智能 #科技新闻