英伟达被曝正开发万亿参数开源模型，挑战全球顶尖水平

据外媒报道，英伟达正在秘密开发一款全新的开源大模型，参数量或达万亿级别，旨在超越当前顶尖模型。此前，英伟达刚推出Nemotron 3.5系列，该系列以高效训练和推理著称，但新项目目标更为宏大。知情人士透露，英伟达计划利用其强大的GPU算力优势，打造一个完全开放、性能顶尖的AI基础模型，以推动行业生态发展。若成功，该模型将显著降低大模型使用门槛，并对Meta的Llama等开源模型形成直接竞争。目前英伟达尚未官方确认，但业界普遍认为此举将加速AI开源社区的技术迭代。 #英伟达 #开源模型 #万亿参数 #AI #大模型 #Nemotron #科技新闻

AI代币昂贵背后

近日，一篇关于AI模型价格过高的文章引发广泛共鸣。随着AI能力提升，用户对token消耗量激增，费用随之高企。文章指出，AI正成为类似水电气的必需品，但当前定价机制未能将技术成本下降传递给用户。回顾中国在“互联网+”时代的政策实践，政府通过基础设施投资、资费重构、普遍服务补偿等手段，有效降低了技术使用成本，催生了繁荣的数字经济。如今生成式AI作为通用技术，同样需要政策生态的支撑，而非仅依赖市场力量解决成本问题。 #AI #AI定价 #公共政策 #基础设施 #人工智能 #科技新闻 #经济 #普惠AI

成本成功的代价

许多团队在优化AI模型调用成本时，只盯着每次调用的价格，却忽略了真正决定总成本的指标——每次成功的成本。当团队将旗舰模型切换为廉价模型后，虽然单次调用价格下降，但模型成功率从90%降至55%甚至30%，导致系统频繁重试。例如，成功率90%的模型平均需要约1.1次尝试完成任务，而成功率30%的模型则需要约3.3次。每次失败都会产生额外开销，最终总账单反而上升，延迟恶化，并出现“模型卡死循环”的故障。这种测量陷阱源于对“成本-每次调用”的盲目优化，而非“成本-每次成功”。文章指出，正确的衡量标准还应包括“到首次有用令牌的时间”，而非单纯的“到首令牌时间”。忽视这些指标，廉价模型只会成为伪装成节省的负债。 #AI成本优化 #LLM路由 #成本成功比 #模型调用 #机器学习运维 #AI工程 #性能指标 #技术债务

论文指出“开放”AI系统实为封闭，权力集中问题未解

一篇2024年发表的论文深入剖析了“开放”人工智能的概念。研究发现，当前关于“开放”AI的讨论往往缺乏精确性，经常忽略大型AI开发与部署中存在的显著行业集中现象，并且错误地将自由开源软件中的“开放”概念套用到AI系统上。论文指出，在政策制定过程中，强大的参与者正利用“开放”AI有利于创新与民主，或危害安全等说法来影响政策。为了厘清争议，研究者对AI系统的模型、数据、劳动力、框架和算力进行了物质分析，发现“开放”AI主要提供透明度、可复用性和可扩展性，允许在现有模型基础上进行一定程度的监督和实验。然而，开放本身并不能改变AI领域的权力集中格局。如同传统开源项目被大型科技公司收编一样，围绕“开放”AI的修辞常常被用来加剧而非减少权力集中。 #AI #开放AI #开源 #权力集中 #科技政策 #论文 #透明度 #人工智能 #科技伦理 #产业集中