企业转向开源LLM推理
开源LLM推理领域在2026年迎来重要转折。许多企业在依赖前沿模型API后,面临成本飙升、法律合规风险及延迟控制不足等问题。财务部门发现API账单增长远超收入增速,法律部门担忧数据被第三方接触,工程团队则需要P99延迟保障。这些压力促使企业探索替代方案。文章指出,离开前沿API后主要有两条路径:一是选择托管推理服务(如Fireworks、Together等),保留API体验但获得模型选择权和数据控制权;二是完全自建,即采购开源权重、自租GPU并搭建开源推理堆栈。若选择自建,通常从单副本(复制模型到一张或多张GPU)开始,并使用vLLM等引擎启动。这一趋势反映了企业对成本、数据主权和性能控制的综合需求,开源堆栈正从零散组件走向系统化部署。 #开源LLM #推理 #自建 #成本控制 #数据安全 #API替代 #技术决策
开源LLM推理领域在2026年迎来重要转折。许多企业在依赖前沿模型API后,面临成本飙升、法律合规风险及延迟控制不足等问题。财务部门发现API账单增长远超收入增速,法律部门担忧数据被第三方接触,工程团队则需要P99延迟保障。这些压力促使企业探索替代方案。文章指出,离开前沿API后主要有两条路径:一是选择托管推理服务(如Fireworks、Together等),保留API体验但获得模型选择权和数据控制权;二是完全自建,即采购开源权重、自租GPU并搭建开源推理堆栈。若选择自建,通常从单副本(复制模型到一张或多张GPU)开始,并使用vLLM等引擎启动。这一趋势反映了企业对成本、数据主权和性能控制的综合需求,开源堆栈正从零散组件走向系统化部署。 #开源LLM #推理 #自建 #成本控制 #数据安全 #API替代 #技术决策
Linus Torvalds 告诉反对 AI 的贡献者
Linux 创始人 Linus Torvalds 在邮件列表中明确表示,Linux 不是“反 AI”项目,反对在社区中使用 AI 的贡献者可以自行 fork 项目或直接离开。他称 AI 是“有用的工具”,强调如今已无人能质疑其价值。Torvalds 承认 AI 会给维护者带来负担,也会不断暴露出尴尬的 bug,但解决方案不是把头埋进沙子里。他透露,过去一年多自己的态度已发生转变——从最初认为 90% 的 AI 是营销炒作,到如今认为 LLM 工具应帮助维护者而非制造痛苦。Torvalds 表示,内核社区基于技术优势做开源决策,不因宗教式恐惧拒绝新工具。Senior 维护者 Greg Kroah-Hartman 也证实,AI 辅助的 bug 报告和代码审查在过去几个月大幅改善。Torvalds 最后调侃道:“AI 并不完美,但指出 AI 问题的人最好也照照镜子——自然智能也并非总是那么出色。” #LinusTorvalds #Linux #AI #开源 #内核 #技术争议 #软件维护
Linux 创始人 Linus Torvalds 在邮件列表中明确表示,Linux 不是“反 AI”项目,反对在社区中使用 AI 的贡献者可以自行 fork 项目或直接离开。他称 AI 是“有用的工具”,强调如今已无人能质疑其价值。Torvalds 承认 AI 会给维护者带来负担,也会不断暴露出尴尬的 bug,但解决方案不是把头埋进沙子里。他透露,过去一年多自己的态度已发生转变——从最初认为 90% 的 AI 是营销炒作,到如今认为 LLM 工具应帮助维护者而非制造痛苦。Torvalds 表示,内核社区基于技术优势做开源决策,不因宗教式恐惧拒绝新工具。Senior 维护者 Greg Kroah-Hartman 也证实,AI 辅助的 bug 报告和代码审查在过去几个月大幅改善。Torvalds 最后调侃道:“AI 并不完美,但指出 AI 问题的人最好也照照镜子——自然智能也并非总是那么出色。” #LinusTorvalds #Linux #AI #开源 #内核 #技术争议 #软件维护
Jira 推出面向 AI 原生软件开发的系统
Atlassian 旗下项目管理工具 Jira 宣布推出全新 AI 原生产品开发能力。公司指出,尽管 AI 编码代理的采用率大幅提升,但软件开发中的决策、需求理解、约束识别等环节依然困难。研究显示,AI 使用量增加 65%,但开发者速度仅提升 10% 至 15%,因为软件开发远不止写代码。新系统通过“团队协作图”整合 Jira 任务、Confluence 需求、Slack 对话、GitHub 代码和客户洞察等上下文,让 AI 代理理解整个系统,而非孤立执行任务。人类团队负责规划、审查和决策,代理负责编码执行,从而弥合生产力鸿沟。 #Jira #AI #软件开发 #团队协作 #生产力 #Atlassian
Atlassian 旗下项目管理工具 Jira 宣布推出全新 AI 原生产品开发能力。公司指出,尽管 AI 编码代理的采用率大幅提升,但软件开发中的决策、需求理解、约束识别等环节依然困难。研究显示,AI 使用量增加 65%,但开发者速度仅提升 10% 至 15%,因为软件开发远不止写代码。新系统通过“团队协作图”整合 Jira 任务、Confluence 需求、Slack 对话、GitHub 代码和客户洞察等上下文,让 AI 代理理解整个系统,而非孤立执行任务。人类团队负责规划、审查和决策,代理负责编码执行,从而弥合生产力鸿沟。 #Jira #AI #软件开发 #团队协作 #生产力 #Atlassian