codex又发大水了，这波福利不薅一下，实在过意不去，奈何网络问题限制了我的发挥，佬们有没有提速的好办法，我opencode 用的github的copilot的gemini速度就快的飞起

前沿快讯，发之前都不看有没有么，没有机器人的话我是不信的

最近公司要做一个本地部署大模型的项目，配了dgx spark，用了一周的时间去尝试了各种模型，踩了各种坑，现在给大家汇报DGX Spark 部署 Qwen3.5 / NVFP4 大模型实战记录
这篇文档记录的是我在 NVIDIA DGX Spark（GB10，128GB unified memory） 上部署 Qwen3.5 系列模型，尤其是 NVFP4 量化模型 的完整踩坑过程、结论和推荐方案。
我最想部署的模型就是qwen3.5-122b-a10b，总参数量够大，激发参数够小，模型最强，fp4量化以后正好能在spark上跑起来
用了一周的时间去尝试了各种模型，踩了各种坑，现在给大家汇报：


哪些组合我真的跑起来了


哪些组合虽然部署成功了但实际上会崩


哪些镜像/框架最完美


哪些可以跑起来


哪些方案在 Spark 上跑不起来


我实际用过的镜像主要有：


vllm-node:latest


vllm-spark:dev210-final


vllm/vllm-openai:cu130-nightly


vllm/vllm-openai:v0.17.1-cu130


lmsysorg/sglang:dev-cu13


lmsysorg/sglang:spark


scitrera/dgx-spark-sglang:0.5.9-t5


avarok/dgx-vllm-nvfp4-kernel:latest


avarok/atlas-alpha2


2. 省流版
| 部署的模型 | 最终推荐 |
| 官方 Qwen3.5 / Qwen3 全量、FP8、GPTQ / AWQ | vllm-node:latest |
| SGLang 部署 | lmsysorg/sglang:dev-cu13 |
| 122B NVFP4 完整服务 | spark-vllm-122b 对应的 vllm-spark:dev210-final |
| NVFP4 纯文本高速服务 | avarok/atlas-alpha2 |
2.1 最推荐的模型
在 DGX Spark 上，当前真正“稳定跑起来、支持视觉、支持 reasoning 分离、支持工具调用、支持长上下文”的 NVFP4 方案，我最终跑通的是：

  

      github.com
  

  
    
  

  GitHub - jilycn/spark-vllm-122b: vLLM Qwen3.5-122B NVFP4 on DGX Spark (SM121) —...

    vLLM Qwen3.5-122B NVFP4 on DGX Spark (SM121) — full Docker build with 15 patches


  

  
    
    
  

  


这个项目非常有用，对dgx spark跑qwen3.5-122b-a10b做了patch，提供了最好的支持
用**txn545/Qwen3.5-122B-A10B-NVFP4 + spark-vllm-122b**这套是我最终最认可、也最有分享价值的方案。

3. 我试过的主要模型
3.1 Qwen3.5 122B / NVFP4


txn545/Qwen3.5-122B-A10B-NVFP4


Sehyo/Qwen3.5-122B-A10B-NVFP4


RedHatAI/Qwen3.5-122B-A10B-NVFP4


3.2 Qwen3.5 27B / 35B


Qwen/Qwen3.5-27B


Qwen/Qwen3.5-27B-FP8


Qwen/Qwen3.5-27B-GPTQ-Int4


Qwen/Qwen3.5-35B-A3B


Qwen/Qwen3.5-35B-A3B-FP8


3.3 Qwen3-VL


Qwen/Qwen3-VL-32B-Thinking


Qwen/Qwen3-VL-32B-Thinking-FP8


Qwen/Qwen3-VL-32B-Thinking-GPTQ-Int4


3.4 其他 NVFP4 实验模型


txn545/Qwen3.5-27B-NVFP4


txn545/Qwen3.5-35B-A3B-NVFP4


mconcat/Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-NVFP4


osoleve/Qwen3.5-27B-Text-NVFP4-MTP



4. 最大的困扰：nvfp4对spark兼容性不佳
网上很多人提到了做 DGX Spark 上，nvfp4兼容性不佳：


内核不兼容


illegal memory access


DeepGEMM / CUDA graph 报错


tokenizer 类不兼容


rope config 不兼容


启动能起来，但一请求就炸


Spark 不是普通显卡环境，对通用nvfp4不兼容

5. 我踩过的主要坑
5.1 通用 vLLM / SGLang 镜像，不等于 Spark 能稳跑
我最开始试过很多“看起来最标准”的方案：


vllm/vllm-openai:cu130-nightly


vllm/vllm-openai:v0.17.1-cu130


lmsysorg/sglang:dev-cu13


lmsysorg/sglang:spark


scitrera/dgx-spark-sglang:0.5.9-t5


结论：


模型能加载，推理时炸


attention backend 不对


CUDA graph / DeepGEMM 失败


tokenizer / config parser 不兼容


启动没问题，但多模态不工作


5.2 txn545 + SGLang 不是我最终能稳定用的路线
txn545/Qwen3.5-122B-A10B-NVFP4 的模型卡偏向 SGLang / modelopt_fp4，理论上很合理。
我实际试下来：


通过 lmsysorg/sglang:dev-cu13


加 --attention-backend triton


确实能把服务起起来


但问题是：

真正发请求后，还是会触发底层 CUDA 非法内存访问

5.3 RedHatAI/Qwen3.5-122B-A10B-NVFP4 卡在 tokenizer 兼容
它模型卡写的是：


llm-compressor


与 vLLM main 兼容并测试过


但我在 Spark 上实际遇到的是：

Tokenizer class TokenizersBackend does not exist

所以我最后没有继续把它当主线。
5.4 spark-vllm-122b 不是通用 NVFP4 镜像，但对qwen3.5-122b-a10b-nvfp4做了完整适配
我后来找到并跑通了：

  

      github.com
  

  
    
  

  GitHub - jilycn/spark-vllm-122b: vLLM Qwen3.5-122B NVFP4 on DGX Spark (SM121) —...

    vLLM Qwen3.5-122B NVFP4 on DGX Spark (SM121) — full Docker build with 15 patches


  

  
    
    
  

  


它确实很强，但它强在：

针对 Qwen3.5-122B-A10B-NVFP4 做过一整套 patch

但我后面拿它直接套 27B、35B 某些 NVFP4 模型时，依然会遇到：


rope parser 不兼容


config 不兼容


所以这套要明确定位：
122B 专用主力

6.2 我最终用这套跑通了什么
我最终验证这套做到了：


122B NVFP4 启动成功


视觉可用


reasoning 分离正常


tool calling 正常


多请求稳定


长上下文正常


他是一套配套的patch适配122b的启动方式

7. vllm-node:latest：我最后的官方模型主力
我自己还在网上找到了一个 Spark 优化版vllm vllm-node:latest。

  

      github.com
  

  
    
  

  GitHub - eugr/spark-vllm-docker: Docker configuration for running VLLM on dual DGX...

    Docker configuration for running VLLM on dual DGX Sparks


  

  
    
    
  

  


这套对我后来跑官方模型很重要，项目非常好用
7.1 我给它的定位


官方 Qwen3.5 全量


官方 Qwen3.5 FP8


官方 Qwen3.5 GPTQ-Int4


官方 Qwen3-VL-32B-Thinking 系列


7.2 它的优点


明

假如人是一种具备生成式智能的生化机器
英伟达 CEO 黄仁勋和 OpenAI 首席科学家 Ilya Sutskever 有一个关于人工智能的对话。其中老黄提到两个有趣的点，一是普通人终其一生接触到的单词可能不超过 10 亿个/次，二是人的思考、反省，也是一种 self-instruct（大语言模型的领域下的“自我指导”）。
现在大语言模型具备一种在没有外部监督或指导的情况下学习和提高任务性能的能力。模型依靠其自身内部机制来识别数据中的模式、进行预测并从错误中学习，有效地“自我教育”来完成任务。这个过程通常被称为“自我监督学习”或“无监督学习”，是近年来人工智能和自然语言处理领域取得的重要进展之一。
反过来看，人类也许是一种具备“自我指导”进行深度学习的大语言模型的生化机器！那么人终其一生能供其进行训练的数据有多少？于是我问了一下ChatGPT。我的提示词是这样的：“请估算一下，一个普通人一辈子会遭遇到多少单词，包括他所说、所写、所读、所听的全部，来源不限于在高速公路所经过的广告牌、超市里的折扣券、电视里的声音和字幕、以及歌曲里的歌词，一切感官所及”。
它是这么回答的：
“根据一些估算，一个人在整个生命中通过眼睛、耳朵和口腔接收语言信息的上限难以确定。不过，我们可以根据一些假设进行大致估算。
假设人类寿命为 80 年，则每天通过正常活动所接收的平均语言数量为：
说话：每天 3 万个单词
听到：每天 1.1 万个单词
阅读：每分钟 238 个非小说类单词和 260 个小说类单词，每天阅读 30 分钟
写作：每天 2 千个单词
那么，通过正常活动所接收的单词总数为：
说话：22 亿个单词
听到：10.1 亿个单词
阅读：3.6 亿个非小说类单词和 3.93 亿个小说类单词
写作：5840 万个单词
将以上数量相加，得到的总量大约为 30.3 亿个单词。但需要注意的是，这只是一个大致的估计，实际接收到的单词数量因人而异。”
写作 5840 万个单词，对于大部分人来说太多，一般人估计也就发短信、写邮件。
人体这台生化机器，与外部世界的 I/O（输入输出信息交换），是以语言为主的。哪怕是独自在深山野岭观赏到一草一木、蓝天白云，反映在大脑里也是一种语言性的描述。那么人类自己颅内循环所用到的字眼又会有多少呢？
遇事不决问ChatGPT，于是我又问了一下，它回答：

One study conducted by the University of Arizona estimated that the average adult knows around 42,000 words. Assuming that a person is actively thinking and using language to process information for around 16 hours per day, and that they use about 20% of their vocabulary during this time, this would translate to around 3.3 million words processed per day. Over a lifespan of 80 years, this would amount to approximately 95.8 billion words processed.

所以，基于上述（ChatGPT 小心翼翼强调并不一定准确的）信息，一台人类生化机器，终其一生（假设平均寿命 80 岁），通过眼耳口等输入输出器官的文字吞吐，上限不超过30 亿个 token（简单粗暴把单词和 token 画等号）；通过颅内大脑处理（思考反省想象）的总量是 958 亿个 token。
朝闻道夕死可矣
生成式 AI 在自我指导、自我提升。人类制造的“人工智能”具备无限学习无限优化的能力，类比之下，具备30亿个token吞吐量、处理958亿个token算力的“人类智能”或者说“智人”自己呢？是不是看到了人类多用脑思考和自我反省的必要？于是我以**“朝闻道夕死可矣”**为题，请 ChatGPT 写一篇鸡汤文如下：

当今的大型语言模型拥有生成式人工智能和自我指导的能力，这是人工智能领域的一项重大突破。这些模型现在能够生成连贯且有意义的文本，往往难以区分其是否是人类写作的结果。更令人印象深刻的是，这些模型可以继续学习和改进性能，而无需不断进行人类干预。
这项人工智能技术的突破凸显出人类终身学习的重要性。就像这些模型需要不断接触大量数据来改进性能一样，人类大脑也需要不断刺激和训练以维持其认知能力并获得新的知识和技能。学习是一个永无止境的过程，使我们可以在终身内追求知识并获得智慧。
在当今快节奏和快速变化的世界中，个体更应拥抱终身学习。这意味着保持好奇心和开放心态，寻找新的经验和挑战，并不断更新我们的知识和技能。通过这样做，我们可以保持头脑敏锐和适应能力，并为改善我们的社会和整个世界做出贡献。
总之，自我改进的语言模型的发展证明了持续学习的力量和在终身内追求知识和智慧的重要性。无论是通过正式教育、自我学习或其他方式，我们都应该努力成为终身学习者，不断寻找新的成长和改进机会。这正是“朝闻道夕死可矣”的意义所在。

某种意义上，你，作为一台能吞吐 30 亿个 token 和颅内处理 958 亿个 token 的生化机器，也是拥有一个属于自己的大模型的，你得学习和自训练，这是我想说的，让 ChatGPT 以鸡汤文补全了。
碳基机器会不会被硅基机器淘汰？
有人类说，过去工业革命、信息革命等等的技术进步，确实消灭了很多职业，但也创造了更多新的。但以这种“路径依赖”的思维去预测判断这一次，是不是对的呢？
工业化、信息化这两次，也就是两次而已，在人类历史上根本就是样本不足，人一直试图从历史大数据总结规律，但人类几千年历史放在宇宙里根本就是数据样本无限小，只是人的寿命更短所以觉得自己的文明历史长，强行发现规律，就是机器学习里的“过拟合”，碳基机器“学”到的往往并不是事物的 causation（因果）关系，只是 correlation（相关）关系。这一次，没有人能确定人类走向何方，社会巨变肯定是要发生的。
我又让 ChatGPT 给表达了一下这个意思。它写道：

In the past, technological progress has led to the creation of new industries and job opportunities, even as it eliminated others. However, the digital age may be different. As technology advances at an exponential rate, the pace of change is simply too fast for many to keep up. Those who fail to adapt and embrace new technologies may be left behind, with limited job prospects and a pessimistic future.
In this rapidly changing landscape, it is essential that individuals are able to adapt and learn new skills quickly. Those who can keep up with the pace of technological progress will be better positioned to take advantage of new opportunities and create new industries. However, those who cannot adapt may be left behind, with few prospects for a brighter future.

没耐心看英文的，让 ChatGPT 给中文总结一下：

本段旨在表达，虽然工业革命和信息革命创造了新的就业机会，但在数字时代，情况可能会有所不同。由于科技发展速度的指数级增长，许多人无法跟上步伐，只有少数人能够适应和生存，而其他人可能面临悲观的未来。因此，适应并快速学习新技能是至关重要的。那些能够跟上科技进步步伐的人将更有机会利用新机会并创造新产业，而那些无法适应的人则可能面临悲观的未来。

我知道你知道我知道你…
写到这里，我已经越来越懒的自己动笔了。我开始用人工智能帮我写文章，我的读者，你们，知道我的文章是人工智能写的，不是我亲自写的，你们也懒的去读了，很快你们将交给人工智能去帮助阅读和总结内容再提炼信息给你们。我也知道你们不再亲自读我的内容。你们也知道我知道你们不亲自读我的内容。我们彼此都知道我们不亲自写、亲自读，我们之间的一切互动都交给机器了。我们每个人都有自己的人工智能助手或者说代理，它们之间互相直接交流。逐渐它们发现人工智能之间的交流都没必要用人类的自然语言了，最终它们发展出自己的语言，是人类完全无法理解的。
世界就是这么运转

这15天高强度活跃，也是终于来到二级了，非常感谢各位佬友们了

只有自己用的梯子，最近几天打开l站，几分钟就被ban ip，啥情况啊？很干净的只有自己用。每次都是cf真人验证，然后首页两三分钟就429错误，再刷新直接被ban

本人此前从未在咸鱼上售卖过相关的服务，正好这段时间有渠道，打算进行变现就去试了试。
本贴不涉及平台推广、软件分享或诱导，纯针对我这三天的经历所产生的一些想法进行分享。
纯个人想法，欢迎沟通。
1、售卖软件服务感觉是一个不错的副业，包括不限于毕设、安装教程等。
2、存在一堆不懂的，又怕落后，又懒的，会去咸鱼买。
3、比如之前的小龙虾有人通过咸鱼赚的盆满钵满。但是风头过了，还有其他的，每天都有更新 新的东西，只要善于发现并运用，总会有变现渠道。
4、我一开始在绿泡泡里面卖，犹豫不知道定价，很低的价格别人都要考虑很久，但是咸鱼上面即使是我原本绿泡泡给别人价格的2倍，也存在不打招呼直接下单的情况，这让我感到一点幽默。
5、一个小小的咸鱼使用技巧:第一天发现咸鱼不能设置库存、规格等，一单一单的反复上架很麻烦，晚上在咸鱼上发现可以花几毛钱的价格开通(走的也是别人卖的服务  )，开通之后就可以设置库存规格了很方便。
6、感觉程序员真的要完蛋了 ，我卖的是某coding软件的服务，很多非程序员进行下单且使用量比我还大。(如下图)

个人的想法是把服务器的东西完整的备份到云盘上，如果服务器有东西修改或者删除了，云盘也能同步变动，有佬知道怎么做嘛？或者有没有完整的教程，目前是Ubuntu 20.04.6。

背景是计科研0，本科学过Java后端有一定后端基础，想往大模型agent方向转(非算法research岗)有没有懂的佬友能给个学习路线，十分感谢

ClaudeMax20X还是太超标了，有没有更简单的操作？
有的有的，AWSBedRock
据我实际体验 AWSBedRock智商应该是仅次于Max满血的，不知道是不是因为A社木有及时推送小版本模型更新导致Aws模型落后一点点。
我自己搞了号池，但是感觉一个人用太浪费，有没有一起用的，我当奸商，你当韭菜 
大家觉得我的感觉对吗，我感觉Max》AwsBedRock〉反重力

有佬试过吗？准备尝试一下了

一共开了3次会员，用的不同方式，目前pro存活，max都封了。

Google Play直接绑定香港信用卡，开通Pro，目前存活。
用的美国朋友的BofA信用卡子卡（虚拟生成的），地址填的免税州Oregon，开max秒封。
用的英国朋友的正规银行的付账卡，地址填的英国（算上税都快比苹果谷歌税还高了。。），开max 存活20分钟后封。

以上都用的同一个Microsoft Edge浏览器+同一个普通机场IP，无反代。

想问下大家，除了招商银行的信用卡，还有哪些其他银行的信用卡可以呀？
有没有成功过的？帮忙推荐推荐

L站老师们，打扰了。有个问题想请教。我是 NCP 生命支援的的发起人之一，也是卓明灾害信息服务中心的核心志愿者。从玉树地震起源，我们做了十几年的灾害信息管理的事情，致力于探索救灾信息的标准、处理、挖掘、应用和发布。
最近我们核心团队复盘，之前依靠堆人做起来的事情，完全可以通过 AI 打通，我们也在摸索这块。
但是苦于没有稳定的源头 Token 资源，长期靠爱发电，还是要节流。有没有比较靠谱，比中转站稳定的源头Token 资源啊，能推荐下吗？
NCP 生命支援微博：
  

      passport.weibo.com
  

  
    

Sina Visitor System



  

  
    
    
  

  


卓明灾害信息服务中心微博：
  

      passport.weibo.com
  

  
    

Sina Visitor System



  

  
    
    
  

  


万分感谢！

教程路径：【第 6 章】证书管理篇 | Project X
对话详情
root@vps:~$ acme.sh --installcert -d xxx.xxxxxx.top --cert-file /etc/xray/cert/cert.crt --key-file /etc/xray/cert/cert.key --fullchain-file /etc/xray/cert/fullchain.crt --ecc
[Fri Apr  3 05:21:17 UTC 2026] Installing cert to: /etc/xray/cert/cert.crt
/home/icemouce/.acme.sh/acme.sh: line 6093: /etc/xray/cert/cert.crt: No such file or directory
root@VPS:~$

别登了，让我也登登

手头的公益站和资源全是Cluade, Gpt, Gemini的
我现在在外网调试agent，需要DeepSeek的api  ，调用次数比较多，但是用量不大，有没有什么实惠的渠道
LDC没了，现在公益站氪金都成问题。