ARM服务器浪潮128核心Ampere CPU双路满载大概在400w，性能超过两个7713 有兴趣的私聊，arm架构可用linux或者魔改版pve，适合云手机/faas/arm vps/sdn网关/cdn节点
高性能计算平台下线一批只用了一年左右的ddr4 3200 64g，购买时候是全新的 有需要的私聊，是配xeon scaleble 3代/epyc 7002/7003，ampere arm服务器
gpt-oss-120b 本地部署推荐配置，模型表现差不多是 OpenAI o4-mini 水平：
SR655
EPYC7532
4*32G DDR4 2933
A100 64G*1/RTX6000Pro *1
不推荐A100 80G原因是 他和RTX6000Pro差不多钱，大陆6.8w左右，HK6w左右，但是显然推理transformer工况下新卡会好点
SR655
EPYC7532
4*32G DDR4 2933
A100 64G*1/RTX6000Pro *1
不推荐A100 80G原因是 他和RTX6000Pro差不多钱，大陆6.8w左右，HK6w左右，但是显然推理transformer工况下新卡会好点
接受arm解决方案的话可以Nvidia GB10 理论上统一内存架构128G是能支撑的。当然还有一些奇葩解决方案比如用85xx/84xx的AVX512完成推理 也是可行的，这模型小 内存宽带压力不会特别大，推理本身不是特别吃算力