标题: 请教:Qwen3.5 27B的MTP加速问题
作者: #成浩
板块: #开发调优
编号:
帖子: https://linux.do/t/topic/2137631
时间: 2026-05-09 07:04:30
摘要:
作者: #成浩
板块: #开发调优
编号:
2137631帖子: https://linux.do/t/topic/2137631
时间: 2026-05-09 07:04:30
摘要:
各位佬,小弟需要一个问题,看大家都在用MTP给大模型加速,速度几乎都提升了一倍。于是我也试了试,我的环境是A100,vllm0.16.x,Qwen3.5 27B稠密模型,上下文开到256k。 mtp参数如下:–speculative-config ‘{“method”: “mtp”, “num_speculative_tokens”: 2}’
启动日志中显示已经使用了MTP,但是速度和没开之前是一样的,毫无提升,都是25-27token每秒。希望各位指点一二,万分感谢!标题: GPT team 还能0元购吗
作者: #猫咕咕
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2137632
时间: 2026-05-09 07:06:02
摘要:
作者: #猫咕咕
板块: #搞七捻三
编号:
2137632帖子: https://linux.do/t/topic/2137632
时间: 2026-05-09 07:06:02
摘要:
注册了几个账号,发现都没资格.
美国IP,gmail 和 .com域名都试了
标题: 有谁在薅dogeshit么?
作者: #Tahooo
板块: #福利羊毛
编号:
帖子: https://linux.do/t/topic/2137635
时间: 2026-05-09 07:11:05
摘要:
作者: #Tahooo
板块: #福利羊毛
编号:
2137635帖子: https://linux.do/t/topic/2137635
时间: 2026-05-09 07:11:05
摘要:
dogeshit在twitter上火了,求个详细教程
标题: github 今日最快增长风向标-20260509
作者: #老文
板块: #前沿快讯
编号:
帖子: https://linux.do/t/topic/2137641
时间: 2026-05-09 07:20:46
摘要:
作者: #老文
板块: #前沿快讯
编号:
2137641帖子: https://linux.do/t/topic/2137641
时间: 2026-05-09 07:20:46
摘要:
绷不住了,第五名竟然有一个中转分发工具,看来这个真的是刚需…
github-trening.pdf (438.7 KB)
标题: codex更新了最新版本,aprove全自动模式没了,怎么办?
作者: #针法自然
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2137652
时间: 2026-05-09 07:29:57
摘要:
作者: #针法自然
板块: #搞七捻三
编号:
2137652帖子: https://linux.do/t/topic/2137652
时间: 2026-05-09 07:29:57
摘要:
各位佬友,赛博神医救救我的codex。现在怎么操作 全自动
auto-review denials in thisafteraction.Norecentthread.Denialsarerecordedauto-review rejectsan
标题: 求推荐海外vps
作者: #莫城
板块: #开发调优
编号:
帖子: https://linux.do/t/topic/2137664
时间: 2026-05-09 07:45:56
摘要:
作者: #莫城
板块: #开发调优
编号:
2137664帖子: https://linux.do/t/topic/2137664
时间: 2026-05-09 07:45:56
摘要:
手里已经有了一台美西的dmit的机子,打算再搞一台性价比高的机器用来搭反代项目,不用考虑回国线路的问题了,有没有推荐的海外机器
标题: codex 支持 remote control 了?
作者: #初梦
板块: #前沿快讯
编号:
帖子: https://linux.do/t/topic/2137676
时间: 2026-05-09 07:58:57
摘要:
作者: #初梦
板块: #前沿快讯
编号:
2137676帖子: https://linux.do/t/topic/2137676
时间: 2026-05-09 07:58:57
摘要:
Added codex remote-control as a simpler entrypoint for starting a headless, remotely controllable app-server.
还不知道具体是怎么用什么效果
标题: 川子公布了UFO的资料
作者: #GGbang
板块: #前沿快讯
编号:
帖子: https://linux.do/t/topic/2137682
时间: 2026-05-09 08:04:28
摘要:
作者: #GGbang
板块: #前沿快讯
编号:
2137682帖子: https://linux.do/t/topic/2137682
时间: 2026-05-09 08:04:28
摘要:
在这里:https://www.war.gov/UFO/
标题: OpenAI image2 api 效果为什么没有网页
作者: #妈说名字要低调
板块: #开发调优
编号:
帖子: https://linux.do/t/topic/2137685
时间: 2026-05-09 08:05:22
摘要:
作者: #妈说名字要低调
板块: #开发调优
编号:
2137685帖子: https://linux.do/t/topic/2137685
时间: 2026-05-09 08:05:22
摘要:
我在网页中测试图生图效果感觉还不错
但是在实际调取 api 的时候,用的同样的图,同样的提示词,效果就不好
生成的参数也是高质量的图
这是为啥呀佬们
标题: AI API | 统一聚合的高性能 LLM API 分发网关
作者: #青衫
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2137696
时间: 2026-05-09 08:16:54
摘要:
作者: #青衫
板块: #搞七捻三
编号:
2137696帖子: https://linux.do/t/topic/2137696
时间: 2026-05-09 08:16:54
摘要:
AI API | 统一聚合的高性能 LLM API 分发网关 各位佬,这个站是不是上线了一个签到系统呀,我怎么找不到了,还是我记错了呀
标题: Trae solo怎么使用 CPA 反代呢?
作者: #lsf
板块: #开发调优
编号:
帖子: https://linux.do/t/topic/2137702
时间: 2026-05-09 08:22:00
摘要:
作者: #lsf
板块: #开发调优
编号:
2137702帖子: https://linux.do/t/topic/2137702
时间: 2026-05-09 08:22:00
摘要:
昨天试了把CPA反代配到Trae Solo。配置完之后,对话始终是模型请求失败(4054),不知道是啥问题。请教佬友
1687116462174900:c7b9ab2e1a135071788e101281d462ce_69fe7d3d39c80481b4fea8d9.69fe7d3d39c80481b4fea8de.69fe7d3d39c80481b4fea8da:TRAE SOLO CN.0.1.7.no_sid.no_ppe.T(2026/5/9 08:18:05)
标题: 奥特曼大善人什么时候能重置Codex额度啊
作者: #ctrlshiftm
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2137705
时间: 2026-05-09 08:22:59
摘要:
作者: #ctrlshiftm
板块: #搞七捻三
编号:
2137705帖子: https://linux.do/t/topic/2137705
时间: 2026-05-09 08:22:59
摘要:
马上用完了,很焦虑,快点重置一下吧,大善人救救
标题: 研究生面对导师的任务如何处理
作者: #花辞树
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2137706
时间: 2026-05-09 08:23:06
摘要:
作者: #花辞树
板块: #搞七捻三
编号:
2137706帖子: https://linux.do/t/topic/2137706
时间: 2026-05-09 08:23:06
摘要:
各位佬,目前双非研究生,老板总是觉得类似claudecode,codex,这些agent只要说一句话就能完成一个项目。因为他也在玩这些,不过指令都笔记简单就比如做一个什么成绩打分系统,针对这些任务ai完成效率很高,这就给他一种ai全能的错觉。
但是他给我派的活是给多个很大的项目进行重构然后集成在自己软件里面,目前我也没有试过使用ai完整重构大项目,用的gpt还是自费买点。在此问问各位佬有什么好的解决办法吗?
(其实内心是抗拒给老板干活的)
标题: 在Android手机里tailscale与VPN出国软件同时(勉强)生效的方法
作者: #wuhenzha
板块: #文档共建
编号:
帖子: https://linux.do/t/topic/2137719
时间: 2026-05-09 08:26:06
摘要:
作者: #wuhenzha
板块: #文档共建
编号:
2137719帖子: https://linux.do/t/topic/2137719
时间: 2026-05-09 08:26:06
摘要:
我一般出国用的是clash meta, 它用的是VPN,而tailscale用的也是VPN,然后手机同时只能有一个VPN,这两个不能兼容,开一个就必需先关另一个,这样日常使用太烦索了。
我找到的解决方案是,用Shelter开多个工作空间,两个空间的VPN是能互不干扰的。然后需要回家的软件就放到工作空间里
题外话 (click for more details)
标题: 菲律宾充值的pro被封了,怎么申请退款啊
作者: #xiaoqiang
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2137751
时间: 2026-05-09 08:38:14
摘要:
作者: #xiaoqiang
板块: #搞七捻三
编号:
2137751帖子: https://linux.do/t/topic/2137751
时间: 2026-05-09 08:38:14
摘要:
大佬们,菲律宾充值的pro被封了,怎么申请退款啊,使用虚拟信用卡付款,也没有什么违规行为啊,就用了官方codex和网页端,申诉还不给通过,有什么办法申请退款吗,才用了7天!
标题: 在哪里可以免费使用ASR模型?
作者: #Tahooo
板块: #开发调优
编号:
帖子: https://linux.do/t/topic/2137757
时间: 2026-05-09 08:40:39
摘要:
作者: #Tahooo
板块: #开发调优
编号:
2137757帖子: https://linux.do/t/topic/2137757
时间: 2026-05-09 08:40:39
摘要:
比如 Qwen3-ASR-1.7B
或者其他还有更好的?
标题: cpa问题求助
作者: #沉沉沉
板块: #开发调优
编号:
帖子: https://linux.do/t/topic/2137758
时间: 2026-05-09 08:40:57
摘要:
作者: #沉沉沉
板块: #开发调优
编号:
2137758帖子: https://linux.do/t/topic/2137758
时间: 2026-05-09 08:40:57
摘要:
今天早上看自己的cpa之前100%的额度全变成97%了,有佬知道啥情况吗
标题: 今天的 any 不行了。。
作者: #KINDNESS
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2137770
时间: 2026-05-09 08:44:24
摘要:
作者: #KINDNESS
板块: #搞七捻三
编号:
2137770帖子: https://linux.do/t/topic/2137770
时间: 2026-05-09 08:44:24
摘要:
这下好了,早起的鸟儿也没有虫子吃了,一直429
标题: 文献求助!求助!
作者: #SuLe
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2137781
时间: 2026-05-09 08:46:15
摘要:
作者: #SuLe
板块: #搞七捻三
编号:
2137781帖子: https://linux.do/t/topic/2137781
时间: 2026-05-09 08:46:15
摘要:
Genetic basis of phytoalexin-mediated chemical defense in plants
10.1016/j.cell.2026.04.021
学校这边没买cell了。。有没有佬可以下载