标题: 【开源】LLMRelayService —— Docker 部署个人大模型网关
作者: #applefood
板块: #开发调优
编号:
帖子: https://linux.do/t/topic/2056392
时间: 2026-04-25 22:12:31
摘要:
作者: #applefood
板块: #开发调优
编号:
2056392帖子: https://linux.do/t/topic/2056392
时间: 2026-04-25 22:12:31
摘要:
本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:
我的帖子已经打上 开源推广 标签: 是
我的开源项目完整开源,无未开源部分: 是
我的开源项目已链接认可 LINUX DO 社区: README 已添加链接
我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是
以上选择我承诺是永久有效的,接受社区和佬友监督: 是
一、前言
之前用NewAPI,就是有点重,比较适合中转站,和自用不太一样。
遇到的问题如下:
有时候需要看请求完整内容
模型价格需要配置和同步
接口格式转换稳定性很玄学
用户管理、余额功能用不到
遂开发了一个自用的网关 GitHub - GoJam11/LLMRelayService · GitHub
二、基础使用
支持配置 openai 和anthropic 上游,可以直接使用v1/chat/completions 等端点。
三、高级功能
指定渠道
请求时可以加/providers/{channelName}指定上游
路由别名
支持将任意model name 映射到providers.model。下游应用可以配置"Auto"模型。
请求日志
可以查看首Token 耗时、总耗时、Token 消耗和缓存、价格
渠道健康
使用趋势
模型和来源聚合
成本和缓存
仓库地址: GitHub - GoJam11/LLMRelayService · GitHub
这个项目起初是为了接入各种中转上游做的,可以清楚看到各个上游的成功率等数据,包括coding plan。
如果对你有帮助,欢迎 Star~ 也欢迎提意见
标题: 我的话题咋不见了
作者: #野菜团
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2056401
时间: 2026-04-25 22:14:08
摘要:
作者: #野菜团
板块: #搞七捻三
编号:
2056401帖子: https://linux.do/t/topic/2056401
时间: 2026-04-25 22:14:08
摘要:
刚刚发了个six和彩的话题,可能是被举报下架了;但是为啥完全没有了任何痕迹,包括回复,最主要是也没看到举报提醒呀,这是为啥
标题: 为什么我的azure学生计划送了快700刀?
作者: #猫猫鱼
板块: #资源荟萃
编号:
帖子: https://linux.do/t/topic/2056411
时间: 2026-04-25 22:15:04
摘要:
作者: #猫猫鱼
板块: #资源荟萃
编号:
2056411帖子: https://linux.do/t/topic/2056411
时间: 2026-04-25 22:15:04
摘要:
论坛上不都是送100刀一年的么?我这个怎么这么特殊
标题: 遇见没有任何责任心,你在前面干他在后面捅刀子甩锅的领导怎么办?
作者: #Peace855
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2056427
时间: 2026-04-25 22:16:41
摘要:
作者: #Peace855
板块: #搞七捻三
编号:
2056427帖子: https://linux.do/t/topic/2056427
时间: 2026-04-25 22:16:41
摘要:
一直以为人既然出来工作了,就一心为了项目各司其职、兢兢业业就好了。可自从来到现在这个公司,发现有些人工作的第一要义是撇清责任,尤其是这个领导,不负任何责任,不做任何决定,把锅甩的明明白白的。可谓是无所不用其极,一天八个小时的工作时间,两个小时用来开一些无用的会,甚至于到打扫卫生都能每天开个会。说实话,在这种氛围下挺消磨人我的工作积极性和热情的。
标题: 广州香油线锐评
作者: #Shus
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2056430
时间: 2026-04-25 22:16:45
摘要:
作者: #Shus
板块: #搞七捻三
编号:
2056430帖子: https://linux.do/t/topic/2056430
时间: 2026-04-25 22:16:45
摘要:
线路
先说一下线路吧,看起来是正确的路结果都是错的路,岔路有8个,树荫及其少,偏航了3次,还有两段在林子里面的路卫星信号弱GPS偏移导致迷路了2次,有些路,有路吗就走?
两个例子 (click for more details)
两张折叠起来的图,图1是健身步道穿擦出来走人家菜地没绷住,图2是我第二段迷路的地方,第一段迷路的地方因为有飘带没过10分钟就走出来了,第二段迷路的地方没有人走过的痕迹,强行穿上去金麦线的…
翻越了3座山,第一座山无名山,有些路还得用登山杖撇开,极其难走,第二座山坟墓太多了中午走过去冒冷汗…去第三座山的路上没有什么遮荫的,天气一晒就(见图3)得要命,我第二段迷路的时候是崩溃了,不是走不出崩溃,是水喝完了口特别渴走了几公里迷路了崩溃…
人少的要命,前两座山就遇到了5个人,加起来都不够最后穿插到金麦线的随便遇到的一个队伍的人多…路也极其野…
战绩
本来是打算设置私密的轨迹,但是想想我走错太多次,完全可以放出来做负面案例
扑街了2次(摔正面),滑倒了2次(摔屁股),踩空了3次(所幸都没有崴脚),偏航了3次,卫星信号弱导致漂移迷路了2次
徒步建议
如果非要走不拦着,起码满足下面要求:
强度很高,比天堂顶要难,岔路口太多,路途复杂,不要夜爬
记得带水,第一段下山的路有补给可以补给,路太野,太阳暴晒顶不住
装备方面一定要有三件套,登山杖一根也够了,另一只手可以看导航,但是最好用两根好走,鞋的鞋钉一定要够厚,第一座山容易打滑
不要单人走
自我反思
当然我自己也有问题
下次走这种小众路线一定找个搭档
下次水看清容量再买(买错容量了结果不够喝…),就算重也要背3L水
遇到迷路这种突发情况先冷静看看有什么条件能用上,不能慌
标题: 刚注册完team后,paypal就被封了,team号后面会怎么样
作者: #juiey
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2056437
时间: 2026-04-25 22:17:24
摘要:
作者: #juiey
板块: #搞七捻三
编号:
2056437帖子: https://linux.do/t/topic/2056437
时间: 2026-04-25 22:17:24
摘要:
今天刚用paypal搞了一个team号,后面paypal号秒封,现在team还存活,会不会隔天就噶了…,ip是自建vps
标题: 原来是女朋友送的耳机吗
作者: #TVpoet
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2056447
时间: 2026-04-25 22:19:26
摘要:
作者: #TVpoet
板块: #搞七捻三
编号:
2056447帖子: https://linux.do/t/topic/2056447
时间: 2026-04-25 22:19:26
摘要:
我说哪来的顺丰通知呢,拆开包裹 是女朋友送的耳机呀
标题: 接入L站登录问题
作者: #SanHua
板块: #开发调优
编号:
帖子: https://linux.do/t/topic/2056497
时间: 2026-04-25 22:24:57
摘要:
作者: #SanHua
板块: #开发调优
编号:
2056497帖子: https://linux.do/t/topic/2056497
时间: 2026-04-25 22:24:57
摘要:
应用接入l站登录后,我发现在授权登录后会卡很久甚至回调失败。
这个和服务器有关系吗,我的是阿里云国内的机器
标题: 阿里coding plan lite版能用qwen3.6plus了
作者: #KuNQil
板块: #前沿快讯
编号:
帖子: https://linux.do/t/topic/2063548
时间: 2026-04-27 09:06:35
摘要:
作者: #KuNQil
板块: #前沿快讯
编号:
2063548帖子: https://linux.do/t/topic/2063548
时间: 2026-04-27 09:06:35
摘要:
可这又是何意味呢。。
标题: 你们公司给你们买Qoder了吗?我们公司不给报销还要求效率
作者: #syh
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2063620
时间: 2026-04-27 09:15:42
摘要:
作者: #syh
板块: #搞七捻三
编号:
2063620帖子: https://linux.do/t/topic/2063620
时间: 2026-04-27 09:15:42
摘要:
没有好的编程大模型,只有继续古法编程了。
标题: 关于买了个性能强大的nas不知道干什么这件事
作者: #HX220885
板块: #开发调优
编号:
帖子: https://linux.do/t/topic/2063629
时间: 2026-04-27 09:17:15
摘要:
作者: #HX220885
板块: #开发调优
编号:
2063629帖子: https://linux.do/t/topic/2063629
时间: 2026-04-27 09:17:15
摘要:
几年前买的绿联Dh2600,n5105,装了两个3tb硬盘在前几天终于被塞爆了,而硬盘位又满了。无奈直接狠心购买了铭凡N5 pro 16gb+128gb的配置 cpu是AMD Ai9 Hx370,一个万兆电口,一个5g电口,五机械盘位,三m2盘位,还有oculink接口,usb4和一个能装半高卡的pcie接口。
然而买到手才想起来固态,机械,内存全都涨价,只能买两个二手16tb机械先用着。
本来设想是出国留学后当做主力电脑,用PVE虚拟一个飞牛,一个win10,核显给飞牛,外接显卡给win10,但是发现很多网游不支持虚拟机游玩,飞牛也没有890m的驱动。一时间不知道要干什么了。
我的需求是既有win的环境,也要有飞牛之类的nas系统同时运行,佬友们有推荐的方案吗
标题: 想咨询下各位佬,目前哪家的ai agent的ui还原能力比较好
作者: #fang.yc
板块: #开发调优
编号:
帖子: https://linux.do/t/topic/2063632
时间: 2026-04-27 09:18:11
摘要:
作者: #fang.yc
板块: #开发调优
编号:
2063632帖子: https://linux.do/t/topic/2063632
时间: 2026-04-27 09:18:11
摘要:
目前是一个已有的后台管理系统 主要是表单类,然后需要根据现在新的ui图进行样式重构,ui图我放在Figma然后接入的Figma的mcp但是尝试用了coplot以及codex感觉还原度都不是很好,想问问各位佬友有没有什么好的方案
标题: DeepSeek谁家有coding plan呀
作者: #岚心一
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2063640
时间: 2026-04-27 09:19:10
摘要:
作者: #岚心一
板块: #搞七捻三
编号:
2063640帖子: https://linux.do/t/topic/2063640
时间: 2026-04-27 09:19:10
摘要:
昨天没买的优云智算今天就没有了 哭,佬友们谁有v4pro的coding plan购买渠道呀,购买的coding plan还会有max吗?
标题: Codex隐藏更新变成“语音输入法”,效率直接起飞
作者: #有道未闻
板块: #开发调优
编号:
帖子: https://linux.do/t/topic/2063676
时间: 2026-04-27 09:24:28
摘要:
作者: #有道未闻
板块: #开发调优
编号:
2063676帖子: https://linux.do/t/topic/2063676
时间: 2026-04-27 09:24:28
摘要:
Cordex 默默更新了一个小功能 ,试了下体验还不错啊,这是又朝着超级APP迈进了一步,又能当输入法用了,能干死不少竞品啊
标题: 刷完B站才发现我没把DS V4配置对
作者: #lamwing
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2063678
时间: 2026-04-27 09:25:15
摘要:
作者: #lamwing
板块: #搞七捻三
编号:
2063678帖子: https://linux.do/t/topic/2063678
时间: 2026-04-27 09:25:15
摘要:
原来还要配置模型名的后缀[1m]和max的CLAUDE_CODE_EFFORT_LEVEL
标题: tg聊天被拉黑会显示什么?
作者: #清酒半盏
板块: #搞七捻三
编号:
帖子: https://linux.do/t/topic/2063690
时间: 2026-04-27 09:27:53
摘要:
作者: #清酒半盏
板块: #搞七捻三
编号:
2063690帖子: https://linux.do/t/topic/2063690
时间: 2026-04-27 09:27:53
摘要:
事情是这样的,最近想买一个即梦的会员账号,在小黄鱼和tg上都找了,在tg上找的那个人,最开始开出的价格比官方低很多,但是要对方在小黄鱼或者其他平台上进行交易时,对方拒绝并给出理由是因为他的价格太低,被同行举报封号了。。
因为tg上的骗子太多而且有太多疑点,我没买,过两天又和他拉扯了一两个回合,结果今天再去看的时候,已经显示“已删除账户”。
tg用的少,我想问下,如果被拉黑了,聊天会显示成什么?这个已删除账号我搜的时候只能搜出可能是账号被注销了。
幸好当时没有上头,不然感觉十有八九要被骗。。
标题: 佬们有没有安卓浏览器推荐呀
作者: #lancerys
板块: #资源荟萃
编号:
帖子: https://linux.do/t/topic/2063695
时间: 2026-04-27 09:29:04
摘要:
作者: #lancerys
板块: #资源荟萃
编号:
2063695帖子: https://linux.do/t/topic/2063695
时间: 2026-04-27 09:29:04
摘要:
之前一直在用via浏览器,挺好用的。可以加脚本啥的,但是经常过不去CF验证有没有别的好用的浏览器推荐呀,个人体感速度最快的就是via了,安卓的chrome试过但是打开网页速度特别慢不知道为啥