Bboysoul的博客
@bboyapp
1.63K
subscribers
37
photos
4
videos
222
links
📢
频道公告
欢迎关注我的推特:
@bboysoulcn
对频道有任何意见欢迎发邮件:
📧
bboysoulcn@gmail.com
Download Telegram
Join
Bboysoul的博客
1.63K subscribers
Bboysoul的博客
📝
看完今天的内容了吗
(长按或者右键选择retract vote,可以重新投票)
Anonymous Poll
100%
😀
已看
0%
😭
还没看
Bboysoul的博客
https://insights.linuxfoundation.org/leaderboards
insights.linuxfoundation.org
Open Source Leaderboards | LFX Insights
Explore leaderboards for the world’s most critical open source projects. Powered by the Linux Foundation.
Bboysoul的博客
https://x.com/bboysoulcn/status/2094947369343447177
X (formerly Twitter)
bboysoul (@bboysoulcn) on X
博客的访问量新加坡的ip 很多不知道是不是AI 爬虫导致的
Bboysoul的博客
https://fastpotify.rocks/
Fastpotify
A fast, native Spotify client for Linux, macOS, and Windows, written in Rust.
Bboysoul的博客
Forwarded from
zrj766的频道
逆天
Bboysoul的博客
Forwarded from
洛希极限
Bboysoul的博客
https://x.com/bboysoulcn/status/2094969948158443832?s=52
X (formerly Twitter)
bboysoul (@bboysoulcn) on X
AI让sb变得更sb了,因为sb觉得自己有了AI之后无所不能了
Bboysoul的博客
Forwarded from
橘橘橘子汁 &
🍊
Bboysoul的博客
Bboysoul的博客
我的AI 名字叫软软
Bboysoul的博客
笑死尼玛
Bboysoul的博客
Bboysoul的博客
https://x.com/bboysoulcn/status/2095087010319155678
X (formerly Twitter)
bboysoul (@bboysoulcn) on X
https://t.co/0Qb75JHES8
Bboysoul的博客
https://www.bboy.app/2026/09/02/%E5%9C%A8kubernetes%E4%B8%AD%E9%83%A8%E7%BD%B2litellm/
www.bboy.app
在Kubernetes中部署LiteLLM
简介
我手里有多个渠道的大模型接口。平时用 Hermes 跑各种任务,换模型的时候不想每次去改 Hermes 的配置。所以搭了个 LiteLLM,把不同渠道的模型收进同一个 OpenAI 兼容接口。Hermes 只需要配置一次,之后想切换底层模型,在 LiteLLM 的管理页面把模型映射改一下就行。
先在本机跑通,确认模型真能调用,再搬到 Kubernetes。最终接了 PostgreSQL、Redis、Traefik 和 ArgoCD。这篇记录一下完整配置,还有中间碰到的几个坑。