求助大模型本地部署（自动装载卸载，类型多样）
本地部署大模型，后端服务器调研ollama，vllm，xinference。本地主机为nvidia3090 24g版本，主要使用方式为团队知识库，面临的问题主要有:
1. ollama可以实现模型自动装载卸载，但是目前不支持rerank模型，即使导入显示也判断为 embed类型。
2. vllm 和xinference 不支持模型自动装载卸载，模型持续占用较大。另外实现系统自动启动的难度较大。
咨询佬友，有没有能够实现模型自动装载，部署容易，支持类型多样（重排，嵌入等）的部署框架或者教程。
1 个帖子 - 1 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: oswald522)
本地部署大模型，后端服务器调研ollama，vllm，xinference。本地主机为nvidia3090 24g版本，主要使用方式为团队知识库，面临的问题主要有:
1. ollama可以实现模型自动装载卸载，但是目前不支持rerank模型，即使导入显示也判断为 embed类型。
2. vllm 和xinference 不支持模型自动装载卸载，模型持续占用较大。另外实现系统自动启动的难度较大。
咨询佬友，有没有能够实现模型自动装载，部署容易，支持类型多样（重排，嵌入等）的部署框架或者教程。
1 个帖子 - 1 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: oswald522)
误操作！GitHub 官方：配置变更出意外，导致屏蔽中国 IP
由于一次产生意外影响的配置变更，未登录且尝试从中国访问 GitHub.com 的用户暂时无法访问。而已经登录的用户则能够继续成功访问。
此次影响始于北京时间 2025 年 4 月 13 日 4 点 01 分，于北京时间 2025 年 4 月 13 日 22 点 55 分得到缓解。
导致此次影响的配置变更已被撤销，用户在尝试访问 GitHub.com 时应该不会再遇到问题了。
来源 https://mp.weixin.qq.com/s/5ojZDgGFJ13Lj_P-NObO6w
总之，全世界都是草台班子……
2 个帖子 - 2 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: Ben2008)
由于一次产生意外影响的配置变更，未登录且尝试从中国访问 GitHub.com 的用户暂时无法访问。而已经登录的用户则能够继续成功访问。
此次影响始于北京时间 2025 年 4 月 13 日 4 点 01 分，于北京时间 2025 年 4 月 13 日 22 点 55 分得到缓解。
导致此次影响的配置变更已被撤销，用户在尝试访问 GitHub.com 时应该不会再遇到问题了。
来源 https://mp.weixin.qq.com/s/5ojZDgGFJ13Lj_P-NObO6w
总之，全世界都是草台班子……
2 个帖子 - 2 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: Ben2008)
Github 承认中国用户的访问被禁止是一个错误的配置结果
githubstatus.com
[Retroactive] Access from China temporarily blocked for users that were not...
GitHub's Status Page - [Retroactive] Access from China temporarily blocked for users that were not logged in.
2 个帖子 - 2 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: Earmer Carey)
githubstatus.com
[Retroactive] Access from China temporarily blocked for users that were not...
GitHub's Status Page - [Retroactive] Access from China temporarily blocked for users that were not logged in.
2 个帖子 - 2 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: Earmer Carey)
【PC游戏】最后生还者 1&2 重制版【全DLC+修改器】【解压免安装】
最后生还者 1 重制版【78GB】
《最后生还者：第一部》是一款角色扮演类动作游戏，故事以末日题材为主题，但是和以往的同类题材游戏有着很大的不同。两名主角个性鲜明，为了生存他们将不惜一切代价。游戏中虽然有变异的怪物出现，它们也是末日的主因，但是游戏中的战斗大部分是与人类展开的。
游戏截图
夸克网盘
pan.quark.cn
夸克网盘分享
夸克网盘是夸克推出的一款云服务产品，功能包括云存储、高清看剧、文件在线解压、PDF一键转换等。通过夸克网盘可随时随地管理和使用照片、文档、手机资料，目前支持Android、iOS、PC、iPad。
最后生还者 2 重制版【116G】
全新模式体验《The Last of Us Part II》的深度战斗！玩家必须选择路线，通过一系列随机遭遇战，并尽可能在每回合生存下来。扮演一系列不同的可解锁角色，每个角色都有独特的游玩特性。
游戏截图
夸克网盘
pan.quark.cn
夸克网盘分享
夸克网盘是夸克推出的一款云服务产品，功能包括云存储、高清看剧、文件在线解压、PDF一键转换等。通过夸克网盘可随时随地管理和使用照片、文档、手机资料，目前支持Android、iOS、PC、iPad。
1 个帖子 - 1 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: 克里斯)
最后生还者 1 重制版【78GB】
《最后生还者：第一部》是一款角色扮演类动作游戏，故事以末日题材为主题，但是和以往的同类题材游戏有着很大的不同。两名主角个性鲜明，为了生存他们将不惜一切代价。游戏中虽然有变异的怪物出现，它们也是末日的主因，但是游戏中的战斗大部分是与人类展开的。
游戏截图
夸克网盘
pan.quark.cn
夸克网盘分享
夸克网盘是夸克推出的一款云服务产品，功能包括云存储、高清看剧、文件在线解压、PDF一键转换等。通过夸克网盘可随时随地管理和使用照片、文档、手机资料，目前支持Android、iOS、PC、iPad。
最后生还者 2 重制版【116G】
全新模式体验《The Last of Us Part II》的深度战斗！玩家必须选择路线，通过一系列随机遭遇战，并尽可能在每回合生存下来。扮演一系列不同的可解锁角色，每个角色都有独特的游玩特性。
游戏截图
夸克网盘
pan.quark.cn
夸克网盘分享
夸克网盘是夸克推出的一款云服务产品，功能包括云存储、高清看剧、文件在线解压、PDF一键转换等。通过夸克网盘可随时随地管理和使用照片、文档、手机资料，目前支持Android、iOS、PC、iPad。
1 个帖子 - 1 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: 克里斯)
👍1
Gemini2.5 Pro被降智！
在不同的环境里，有时会突然感觉与你交流的大模型能力发生很大的变化。输出的内容明显的不是一个层级。这时候是不是换KEY才会有改变，还是要换环境？
不知佬友们有没有什么好的办法应对这种情形？
3 个帖子 - 3 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: abb)
在不同的环境里，有时会突然感觉与你交流的大模型能力发生很大的变化。输出的内容明显的不是一个层级。这时候是不是换KEY才会有改变，还是要换环境？
不知佬友们有没有什么好的办法应对这种情形？
3 个帖子 - 3 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: abb)
求问开车掉头规则问题
如图，从小区北门出，到辅路，想掉头到主路（往西方向）
我应该何时何地等待？而又何时何地开始掉头呢？
目前我是在箭头处斑马线以内，等待东西方向为红灯时，我开始掉头，这样对吗？
1 个帖子 - 1 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: 可爱滴捏~)
如图，从小区北门出，到辅路，想掉头到主路（往西方向）
我应该何时何地等待？而又何时何地开始掉头呢？
目前我是在箭头处斑马线以内，等待东西方向为红灯时，我开始掉头，这样对吗？
1 个帖子 - 1 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: 可爱滴捏~)
Azure学生包模型与服务器定价
昨天跟着博客学了一下Azure学生包的用法，开了4o和o3模型，建了个Linux虚拟机。但是现在Azure的虚拟机没有动态ip了，请问佬们是不是用模型和静态ip的钱都从送的100刀里面扣？
顺便问一下Azure还有没有什么其他的服务能薅 :tieba_087:
1 个帖子 - 1 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: Neuxsyyan)
昨天跟着博客学了一下Azure学生包的用法，开了4o和o3模型，建了个Linux虚拟机。但是现在Azure的虚拟机没有动态ip了，请问佬们是不是用模型和静态ip的钱都从送的100刀里面扣？
顺便问一下Azure还有没有什么其他的服务能薅 :tieba_087:
1 个帖子 - 1 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: Neuxsyyan)
佬友们好，五一临近，推荐一个抢火车票神器，分流抢票。以前抢票用过携程，智行，也开过vip，也付过费买加速包，都不好使。
无意间发现分流抢票，不仅免费还好用，助力我抢到过很多难抢的火车票。
但最近用分流抢票，发现也不太好用了。
佬友们都用什么软件抢火车票呢，能否推荐个好用的神器。
2 个帖子 - 2 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: xxc1)
无意间发现分流抢票，不仅免费还好用，助力我抢到过很多难抢的火车票。
但最近用分流抢票，发现也不太好用了。
佬友们都用什么软件抢火车票呢，能否推荐个好用的神器。
2 个帖子 - 2 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: xxc1)
vscode能不能每次进入对应的项目自动启动脚本？
大佬们救救！
比方说我开发项目里面文件夹里面有.venv。
有没有方法能够先判断.venv有没有，
如果存在则window启动..venv\Scripts\Activate.ps1。这样终端自动就进去虚拟环境了
2 个帖子 - 2 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: 泡芙小圆手)
大佬们救救！
比方说我开发项目里面文件夹里面有.venv。
有没有方法能够先判断.venv有没有，
如果存在则window启动..venv\Scripts\Activate.ps1。这样终端自动就进去虚拟环境了
2 个帖子 - 2 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: 泡芙小圆手)
赛博佛活也要提供免费容器啦 真香预警
公告地址:Cloudflare 博客 – 11 Apr 25
Simple, scalable, and global: Containers are coming to Cloudflare Workers in...
Cloudflare Containers are coming this June. Run new types of workloads on our network with an experience that is simple, scalable, global and deeply integrated with Workers.
容器平台 Cloudflare Containers 将于 2025 年 6 月下旬正式开启公测。这项服务将标准 OCI (Docker) 容器无缝部署到 Cloudflare 遍布全球 300 多个节点的边缘网络上，实现按需启动和运行。
网络出站流量提供每月 1TB 的免费额度，超出部分将根据不同区域进行分区定价。
赛博菩萨 yyds
2 个帖子 - 2 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: withoutsugar)
公告地址:Cloudflare 博客 – 11 Apr 25
Simple, scalable, and global: Containers are coming to Cloudflare Workers in...
Cloudflare Containers are coming this June. Run new types of workloads on our network with an experience that is simple, scalable, global and deeply integrated with Workers.
容器平台 Cloudflare Containers 将于 2025 年 6 月下旬正式开启公测。这项服务将标准 OCI (Docker) 容器无缝部署到 Cloudflare 遍布全球 300 多个节点的边缘网络上，实现按需启动和运行。
网络出站流量提供每月 1TB 的免费额度，超出部分将根据不同区域进行分区定价。
赛博菩萨 yyds
2 个帖子 - 2 位参与者
阅读完整话题
via LINUX DO - 最新话题 (author: withoutsugar)