请教佬友,公司想本地部署大模型
公司因为信息安全不能使用闭源模型服务,想本地部署大模型,目前有如下需求:
C/C++代码辅助:针对嵌入式开发的特点,提供高效的代码补全、注释生成和代码优化建议。
驱动与协议栈开发:辅助开发和完善芯片底层驱动、网络协议村我,根据硬件手册快速生成驱动代码框架。
日志与故障诊断:智能分析设备运行时产生的海量底层日志,快速定位内存泄漏、线程死锁、性能瓶颈等疑难
问题,缩短调试周期。
安卓中间件研发:
Java/Kotlin代码助手:在安卓系统服务、HAL层、定制化API开发中,提供精准的代码建议。
系统性能优化:分析系统性能跟踪数据,为优化启动时间、内存存占用、功耗等提供可行性建议。
兼容性测试分析:快速分析安卓CTS/VTS测试失败日志,定位相限因,提出修复方案。
通用赋能:
技术文档生成:自动生成芯片SDK、API接口文档、用户手册等,保证文档与代码的同步性。
内部知识问答:打造精通NFC连接技术的专家系统,解答研发过程中的技术问题。
想请教佬友们,开源的大模型哪些要更符合需求呢,看上去主要还是coding,debug之类的。
感谢感谢!
14 posts - 8 participants
Read full topic
via LINUX DO - 最新话题 (author: znlsl)
公司因为信息安全不能使用闭源模型服务,想本地部署大模型,目前有如下需求:
C/C++代码辅助:针对嵌入式开发的特点,提供高效的代码补全、注释生成和代码优化建议。
驱动与协议栈开发:辅助开发和完善芯片底层驱动、网络协议村我,根据硬件手册快速生成驱动代码框架。
日志与故障诊断:智能分析设备运行时产生的海量底层日志,快速定位内存泄漏、线程死锁、性能瓶颈等疑难
问题,缩短调试周期。
安卓中间件研发:
Java/Kotlin代码助手:在安卓系统服务、HAL层、定制化API开发中,提供精准的代码建议。
系统性能优化:分析系统性能跟踪数据,为优化启动时间、内存存占用、功耗等提供可行性建议。
兼容性测试分析:快速分析安卓CTS/VTS测试失败日志,定位相限因,提出修复方案。
通用赋能:
技术文档生成:自动生成芯片SDK、API接口文档、用户手册等,保证文档与代码的同步性。
内部知识问答:打造精通NFC连接技术的专家系统,解答研发过程中的技术问题。
想请教佬友们,开源的大模型哪些要更符合需求呢,看上去主要还是coding,debug之类的。
感谢感谢!
14 posts - 8 participants
Read full topic
via LINUX DO - 最新话题 (author: znlsl)
佬们是怎么减缓AI对于人类命运冲击的焦虑的?
希望各位佬友给点看法,分享各位的观点
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: HollowKnight)
希望各位佬友给点看法,分享各位的观点
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: HollowKnight)
分享一个自己做的玄学(八字,紫薇斗数等)的命盘计算MCP
看到L站里有很多玄学大佬藏龙卧虎,
就临时起意从自己大半年前做的赛博命理网站里将排盘算法扒出来独立成一个排盘MCP,希望能够为L站里的玄学爱好者们提供些方便。
众所周知即使现在最强的AI模型在排盘计算方面也是个残废,所以本MCP专注于排盘运限计算。
现在只支持八字以及紫薇排盘的基础计算功能。(分析解读方面AI自己擅长,不需要MCP帮忙)
ChesterRa/mingpan: 一个能够便捷地自动计算八字以及紫薇排盘信息的MCP工具
使用效果如下:
如果大家有兴趣,以后我再把六壬六爻梅花易数等的计算功能也扩充进去。欢迎大家沟通交流。
3 posts - 3 participants
Read full topic
via LINUX DO - 最新话题 (author: ikb)
Invalid media:
image
image
image
看到L站里有很多玄学大佬藏龙卧虎,
就临时起意从自己大半年前做的赛博命理网站里将排盘算法扒出来独立成一个排盘MCP,希望能够为L站里的玄学爱好者们提供些方便。
众所周知即使现在最强的AI模型在排盘计算方面也是个残废,所以本MCP专注于排盘运限计算。
现在只支持八字以及紫薇排盘的基础计算功能。(分析解读方面AI自己擅长,不需要MCP帮忙)
ChesterRa/mingpan: 一个能够便捷地自动计算八字以及紫薇排盘信息的MCP工具
使用效果如下:
如果大家有兴趣,以后我再把六壬六爻梅花易数等的计算功能也扩充进去。欢迎大家沟通交流。
3 posts - 3 participants
Read full topic
via LINUX DO - 最新话题 (author: ikb)
Invalid media:
image
image
image
完蛋腰废了!
突然之间一开始是两边痛,今天开始两个点连在一起了,没有性生活,没有体力劳动!
6 posts - 6 participants
Read full topic
via LINUX DO - 最新话题 (author: xiangmingya)
突然之间一开始是两边痛,今天开始两个点连在一起了,没有性生活,没有体力劳动!
6 posts - 6 participants
Read full topic
via LINUX DO - 最新话题 (author: xiangmingya)
xiaomi mimo开启思考的方法
关闭思考
开启思考
反常识的是一般这种单词没有d结尾的,如果填错了就没效果
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: JackBlue)
Invalid media:
image
image
关闭思考
"thinking": {"type": "disabled"}
开启思考
"thinking": {"type": "enabled"}
反常识的是一般这种单词没有d结尾的,如果填错了就没效果
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: JackBlue)
Invalid media:
image
image
Claude Gemini 地区不可用解决方案
Clash Verge 已经配置了代理节点,但 Claude 仍提示地区不受支持。哈吉米排查发现是浏览器 QUIC 协议导致的问题。在
PS:这样Gemini也不会突然历史记录不见了(断连)
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: LuckyWu)
Invalid media: image
Clash Verge 已经配置了代理节点,但 Claude 仍提示地区不受支持。哈吉米排查发现是浏览器 QUIC 协议导致的问题。在
chrome://flags 中搜索 Experimental QUIC protocol 调整成 Disabled 解决问题。PS:这样Gemini也不会突然历史记录不见了(断连)
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: LuckyWu)
Invalid media: image
有没有佬知道为什么订阅openai没有发送验证码按钮...
都没有发送验证码 我咋知道验证码多少…
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: 叶无缺)
Invalid media: image
都没有发送验证码 我咋知道验证码多少…
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: 叶无缺)
Invalid media: image
WONG公益站
wong公益api的前缀是什么啊,试了几次都不行,有成功的吗
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: 凌好好)
wong公益api的前缀是什么啊,试了几次都不行,有成功的吗
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: 凌好好)
ai studio绑卡300刀 如何使用最舒服
然后有哪些地方可能被反薅的需要注意的?
6 posts - 3 participants
Read full topic
via LINUX DO - 最新话题 (author: TANGLE)
然后有哪些地方可能被反薅的需要注意的?
6 posts - 3 participants
Read full topic
via LINUX DO - 最新话题 (author: TANGLE)
快报:小米AI限时免费,支持claude code
小米发布了大模型 MiMo-V2-Flash, 他们默认支持集成到 Cluade Code。关键是免费使用,这你受得了吗?
试了一下,还凑合,可以作为一个免费的平替。
https://platform.xiaomimimo.com/#/docs/integration/claude-code
13 posts - 10 participants
Read full topic
via LINUX DO - 最新话题 (author: sanbo.xyz)
Invalid media: image
小米发布了大模型 MiMo-V2-Flash, 他们默认支持集成到 Cluade Code。关键是免费使用,这你受得了吗?
试了一下,还凑合,可以作为一个免费的平替。
https://platform.xiaomimimo.com/#/docs/integration/claude-code
13 posts - 10 participants
Read full topic
via LINUX DO - 最新话题 (author: sanbo.xyz)
Invalid media: image
好耶!是无所不知(划掉)一无所知!
半年多了,终于拿到了呜呜呜 😭
spoiler
13 posts - 6 participants
Read full topic
via LINUX DO - 最新话题 (author: Godhelpsme)
Invalid media: image
半年多了,终于拿到了呜呜呜 😭
spoiler
13 posts - 6 participants
Read full topic
via LINUX DO - 最新话题 (author: Godhelpsme)
Invalid media: image
talktone号码成功注册美区pp
绑的是招商万事达借记卡,希望能多用两天 😋
4 posts - 3 participants
Read full topic
via LINUX DO - 最新话题 (author: 礼堂盯真)
绑的是招商万事达借记卡,希望能多用两天 😋
4 posts - 3 participants
Read full topic
via LINUX DO - 最新话题 (author: 礼堂盯真)
佬们你们觉得如今AI再发展多少年可以到达终结者电影里的程度
猜测到达银翼杀手,终结者的哪种AI科技程度需要多久?
6 posts - 6 participants
Read full topic
via LINUX DO - 最新话题 (author: HollowKnight)
猜测到达银翼杀手,终结者的哪种AI科技程度需要多久?
6 posts - 6 participants
Read full topic
via LINUX DO - 最新话题 (author: HollowKnight)
codex 5.2 xhigh 跑的好快啊
五小时限额一小时就跑满了
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: 菠萝吹雪)
Invalid media: image
五小时限额一小时就跑满了
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: 菠萝吹雪)
Invalid media: image
26秋招求助各位前辈,下一步应该怎么办
个人bg:双9,技术栈java,导不放实习,偷偷去水了一段金融科技公司后端,现在在ai初创中厂实习,说是大模型开发实习生但是更像是社区支持那种,没有接触具体开发。
秋招狂背八股+做项目,秋招拿了成都某银行开发java和上海某医疗器械cpp,大厂全g
求问佬们,现在我应该是继续春招冲java开发还是包装一下ai实习,再狂补agent开发相关,春招转一下agent呢。。孩子真的想去大厂 🥲
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: lennard_mM)
个人bg:双9,技术栈java,导不放实习,偷偷去水了一段金融科技公司后端,现在在ai初创中厂实习,说是大模型开发实习生但是更像是社区支持那种,没有接触具体开发。
秋招狂背八股+做项目,秋招拿了成都某银行开发java和上海某医疗器械cpp,大厂全g
求问佬们,现在我应该是继续春招冲java开发还是包装一下ai实习,再狂补agent开发相关,春招转一下agent呢。。孩子真的想去大厂 🥲
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: lennard_mM)
佬们,现在哪个顶级域还有收藏价值?真心求教
在cloudflare上注册了个四字uk的域名,才花了5刀,但是感觉没有com之类的辨识度高,想问问佬友的见解,求教一下,现在想搞AI服务哪种域名受欢迎 🤣
也想看看佬们注册过哪些 吊炸天 的域名,开拓一下思路哈哈
5 posts - 4 participants
Read full topic
via LINUX DO - 最新话题 (author: 莫一凹喵)
在cloudflare上注册了个四字uk的域名,才花了5刀,但是感觉没有com之类的辨识度高,想问问佬友的见解,求教一下,现在想搞AI服务哪种域名受欢迎 🤣
也想看看佬们注册过哪些 吊炸天 的域名,开拓一下思路哈哈
5 posts - 4 participants
Read full topic
via LINUX DO - 最新话题 (author: 莫一凹喵)
chagpt team 封号
大佬们,我 PayPal 新的账号支付的 0 欧 team,第二天就被封了。可能是我的 PayPal 问题还是我的节点环境问题😂。迷茫了
5 posts - 4 participants
Read full topic
via LINUX DO - 最新话题 (author: q100p)
Invalid media: image
大佬们,我 PayPal 新的账号支付的 0 欧 team,第二天就被封了。可能是我的 PayPal 问题还是我的节点环境问题😂。迷茫了
5 posts - 4 participants
Read full topic
via LINUX DO - 最新话题 (author: q100p)
Invalid media: image
请教一下,xyai的chatGPT buinses
请问下各位佬,xyai那个非质保,的使用期限是多久呀,或者说用量是多少呀,新学会用不知道在哪里查呀
感谢哈
2 posts - 2 participants
Read full topic
via LINUX DO - 最新话题 (author: 脏螂)
请问下各位佬,xyai那个非质保,的使用期限是多久呀,或者说用量是多少呀,新学会用不知道在哪里查呀
感谢哈
2 posts - 2 participants
Read full topic
via LINUX DO - 最新话题 (author: 脏螂)
求助关于api key的问题
情况描述:我用谷歌的AI studio开发了一个网页,其中的AI功能需要调用gemini api,但是在AI studio里面谷歌似乎给了一个默认的api地址和key,然后我在AI studio这个平台上进行AI调用的时候是不需要我自己输入api key就能完成调用。我于是把它保存到本地,准备用cursor继续开发完善,然后cursor问我要api key的时候,我就把一个中转的api地址和key给了它,但是最后开发出来就是gemini服务不可用。虽然中转站的商家给的key包含的功能比较杂,就是sk开头的openAI兼容key,然后claude,gemini,gpt这些都可以调用,我自己在chatbox和cherrystudio都测试过可以联通,但是不知道为什么在本地替换就不行。我最后还是把api节点和key都换成谷歌官方的之后,才能继续使用。请问大佬们对这个问题有什么见解吗?
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: Faraday Rene)
情况描述:我用谷歌的AI studio开发了一个网页,其中的AI功能需要调用gemini api,但是在AI studio里面谷歌似乎给了一个默认的api地址和key,然后我在AI studio这个平台上进行AI调用的时候是不需要我自己输入api key就能完成调用。我于是把它保存到本地,准备用cursor继续开发完善,然后cursor问我要api key的时候,我就把一个中转的api地址和key给了它,但是最后开发出来就是gemini服务不可用。虽然中转站的商家给的key包含的功能比较杂,就是sk开头的openAI兼容key,然后claude,gemini,gpt这些都可以调用,我自己在chatbox和cherrystudio都测试过可以联通,但是不知道为什么在本地替换就不行。我最后还是把api节点和key都换成谷歌官方的之后,才能继续使用。请问大佬们对这个问题有什么见解吗?
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: Faraday Rene)
我的Steam年度总结,玩的太少导致的
我不是深度steam玩家 🥲
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: skeujam)
Invalid media: image
我不是深度steam玩家 🥲
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: skeujam)
Invalid media: image
【自荐】AI 加持,一键把 CSS 秒变 Tailwind CSS的浏览器插件
目前在工作中有一些项目强制要求使用Tailwind CSS,但是Tailwind的规则确实太多而且不好记,很多比较生僻的样式都得临时查才知道,很影响效率。为了省点事,我自己写了个 Chrome 插件,能自动把 CSS 转换成 Tailwind 语法。自用了几天感觉挺顺手,现在分享给佬友们试试~如果遇到 bug,或者有想加的新功能,欢迎随时提建议!
开源地址:GitHub - Leeero/css-to-tailwind
v0.1.1版本:
css-to-tailwind-v0.1.1.zip (608.2 KB)
CSS to Tailwind
一款 Chrome 浏览器扩展,可在 AI 与本地引擎之间切换,将 CSS 片段转换为 Tailwind CSS 类名。
功能特性
● AI / 本地双引擎切换:配置页可选择“优先使用 AI”或“仅本地引擎”
● AI 流式响应:实时显示生成过程,降低感知等待
● 开源本地引擎兜底:内置
● 自定义前缀:为生成类名添加前缀(如
● 隐私安全:API Key 保存在本地
安装使用
开发模式
加载扩展
1. 打开 Chrome,访问
2. 开启右上角「开发者模式」
3. 点击「加载已解压的扩展程序」
4. 选择项目
配置说明
点击扩展图标右上角的设置按钮,进入配置页面:
| 配置项 | 说明 | 示例 |
|--------|------|------|
| API 基础地址 | 兼容 OpenAI 格式的 API 地址 |
| API Key | 你的 API 密钥 |
| 模型标识 | 使用的模型名称 |
| 温度 | 生成随机性,越低越稳定 |
| 最大 Tokens | 响应最大长度 |
| 类名前缀 | 可选,为类名添加前缀 |
| 解析方式 |
● 本地引擎行为:无 API 时自动使用
● AI 失败兜底:AI 请求出错时自动退回本地引擎。
推荐配置
推荐使用 硅基流动 的免费模型(如
技术栈
● React 18 + TypeScript
● Vite + @crxjs/vite-plugin
● Ant Design
● Tailwind CSS
● 本地引擎:
1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: 李四)
目前在工作中有一些项目强制要求使用Tailwind CSS,但是Tailwind的规则确实太多而且不好记,很多比较生僻的样式都得临时查才知道,很影响效率。为了省点事,我自己写了个 Chrome 插件,能自动把 CSS 转换成 Tailwind 语法。自用了几天感觉挺顺手,现在分享给佬友们试试~如果遇到 bug,或者有想加的新功能,欢迎随时提建议!
开源地址:GitHub - Leeero/css-to-tailwind
v0.1.1版本:
css-to-tailwind-v0.1.1.zip (608.2 KB)
CSS to Tailwind
一款 Chrome 浏览器扩展,可在 AI 与本地引擎之间切换,将 CSS 片段转换为 Tailwind CSS 类名。
功能特性
● AI / 本地双引擎切换:配置页可选择“优先使用 AI”或“仅本地引擎”
● AI 流式响应:实时显示生成过程,降低感知等待
● 开源本地引擎兜底:内置
css-to-tailwindcss,即便无 API 也能转换● 自定义前缀:为生成类名添加前缀(如
s-flex、s-mt-4)● 隐私安全:API Key 保存在本地
chrome.storage.sync,不上传服务器安装使用
开发模式
# 安装依赖
npm install
# 启动开发服务器
npm run dev
# 构建生产版本
npm run build
加载扩展
1. 打开 Chrome,访问
chrome://extensions/2. 开启右上角「开发者模式」
3. 点击「加载已解压的扩展程序」
4. 选择项目
dist 目录配置说明
点击扩展图标右上角的设置按钮,进入配置页面:
| 配置项 | 说明 | 示例 |
|--------|------|------|
| API 基础地址 | 兼容 OpenAI 格式的 API 地址 |
https://api.siliconflow.cn || API Key | 你的 API 密钥 |
sk-xxxxx || 模型标识 | 使用的模型名称 |
Qwen/Qwen2.5-7B-Instruct || 温度 | 生成随机性,越低越稳定 |
0.2 || 最大 Tokens | 响应最大长度 |
800 || 类名前缀 | 可选,为类名添加前缀 |
s- || 解析方式 |
优先使用 AI(默认)/ 仅本地引擎 | — |● 本地引擎行为:无 API 时自动使用
css-to-tailwindcss;纯声明输入会自动包裹临时选择器确保可解析。● AI 失败兜底:AI 请求出错时自动退回本地引擎。
推荐配置
推荐使用 硅基流动 的免费模型(如
Qwen/Qwen2.5-7B-Instruct),即可满足 CSS 转换需求。技术栈
● React 18 + TypeScript
● Vite + @crxjs/vite-plugin
● Ant Design
● Tailwind CSS
● 本地引擎:
css-to-tailwindcss1 post - 1 participant
Read full topic
via LINUX DO - 最新话题 (author: 李四)