厘米碎碎念
https://github.com/Level/level
因为贫穷,所以优化。找了半天没找到 cf 限额的地方,看过一次推友展示防御账单,一晚上大几千刀。
感觉 redis 配合 level 是最实惠的方案了,虽然要手动绑定一次 key value,但是不会爆炸内存。redis 用来做功能性的业务,定时和通信。level 帮 redis 存数据到硬盘,顺便做了持久化。
而且这个是磁盘读写,比 redis 网络读写还要快,没有网络问题。硬盘比内存便宜多了。
感觉 redis 配合 level 是最实惠的方案了,虽然要手动绑定一次 key value,但是不会爆炸内存。redis 用来做功能性的业务,定时和通信。level 帮 redis 存数据到硬盘,顺便做了持久化。
而且这个是磁盘读写,比 redis 网络读写还要快,没有网络问题。硬盘比内存便宜多了。
👍2
Forwarded from 摸鱼集市 (魔法小猫)
This media is not supported in your browser
VIEW IN TELEGRAM
新的 LLM + L2D + VRM 项目 アイリ
自从 Neuro-sama 去年开始越来越火之后我就很喜欢 Neuro,一直都想要试试看复刻一个自己的 Neuro,让 LLM 和 Live2D 配合起来一起工作。
这两天在和别的伙伴一起写 LLM 相关的工具 xsai(已经开源了,而且 Airi 是由它驱动的,相比 Vercel AI SDK 轻量一些),想起来之前 5 月底就在实验的 Neuro 后面一直都咕咕咕,现在做了 VRM 的集成,感觉也还算是可以拉出来给大家玩玩看了,所以折腾折腾了一番后部署到了 https://airi.ayaka.io
现在和未来
- 纯前端技术实现
- 能做表情
- 能遵循指令
- 写了实时交互的代码,这两天还在整理,稍后再更新
- 我想要我的 Airi 也可以玩游戏,所以最近也在看怎么样可以让 LLM 玩好 Factorio
- 有个非常巨大的文档记述了这段开发的经历,稍后会当作编年史文档添加到开源仓库的
游玩须知:
1. 需要 LLM 后端,Ollama,和兼容 OpenAI API 格式的都可以
2. 语音是 ElevenLabs 驱动的,如果不填这个 key 的话也可以玩
附言:
Q: 开源吗?
A: 稍后会开源的。
Q: 我也可以参与进来一起做吗?
A: 当然可以呀,给我发一个 GitHub ID 就可以邀请你了。
Q: 怎么做到的?
A: 类似 Code as policy,或者可以参考我之前的公司晨会分享 Slide
Q: 3D 模型怎么接的?
A: Tresjs + @pixiv/three-vrm
自从 Neuro-sama 去年开始越来越火之后我就很喜欢 Neuro,一直都想要试试看复刻一个自己的 Neuro,让 LLM 和 Live2D 配合起来一起工作。
这两天在和别的伙伴一起写 LLM 相关的工具 xsai(已经开源了,而且 Airi 是由它驱动的,相比 Vercel AI SDK 轻量一些),想起来之前 5 月底就在实验的 Neuro 后面一直都咕咕咕,现在做了 VRM 的集成,感觉也还算是可以拉出来给大家玩玩看了,所以折腾折腾了一番后部署到了 https://airi.ayaka.io
现在和未来
- 纯前端技术实现
- 能做表情
- 能遵循指令
- 写了实时交互的代码,这两天还在整理,稍后再更新
- 我想要我的 Airi 也可以玩游戏,所以最近也在看怎么样可以让 LLM 玩好 Factorio
- 有个非常巨大的文档记述了这段开发的经历,稍后会当作编年史文档添加到开源仓库的
游玩须知:
1. 需要 LLM 后端,Ollama,和兼容 OpenAI API 格式的都可以
2. 语音是 ElevenLabs 驱动的,如果不填这个 key 的话也可以玩
附言:
Q: 开源吗?
A: 稍后会开源的。
Q: 我也可以参与进来一起做吗?
A: 当然可以呀,给我发一个 GitHub ID 就可以邀请你了。
Q: 怎么做到的?
A: 类似 Code as policy,或者可以参考我之前的公司晨会分享 Slide
Q: 3D 模型怎么接的?
A: Tresjs + @pixiv/three-vrm