llama.cpp 现在已经支持对话模式了

效果上应该和 ChatGPT 还有一定的差距。

代码：https://github.com/ggerganov/llama.cpp

https://twitter.com/ggerganov/status/1635029136921214977

OpenAI 刚刚发布了GPT-4

稍后我会整理一下相关的信息（目前看起来是可以直接在 ChatGPT Plus 中使用这个模型）。

https://openai.com/research/gpt-4

实时更新 GPT-4 的一些信息

https://twitter.com/Tisoga/status/1635696124324630529

用 GPT-4 来阅读 GPT-4 的论文

研究 GPT-4 的一些笔记，欢迎分享

用 GPT-4 实现的 GPTLang 的解释器

https://github.com/forrestchang/gptlang

Peter Thiel 在《从零到一》这本书中提到：

创业者应该追求创造独特的市场，而不是只在现有市场上竞争，这意味着要创造一些新的东西，而不只是复制别人已经做过的事情。这需要创业者有勇气和创造力，但如果能够成功，就可以创造出真正有价值的公司。

可以在 Copilot Hub 上体验到 Sam Altman 这个 AI

https://app.copilothub.co/home

Google 基于 PaLM API 的产品：AI Test Kitchen

体验报告：
https://twitter.com/xinqiu_bot/status/1635923410097405954

Midjourney V4 和 V5 的效果对比

https://twitter.com/storybyphil/status/1636135645817995266

在 M2 的 Macbook Air 上进行 LLaMA 7B 模型的本地推理 🤯

虽然目前生成的效果还比较差，但是推理速度极快。真正做到了消费级硬件推理，开源社区生态发展太快了。

项目地址：https://github.com/antimatter15/alpaca.cpp

让 GPT-4 自动修复代码

一段包含错误的 Python 代码 -> 运行 -> 报错 -> GPT-4 修复 -> 运行 -> 报错 -> GPT-4 修复 -> 成功运行

自监督 debugging

https://twitter.com/i/status/1636880208304431104

https://twitter.com/bio_bootloader/status/1636880208304431104

在 Google Pixel 7 Pro 上运行 LLaMA 7B 的模型

现在 LLaMA 已经在以下设备上运行过了：

- Macbook M1 & M2
- 树莓派
- Google Pixel 7 Pro

https://twitter.com/rupeshsreeraman/status/1637124688290742276

复现 Stanford Alpaca InstructLLaMA 的代码库

https://github.com/tloen/alpaca-lora

Langchain agent 已经支持解析 OpenAI ChatGPT Plugin 来执行了。

- ChatGPT + ChatGPT Plugin -> iOS
- Other LLM + Langchain -> Android

Copilot Hub 现在正式发布了，并开放了自定义创建 Copilot 的能力

https://twitter.com/Tisoga/status/1640261647267938304

欢迎加入中文用户讨论组：https://t.me/+9oanfbRm-hxiYTA1

朋友们非常抱歉，最近一周多一直在忙着迭代 Copilot Hub，没有分出精力来更新这个频道，这个周末参加完 Hackathon 后，下周会重新开始更新。

这个频道后面不太想仅仅只做汇总信息，想做点不太一样的（具体还没构思好，评论区也可以讨论讨论）。

另外这个频道永远不会收费（不靠这个赚钱），不当信息差的镰刀，如果想要支持我们，可以去体验我们产品。

https://app.copilothub.co/

大家周末愉快😄

微软在昨天宣布开源了 Deep Speed Chat，能够帮助用户快速训练类 ChatGPT 的大语言模型。

未来可能大模型人手一个了，花个几百到几千刀就可以有一个自己的模型，私有部署。

这会衍生带来很多中间层的机会，比如做 LLM 的 optimization & fine-tuning，model serverless 服务等，甚至是全傻瓜式的一键 fine-tune & 部署的平台。

Copilot Hub 正在做这方面的研究 & 开发，目标是能够让每个人都能训练出自己 Copilot，可以跑在我们平台，也可以自己私有部署。

微软的开源项目地址：https://github.com/microsoft/DeepSpeed

Vicuna-7B 模型（前几天就发布了）

可以直接在 macbook 上跑，使用 pip install fschat 即可安装（但是还是需要自己下载 weights）。

7B 只需要 30GB 的 memory，项目还提供了一个基于 gradio 的 web ui。

开源项目地址：https://github.com/lm-sys/FastChat

https://twitter.com/lmsysorg/status/1644060638472470528

ShareGPT 是一个 chrome 插件，可以分享在 ChatGPT 上有意思的对话。

GitHub Repo 中提供了 API 的形式来调用 ShareGPT 上的数据，一个常见的做法是使用 ShareGPT 上的对话数据来作为其他 pre-train 模型的 instruction tuning 的 input data，可以训练出一个类似 gpt-3.5 的模型（效果略差）。

https://github.com/domeccleston/sharegpt

目前看过的最好的 prompt engineering 教程。

已经被翻译成了各种语言，不过看了一下，英文的是最准确的，因为中文的 prompt 只是英译中，非常不 native。

https://learnprompting.org/