DPS Build

Here we show a proof of concept using OpenAI’s chatgpt-retrieval-plugin with Meta’s LLaMA language model.
This is more than just a guide. It is a call-to-action to build an open protocol for foundation model plugins allowing us to share plugins across LLMs, and govern their interactions.

https://medium.com/m/global-identity-2?redirectUrl=https%3A%2F%2Fblog.lastmileai.dev%2Fusing-openais-retrieval-plugin-with-llama-d2e0b6732f14

GitHub

GitHub - openai/chatgpt-retrieval-plugin: The ChatGPT Retrieval Plugin lets you easily find personal or work documents by asking…

The ChatGPT Retrieval Plugin lets you easily find personal or work documents by asking questions in natural language. - openai/chatgpt-retrieval-plugin

384 views07:10

DPS Build

一些中外的独立开发者，包括他们的作品和独立开发经历：

https://reorx.com/blog/indie-makers-im-following/

Reorx

我关注的独立开发者们 | Reorx’s Forge

列举一些我所知的独立开发者们，让更多的人看到他们的经历和作品，获得启发。

👍1

384 views10:10

DPS Build

使用 postgres 的 pgvetor 插件来存储 embedding 数据，作为 LLM 的输入。

https://supabase.com/blog/openai-embeddings-postgres-vector

Supabase

Storing OpenAI embeddings in Postgres with pgvector

An example of how to build an AI-powered search engine using OpenAI's embeddings and PostgreSQL.

👍1

404 views16:40

DPS Build

围绕着 ChatGPT API 写了两周代码，记录一些想法： 1. ChatGPT API 自 gpt-turbo-3.5 发布以来，做了大大的简化。只需要在请求里写两个参数：model 和 messages，其他参数都被隐藏了。 2. 需要调整输出的话，只需要在 messages 写 prompts，通过自然语言就能控制模型的输出。大大降低了开发难度，又给输出添加了无限可能 3. 不仅 API 的交互得以大大简化，围绕着 ChatGPT API 开发的话，也可以大大简化整个 NLP 项目的开发。它…

最近又被拉着写 prompt。大前提是，隔壁组的数据出了问题，他们期望用 ChatGPT API 来批量清洗数据，他们在 ChatGPT UI 上做了测试，然后丢到我们手上。

我了解了需求之后，没看他们的 prompt，直接凭经验开始做各种尝试，最后试出了一个还不错的 prompt。于是封装成函数之后，交给后端的同事集成到流水线上。

我们跑了一小批数据，结果还不错，但是对照着隔壁组的要求，似乎不完全一致。于是后端同事直接把隔壁组的 prompt 搬进流水线里，又测试了一遍，结果和 ChatGPT UI 上的结果完全不一样。我们猜测是因为 ChatGPT UI 上还有一些后处理的逻辑。又测试了一些 prompts 之后，最后还是我提供的 prompts 效果最好。

Takeaways:

1. ChatGPT UI 和 ChatGPT API 的 prompts 不完全一致，前者有后处理逻辑，后者应该是模型直接的输出结果；
2. prompts 的确需要不断地尝试，所以 prompt engineering 可能真的是一门学问。

👍9

441 viewsedited 01:49

DPS Build

论如何写 prompts 的重要性：

https://twitter.com/cydiar404/status/1640399013345214479

👎1

396 views04:50

DPS Build

关于 Apple neural engine 的细节 https://github.com/hollance/neural-engine

读了一遍 repo 里所有的文档，有些很有意思的点：

1. Apple Neural Engine (ANE) 是和 CPU/GPU 不一样的计算核心，专门用来处理神经网络的计算。理想的情况下，最好把所有神经网络的计算任务交给 ANE，而不是 CPU 或者 GPU；

2. 但是呢，我们无法强制指定任务给 ANE，只能告诉任务去尝试使用 ANE。大体的原因是因为，不是所有的 layer 都可以在 ANE 里计算。Core ML 会把合适的 layer 放在 ANE 里计算，把不合适的放在 CPU 或者 GPU 里计算；

3. 也就是说 Core ML 会自行判断具体的 layer 调用哪个计算核心，CPU / GPU / ANE，所以开发者只能不断尝试，将不支持的 layer 替换成支持 ANE 的 layer。

388 views06:43

DPS Build

湾区日报恢复更新了。，只剩这个网站了，iOS app 什么的都没有了。

https://www.wanqu.co/

www.wanqu.co

湾区日报

关注创业，互联网，技术。就像是你远方的老朋友每天推荐几篇优质英文文章，一起每天进步一点点。在 AI
横行的年代，更需要人类的手动推荐，手动点评；人类好的品味不会被 AI 淘汰的。 by W @ San Francisco

396 views08:15

DPS Build

斯坦福开源了一个机械手臂方案，可以做非常精确的操作，比如从钱包里取出证件，用乒乓球拍颠球等等

https://twitter.com/tonyzzhao/status/1640393026341322754

391 views12:10

DPS Build

两个德国开发者用 Rust 写了一套可以取代 LaTex 的方案。真是厉害，还自己写了从 Typst 生成 PDF 的库。

https://t.me/tms_ur_way/2633

DPS Main

Typst：一个定位于替代 LaTex 的学术写作方案

1. 语法比 Markdown 稍微复杂一点，但远远比 LaTeX 简单；
2. 已经有预设的格式模版，可以一键导入，比如 IEEE，Oxford，APA 等等；
3. 有线上编辑平台，类似于 Overleaf 那样，可以多人同时协作；

https://typst.app/

https://typst.app/about/

👍1

406 views13:52

DPS Build

gpt4all: a chatbot trained on a massive collection of clean assistant data including code, stories and dialogue

demo 是在一台 M1 的 Mac 上跑的，输出非常快

https://github.com/nomic-ai/gpt4all

GitHub

GitHub - nomic-ai/gpt4all: GPT4All: Run Local LLMs on Any Device. Open-source and available for commercial use.

GPT4All: Run Local LLMs on Any Device. Open-source and available for commercial use. - nomic-ai/gpt4all

👍4

407 viewsedited 01:30

DPS Build

用 ChatGPT API 来辅助解析抓取下来的网页，只要写 prompts 就能清洗数据。

想法是挺好的，不过这么调取 ChatGPT 估计跟贵吧？

https://github.com/Smyja/blackmaria/tree/main/blackmaria

GitHub

blackmaria/blackmaria at main · smyja/blackmaria

Python package for webscraping in Natural language - blackmaria/blackmaria at main · smyja/blackmaria

401 views03:55

DPS Build

Lighiting AI 发布了一个更小的 LLM 模型

https://github.com/Lightning-AI/lit-llama

GitHub

GitHub - Lightning-AI/lit-llama: Implementation of the LLaMA language model based on nanoGPT. Supports flash attention, Int8 and…

Implementation of the LLaMA language model based on nanoGPT. Supports flash attention, Int8 and GPTQ 4bit quantization, LoRA and LLaMA-Adapter fine-tuning, pre-training. Apache 2.0-licensed. - Ligh...

402 views14:15

DPS Build

一个人，一个 app，一亿下载量

https://t.me/tms_ur_way/2636

DPS Main

Daily Productive Sharing 684 - Widgetsmith Downloaded 100,000,000 Times

David Smith 创建的 Widgetsmith 突破了一亿下载大关，他回顾了这一历程：
1 他坚持了十二年，创建了59个 app，经历了无数次失败，才有今天的成功；
2 Widgetsmith 于2020年9月发布，两年半就达成了一亿下载量。可能是独立开发者创建的最成功的产品；
3 他感谢了 iOS 团队开发的 SDK ，也感谢了所有的用户，当然还有…

368 views02:01

DPS Build

Guardrails is a Python package that lets a user add structure, type and quality guarantees to the outputs of large language models (LLMs)

At the heart of Guardrails is the rail spec. rail is intended to be a language-agnostic, human-readable format for specifying structure and type information, validators and corrective actions over LLM outputs.

https://github.com/ShreyaR/guardrails

GitHub

GitHub - guardrails-ai/guardrails: Adding guardrails to large language models.

Adding guardrails to large language models. Contribute to guardrails-ai/guardrails development by creating an account on GitHub.

380 views04:15

DPS Build

一个人，一个 app，一亿下载量 https://t.me/tms_ur_way/2636

一个人，一个工具，能卖50万美金

https://t.me/tms_ur_way/2638

DPS Main

Daily Productive Sharing 685 - A $500K Acquisition Offer

来自越南的独立开发者 Tony Dinh 最近收到了一个产品收购邀约，他分享了整个历程以及所学到的经验：
1 收购方两次报价分别为30万美金和50万美金，都低于 Tony 的预期；
2 对于 Tony 而言，他认为自己会卖掉这一产品的情形要满足三个条件：不再对这一产品感兴趣，不再相信它会增长，而且急需现金；
3 从收购方而言，他们的资金来自于各种借款和投资，所以他们不会先行支付大量现金；…

381 views02:15

DPS Build

Stable Diffusion 推出了在线的图片编辑器

https://beta.dreamstudio.ai/