DPS Build
934 subscribers
139 photos
3 videos
10 files
487 links
AI, coding, data science and startups
Download Telegram
Channel created
一键安装 LLaMA 之后,在一台 M1 Mac Mini 上跑起了 7B 的模型,速度还OK。大概吃了4G 内存。

这台是 16G 内存,8核的 M1 CPU。
Unum 使用四块 RTX 3090 显卡就能训练一个比 OpenAI 还要好的 Vision-Language transformer 模型 -- UForm。要知道 OpenAI 用了 1024块 A100 显卡才训练出来。

UForm 不仅各方面表现优于 OpenAI 的 CLIP,而且推算速度也大大优于 CLIP。

对了,Unum 是一家在亚美尼亚的初创公司,目前只有13个人。

https://www.unum.cloud/blog/2023-02-20-efficient-multimodality

#ml
巴黎理工大学的 Marc Lelarge 教授准备的手把手深度学习教程,有不少是用 Julia 写的。

https://dataflowr.github.io/

#ml #mooc
👍1
OpenAI 发布了 ChatGPT Turbo 和 whisper 两个 API。

ChatGPT Turbo 的价格是之前的十分之一

Whisper 是语音转文字 (ASR) 的 API

https://twitter.com/openai/status/1630992406542970880

#ml #api
各种开发者分享自己硬件配置的网站,有非常酷炫的配置,每周五更新。

https://hackerstations.com/
👍1
一个近乎免费使用 chatGPT 的方法:

1. 在 OpenAi 上注册一个账号;
2. 然后在开发者页面的配置里生成一个 API key:https://platform.openai.com;
3. 将这个 API key 放到你本地的环境变量里 export OPENAI_API_KEY=<YOUR_OPENAI_API_KEY>
4. 安装 OpenAI 的 Python 包:pip install openai
5. 把下面这篇文章里的 cli.py 这个脚本放到你的本地目录
6. 执行 python cli.py,你就在自己的 terminal 里获得了一个几乎免费的 chatGPT。
7. 添加快捷键:alias='chat python3 DIR_to_clip.py',绑定上面 clip.py 的绝对路径到 chat,这样在 terminal 里敲 chat,就可以启动 chatGPT 了

OpenAI 给每个开发者18美金的免费额度,注册后三个月内可以使用。即使这些额度到期了,也比 chatGPT 的每月20美金的付费计划要便宜很多。因为调用 API 的话,每一百万个 token 才收费2美金。所以个人使用的话,基本上免费。

而且你可以用到最新的 chatGPT 3.5 Turbo 模型,比起免费的 chatGPT 要快很多。另外,也几乎不用等待。

https://medium.com/@FrancescoZ/how-to-use-chatgpt-with-python-e7a8868e6034
👍13
一个在 telegram 里搭建 chatGPT bot 的方案,可以自行把模型改成最新的 GPT3.5-Turbo

https://github.com/karfly/chatgpt_telegram_bot

#ml
一个更简便的 ChatGPT 方案 -- 直接在你的 iPhone 上使用 chatGPT

1. 你可以在 macOS 上配置这一方案,然后在 iPhone 上使用
2. 全程不需要任何编程技巧,只要粘贴一个 OpenAI 的 API key 就行
3. 下载的 shortcut 可能不会弹出输入 API key 的对话框。没关系,只要在上面截图里的位置里贴上你的 API key 就行。
4. 配置完之后,可以在 iPhone 上的 short cut 里打开,然后选择添加到桌面,这样你的 iPhone 上就有了一个免费的 chatGPT app。

https://pinchlime.com/blog/chatgpt-api-shortcut/

#ml
👍2