电子书:动手学大模型应用开发
地址:datawhalechina.github.io/llm-universe/
datawhale出品。
本项目是一个面向小白开发者的大模型应用开发教程,旨在结合个人知识库助手项目,通过一个课程完成大模型开发的重点入门,主要内容包括:
----大模型简介,何为大模型、大模型特点是什么、LangChain 是什么,针对小白开发者的简单介绍;
----如何调用大模型 API,本节介绍了国内外知名大模型产品 API 的多种调用方式,包括调用原生 API、封装为 LangChain LLM、封装为 Fastapi 等调用方式,同时将包括百度文心、讯飞星火、智谱AI等多种大模型 API 进行了统一形式封装;
----大模型开发流程及架构,大模型应用开发的基本流程、一般思想和本项目的架构分析;
----数据库搭建,不同类型知识库文档的加载、处理,向量数据库的搭建;
----Prompt 设计,如何设计 Prompt 来让大模型完成特定任务,Prompt Engineering 的原则和技巧有哪些;
----验证迭代,大模型开发如何实现验证迭代,一般的评估方法有什么;
----前后端开发,如何使用 Gradio、FastAPI 等框架快速开发大模型 Demo,展示应用能力。
地址:datawhalechina.github.io/llm-universe/
datawhale出品。
本项目是一个面向小白开发者的大模型应用开发教程,旨在结合个人知识库助手项目,通过一个课程完成大模型开发的重点入门,主要内容包括:
----大模型简介,何为大模型、大模型特点是什么、LangChain 是什么,针对小白开发者的简单介绍;
----如何调用大模型 API,本节介绍了国内外知名大模型产品 API 的多种调用方式,包括调用原生 API、封装为 LangChain LLM、封装为 Fastapi 等调用方式,同时将包括百度文心、讯飞星火、智谱AI等多种大模型 API 进行了统一形式封装;
----大模型开发流程及架构,大模型应用开发的基本流程、一般思想和本项目的架构分析;
----数据库搭建,不同类型知识库文档的加载、处理,向量数据库的搭建;
----Prompt 设计,如何设计 Prompt 来让大模型完成特定任务,Prompt Engineering 的原则和技巧有哪些;
----验证迭代,大模型开发如何实现验证迭代,一般的评估方法有什么;
----前后端开发,如何使用 Gradio、FastAPI 等框架快速开发大模型 Demo,展示应用能力。
10 个帮助你更好入门编程的网站和工具--很全面!
1)devv AI
是一款专门面向于开发者的搜索引擎,目的是代替开发者日常使用 Google / StackOverflow / 文档的场景。
http://devv.ai
2)Immersive Translate(沉浸式翻译)
这个插件基本上已经成为了日常使用次数最多工具之一,支持沉浸式翻译网页,并且背后可以选择多个翻译引擎(日常使用最多的是 DeepL 和 ChatGPT)。 因为后面推荐的大部分内容均为英文内容,可以借助这个工具来进行翻译对照学习。
https://immersivetranslate.com/?force=1
3)Python Tutor
这个网站可以非常直观地把 Python / Java / C / C++ / JavaScript 等语言的运行过程以可视化的方式展示出来,方便初学者理解整个程序的每一步状态。 图为快速排序的运行流程。
https://pythontutor.com
4)freeCodeCamp freeCodeCamp
应该是最大的编程教程网站,上面几乎有你想要了解的任何编程资源,从编程语言到各种从零到一的 Project,有接近 10000 篇教程。 对于一门技术不熟悉就可以先到这里搜索一下。
https://freecodecamp.org/chinese/
5)Replit Replit
是一个在线的 IDE 和代码社区,可以直接在线运行多种语言的代码。 并且社区中拥有大量的开源项目,可以在其他人的项目上进行二次开发,并直接在线上编译运行发布。
https://replit.com
6)GitHub
聊到开发就可能绕过世界上最大的开源项目平台 GitHub。在使用这个网站之前可以先学习一下 git 这个版本控制系统的使用。 熟悉了 GitHub 之后可以每天了解 trending 项目,并且也可以参与到其他人的开源项目中去。
https://github.com
7)Awesome First PR Opportunities 熟悉了 git 和 GitHub 之后就可以开始你的第一个开源项目贡献了。想象一下,如果在求职的时候,简历中有过 Python, React, k8s 等知名开源项目的经验,肯定会脱颖而出。
https://github.com/MunGell/awesome-for-beginners
8)计算机自学指南
很多同学可能并不是科班出生,但是没有关系,计算机和编程是最不需要在学校里学习的一门专业了。 这个网站列出了几乎 CS 所有领域的网上课程,并且每个课程都包含相关介绍。
https://csdiy.wiki
9)Build Your Own X
有了一定的编程基础之后,是时候来写一些大型的项目了。
比如: - 实现一个虚拟机(Docker) - 实现一个操作系统 - 实现一个 3D 渲染器
https://github.com/codecrafters-io/build-your-own-x
10)Hacker News & /r/programming
有了编程技能还不够,编程是一门发展非常快速的行业,所以如果需要了解最新的技术咨询、行业动态,查看最一手的资讯是最重要的。
只看这两个信息源就足够了:
Hacker News: https://news.ycombinator.com
Reddit Programming: https://reddit.com/r/programming/
1)devv AI
是一款专门面向于开发者的搜索引擎,目的是代替开发者日常使用 Google / StackOverflow / 文档的场景。
http://devv.ai
2)Immersive Translate(沉浸式翻译)
这个插件基本上已经成为了日常使用次数最多工具之一,支持沉浸式翻译网页,并且背后可以选择多个翻译引擎(日常使用最多的是 DeepL 和 ChatGPT)。 因为后面推荐的大部分内容均为英文内容,可以借助这个工具来进行翻译对照学习。
https://immersivetranslate.com/?force=1
3)Python Tutor
这个网站可以非常直观地把 Python / Java / C / C++ / JavaScript 等语言的运行过程以可视化的方式展示出来,方便初学者理解整个程序的每一步状态。 图为快速排序的运行流程。
https://pythontutor.com
4)freeCodeCamp freeCodeCamp
应该是最大的编程教程网站,上面几乎有你想要了解的任何编程资源,从编程语言到各种从零到一的 Project,有接近 10000 篇教程。 对于一门技术不熟悉就可以先到这里搜索一下。
https://freecodecamp.org/chinese/
5)Replit Replit
是一个在线的 IDE 和代码社区,可以直接在线运行多种语言的代码。 并且社区中拥有大量的开源项目,可以在其他人的项目上进行二次开发,并直接在线上编译运行发布。
https://replit.com
6)GitHub
聊到开发就可能绕过世界上最大的开源项目平台 GitHub。在使用这个网站之前可以先学习一下 git 这个版本控制系统的使用。 熟悉了 GitHub 之后可以每天了解 trending 项目,并且也可以参与到其他人的开源项目中去。
https://github.com
7)Awesome First PR Opportunities 熟悉了 git 和 GitHub 之后就可以开始你的第一个开源项目贡献了。想象一下,如果在求职的时候,简历中有过 Python, React, k8s 等知名开源项目的经验,肯定会脱颖而出。
https://github.com/MunGell/awesome-for-beginners
8)计算机自学指南
很多同学可能并不是科班出生,但是没有关系,计算机和编程是最不需要在学校里学习的一门专业了。 这个网站列出了几乎 CS 所有领域的网上课程,并且每个课程都包含相关介绍。
https://csdiy.wiki
9)Build Your Own X
有了一定的编程基础之后,是时候来写一些大型的项目了。
比如: - 实现一个虚拟机(Docker) - 实现一个操作系统 - 实现一个 3D 渲染器
https://github.com/codecrafters-io/build-your-own-x
10)Hacker News & /r/programming
有了编程技能还不够,编程是一门发展非常快速的行业,所以如果需要了解最新的技术咨询、行业动态,查看最一手的资讯是最重要的。
只看这两个信息源就足够了:
Hacker News: https://news.ycombinator.com
Reddit Programming: https://reddit.com/r/programming/
📺TikTokDownloader - 一个开源的 TikTok/抖音 数据采集工具
📖文档
📄该工具支持采集数据:
▫️TikTok 主页/视频/图集/原声
▫️抖音主页/视频/图集/收藏/直播/原声/合集/评论/账号/搜索/热榜
同时支持批量采集,功能比较全面
📑相关阅读
▫️一个开源的小红书作品采集工具(同作者)
▫️TikTokWeb - 一个开源的网页版 Tiktok 下载工具
▫️SnapTik - 免费在线下载无水印、高画质 Tiktok 视频
▫️Proxitok - 一个开源的 TikTok 的替代前端
📖文档
📄该工具支持采集数据:
▫️TikTok 主页/视频/图集/原声
▫️抖音主页/视频/图集/收藏/直播/原声/合集/评论/账号/搜索/热榜
同时支持批量采集,功能比较全面
📑相关阅读
▫️一个开源的小红书作品采集工具(同作者)
▫️TikTokWeb - 一个开源的网页版 Tiktok 下载工具
▫️SnapTik - 免费在线下载无水印、高画质 Tiktok 视频
▫️Proxitok - 一个开源的 TikTok 的替代前端
得到12.25-31
链接:https://pan.baidu.com/s/1HesX3MorxZXzIKspk4bttA?pwd=7g9j
提取码:7g9j
2024新年规划【合集】
https://www.alipan.com/s/dsiTT1i1KXU
香帅中国财富报告(2024)
链接:https://pan.baidu.com/s/1hvH8_5CO2YIimBpNlgL4OQ?pwd=7541
提取码:7541
何帆中国经济报告(2024)
链接:https://pan.baidu.com/s/1PIwH4t7bZC-yRhNofUbC9g?pwd=vm92
提取码:vm92
2023 年 AI 领域重大事件的总结
https://journal.everypixel.com/2023-the-year-of-ai
年终总结
https://www.manjusaka.blog/posts/2023/12/29/per-aspera-ad-astra/
年终盘点大赏
https://m.okjike.com/topics/56699d22f16dda1100acece0
Notion 2024布局:https://httishere666.notion.site/2024-8300d65a6a5d4ae9be7524290651aa97?pvs=4
2024年度计划模板链接
https://flowus.cn/share/6391a699-62f5-44a6-884e-039d184019c3?promotionChannel=BZ_zcl_26
跨年演讲合集!
01、刘润【进化的力量】
https://mp.weixin.qq.com/s/Pp4azSKcPM1BCsPwsEgjqA
02、罗振宇【时间的朋友】
https://mp.weixin.qq.com/s/MURS8WmEAjNunajn8I4v-Q
03、吴晓波【定力至上】
https://mp.weixin.qq.com/s/a-HdqMYvUeyDu8hIWAeNUQ
04、任泽平【点燃希望·乐观者前行】
https://mp.weixin.qq.com/s/nMI28KCgguUSsSW3n4nBgQ
05、邱震海【六大转折,看清动荡年代蕴藏的机会!】
https://mp.weixin.qq.com/s/RWNp5HFvWBBE7DlXa3ZJ7w
06、笔记侠柯洲【看,他们在风浪中崛起】
https://mp.weixin.qq.com/s/e3wDtcosqFfVRue910pd3Q
07、崔璀【优势2024,做自己喜欢又擅长的事】
https://mp.weixin.qq.com/s/aRHgTTcMiL97LZ2GgJKexg
08、古典【认命不认输,回来做自己】
https://mp.weixin.qq.com/s/7GhMJo52s7ZKmfgO4gZhHQ
09、秋叶【不内卷,不直播,也能有红利】
https://mp.weixin.qq.com/s/vvnOet0tGQUYblnnGhvXnA
2023-2024跨年晚会合集
https://www.alipan.com/s/ybs523pofwP
2023年各行各业重点报告-390份
https://www.alipan.com/s/ZEWx98sTyaD
S 三D队 剧版(2023)
https://www.alipan.com/s/f5rsqWqzz1N
搭建一个自己的网站?看这个就够了!
https://www.alipan.com/s/WdR6TNikM3a
抖音小店实操陪跑营教学课程
https://www.alipan.com/s/bVW3N1M5NSb
链接:https://pan.baidu.com/s/1HesX3MorxZXzIKspk4bttA?pwd=7g9j
提取码:7g9j
2024新年规划【合集】
https://www.alipan.com/s/dsiTT1i1KXU
香帅中国财富报告(2024)
链接:https://pan.baidu.com/s/1hvH8_5CO2YIimBpNlgL4OQ?pwd=7541
提取码:7541
何帆中国经济报告(2024)
链接:https://pan.baidu.com/s/1PIwH4t7bZC-yRhNofUbC9g?pwd=vm92
提取码:vm92
2023 年 AI 领域重大事件的总结
https://journal.everypixel.com/2023-the-year-of-ai
年终总结
https://www.manjusaka.blog/posts/2023/12/29/per-aspera-ad-astra/
年终盘点大赏
https://m.okjike.com/topics/56699d22f16dda1100acece0
Notion 2024布局:https://httishere666.notion.site/2024-8300d65a6a5d4ae9be7524290651aa97?pvs=4
2024年度计划模板链接
https://flowus.cn/share/6391a699-62f5-44a6-884e-039d184019c3?promotionChannel=BZ_zcl_26
跨年演讲合集!
01、刘润【进化的力量】
https://mp.weixin.qq.com/s/Pp4azSKcPM1BCsPwsEgjqA
02、罗振宇【时间的朋友】
https://mp.weixin.qq.com/s/MURS8WmEAjNunajn8I4v-Q
03、吴晓波【定力至上】
https://mp.weixin.qq.com/s/a-HdqMYvUeyDu8hIWAeNUQ
04、任泽平【点燃希望·乐观者前行】
https://mp.weixin.qq.com/s/nMI28KCgguUSsSW3n4nBgQ
05、邱震海【六大转折,看清动荡年代蕴藏的机会!】
https://mp.weixin.qq.com/s/RWNp5HFvWBBE7DlXa3ZJ7w
06、笔记侠柯洲【看,他们在风浪中崛起】
https://mp.weixin.qq.com/s/e3wDtcosqFfVRue910pd3Q
07、崔璀【优势2024,做自己喜欢又擅长的事】
https://mp.weixin.qq.com/s/aRHgTTcMiL97LZ2GgJKexg
08、古典【认命不认输,回来做自己】
https://mp.weixin.qq.com/s/7GhMJo52s7ZKmfgO4gZhHQ
09、秋叶【不内卷,不直播,也能有红利】
https://mp.weixin.qq.com/s/vvnOet0tGQUYblnnGhvXnA
2023-2024跨年晚会合集
https://www.alipan.com/s/ybs523pofwP
2023年各行各业重点报告-390份
https://www.alipan.com/s/ZEWx98sTyaD
S 三D队 剧版(2023)
https://www.alipan.com/s/f5rsqWqzz1N
搭建一个自己的网站?看这个就够了!
https://www.alipan.com/s/WdR6TNikM3a
抖音小店实操陪跑营教学课程
https://www.alipan.com/s/bVW3N1M5NSb
Baidu
百度网盘 请输入提取码
百度网盘为您提供文件的网络备份、同步和分享服务。空间大、速度快、安全稳固,支持教育网加速,支持手机端。注册使用百度网盘即可享受免费存储空间
免费,快速AI生成网页
介绍
这个简单的应用程序将屏幕截图转换为代码(HTML/Tailwind CSS,或React或Bootstrap)。它使用 GPT-4 Vision 生成代码,使用 DALL-E 3 生成外观相似的图像。您现在还可以输入 URL 来克隆实时网站!
项目地址, https://github.com/abi/screenshot-to-code
如果你没有安装过Python或者Yarn,那就用下面两条命令来安装Python,Node或者Yarn
brew install python
brew install node
brew install yarn
brew install git
并且通过一下两个命令来确认,安装是否成功
node --version
npm --version
python --version
yarn --version
Node: v18.12.1
npm: 8.19.2
Python: 3.11.5
Yarn: 1.22.19
这个软件对版本要求并不高,所以最新版的就行,我用的版本如下,你可以对照一下
然后Clone这个软件包
git clone
# 进入软件目录
cd screenshot-to-code
# 进入后台目录…
介绍
这个简单的应用程序将屏幕截图转换为代码(HTML/Tailwind CSS,或React或Bootstrap)。它使用 GPT-4 Vision 生成代码,使用 DALL-E 3 生成外观相似的图像。您现在还可以输入 URL 来克隆实时网站!
项目地址, https://github.com/abi/screenshot-to-code
如果你没有安装过Python或者Yarn,那就用下面两条命令来安装Python,Node或者Yarn
brew install python
brew install node
brew install yarn
brew install git
并且通过一下两个命令来确认,安装是否成功
node --version
npm --version
python --version
yarn --version
Node: v18.12.1
npm: 8.19.2
Python: 3.11.5
Yarn: 1.22.19
这个软件对版本要求并不高,所以最新版的就行,我用的版本如下,你可以对照一下
然后Clone这个软件包
git clone
# 进入软件目录
cd screenshot-to-code
# 进入后台目录…
GitHub
GitHub - abi/screenshot-to-code: Drop in a screenshot and convert it to clean code (HTML/Tailwind/React/Vue)
Drop in a screenshot and convert it to clean code (HTML/Tailwind/React/Vue) - abi/screenshot-to-code
目前国内站长常用的网站统计工具一般为:百度统计/51la/cnzz,其中百度统计对没有备案的域名在功能上做了很多限制,51la口碑很差,cnzz需要收费,下方罗列了目前国内好用的免费网站流量统计工具,可作为替代品或备选。
统计鸟
http://www.tongjiniao.com
2023年中旬新出的一款免费网站流量统计,刚刚成立不久是否长期稳定还未可知。统计鸟的口号是“免费、稳定、专业、安全的数据分析工具!
统计鸟免费网站统计和51LA的界面和功能上差不多,像实时概况、访客明细、流量趋势、来路分析、搜索引擎、关键词、入口页面、受访页面、吸引力分析、地域分布、系统环境等功能都具备。统计鸟对于网站是否备案没有要求,功能上也比较全面,更像是稳定版的51la。
360分析
https://fenxi.360.cn
360分析是由360推出的免费网站流量统计服务,提供有网站实时访客、基础流量趋势、流量来源、搜索关键词分析、访客信息、访客行为、热门页面分析、热力图(最多10个页面)、关联页分析、路径分析、转化分析等网站流量统计的数据分析。
360分析目前没有对于网站ICP备案有硬性要求,也没有数据存储时间最长1年的限制。但是功能方面弱于百度统计,如无法统计百度搜索关键词,统计数据只能在线查看而不能下载等。
微软Clarity
https://clarity.microsoft.com
Clarity 是微软推出的永久免费的用户体验分析工具,可以在数分钟内开始获取数据,访问路径录制功能很强大。以绝对零成本享受 Clarity 的所有功能,永远不会遇到流量限制或被迫升级到付费版本。
Clarity更适合商业网站分析用户行为,以及移动应用的热点分析,并不算传统意义上的统计工具,但可以集成谷歌统计。
统计鸟
http://www.tongjiniao.com
2023年中旬新出的一款免费网站流量统计,刚刚成立不久是否长期稳定还未可知。统计鸟的口号是“免费、稳定、专业、安全的数据分析工具!
统计鸟免费网站统计和51LA的界面和功能上差不多,像实时概况、访客明细、流量趋势、来路分析、搜索引擎、关键词、入口页面、受访页面、吸引力分析、地域分布、系统环境等功能都具备。统计鸟对于网站是否备案没有要求,功能上也比较全面,更像是稳定版的51la。
360分析
https://fenxi.360.cn
360分析是由360推出的免费网站流量统计服务,提供有网站实时访客、基础流量趋势、流量来源、搜索关键词分析、访客信息、访客行为、热门页面分析、热力图(最多10个页面)、关联页分析、路径分析、转化分析等网站流量统计的数据分析。
360分析目前没有对于网站ICP备案有硬性要求,也没有数据存储时间最长1年的限制。但是功能方面弱于百度统计,如无法统计百度搜索关键词,统计数据只能在线查看而不能下载等。
微软Clarity
https://clarity.microsoft.com
Clarity 是微软推出的永久免费的用户体验分析工具,可以在数分钟内开始获取数据,访问路径录制功能很强大。以绝对零成本享受 Clarity 的所有功能,永远不会遇到流量限制或被迫升级到付费版本。
Clarity更适合商业网站分析用户行为,以及移动应用的热点分析,并不算传统意义上的统计工具,但可以集成谷歌统计。
fenxi.360.cn
360分析
实时网站分析工具,为您的网站推广、优化提供安全可信赖的数据支撑。
Screenshot to Code 只需要一张截图,AI就能免费帮你快速把网页截图变成代码,非常神奇🐮
Github 霸榜第一,单日2500+ Star🌟
只需上传截图,就能轻松获得前端代码,包括HTML、Tailwind CSS 和 JavaScript,这极大地提高了开发效率和体验
该项目可借助 GPT-4 Vision 的能力,并利用 DALL-E 3 的图像生成能力,生成外观相似的图像
项目地址:https://github.com/abi/screenshot-to-code
Github 霸榜第一,单日2500+ Star🌟
只需上传截图,就能轻松获得前端代码,包括HTML、Tailwind CSS 和 JavaScript,这极大地提高了开发效率和体验
该项目可借助 GPT-4 Vision 的能力,并利用 DALL-E 3 的图像生成能力,生成外观相似的图像
项目地址:https://github.com/abi/screenshot-to-code
GitHub
GitHub - abi/screenshot-to-code: Drop in a screenshot and convert it to clean code (HTML/Tailwind/React/Vue)
Drop in a screenshot and convert it to clean code (HTML/Tailwind/React/Vue) - abi/screenshot-to-code
心理陪伴类的产品,难免要对声音进行分析。
之前的经历都在 NLP,LLMs 上,搞了声音才发现,声音的数据分析更有空间。
推荐一个软件:Praat,是开源的。功能强大,且得研究。
链接:https://github.com/praat/praat
之前的经历都在 NLP,LLMs 上,搞了声音才发现,声音的数据分析更有空间。
推荐一个软件:Praat,是开源的。功能强大,且得研究。
链接:https://github.com/praat/praat
GitHub
GitHub - praat/praat.github.io: Praat: Doing Phonetics By Computer
Praat: Doing Phonetics By Computer. Contribute to praat/praat.github.io development by creating an account on GitHub.
AI套壳产品,不会改变世界,但可以成为一个生意,养活一个小团队。
https://bensbites.beehiiv.com/p/ai-wrappers-get-bad-wrap
文中举了三个例子:
1. Formula Bot
年收入20~30万美元,最开始只是一个单页工具,后来在 Reddit 火了,发展起来了
2. Photo AI
月收入8万美元,最开始只是特别简单的页面,用户上传照片并付费后,创始人Levels手动生成照片后发邮件给用户,后来发展成完整的产品,有了网页端和手机端。
3. PDF.ai
年收入50万美元左右,最开始是创始人看到 ChatPDF 爆火后,收购了一个类似产品,换了新域名 pdf.ai 来运营。
https://bensbites.beehiiv.com/p/ai-wrappers-get-bad-wrap
文中举了三个例子:
1. Formula Bot
年收入20~30万美元,最开始只是一个单页工具,后来在 Reddit 火了,发展起来了
2. Photo AI
月收入8万美元,最开始只是特别简单的页面,用户上传照片并付费后,创始人Levels手动生成照片后发邮件给用户,后来发展成完整的产品,有了网页端和手机端。
3. PDF.ai
年收入50万美元左右,最开始是创始人看到 ChatPDF 爆火后,收购了一个类似产品,换了新域名 pdf.ai 来运营。
pdf2htmlEX 是一个值得推荐的 PDF 转 HTML 工具,https://github.com/pdf2htmlEX/pdf2htmlEX,它生成的内容还原度非常高,几乎与原 PDF 一致。
我去扒了下这个项目的历史,https://github.com/coolwanglu/pdf2htmlEX/wiki/Author%27s-Words,作者因朋友抱怨没有一个在线 PDF viewer,于是他就撸了一个将 PDF 转成 HTML 的“玩具”,时间是 2013 年,也有十年历史了。
pdf2htmlEX 背后使用的是 poppler 这个渲染库,而 poppler 背后使用的是 xpdf-3.0,它是一个免费的 PDF 查看器和工具包,包括文本提取器、图像转换器、HTML 转换器等。Chrome 自家也撸了一个 PDF 渲染引擎,叫做 pdfium,项目地址在这里:https://pdfium.googlesource.com/pdfium
项目在 2018 年就被作者归档了,为了可以让社区更好地贡献代码,新开了一个 repo 延续,在这个 repo 中,作者对打包过程做了封装,并且锁定了两个重要依赖的版本(poppler 和 Fontforge)。
我在 Mac 下一直没有成功安装,看到有人提了一个兼容的 PR,状态还是 work in progress:https://github.com/pdf2htmlEX/pdf2htmlEX/pull/18
我去扒了下这个项目的历史,https://github.com/coolwanglu/pdf2htmlEX/wiki/Author%27s-Words,作者因朋友抱怨没有一个在线 PDF viewer,于是他就撸了一个将 PDF 转成 HTML 的“玩具”,时间是 2013 年,也有十年历史了。
pdf2htmlEX 背后使用的是 poppler 这个渲染库,而 poppler 背后使用的是 xpdf-3.0,它是一个免费的 PDF 查看器和工具包,包括文本提取器、图像转换器、HTML 转换器等。Chrome 自家也撸了一个 PDF 渲染引擎,叫做 pdfium,项目地址在这里:https://pdfium.googlesource.com/pdfium
项目在 2018 年就被作者归档了,为了可以让社区更好地贡献代码,新开了一个 repo 延续,在这个 repo 中,作者对打包过程做了封装,并且锁定了两个重要依赖的版本(poppler 和 Fontforge)。
我在 Mac 下一直没有成功安装,看到有人提了一个兼容的 PR,状态还是 work in progress:https://github.com/pdf2htmlEX/pdf2htmlEX/pull/18
GitHub
Create new page · coolwanglu/pdf2htmlEX Wiki
Convert PDF to HTML without losing text or format. - Create new page · coolwanglu/pdf2htmlEX Wiki
Agently Show Case:自然语言→SQL
作为一个商业分析师或者数据科学家,你是否经常遇到你的老板、同事在不停地问你一些数据报表中根本没有预处理的数据?作为一个分析研究的专家,你当然想把时间花在“分析”而不是“提数”上,而且总是处理“提数”这件事可能把你深度思考的时间切得粉碎。但你能怎么办呢?你的老板、同事又不会写SQL,他们只能找你这个“专家”。
如果有一个Agent,能够帮你把自然语言问题转换成SQL,是不是就帮了大忙了?看看下面这个案例是如何使用Agently框架,写几行简单的代码解决这个问题的。
案例地址:https://github.com/Maplemx/Agently/blob/main/playground/sql_generator.ipynb
作为一个商业分析师或者数据科学家,你是否经常遇到你的老板、同事在不停地问你一些数据报表中根本没有预处理的数据?作为一个分析研究的专家,你当然想把时间花在“分析”而不是“提数”上,而且总是处理“提数”这件事可能把你深度思考的时间切得粉碎。但你能怎么办呢?你的老板、同事又不会写SQL,他们只能找你这个“专家”。
如果有一个Agent,能够帮你把自然语言问题转换成SQL,是不是就帮了大忙了?看看下面这个案例是如何使用Agently框架,写几行简单的代码解决这个问题的。
案例地址:https://github.com/Maplemx/Agently/blob/main/playground/sql_generator.ipynb
学习了RPA工具一周时间,多次尝试做了很多小玩具,但是这个足够好,帮朋友挖掘⛏出了很多需求。
一键挖掘关键词需求转为赚钱项目
商机挖掘工具,快速挖掘所有关键词需求转为赚钱项目。
支持小红书/百度/必应/抖音/B站/今日头条/知乎等平台
注意:新用户注册成功赠送几天创业版,一般可以使用影刀其他用户分享的应用,如是老用户可以右上角邀请一个新人,即可成为创业版体验几天。
获取地址:
https://www.yingdao.com/share/share/?inviteKey=a6aa6db5ba0f29be
一键挖掘关键词需求转为赚钱项目
商机挖掘工具,快速挖掘所有关键词需求转为赚钱项目。
支持小红书/百度/必应/抖音/B站/今日头条/知乎等平台
注意:新用户注册成功赠送几天创业版,一般可以使用影刀其他用户分享的应用,如是老用户可以右上角邀请一个新人,即可成为创业版体验几天。
获取地址:
https://www.yingdao.com/share/share/?inviteKey=a6aa6db5ba0f29be
谷歌官方出的图片优化指南《Google 图片 SEO 最佳实践》很值得学习。
https://developers.google.com/search/docs/appearance/google-images?hl=zh-cn
https://developers.google.com/search/docs/appearance/google-images?hl=zh-cn
※ 骇客松、创作大赛这类活动,往往会有大量行业know-how沉淀,很值得研究。你听完,会有一种——“哦,原来这个东西还可以这么玩”、“原来大家会喜欢这样的产品”这类惊叹。我们可以从参赛选手和评委,以及观众的反馈中,学到很多东西。这些是知识真正在实际场景中的运用,非常宝贵,书上是没有这类东西的(书上的知识都是静态的)。而且这两场活动,都是当场出结果,当场复盘,效果更好!
※ 所有的参赛选手,不管是独立开发者,还是上班族,还是学生,都有共同的特点:爱创造、爱琢磨、爱折腾、能量高。我真的很向往这样的氛围,向往和这种类型的小伙伴一起玩!这样的人是能够改变世界的!如果你恰好也是这种type的人,我想和你做朋友!
※ 我把观看两场比赛的心得记录和选手们的GPTs链接放在知识库里了,供大家参考:
✨效率工具专场:
https://bamz3qsih6q.feishu.cn/wiki/SchrwUTzEij90IkvtQIcl8WynVe?from=from_copylink
✨泛娱乐专场:
https://bamz3qsih6q.feishu.cn/wiki/OitBwlddoi1h1pkvaIZcKGpBnFh?from=from_copylink
※ 所有的参赛选手,不管是独立开发者,还是上班族,还是学生,都有共同的特点:爱创造、爱琢磨、爱折腾、能量高。我真的很向往这样的氛围,向往和这种类型的小伙伴一起玩!这样的人是能够改变世界的!如果你恰好也是这种type的人,我想和你做朋友!
※ 我把观看两场比赛的心得记录和选手们的GPTs链接放在知识库里了,供大家参考:
✨效率工具专场:
https://bamz3qsih6q.feishu.cn/wiki/SchrwUTzEij90IkvtQIcl8WynVe?from=from_copylink
✨泛娱乐专场:
https://bamz3qsih6q.feishu.cn/wiki/OitBwlddoi1h1pkvaIZcKGpBnFh?from=from_copylink
bamz3qsih6q.feishu.cn
Wiki
能够让大模型推理结果变得更好的基础优化手段已经非常多了,我梳理了常见的技术手段和对应的论文:
- Zero-shot:https://arxiv.org/abs/2109.01652
- Few-shot:https://arxiv.org/abs/2005.14165
- CoT:https://arxiv.org/abs/2201.11903
- ToT:https://arxiv.org/abs/2305.10601
- GoT:https://arxiv.org/abs/2308.09687
- SC:https://arxiv.org/abs/2203.11171
- Multi Persona:https://arxiv.org/abs/2307.05300
- Least to Most:https://arxiv.org/abs/2205.10625
- Step Back:https://arxiv.org/abs/2310.06117
- ART:https://arxiv.org/abs/2303.09014
- ReAct:https://arxiv.org/abs/2210.03629
- Reflection:https://arxiv.org/abs/2303.11366
- RAG:https://arxiv.org/abs/2005.11401
以上内容在之前的分享中均详细提到过,有一些只需要在 Prompt 上做简单优化便可看到效果;有一些则需要进行框架设计,如对任务进行规划、分解、组合等,包括与外界环境的交互、让人参与交互,存在一定的设计成本,市面上很多 XXXGPT 也是对这些基础手段组合后的工程实践。
学习这些知识的原理有助于帮助我们打开 LLM 推理黑盒,感兴趣的朋友不妨花点时间研究下,也欢迎留言补充更多有趣的技术和论文。
- Zero-shot:https://arxiv.org/abs/2109.01652
- Few-shot:https://arxiv.org/abs/2005.14165
- CoT:https://arxiv.org/abs/2201.11903
- ToT:https://arxiv.org/abs/2305.10601
- GoT:https://arxiv.org/abs/2308.09687
- SC:https://arxiv.org/abs/2203.11171
- Multi Persona:https://arxiv.org/abs/2307.05300
- Least to Most:https://arxiv.org/abs/2205.10625
- Step Back:https://arxiv.org/abs/2310.06117
- ART:https://arxiv.org/abs/2303.09014
- ReAct:https://arxiv.org/abs/2210.03629
- Reflection:https://arxiv.org/abs/2303.11366
- RAG:https://arxiv.org/abs/2005.11401
以上内容在之前的分享中均详细提到过,有一些只需要在 Prompt 上做简单优化便可看到效果;有一些则需要进行框架设计,如对任务进行规划、分解、组合等,包括与外界环境的交互、让人参与交互,存在一定的设计成本,市面上很多 XXXGPT 也是对这些基础手段组合后的工程实践。
学习这些知识的原理有助于帮助我们打开 LLM 推理黑盒,感兴趣的朋友不妨花点时间研究下,也欢迎留言补充更多有趣的技术和论文。
arXiv.org
Finetuned Language Models Are Zero-Shot Learners
This paper explores a simple method for improving the zero-shot learning abilities of language models. We show that instruction tuning -- finetuning language models on a collection of tasks...
分享几个副业粉可能感兴趣的资料
生财有术【最新资料2024】
https://www.alipan.com/s/oWiY5PeJ4P8
创业必备手册资料大全
https://www.alipan.com/s/cWy8R33Ub2C
霸榜抖音搜索流量的正确方式
https://www.alipan.com/s/Gx3hjG79rJT
5种合伙模式 员工把店当自己的
https://www.alipan.com/s/AnxJdoo9ATr
情趣用品赚钱项目【2024】
https://www.alipan.com/s/7Qgndb4SbRN
百万up主的涨粉秘诀技巧
https://www.alipan.com/s/CtipQnPgmzd
小白思维破圈《互联网赚銭的底层逻辑》
https://www.alipan.com/s/NAbPG16PvdC
短视频底层方法论与方法价值
https://www.alipan.com/s/xTDJ27qtyvK
王欢手把手教你做好短视频
https://www.alipan.com/s/chEywjhNtEN
生财有术【最新资料2024】
https://www.alipan.com/s/oWiY5PeJ4P8
创业必备手册资料大全
https://www.alipan.com/s/cWy8R33Ub2C
霸榜抖音搜索流量的正确方式
https://www.alipan.com/s/Gx3hjG79rJT
5种合伙模式 员工把店当自己的
https://www.alipan.com/s/AnxJdoo9ATr
情趣用品赚钱项目【2024】
https://www.alipan.com/s/7Qgndb4SbRN
百万up主的涨粉秘诀技巧
https://www.alipan.com/s/CtipQnPgmzd
小白思维破圈《互联网赚銭的底层逻辑》
https://www.alipan.com/s/NAbPG16PvdC
短视频底层方法论与方法价值
https://www.alipan.com/s/xTDJ27qtyvK
王欢手把手教你做好短视频
https://www.alipan.com/s/chEywjhNtEN
得到2024.1.15-20
链接:https://pan.baidu.com/s/12K2We9elgWEQdT6bG1IjGw?pwd=3p5h
提取码:3p5h
生财有术【最新资料2024】
https://www.alipan.com/s/oWiY5PeJ4P8
鲍鹏山私塾课•论语
https://www.alipan.com/s/4PfSiMFiKnh
创业必备手册资料大全
https://www.alipan.com/s/cWy8R33Ub2C
行业研究专题视频课程
https://www.alipan.com/s/gwwEkVotPps
霸榜抖音搜索流量的正确方式
https://www.alipan.com/s/Gx3hjG79rJT
5种合伙模式 员工把店当自己的
https://www.alipan.com/s/AnxJdoo9ATr
情趣用品赚钱项目【2024】
https://www.alipan.com/s/7Qgndb4SbRN
魁拔之殊途相生篇
https://www.alipan.com/s/FVfLEQkiUoi
链接:https://pan.baidu.com/s/12K2We9elgWEQdT6bG1IjGw?pwd=3p5h
提取码:3p5h
生财有术【最新资料2024】
https://www.alipan.com/s/oWiY5PeJ4P8
鲍鹏山私塾课•论语
https://www.alipan.com/s/4PfSiMFiKnh
创业必备手册资料大全
https://www.alipan.com/s/cWy8R33Ub2C
行业研究专题视频课程
https://www.alipan.com/s/gwwEkVotPps
霸榜抖音搜索流量的正确方式
https://www.alipan.com/s/Gx3hjG79rJT
5种合伙模式 员工把店当自己的
https://www.alipan.com/s/AnxJdoo9ATr
情趣用品赚钱项目【2024】
https://www.alipan.com/s/7Qgndb4SbRN
魁拔之殊途相生篇
https://www.alipan.com/s/FVfLEQkiUoi
Baidu
百度网盘 请输入提取码
百度网盘为您提供文件的网络备份、同步和分享服务。空间大、速度快、安全稳固,支持教育网加速,支持手机端。注册使用百度网盘即可享受免费存储空间
1️⃣ https://github.com/rt-bishop/Look4Sat - 安卓版卫星追踪器。
2️⃣ https://satnogs.org - 开源的卫星网络地面站网络,发布有关卫星的各种遥测数据。
3️⃣ https://oz9aec.dk/gpredict - 跟踪卫星,并以列表、表格、地图等形式显示卫星位置和其他数据。
4️⃣ https://www.find-satellites.com - 卫星搜寻器应用。该应用可显示国际空间站、地球同步卫星等220多颗重要卫星的位置。还可跟踪Starlink卫星。
5️⃣ https://agsattrack.com - 该网站可让您在浏览器中跟踪各种卫星数据。
6️⃣ https://celestrak.org/ - 根据SGP4提供最新卫星数据。
7️⃣ https://www.n2yo.com - 协助即时追踪及预报卫星运行轨道及遥测信息的网站。
8️⃣ https://gano.name/shawn/JSatTrak/ - 一个用 Java 编写的卫星跟踪程序。它可以实时了解和预测卫星运动。该程序使用由NASA/NORAD开发的先进的SGP4/SDP4 算法。
9️⃣ https://platform.leolabs.space/visualization - 来自 LEOLab 的可视化工具,提供卫星的三维动画视图。
🔟 https://www.open-cosmos.com/ - 接收大量卫星数据和图像的web界面。
2️⃣ https://satnogs.org - 开源的卫星网络地面站网络,发布有关卫星的各种遥测数据。
3️⃣ https://oz9aec.dk/gpredict - 跟踪卫星,并以列表、表格、地图等形式显示卫星位置和其他数据。
4️⃣ https://www.find-satellites.com - 卫星搜寻器应用。该应用可显示国际空间站、地球同步卫星等220多颗重要卫星的位置。还可跟踪Starlink卫星。
5️⃣ https://agsattrack.com - 该网站可让您在浏览器中跟踪各种卫星数据。
6️⃣ https://celestrak.org/ - 根据SGP4提供最新卫星数据。
7️⃣ https://www.n2yo.com - 协助即时追踪及预报卫星运行轨道及遥测信息的网站。
8️⃣ https://gano.name/shawn/JSatTrak/ - 一个用 Java 编写的卫星跟踪程序。它可以实时了解和预测卫星运动。该程序使用由NASA/NORAD开发的先进的SGP4/SDP4 算法。
9️⃣ https://platform.leolabs.space/visualization - 来自 LEOLab 的可视化工具,提供卫星的三维动画视图。
🔟 https://www.open-cosmos.com/ - 接收大量卫星数据和图像的web界面。
GitHub
GitHub - rt-bishop/Look4Sat: Satellite tracker and pass predictor for Android, inspired by Gpredict
Satellite tracker and pass predictor for Android, inspired by Gpredict - rt-bishop/Look4Sat
最近找产品launch站,初步成果:
一个帮你一次提交100多个目录站的目录站
affordhunt.com
发布后可获得创始人twitter免费转发,并可获得newletter展示,还可以进一步商谈合作。
launch站的目录:
1 100个lanch站点:indiehackers.com/post/relaunch-…
2 40个AI产品目录站,有流量和收费说明:docs.google.com/spreadsheets/d…
3 48个launch站点,包括reddit可lannch的板块,覆盖了一些偏门:launchpointzero.com/top_saas_launc…
几个重要的站点:
1 ProductHunt,多个推友证实,发布到PH后,其他目录站回来爬。
2 theresanaiforthat,theresanaiforthat.com/get-featured/#…,
3 toolify,toolify.ai/zh/submit
4 rundownAI,supertools.therundown.ai/submit/featured
5 futurepedia,futurepedia.io/submit-too
6 hacknews,news.ycombinator.com/show
reddit上允许lanuch的板块:
1 Reddit Alphaandbetausers - reddit.com/r/Alphaandbeta…
发布的完美 Reddit 子版块 - 低期望,每日发布多个帖子
2 Reddit IMakethis - reddit.com/r/IMadethis
任何人都可以发布任何内容,努力程度很低,但奖励也很低,但在这里发布也没什么坏处
3 Reddit indiebiz - reddit.com/r/indiebiz/
对于初创公司来说,提供和分享的活动不多,但无论如何都要去做
4 Reddit Micro Saas - reddit.com/r/microsaas/
由非常小的团队运营的软件即服务业务,非常适合启动 SaaS
5 Reddit Plugyourproduct - reddit.com/r/plugyourprod…
这里鼓励促销,但人流量稀少
6 Reddit RoastMyStartup - reddit.com/r/RoastMyStart…
鼓励在这里进行促销,因此非常适合在这里启动
7 Reddit SideProject - reddit.com/r/SideProject
鼓励自我推销,而且很活跃,一定分享在这里
8 Reddit 软件即服务 - reddit.com/r/SaaS/
一个帮你一次提交100多个目录站的目录站
affordhunt.com
发布后可获得创始人twitter免费转发,并可获得newletter展示,还可以进一步商谈合作。
launch站的目录:
1 100个lanch站点:indiehackers.com/post/relaunch-…
2 40个AI产品目录站,有流量和收费说明:docs.google.com/spreadsheets/d…
3 48个launch站点,包括reddit可lannch的板块,覆盖了一些偏门:launchpointzero.com/top_saas_launc…
几个重要的站点:
1 ProductHunt,多个推友证实,发布到PH后,其他目录站回来爬。
2 theresanaiforthat,theresanaiforthat.com/get-featured/#…,
3 toolify,toolify.ai/zh/submit
4 rundownAI,supertools.therundown.ai/submit/featured
5 futurepedia,futurepedia.io/submit-too
6 hacknews,news.ycombinator.com/show
reddit上允许lanuch的板块:
1 Reddit Alphaandbetausers - reddit.com/r/Alphaandbeta…
发布的完美 Reddit 子版块 - 低期望,每日发布多个帖子
2 Reddit IMakethis - reddit.com/r/IMadethis
任何人都可以发布任何内容,努力程度很低,但奖励也很低,但在这里发布也没什么坏处
3 Reddit indiebiz - reddit.com/r/indiebiz/
对于初创公司来说,提供和分享的活动不多,但无论如何都要去做
4 Reddit Micro Saas - reddit.com/r/microsaas/
由非常小的团队运营的软件即服务业务,非常适合启动 SaaS
5 Reddit Plugyourproduct - reddit.com/r/plugyourprod…
这里鼓励促销,但人流量稀少
6 Reddit RoastMyStartup - reddit.com/r/RoastMyStart…
鼓励在这里进行促销,因此非常适合在这里启动
7 Reddit SideProject - reddit.com/r/SideProject
鼓励自我推销,而且很活跃,一定分享在这里
8 Reddit 软件即服务 - reddit.com/r/SaaS/
特辑:AI科学家李飞飞自传新书《The Worlds I See》|Joyce和Ruby的跨年正能量 - Day1Global生而全球
Day1Global 特辑:李飞飞新书分享
李飞飞既是顶尖 AI 科学家,也是美国第一代华裔移民,她在新书《The Worlds I see》(我看见的世界)里,回顾了一家从中国成都到美国生活,她的成长与科学探索经历(3 年从听不懂英文,到被普林斯顿录取),以及她见证的AI发展历程。
Day1Global 特辑:李飞飞新书分享
李飞飞既是顶尖 AI 科学家,也是美国第一代华裔移民,她在新书《The Worlds I see》(我看见的世界)里,回顾了一家从中国成都到美国生活,她的成长与科学探索经历(3 年从听不懂英文,到被普林斯顿录取),以及她见证的AI发展历程。
Xiaoyuzhoufm
特辑:AI科学家李飞飞自传新书《The Worlds I See》|Joyce和Ruby的跨年正能量
听《Day1Global生而全球-Web3版》上小宇宙。 会员计划:www.web3brand.io/p/web3brand-day1global-membership
「Day1Global生而全球」是一档旨在探索如何通过 Web3&AI, 在全球化时代,打造超级个体,让价值回归个人的节目。
如果你对以下关键词感兴趣,那么恭喜你来对地方啦:
全球化、超级个体、一人公司、数字游民(Digital Nomad)、网络国家(Network State)、AI、Web3、区块链(Blockchain)、加密货币(Crypto…
「Day1Global生而全球」是一档旨在探索如何通过 Web3&AI, 在全球化时代,打造超级个体,让价值回归个人的节目。
如果你对以下关键词感兴趣,那么恭喜你来对地方啦:
全球化、超级个体、一人公司、数字游民(Digital Nomad)、网络国家(Network State)、AI、Web3、区块链(Blockchain)、加密货币(Crypto…