被transformers这类库层层封装后,LLM的训练细节还能看清楚吗?Train LLM From Scratch这个项目就是冲着这个来的——纯PyTorch手搭Transformer,trl、peft、transformers一概不用。
从数据转token开始,注意力、多头这些模型结构,到预训练,再到SFT、Reward Model、DPO/PPO/GRPO对齐,整条链路一层层剥开讲,每个模块都配说明和预期输出。
百万到十亿参数的单卡实验就能跑,文档里连不同硬件的参考都标好了。想对着代码把训练全流程走一遍,这个挺对路。
🔗https://github.com/FareedKhan-dev/train-llm-from-scratch
从数据转token开始,注意力、多头这些模型结构,到预训练,再到SFT、Reward Model、DPO/PPO/GRPO对齐,整条链路一层层剥开讲,每个模块都配说明和预期输出。
百万到十亿参数的单卡实验就能跑,文档里连不同硬件的参考都标好了。想对着代码把训练全流程走一遍,这个挺对路。
🔗https://github.com/FareedKhan-dev/train-llm-from-scratch
MiniMax H3 这套导演台工作流,是有人特意整理出来的。
直接扔进 ComfyUI 就能开跑,文生视频、图生视频、首尾帧、视频换人这些活儿全都接得住。
🔗 https://github.com/huangserva/ComfyUI_MiniMaxH3_Director
直接扔进 ComfyUI 就能开跑,文生视频、图生视频、首尾帧、视频换人这些活儿全都接得住。
🔗 https://github.com/huangserva/ComfyUI_MiniMaxH3_Director
装正版 Windows 和 Office,何必满世界找激活码、捎带装一堆流氓软件,到头来让电脑塞满全家桶?
Mocreak 这款工具,一键就能自动下载、安装、部署正版 Windows 和 Office,办公增强也一并管了。
三点:
1️⃣ 完全免费,无广告、绿色无毒,不往机器里塞乱七八糟的东西
2️⃣ Windows 10/11 随你挑,Defender、记事本装不装都由自己定
3️⃣ Office 2016 到 2024 全能认,Word、Excel、PPT 想装哪个选哪个,固态、U 盘都行
https://github.com/OdysseusYuan/Mocreak/releases
Mocreak 这款工具,一键就能自动下载、安装、部署正版 Windows 和 Office,办公增强也一并管了。
三点:
1️⃣ 完全免费,无广告、绿色无毒,不往机器里塞乱七八糟的东西
2️⃣ Windows 10/11 随你挑,Defender、记事本装不装都由自己定
3️⃣ Office 2016 到 2024 全能认,Word、Excel、PPT 想装哪个选哪个,固态、U 盘都行
https://github.com/OdysseusYuan/Mocreak/releases
家里的安卓电视开机就是满屏广告位和推荐,想找个装好的 App,得在好几排海报里翻半天。
Tigris 把 Android TV 的桌面换成了苹果 tvOS 的样子,底部是一条毛玻璃 Dock,选中 App 时上半屏还会轮播内容。
按遥控器返回键就能拉出毛玻璃控制中心,网络、待机、亮度、音量、HDMI 输入源都在里面。
GitHub:https://github.com/lesnolie/Tigris
不用的时候会变成相框,照片缓慢平移缩放,也能放 Apple TV 的航拍视频。手机扫码就能把相册里的照片传上去。
背景可以用必应每日风景、公有领域名画,App 也能长按收进文件夹,跟手机桌面差不多。
作者说这是十二生肖开源系列的第三个,属虎,名字 Tigris 就是拉丁语里的老虎,这个起名我挺喜欢。
Tigris 把 Android TV 的桌面换成了苹果 tvOS 的样子,底部是一条毛玻璃 Dock,选中 App 时上半屏还会轮播内容。
按遥控器返回键就能拉出毛玻璃控制中心,网络、待机、亮度、音量、HDMI 输入源都在里面。
GitHub:https://github.com/lesnolie/Tigris
不用的时候会变成相框,照片缓慢平移缩放,也能放 Apple TV 的航拍视频。手机扫码就能把相册里的照片传上去。
背景可以用必应每日风景、公有领域名画,App 也能长按收进文件夹,跟手机桌面差不多。
作者说这是十二生肖开源系列的第三个,属虎,名字 Tigris 就是拉丁语里的老虎,这个起名我挺喜欢。
看 Transformer 的资料,公式就一行,可要说清一个词到底注意到了谁、数字怎么一步步变过去,脑子里还是一团雾。
Training Explorer 把大模型训练做成了能播放、能单步、能倒退的互动课,每一步模型内部的矩阵和概率都摆在眼前。
示例课用了一个能手算的小模型,4 个词元、2 个注意力头,跟着 12 个计算步骤一路走到输出,数字都是真实算出来的,不是随手画的热力图。
GitHub:https://github.com/ninetyhe-90/training-explore
一共 14 门课,从分词、反向传播、优化器,讲到分布式训练、显存、推理和微调对齐。
每章都有推导、数值例、PyTorch 代码、常见错误和自测,参考资料直接链到原始论文和官方文档。
进度存在浏览器里,无需账号。想把大模型训练从头弄明白的,比干啃论文轻松不少。
Training Explorer 把大模型训练做成了能播放、能单步、能倒退的互动课,每一步模型内部的矩阵和概率都摆在眼前。
示例课用了一个能手算的小模型,4 个词元、2 个注意力头,跟着 12 个计算步骤一路走到输出,数字都是真实算出来的,不是随手画的热力图。
GitHub:https://github.com/ninetyhe-90/training-explore
一共 14 门课,从分词、反向传播、优化器,讲到分布式训练、显存、推理和微调对齐。
每章都有推导、数值例、PyTorch 代码、常见错误和自测,参考资料直接链到原始论文和官方文档。
进度存在浏览器里,无需账号。想把大模型训练从头弄明白的,比干啃论文轻松不少。
有人把“润学”做成了一份开源指南!
开源项目 RUN,专门汇总海外移民、留学、工作和生活方面的信息。
从各国的移民路径、申请门槛,到语言学习、求职准备、海外生活经验,都能查到相关资料和讨论。
最有价值的是,里面有不少过来人的经验分享,能帮你少走一些弯路。
仓库:https://github.com/BryceYuuu/RUN
开源项目 RUN,专门汇总海外移民、留学、工作和生活方面的信息。
从各国的移民路径、申请门槛,到语言学习、求职准备、海外生活经验,都能查到相关资料和讨论。
最有价值的是,里面有不少过来人的经验分享,能帮你少走一些弯路。
仓库:https://github.com/BryceYuuu/RUN
想自学《新概念英语》,有个开源网站把这件事变得相当省心。
NCE 直接把《新概念英语》1~4 册做成了在线点读版:整篇朗读、单句点读、中英逐句对照都齐了,手机、平板、电脑打开浏览器就能学。
第一册打基础,第二册练语法,第三册进阶阅读,第四册冲高级表达,一套下来能从入门一路刷到高阶。
眼下 GitHub 上已经攒了 3.5K Star,不用装 App,打开网页就能用。
在线学习:https://nce.ichochy.com/
GitHub:
NCE 直接把《新概念英语》1~4 册做成了在线点读版:整篇朗读、单句点读、中英逐句对照都齐了,手机、平板、电脑打开浏览器就能学。
第一册打基础,第二册练语法,第三册进阶阅读,第四册冲高级表达,一套下来能从入门一路刷到高阶。
眼下 GitHub 上已经攒了 3.5K Star,不用装 App,打开网页就能用。
在线学习:https://nce.ichochy.com/
GitHub:
英语学了很久,介词还是用错;单词都认识,自己说出来却不自然。很多时候,我们缺的不是更多学习材料,而是针对具体问的练习。
你可以把EnglishClub 当作英语基础工具箱,提供语法、词汇、发音和日常表达等不同主的讲解与练习。与其漫无目的地浏览,不如先确定自己想解决的一个问,再直接找相关内容。
网站提供免费学习资源,许多内容无需注册;主比较多,可以直接进入相关分类。
推荐大家用下面这套方法:
1️⃣ 先针对一个知识点学习。 比如总分不清某些介词的用法,就先读相关讲解,再做练习,记下容易混淆的例句。
2️⃣ 再用沉浸式翻译阅读真实英文材料。 学完介词或日常表达后,可以找英文博客、产品说明、论坛讨论或其他真实网页,看看刚学的知识点在自然语境中如何出现。碰到复杂句子时,用网页双语对照辅助理解,再回到英文原文,观察这个表达为什么会这样使用。
English Club很适合这种从“发现问”到“理解规则”,再到“真实阅读中验证”的学习方式。语法不再只是练习里的答案,而是能帮助你读懂更多英文内容的工具。
还有一些根据场景来设定的小测验,比如:商务英语中的Meeting场景,很适合拿来巩固、检测自己所学的知识,
💬 如果现在可以解决一个英语问,你最想解决什么?
https://www.englishclub.com/
你可以把EnglishClub 当作英语基础工具箱,提供语法、词汇、发音和日常表达等不同主的讲解与练习。与其漫无目的地浏览,不如先确定自己想解决的一个问,再直接找相关内容。
网站提供免费学习资源,许多内容无需注册;主比较多,可以直接进入相关分类。
推荐大家用下面这套方法:
1️⃣ 先针对一个知识点学习。 比如总分不清某些介词的用法,就先读相关讲解,再做练习,记下容易混淆的例句。
2️⃣ 再用沉浸式翻译阅读真实英文材料。 学完介词或日常表达后,可以找英文博客、产品说明、论坛讨论或其他真实网页,看看刚学的知识点在自然语境中如何出现。碰到复杂句子时,用网页双语对照辅助理解,再回到英文原文,观察这个表达为什么会这样使用。
English Club很适合这种从“发现问”到“理解规则”,再到“真实阅读中验证”的学习方式。语法不再只是练习里的答案,而是能帮助你读懂更多英文内容的工具。
还有一些根据场景来设定的小测验,比如:商务英语中的Meeting场景,很适合拿来巩固、检测自己所学的知识,
💬 如果现在可以解决一个英语问,你最想解决什么?
https://www.englishclub.com/
有个开源项目叫 Skill Store,专门收录审核过的 AI Agent Skills。
每个 Skill 都会做自动安全扫描,排查危险代码、越权文件访问、外部网络请求、密钥处理等风险,并把审计结果公开出来。
安装也格外简单,一行命令即可搞定:
npx skillstore add aiskillstore/code-review
兼容 Claude Code 和 Codex,不必自己四处找 Skill、手动复制文件了。
经常给 AI 装各种 Skills 的人
商店:https://skillstore.io/
仓库:
每个 Skill 都会做自动安全扫描,排查危险代码、越权文件访问、外部网络请求、密钥处理等风险,并把审计结果公开出来。
安装也格外简单,一行命令即可搞定:
npx skillstore add aiskillstore/code-review
兼容 Claude Code 和 Codex,不必自己四处找 Skill、手动复制文件了。
经常给 AI 装各种 Skills 的人
商店:https://skillstore.io/
仓库: