Karpathy LLM Wiki 插件发布:AI 驱动的 Obsidian 自组织知识库
Obsidian 社区推出了一款名为 Karpathy LLM Wiki 的新插件,由开发者 Greener-Dalii 打造。该插件利用大语言模型,将用户的笔记自动转化为一个动态生长的知识库。用户只需将文章或笔记拖入指定文件夹,AI 便会自动提取关键概念、生成摘要并建立双向链接,确保信息随新内容自动更新。插件支持单篇或多文件批量导入,提供自然语言查询功能,答案可直接溯源至原始笔记。此外,它还具备智能修复、标签自定义、粒度控制等特性,旨在减少手动整理负担,让知识管理更加高效。用户需配置 LLM 提供商(如 DeepSeek)并输入 API 密钥即可使用。 #Obsidian #插件 #AI #知识库 #LLM #笔记 #自组织 #KarpathyLLMWiki #社区插件
Obsidian 社区推出了一款名为 Karpathy LLM Wiki 的新插件,由开发者 Greener-Dalii 打造。该插件利用大语言模型,将用户的笔记自动转化为一个动态生长的知识库。用户只需将文章或笔记拖入指定文件夹,AI 便会自动提取关键概念、生成摘要并建立双向链接,确保信息随新内容自动更新。插件支持单篇或多文件批量导入,提供自然语言查询功能,答案可直接溯源至原始笔记。此外,它还具备智能修复、标签自定义、粒度控制等特性,旨在减少手动整理负担,让知识管理更加高效。用户需配置 LLM 提供商(如 DeepSeek)并输入 API 密钥即可使用。 #Obsidian #插件 #AI #知识库 #LLM #笔记 #自组织 #KarpathyLLMWiki #社区插件
AI创业公司融资
2025年美国风投资金中,AI公司占比高达65%,但大部分资金流向头部企业。2026年2月全球风投达到1890亿美元的历史峰值,其中OpenAI、Anthropic、Waymo三家公司就占去83%,其余创业公司仅分得剩余部分。与此同时,种子轮(20万至500万美元)数量和金额均下降约20%,超过一半的种子轮资金流向1000万美元以上的“巨型种子轮”,这些交易更像小型A轮,主要面向二次创业者。对于普通创始人,种子轮融资中位数约为400万美元、估值2000万美元,需出让20%股份,而仅有约六分之一的种子公司能在两年内达到A轮所需的300万美元收入门槛。风投基金全球募资额降至1186亿美元,创十年新低。这意味着AI融资热潮并未改善普通创业者的机会,创始人需审慎计算是否值得融资。 #AI #风投 #创业 #种子轮 #融资 #科技 #初创公司 #大模型 #OpenAI
2025年美国风投资金中,AI公司占比高达65%,但大部分资金流向头部企业。2026年2月全球风投达到1890亿美元的历史峰值,其中OpenAI、Anthropic、Waymo三家公司就占去83%,其余创业公司仅分得剩余部分。与此同时,种子轮(20万至500万美元)数量和金额均下降约20%,超过一半的种子轮资金流向1000万美元以上的“巨型种子轮”,这些交易更像小型A轮,主要面向二次创业者。对于普通创始人,种子轮融资中位数约为400万美元、估值2000万美元,需出让20%股份,而仅有约六分之一的种子公司能在两年内达到A轮所需的300万美元收入门槛。风投基金全球募资额降至1186亿美元,创十年新低。这意味着AI融资热潮并未改善普通创业者的机会,创始人需审慎计算是否值得融资。 #AI #风投 #创业 #种子轮 #融资 #科技 #初创公司 #大模型 #OpenAI
LLM技术债
初创公司发现,用大语言模型快速构建AI产品原型,可能同时也在快速将核心业务逻辑埋入提示词中。在MVP阶段,LLM成本看似无害——每次调用几美分,几百个用户,几条提示链。但随着产品增长,一个工作流变成十个,一次用户操作触发数十次模型调用。账单飙升,延迟显现,输出变得不确定,临时提示词变成了生产基础设施。许多AI初创公司正陷入这个泥潭:它们无意中将后端逻辑编码进了一个概率文本界面。有创始人用前沿模型做分类,后来换成微调的小模型,成本降低了约90%。另一团队将LLM作为冷启动引擎,生成标注数据后替换为更便宜的分类器。还有从业者直言,LLM对原型很好,但对规模化关键数据工作,它们昂贵、缓慢且方差大。许多团队甚至不知道自己的AI系统在哪里结束,数据管道应该从哪里开始。 #LLM #技术债 #AI创业 #成本控制 #模型优化 #数据工程 #初创公司
初创公司发现,用大语言模型快速构建AI产品原型,可能同时也在快速将核心业务逻辑埋入提示词中。在MVP阶段,LLM成本看似无害——每次调用几美分,几百个用户,几条提示链。但随着产品增长,一个工作流变成十个,一次用户操作触发数十次模型调用。账单飙升,延迟显现,输出变得不确定,临时提示词变成了生产基础设施。许多AI初创公司正陷入这个泥潭:它们无意中将后端逻辑编码进了一个概率文本界面。有创始人用前沿模型做分类,后来换成微调的小模型,成本降低了约90%。另一团队将LLM作为冷启动引擎,生成标注数据后替换为更便宜的分类器。还有从业者直言,LLM对原型很好,但对规模化关键数据工作,它们昂贵、缓慢且方差大。许多团队甚至不知道自己的AI系统在哪里结束,数据管道应该从哪里开始。 #LLM #技术债 #AI创业 #成本控制 #模型优化 #数据工程 #初创公司
构建安全提示词剪枝层
在长期运行的LLM系统中,对话状态会随时间快速增长,每次交互都重新发送大量历史记录(包括过时的工具输出、重复的RAG检索结果和无关上下文)会导致推理成本增加、延迟上升,甚至影响推理性能。为此,我构建了一个确定性管道,在提示词到达模型前修剪冗余状态。该实现完全避免调用LLM、嵌入和外部依赖,仅依赖标准库组件确保每个修剪决策完全确定且可重现。状态跟踪分三个独立阶段执行:过期上下文消除、重复上下文消除和依赖恢复。第三阶段确保不会意外删除后续消息依赖的内容。在构建过程中,我遇到了两个改变设计的错误:初始基准语料库使用固定数量的重复和过时工具调用,导致缩减百分比随对话增长而缩小;依赖恢复逻辑因合成数据从未创建需要删除必需消息的情况而完全未测试。修正后,我在三种工作负载(纯聊天、RAG助手和工具密集型代理)上进行了基准测试,每个测试五种对话规模,共15种配置。所有运行中,标记为必需的事实均被保留,系统在单次修剪后达到稳定固定点。令牌缩减效果因工作负载而异:纯聊天约2-4%,RAG助手约27-32%,工具密集型代理约33-34%。即使在2000轮、131000个令牌的情况下,预处理时间仍低于50毫秒。 #LLM #提示词工程 #AI系统 #性能优化 #RAG #工具调用 #上下文管理
在长期运行的LLM系统中,对话状态会随时间快速增长,每次交互都重新发送大量历史记录(包括过时的工具输出、重复的RAG检索结果和无关上下文)会导致推理成本增加、延迟上升,甚至影响推理性能。为此,我构建了一个确定性管道,在提示词到达模型前修剪冗余状态。该实现完全避免调用LLM、嵌入和外部依赖,仅依赖标准库组件确保每个修剪决策完全确定且可重现。状态跟踪分三个独立阶段执行:过期上下文消除、重复上下文消除和依赖恢复。第三阶段确保不会意外删除后续消息依赖的内容。在构建过程中,我遇到了两个改变设计的错误:初始基准语料库使用固定数量的重复和过时工具调用,导致缩减百分比随对话增长而缩小;依赖恢复逻辑因合成数据从未创建需要删除必需消息的情况而完全未测试。修正后,我在三种工作负载(纯聊天、RAG助手和工具密集型代理)上进行了基准测试,每个测试五种对话规模,共15种配置。所有运行中,标记为必需的事实均被保留,系统在单次修剪后达到稳定固定点。令牌缩减效果因工作负载而异:纯聊天约2-4%,RAG助手约27-32%,工具密集型代理约33-34%。即使在2000轮、131000个令牌的情况下,预处理时间仍低于50毫秒。 #LLM #提示词工程 #AI系统 #性能优化 #RAG #工具调用 #上下文管理