技术揭秘

是一款面向消费者的聊天产品，用户可与名人、虚构角色或自定义人物进行多轮对话。其成功的关键在于一系列底层技术：自研的 Kaiju 大模型家族采用多查询注意力、滑动窗口注意力和跨层 KV 缓存共享等架构技巧，配合 INT8 量化与量化感知训练，实现了近乎即时的回复速度。此外，产品通过记忆系统、Lorebook 和事实存储机制，确保角色能长期保持对话连贯性与故事一致性。在推理层面， 使用 Slonk（基于 Kubernetes 的 Slurm 变体）进行大规模部署，并开源了 pipeling-sft 和 Agent SDK 等工具。这些工程创新共同构建了一个沉浸式聊天循环，让用户从点击短域名开始，便难以离开。 # #AI聊天 #大模型 #推理优化 #用户留存 #技术架构 #开源

大多数“自我改进”的AI代理并未真正改进

尽管业界对“自我改进循环”充满热情，但公开的、真正实现自我改进的案例却寥寥无几。一个自我改进循环的有效性完全取决于其验证器，而验证器的可靠性又依赖于真实世界数据的支撑。构建验证器是一项艰巨、缓慢且复杂的任务，而这正是当前竞争机会的集中所在。然而，大多数AI工程试图绕过这一环节。在资助相关项目前，需明确资源匹配：验证器依赖哪些真实世界数据？谁提供失败案例的专家反馈，成本如何？近期，多位专家分享了相关理论，但实际投入生产的案例屈指可数。在发现的9个用例中，仅有两个能公开证实其循环实现了“自我改进”。 一个简单的循环包含三个组件：执行循环（自动化执行的任务）、验证器（检查执行结果是否符合标准）和反馈机制（将验证器发现的问题反馈回执行循环）。验证器是“自我改进”的真正瓶颈，它必须基于持续的真实世界数据流，否则可能朝随机方向优化。对于代码部署，这一数据流相对直接（如测试结果、生产遥测、代码审计等），但若涉及知识工作，则需更多创意。例如，Replit的产品开发代理通过模拟应用和用户点击进行验证，并通过A/B测试和人工审核决定是否发布；而OpenAI的税务AI代理则依赖专家反馈和真实税务数据来优化。 #AI #自我改进 #验证器 #机器学习 #科技新闻 #自动化 #人工智能

马斯克承诺 Grok Imagine 将在 2026 年底前制作完整版《奥德赛》电影

据 CryptoRank 报道，埃隆·马斯克近日公开表示，其旗下人工智能公司 xAI 开发的图像生成模型 Grok Imagine 将在 2026 年底前完成一部完整长度的《奥德赛》电影制作。马斯克强调，这部电影将完全由 AI 生成，不依赖传统电影制作技术，旨在展示 Grok Imagine 在叙事和视觉创作方面的潜力。此举被视为 AI 在创意产业应用的重要里程碑，但也引发了对版权和艺术原创性的讨论。目前，xAI 尚未公布具体制作细节或合作方。 #马斯克 #GrokImagine #AI电影 #奥德赛 #人工智能 #科技新闻 #xAI