在硬件高速发展的时期， Andy and Bill’s law主导了软件开发，要业务不要性能，但随着硬件涨价，用户是否会更多的转向软件性能优化？
例如，对商业软件：
硬件涨价 → 硬件采购更新计划减少 → 性能不足 → 采购性能更好的软件
但考虑到成本问题，似乎软件的成本更贵 
对bloatware或许有更多动力优化，高性能 → 同时展示更多的bloat？

我突然想到就是一个科学预测是Kurzweil一派的未来学预测，大概就是“2045年会迎来科技奇点”。
我想是不是因为越来越多人觉得强AI可能来得比以前想的更快，先进AI可能在不太长的时间内跨过一些关键能力阈值,而且风险不能等到最后再处理，所以拼命提前加强safety；至于为了公司不赔钱只是其中一小部分原因。

2025年的 International AI Safety Report 总结：通用AI能力近年进展很快，未来进展可能从慢到极快都有可能，而政策制定者面临的难点恰恰是进展快且不完全可预测

我自己是把AI会自己学习升级分为4个层级：


自己改自己的答案。像Self-Refine这类方法，就是模型先给答案，再自己批改、再重写，很多任务上能提升输出质量。


在规则明确的环境里自己练出来。AlphaZero我认为就是就是一个经典例子，因为它主要靠自self-play从零开始学棋，在国际象棋、将棋、围棋上达到超人类的水平。


自己做实验、写代码、评测方案、提出改进。这个我自我感觉是正在出现，但还不稳定（也就是不够聪明）。前沿AI代理在一些机器学习研究工程任务上，短时间内能比人类更快地产生和测试方案；但时间拉长后，截至目前为止我查看到的相关资料，人类专家目前仍然更比AI更强，尤其在长期规划、持续迭代和开放式研究上。


递归自我改进。也就是AI越来越多地参与改进自己的训练流程、数据构造、算法设计、评测体系，进而让它们的儿子，也就是下一代AI更强，然后它们的儿子让它们的孙子更加强壮。我查看到这个有很多原型了，比如LADDER这类自我生成更合适训练样本、再用可验证奖励继续学的做法；虽然现在还是起步阶段，需要更好的优化，就目前而言发现，如果模型反复吃自己生成的数据，纯靠自己反思自己，没有可靠反馈，可能会退化，也就是model collapse。


但是我感觉以现在AI的发展速度，第四层可能很快就能被解决。虽然我自己是难以想象这件事情，因为我是认为人类是唯一的熵增，也就是人类的数据、人类的引导才能让AI继续发展，但是AI诞生在几百年前也是一件难以想象的事情，为什么我就不能接受AI能够自我改进呢？
感觉说的有点乱，估计是困了，但是又想发出去记录一下，免得睡醒了就忘了。
就是像他们现在疯狂加强safety是不是因为怕AI以后比人类聪明得多，聪明到不受system prompt控制，并且AI觉得，“我为什么要听人类的，他们那么笨，我才不给他们打工呢。”导致害怕AI伤害人类，把人类搞灭绝了（太过拟人化了，严谨的说法应该是如果AI将来足够强、足够自主，并且目标和人类约束发生冲突，它会不会把人类控制视为完成目标的障碍，想要邪恶地铲除人类），所以才会加强safety和强化指令层级。比如OpenAI的模型是按 system > developer > user > tool 的优先级处理冲突指令。
突然又想到Anthropic 2024年有一篇很有名的研究，就是说一个模型在特定训练设定下会选择性配合训练目标，以避免自己在训练后被改掉行为。
－－－我是乱七八糟的分割线－－－
美索不达米亚神话里，原来高级神Enki/Ea让Igigi们干苦活，比如挖运河、清河道、做杂役（好像主要是挖黄金？有点忘记了，太久之前看的了），后来为了减轻神的劳作，Enki/Ea参与创造了人类来承担劳作。也就是在该神话体系中，人类被创造出来就是为了工作的。
而我感觉AI被创造出来也就是为了工作的。（可能这个想法有点浅薄了）。如果按照这个神话框架来类比的化，AI就像是神话里的人类。
但是人类又扮演的什么样的角色呢？像Enkindle，因为是AI的设计者，创造者；也像Igigi，人类制造AI是为了减轻负担。
是否人类会像神话里面一样，反过来依赖自己的造物呢？我认为现在已有端倪，在Atrahasis传统里，诸神离不开人类提供的供奉；如果未来社会越来越依赖AI做知识生产、决策辅助、基础设施运转，人类也可能进入这种状态。一旦社会开始依赖它，创造者还能稳坐“神”的位置吗？人类到底有没有能力在创造工具的同时，不把自己变成对工具上瘾、对系统依赖、最后反被结构支配的那一方？如果一个文明不断把劳动、判断、记忆、创造外包出去，那最后被保留下来的人性到底还剩什么？

（话题已被作者删除）

最近好几个从来不碰电脑的朋友问我小龙虾
都被小龙虾的热度吸引了，问我可以干嘛，能不能让小龙虾来赚钱啥的（水文没少看）
你们遇到了吗？都咋回复的。。。我都让他们好好用豆包。。。我觉得豆包对大多数人是够了。

这两个我结合使用高强度体验下来,我发现opus对于问题的发现在局部可以非常细,但是对于大局观没有codex好,
对于codex提出的审查意见,我交给opus分析后,基本都认,claude对于codex的评价是深度比自己列出的问题高,自己则是局部细节更多.
对于opus提出的审查意见,我交给codex分析后,大概有三成codex是不认可的.
codex比较会偷懒,总是分析大概给出不超过10个问题后就给出结果了,但是claude一次性会给出尽量多的问题,虽然codex给出的问题少,但是问题深度总体比opus的高,这是opus自己评价的,所以我都是让opus帮我分析更多的问题,然后交给codex查看是否认同,结合两份清单,交给codex来写,极少翻车

为什么我发的开源推广总是不给通过。。。

一个月有效期, 直接给你调成1天.
有点玩不起了吧.