上周末读过，今天研究了下unsupervised pre-training的原理后重新读了一遍，我认为有损压缩的比喻是非常形象和恰当的——GPT3是从已有的文本中抽象出单词的vector/embeddings, 形成weights, 需要的时候再依据这些生成后文，确实很像压缩/解压的过程。GPT3并不真正理解文本背后的知识，只是依据海量的阅读量猜测大概率符合预期的文本，当然也是有损的。

Ted认为LLM并不能提供精确的答案，因此无法替代搜索引擎，除非人类永远无法访问互联网。然而他担心的是一个不会发生的情况，况且GPT3本就是一个Generative Model，并不适用于需要精确答案的场景：为什么要担心一辆自行车不能用来做拉面呢？

本来写到这儿结束了，但是，但是我突然想到他的担心不无道理：*掌控工具而不被工具掌控的从来就是少数人*，Tim Berners-Lee会想到互联网最大流量是P站吗，pagerank诞生的时候有人想到会被用来卖莆田广告吗，Amazon用推荐算法给你推荐书籍的时候能想到这玩意儿能让人连刷一天短视频吗。自行车是不能做拉面啊，但万一大家把牙盘链条拆下来整出把加特林呢？

人类本就被巴别塔分裂而无法顺畅交流，如今的互联网本就充斥着虚假信息和互相攻讦的言论，用夹杂着虚妄和嗔念的语料库训练出超越人类的造物，再让他用上万倍的速度创造更多文本，头脑自行车变加特林对轰不是异想天开呀

战狼部应对气球事件的基本套路和过去对新疆议题基本是一样的。

第一阶段：我不知道
第二阶段：这是意外
第三阶段：我有正当理由
第四阶段：你也一样
第五阶段：恶毒咒骂

示威是一种政治博弈的手段，博弈的目标是迫使妥协而不是消灭。把群体性运动狭隘化成暴力革命的，要么是被列宁主义叙事忽悠傻了，要么是小说电影看太多看傻了。

中俄伊同盟

那么请问三国的共同点是什么？

https://mp.weixin.qq.com/s/fizKpc1C-plEdBWIq2dI7w

《完全正确》。

"If it looks like a duck, swims like a duck, and quacks like a duck, then it probably is a duck."

《掠夺行为》。

实在太好笑了，ChatGPT都放不出这样的狗屁

最近读史读到了隋，感觉十分应景。

大量收购：用价值100元RMB的百元人民币大钞收购成本大约17美分的百元美钞

台湾在我心中有特殊的意义：老中人也可以摆脱两千年秦制循环，享有法制和自由

一个人十三四岁的夏天，在路上捡到一支真枪。因为年少无知，天不怕地不怕，他扣下扳机。没有人死，也没有人受伤。他认为自己开了空枪。后来他三十岁或者更老，走在路上听到背后有隐隐约约的风声。他停下来，回过身去，子弹正中眉心。