LessWrong Wiki: 价值观复杂性 (Complexity of value)
关键摘要：
价值观的两个特性：
复杂性：我们的偏好不能被几条简单的规则概括出来。
脆弱性：哪怕只丢失一小部分规则，导出的新价值观也无法被我们大多数人接受。
https://wiki.lesswrong.com/wiki/Complexity_of_value
关键摘要：
价值观的两个特性：
复杂性：我们的偏好不能被几条简单的规则概括出来。
脆弱性：哪怕只丢失一小部分规则，导出的新价值观也无法被我们大多数人接受。
https://wiki.lesswrong.com/wiki/Complexity_of_value
心灵投射谬误/投射作用
是一种非形式谬误，系指某人认为他看世界的观点反映了世界的真相。也就是，某人将他的个人感觉投射到真实世界。
一张空白的地图不等于一块空白的地域。
https://zh.m.wikipedia.org/wiki/心灵投射谬误
https://wiki.lesswrong.com/wiki/Mind_projection_fallacy
是一种非形式谬误，系指某人认为他看世界的观点反映了世界的真相。也就是，某人将他的个人感觉投射到真实世界。
一张空白的地图不等于一块空白的地域。
https://zh.m.wikipedia.org/wiki/心灵投射谬误
https://wiki.lesswrong.com/wiki/Mind_projection_fallacy
Wikipedia
心靈投射謬誤
心靈投射謬誤（mind projection fallacy）或投射作用是一種非形式謬誤，係指某人認為他看世界的觀點反映了世界的真相。也就是，某人將他的個人感覺投射到真實世界。
规模不敏感：
人的大脑不能在情绪上感知规模差异。
一个可以救助 20 万只鸟类的环境保护措施，不会比能拯救 2000 只鸟的措施在情感上以百倍的程度影响你。
怎么应付规模不敏感？
规模不敏感有什么危害？
欢迎在 LessWrongCN 群组或科学之城讨论。
人的大脑不能在情绪上感知规模差异。
一个可以救助 20 万只鸟类的环境保护措施，不会比能拯救 2000 只鸟的措施在情感上以百倍的程度影响你。
怎么应付规模不敏感？
规模不敏感有什么危害？
欢迎在 LessWrongCN 群组或科学之城讨论。
效益主义：LessWrong Wiki
一种道德哲学，认为最重要的是所有人福利的总和。
不要与 最大化效用 或 预期效用 混淆，如果你是效益主义者，你不会考虑 可能世界，你只会考虑到人。
效益主义者有几种类型，比如说，不像 总和效益主义 者， 平均效益主义 者计算群体的平均效用，而 消极效益主义 者致力于最小化痛苦，并且经常谈论极端影响。
https://wiki.lesswrong.com/wiki/Utilitarianism
一种道德哲学，认为最重要的是所有人福利的总和。
不要与 最大化效用 或 预期效用 混淆，如果你是效益主义者，你不会考虑 可能世界，你只会考虑到人。
效益主义者有几种类型，比如说，不像 总和效益主义 者， 平均效益主义 者计算群体的平均效用，而 消极效益主义 者致力于最小化痛苦，并且经常谈论极端影响。
https://wiki.lesswrong.com/wiki/Utilitarianism
理性成本：LessWrong Wiki
理性是有成本的。
更加的 认识论理性 只能保证一件事：你所相信的事情里会有更多的真相。
知道真相可以帮助你实现你的目标（工具理性），也有可能并没有什么用。
确保你真的想知道真相，再去寻找它。
https://wiki.lesswrong.com/wiki/Costs_of_rationality
理性是有成本的。
更加的 认识论理性 只能保证一件事：你所相信的事情里会有更多的真相。
知道真相可以帮助你实现你的目标（工具理性），也有可能并没有什么用。
确保你真的想知道真相，再去寻找它。
https://wiki.lesswrong.com/wiki/Costs_of_rationality
心流不能带来专精？下文提出了这样的观点并给出了论证，你怎么看？
https://www.scotthyoung.com/blog/2017/03/29/flow-doesnt-lead-to-mastery
https://www.scotthyoung.com/blog/2017/03/29/flow-doesnt-lead-to-mastery
Part A, Availability:
如果城市防洪做的很好，那么人们会倾向于洪水根本不会发生，到了偶然发生特大洪水时，人们就会发现他们因为自信而没买保险。
记忆从来不是统计历史概率的好办法，更别想着去预测未来了。
如果城市防洪做的很好，那么人们会倾向于洪水根本不会发生，到了偶然发生特大洪水时，人们就会发现他们因为自信而没买保险。
记忆从来不是统计历史概率的好办法，更别想着去预测未来了。
理性之道、Less Wrong，群星和别的什么
Part A, Availability: 如果城市防洪做的很好，那么人们会倾向于洪水根本不会发生，到了偶然发生特大洪水时，人们就会发现他们因为自信而没买保险。 记忆从来不是统计历史概率的好办法，更别想着去预测未来了。
正确的做法是：判断城市是没有发生洪水的条件，还是城市的防洪系统让小型洪水没有机会出现
Part A, 成为负担的细节（Burdensome Details）
未来学家？实际上，句子每加上一个 "and"，它的概率就要重新计算。
然而，越“逼真”的句子越使人确信
“人类文明将在百年内毁灭”
“人类文明将在百年内毁灭，地球生物圈将重新洗牌”
多出来的细节使得句子的发生概率下降（但人们常常不这么想），这就是合取谬误（Conjunction fallcy）。
If you can lighten your burden you must do so.
未来学家？实际上，句子每加上一个 "and"，它的概率就要重新计算。
然而，越“逼真”的句子越使人确信
“人类文明将在百年内毁灭”
“人类文明将在百年内毁灭，地球生物圈将重新洗牌”
多出来的细节使得句子的发生概率下降（但人们常常不这么想），这就是合取谬误（Conjunction fallcy）。
If you can lighten your burden you must do so.
理性之道、Less Wrong，群星和别的什么
Part A, 成为负担的细节（Burdensome Details） 未来学家？实际上，句子每加上一个 "and"，它的概率就要重新计算。 然而，越“逼真”的句子越使人确信 “人类文明将在百年内毁灭” “人类文明将在百年内毁灭，地球生物圈将重新洗牌” 多出来的细节使得句子的发生概率下降（但人们常常不这么想），这就是合取谬误（Conjunction fallcy）。 If you can lighten your burden you must do so.
本章还提出在无法精确计算概率的情况下也要估计概率的建议：
总统支持保护单身母亲，也支持削弱本地政府的权利。
根据你拥有的信息，你预估总统一定会支持保护单身母亲，那么可能性记为
你不确定总统是否会支持削弱本地政府，所以你觉得可能性应该记为 0.8
那么这句句子的可能性为
P(A)*P(B) = 1*0.8 = 80%
现实世界有很多事情不能精确计算概率，请用工具武装自己，接近真相
总统支持保护单身母亲，也支持削弱本地政府的权利。
根据你拥有的信息，你预估总统一定会支持保护单身母亲，那么可能性记为
你不确定总统是否会支持削弱本地政府，所以你觉得可能性应该记为 0.8
那么这句句子的可能性为
P(A)*P(B) = 1*0.8 = 80%
现实世界有很多事情不能精确计算概率，请用工具武装自己，接近真相
Part A, 计划谬误
悉尼歌剧院预期于 1963 年以 $7 million 完工，实际于 1973 年以 $102 million 完工。
计划谬误：就是人们觉得他们可以计划，哈哈。
悉尼歌剧院预期于 1963 年以 $7 million 完工，实际于 1973 年以 $102 million 完工。
计划谬误：就是人们觉得他们可以计划，哈哈。
理性之道、Less Wrong，群星和别的什么
Part A, 计划谬误 悉尼歌剧院预期于 1963 年以 $7 million 完工，实际于 1973 年以 $102 million 完工。 计划谬误：就是人们觉得他们可以计划，哈哈。
最好的纠正的办法是想想上次做类似的事情花了多少时间，也就是说，用客观而不是主观的方式来做出预计。但是当你在做一件新的事，没有历史可以借鉴的时候，你就需要非常非常非常地悲观，实际情况与你的预计相比好和坏的比例才会各占一半。事实上，悲观到比现实还差的程度是非常困难的。
-- 哈利波特与理性之道
-- 哈利波特与理性之道
Lesson#1: 关于学习的最常见的误解
作者: Scott Yang
Most students are under the misconception that passive input—watching, listening, reading—is where learning happens and practice is simply a check on that knowledge. In other words, I learn the class during the lecture and verify that I learned it during the homework.
The truth is actually closer to the opposite. The bulk of learning for almost any usuable knowledge happens during practice. Watching, listening and reading are the supplementary activity, supporting practice by filling explanatory gaps and details.
这是不是意味着我可以不用上课了？
Unfortunately, no.
建议:
#1: Minimal Pre-Practice Coverage
最小化开始练习所需要的阅读
#2: Selective Deep Listening/Reading
练习之后还困惑的部分再读材料
#3: Interleave Practice with Theory
Case #1: Learning to Program
传统方法：买本书，读完，试着写
好方法：开始写，有问题？看书
Case #2: Learning Calculus
传统方法：看完视频，糊涂了，看更多的视频，然后试着做题
好方法：做题，不会？看视频，重复
↑在这方面，可汗学院做的很好
Case #3: Learning History
传统方法：看书。
好方法：试着写篇文章，为想看的书写个大纲，然后再继续读书
↑上文为 Scott Yang 的推送邮件概括
作者: Scott Yang
Most students are under the misconception that passive input—watching, listening, reading—is where learning happens and practice is simply a check on that knowledge. In other words, I learn the class during the lecture and verify that I learned it during the homework.
The truth is actually closer to the opposite. The bulk of learning for almost any usuable knowledge happens during practice. Watching, listening and reading are the supplementary activity, supporting practice by filling explanatory gaps and details.
这是不是意味着我可以不用上课了？
Unfortunately, no.
建议:
#1: Minimal Pre-Practice Coverage
最小化开始练习所需要的阅读
#2: Selective Deep Listening/Reading
练习之后还困惑的部分再读材料
#3: Interleave Practice with Theory
Case #1: Learning to Program
传统方法：买本书，读完，试着写
好方法：开始写，有问题？看书
Case #2: Learning Calculus
传统方法：看完视频，糊涂了，看更多的视频，然后试着做题
好方法：做题，不会？看视频，重复
↑在这方面，可汗学院做的很好
Case #3: Learning History
传统方法：看书。
好方法：试着写篇文章，为想看的书写个大纲，然后再继续读书
↑上文为 Scott Yang 的推送邮件概括
#从人工智能到僵尸
Part A, 推理长度
在原始社会，如果你想告诉伙伴前面有绿洲，你不需要解释为什么喝水很重要、如何走路之类的话题，因为那是你们的共有知识。
如果你在原始社会想告诉别人一件不明显的事情，那么别人会把你当白痴。
如果你在原始社会告诉别人一件明显的事情，别人却不想相信，要么他们是白痴，要么他们诚心想和你搞事。
现代社会就没有那么简单了，我们的头脑中多出了许多许多抽象、不明显的信念。
从共有知识到你想说明的结论之间有时也不是只有一步之遥，当你没法在别人的共有知识之上讲解的话，你的话对他就是空中楼阁。
如果你觉得你能简单搞定这个问题的话，你可能要失望了……
Part A, 推理长度
在原始社会，如果你想告诉伙伴前面有绿洲，你不需要解释为什么喝水很重要、如何走路之类的话题，因为那是你们的共有知识。
如果你在原始社会想告诉别人一件不明显的事情，那么别人会把你当白痴。
如果你在原始社会告诉别人一件明显的事情，别人却不想相信，要么他们是白痴，要么他们诚心想和你搞事。
现代社会就没有那么简单了，我们的头脑中多出了许多许多抽象、不明显的信念。
从共有知识到你想说明的结论之间有时也不是只有一步之遥，当你没法在别人的共有知识之上讲解的话，你的话对他就是空中楼阁。
如果你觉得你能简单搞定这个问题的话，你可能要失望了……
理性之道、Less Wrong，群星和别的什么
#从人工智能到僵尸 Part A, 推理长度 在原始社会，如果你想告诉伙伴前面有绿洲，你不需要解释为什么喝水很重要、如何走路之类的话题，因为那是你们的共有知识。 如果你在原始社会想告诉别人一件不明显的事情，那么别人会把你当白痴。 如果你在原始社会告诉别人一件明显的事情，别人却不想相信，要么他们是白痴，要么他们诚心想和你搞事。 现代社会就没有那么简单了，我们的头脑中多出了许多许多抽象、不明显的信念。 从共有知识到你想说明的结论之间有时也不是只有一步之遥，当你没法在别人的共有知识之上讲解的话，你的话对他就是空中楼阁。…
抱歉，各位，这次的介绍因为我的水平原因，质量非常低，建议阅读原文
Rational: From AI to zombies,
Part A,
9: Expecting Short Inferential Distances
Rational: From AI to zombies,
Part A,
9: Expecting Short Inferential Distances
本频道 Tag 分类：（以后可能新增）
#hpmor ：哈利波特与理性之道
#lesswrong ：Less Wrong wiki
#推荐书目
#scottyoung ：Scott Young 的博客
#wiki ：维基百科
#talk ：讨论
#从人工智能到僵尸 ：Rational: From AI to zombies
=========
我们在此寻觅，是为了真正开始把事情做对——而不仅仅是在事后有一套方便好使的词汇来描述你犯下的错误
#hpmor ：哈利波特与理性之道
#lesswrong ：Less Wrong wiki
#推荐书目
#scottyoung ：Scott Young 的博客
#wiki ：维基百科
#talk ：讨论
#从人工智能到僵尸 ：Rational: From AI to zombies
=========
我们在此寻觅，是为了真正开始把事情做对——而不仅仅是在事后有一套方便好使的词汇来描述你犯下的错误
Part A. 看到自己瑕疵的望远镜：我们人类的理性观
前导知识：当我们在说理性的时候，我们在说什么？http://hpmor.lofter.com/post/382652_aa148d8
光从眼前的屏幕中射出，一些光子进入了瞳孔，击打在视网膜上。神经脉冲被触发——这些不同颜色、不同亮度的信息被传输到了大脑。大脑负责视觉处理的部分将这两张二维图像组合而成三维图像，你便看到了这个世界。
这就是刻意理性(deliberate rationality)，这整个过程很科学，而且人类也能读懂它。你可以想到你现在为什么能够看到这篇文字。
作为对比，老鼠可以看到事物，但它们不懂“看”这一过程，更不用说理解“看”的瑕疵并且试图避免了。（例如：seemingly bizarre image）
理性，在某种意义上来说，就是利用科学手段达到避免认知错误的过程。
#从人工智能到僵尸 https://intelligence.org/rationality-ai-zombies/
前导知识：当我们在说理性的时候，我们在说什么？http://hpmor.lofter.com/post/382652_aa148d8
光从眼前的屏幕中射出，一些光子进入了瞳孔，击打在视网膜上。神经脉冲被触发——这些不同颜色、不同亮度的信息被传输到了大脑。大脑负责视觉处理的部分将这两张二维图像组合而成三维图像，你便看到了这个世界。
这就是刻意理性(deliberate rationality)，这整个过程很科学，而且人类也能读懂它。你可以想到你现在为什么能够看到这篇文字。
作为对比，老鼠可以看到事物，但它们不懂“看”这一过程，更不用说理解“看”的瑕疵并且试图避免了。（例如：seemingly bizarre image）
理性，在某种意义上来说，就是利用科学手段达到避免认知错误的过程。
#从人工智能到僵尸 https://intelligence.org/rationality-ai-zombies/
Lofter
理性：从人工智能到僵尸，我所谓的理性到底是什么意思？-哈利波特与理性之道
授权和转载须知 （*译注： 全书为方便阅读和查阅，做了许多文章与文章之间的快捷链接，这些会在后文翻译完毕后逐步补上，同时视情况调整翻译顺序） 《理性：从人工智能到僵尸 - 地图与真实的土地 - 第一部分：可以预见的错误 - 我所谓的理性到底是什么意思？》 我的意思是： 认知理性：系统性地提高信念准确度。 工具理性：系统性地实现你的价值。 当你睁开眼，看着周围的房间时，你会根据桌子来定位你笔记本电脑的位置，然后又根据墙壁来定位书架的位置。如果你的眼睛或大脑出了什么问题，你的心理模型就会指着没有书架的...