《为什么伟大不能被计划》读书笔记

个人认为是一本被过誉的 2023 年畅销书。

极简简介

作者 Kenneth Stanley & Joel Lehman，两位都是 OpenAI 在职的研究员，ChatGPT 的核心研发科学家。 今年大模型爆火，OpenAI 出圈，在创投圈此书可谓是风头无二。 我或许知道此书题目想传达的“伟大不能被计划”的意思，但是还是未能免俗买来一看。

个人看法

极简评价

个人认为这是一本十分被过誉的书，只有一个核心观点 “探索十分重要”。 围绕这一点作者展开了啰嗦的陈述（并算不上论证），凑满了一本书的篇幅。 有一些启发，但是不多。

缺点

• 有时候本文会自相矛盾，“发条玩具与双足机器人相比，奔跑速度之快令人印象深刻，但它不可能最终成为通往机器人技术革命的桥梁。”这里就相当于设立了机器人的远大目标，本质上还是某种计划。但是却用于论证一个小分支“不能只看当下表现”。
• 本文最大的问题或许还是论证逻辑不清晰，直接原因是定义不清。即没有讲清楚什么是“伟大”，也没有讲清什么叫“计划”，自己的理解是：
  • “伟大”大多都是指当下预期的一些较为重要事物。
  • “计划”大多是指朝着目标行进的过程。
  • 书中没有明说，但是其实表达的核心是“不能通过计划一条确定的路径得到伟大，而是要通过演化（寻找踏脚石）得到伟大”。
• 演化可以理解为一个膨胀的树形结构，随着子代更新不断迭代到树的下一层。而伟大是指某个价值较高的叶节点。
  • “伟大不能被计划”可以理解为规定一个较远的叶节点，难以从当前根结点出发以一个确定的路径到达。
  • 从树的叶节点往回看，是一条清晰的逻辑通路，但是从根节点看，确实一个很大的搜索空间，所以我们当然可以说这个 $1/2^n$ 概率小到不合逻辑，即不能被计划。
  • 这其实并不新鲜，这个和伟不伟大无关，和计不计划也无关。
• 作者似乎啰嗦了半天，讲了一件显而易见的事情。

感想/看法

• 不太认可中文序言中的“求新就意味着求复杂”。根据奥卡姆剃刀原理，更复杂未必更好。当然“掌握更多信息”我还是赞同的。
• 预感通篇都会在讲 Exploration-Exploitation，结果是通篇都在强调 exploration。
• “也许有时候支持最大限度的分歧，而不是一致的意见，会更有意义。”想到了 NCS 算法。
• 迭代更新解或者解集真的是计算机算法的基石之一，也是优化的基本逻辑。
• 要想清楚“我们在逃离什么”这一点十分有趣，这个其实可以指代我们当前的缺陷是在哪里。
• 新奇性算法本质上感觉是一种蚁群算法，追求蚁群整体利益最大化（某一只蚂蚁获得高收益），对每一只蚂蚁而言并非利益最大化。而最终的收益并不是线性的，某一只蚂蚁会遇到收益的爆炸增长，即找到那么多目标点中的一个即可。
• 使用图片培育做类比是很不具有普遍意义的，当然仅作为演化的一个例子出发没什么问题。
• 这本书让我想到那个问题“是否只有专家才能评价？”。
• 在世界上第一个生命出现之时，为什么他会活下去以及繁衍呢？即“活着”这一命题什么时候出现以及为啥出现？因为我们是往回看，所以看到的只是留下来的。所以一切能看到的东西都会有趋向于留下来的生命特征。最简单的就是被切一半还能留下来的特性，这就是原始的单细胞原核生物。
• 新产生的生命都是探索新赛道而不是卷旧赛道。
• 和基因之河很多描述类似，因为都是基于物种进化的概念而来。

按节讨论/摘录

• 从上述“搜素空间”的角度思考，“发现”便是我们把创造的过程看作搜索这个庞大房间的过程。
• 若目标设置得足够适度，它就会起到积极作用；反之，目标越“高大上”，情况就越复杂。
• 我们的世界充斥着为了获得成功而设置的各色目标和衡量标准，这使我们的生活变得机械化，压抑了我们的生活热情，但通往幸福和成功还有其他途径。
• 欺骗性往往是目标不能带来伟大成就的关键原因。如果目标具有欺骗性 （其实大多数 “高大上”的目标都如此），那么设定目标并以此为我们努力方向的做法对实现目标没有什么帮助。
• 但是，当目标的故事围绕着“生存和繁衍”这样的开放式约束条件展开时，我们应该小心对待。
• 通常情况下，目标应该是一个明确而具体的产物，且在成功实现目标的情况下，你最終确实会生产出它，而非一个模糊的笼统的描述。
• “生存和繁衍”是自然进化过程寻找踏脚石的一种手段——它使进化过程能够识别出可能成功催生出其他生物的有机体。但这并不是非目标性探索的唯一手段。
• 我们这里谈论的“目标”都是深层次的远大目标，如果你距离目标只有一块踏脚石的距离，那么设置并遵循目标依然是有意义的。
• 设定目标尽管在当下很吸引人，却是整个过程中最容易完成的事情。
• 我们不妨将花在制定明确目标上的精力，转投到那些有希望引导我们实现某些伟大事业的踏脚石上，但这些踏脚石不一定淮确地通往我们设定的目标。
• 有趣的是，这种比较将问题从“我们正在接近什么”，变成 “我们正在逃离什么”，而逃离过去的有趣之处在于，它能够开启全新的可能性。
• 我们或许会假设，凌乱无序或疯狂甚至是开启伟大发现之旅的最佳方式。
• 关于简单的本质，我们可以长篇大论地说上好几章，但在本书范围内，简单行为的关键特征是，它不要求掌握关于这个世界的任何信息或知识。
• 从某种意义上说，经过漫长岁月的进化后，人类的身体已经成为一种关于人类所处的宇宙的相关事实的百科全书。
• 物理世界自身就提供了很多约束。新奇性搜索不会考虑许多可以想象但无法实现的行为。
• 世界的物理特性限制了新奇性搜素能考虑的所有行为，这一想法也解释了 新奇性搜索积累世果信息的趋势：真正成为下一步行为的踏脚石的那些行为，必须尊重现实世界运作的方式和规律。
• 放弃目标之所以困难，是因为这意味着放弃“存在正确道路”的想法。
• 一种可能性就是，如果人类并非进化的既定目标，那么使我们进化出有别于其他物种的特征，可能才是真正的目标。
• 匪夷所思的是，从那以后，生命的进程好像就停滞了，因为从原始数量和多样性来看，占主导地位的生命形式，从古至今都非单细胞生物莫属。
• 因为每位科学家个人的时间和资源都是有限的，所以每个学科社区，必须帮助其成员确定哪些科研想法才是最重要的想法。这样一来，同一个社区中的科学家们，就可以在不需要阅读全部论文或文献的情况下，了解到最前沿的信息。
• 如果一个新算法，在一个基准上的表现，比不上它的竞争对手，新想法的发明者往往会试图政善它的性能，或找到一个更有利的基准进行比较。
• 发条玩具与双足机器人相比，奔跑速度之快令人印象深刻，但它不可能最终成为通往机器人技术革命的桥梁。