本书探讨了人工智能、合成生物学、量子计算和机器人技术等新兴技术快速发展带来的巨大机遇和风险。文章分析了这些技术的四个关键特征：非对称性、超级进化性、通用性和自主性，并指出它们加剧了技术遏制的难度。此外，文章还探讨了技术扩散的动力，包括国家战略、全球研究生态系统、经济利益和个人追求，以及这些技术对民族国家稳定性和全球秩序的潜在冲击，最终呼吁加强技术安全和伦理研究，以应对未来的挑战。
《浪潮将至》一书由穆斯塔法·苏莱曼撰写，深入探讨了以通用人工智能和合成生物学为核心的新技术浪潮对人类社会带来的巨大风险与机遇。这本书的核心概念围绕着“浪潮”与“遏制”展开，作者将新兴科技比喻为不可阻挡的浪潮，并创造性地提出了科技领域的“遏制问题”：如何在享受技术带来的巨大利益的同时，保持对强大技术的约束和控制。
主要论点与核心概念:
- 技术浪潮的必然性与加速:
- 作者认为，人类已经历了多次技术浪潮，从原子时代到比特时代，再到如今的基因时代。这些浪潮以惊人的速度传播，并渗透到社会的各个角落。
- “人类先是操控原子世界，然后把玩比特世界，但犹自不满足，现在正努力创造新形式的生物生命。”
- “浪潮涌动得越来越快，影响越来越广。随着技术变得越来越便宜，它也越来越容易普及。”
- “一场新的技术浪潮正向我们汹涌而来。这场浪潮正释放出改造上述两大基石（生命系统和人类智慧）的力量，可谓智能与生命的浪潮。”
- 通用人工智能与合成生物学的双重威胁:
- 本书的核心是围绕通用人工智能（AI）和合成生物学这两项通用技术展开的。作者认为，这两项技术既具有巨大的潜力，也伴随着巨大的风险。
- “即将到来的技术浪潮主要建立在两大通用技术之上：人工智能和合成生物学。它们既能在最宏大的层面上运作，也能深入最微观的层面。”
- “如果任何人能够成功地复制人类智慧，那就不仅仅意味着一个有利可图的商机，更预示着人类历史的一次重大变革。它将开启一个新的纪元，带来前所未有的机遇，同时也伴随着前所未有的风险。”
- 人工智能可能在未来三年内，在各类任务中达到与人类相当的水平。
- 合成生物学使我们能够对DNA进行测序、修改，甚至打印，释放生物创造力。
- “欢迎来到生物机器和生物计算机的时代。在这里，D N A链执行计算，人工细胞投入工作。在这里，机器焕发出新的生机。欢迎来到合成生命的时代。”
- “遏制问题”的提出:
- 作者提出，如何在享受技术进步的同时，避免技术带来的潜在灾难性后果是一个亟待解决的“遏制问题”。
- “作者把当下的前沿新科技比喻成即将到来的技术浪潮，并类比国际政治领域的‘遏制’，创造性地提出了科技领域的‘遏制问题’——如何在享受技术带来的巨大利益的同时，保持对强大技术的约束和控制。”
- “技术存在于一个复杂且动态的系统（现实世界）中，其二阶、三阶乃至更高阶的影响会以不可预测的方式扩散。”
- “技术的力量越强大，它就越是深入生活和社会的方方面面。因此，技术的问题往往会随着技术能力的提升而加剧，所以随着时间的推移，遏制的需求也变得更加迫切。”
- 作者认为“遏制”是“控制、限制以及必要时在技术的任何发展或部署阶段关闭技术的能力。”
- 技术浪潮的特征:
- 非对称性：权力大转移，新技术使得小势力可以挑战大势力。
- “新技术会使得那些看似强大的势力暴露出以前难以想象到的弱点和破绽。”
- 超级进化性：技术以惊人的速度迭代和改进。
- “这些技术发展迅猛，呈现出一种超级进化性，它们以惊人的速度迭代、改进，并不断拓展至新的领域。”
- 通用性：技术可服务于多种不同的目的，难以预测其全部应用范围。
- “它们往往具有通用性，能够服务于多种不同的目的。”
- 自主性：技术越来越具有自主性，可能在无人为干预的情况下运行。
- “与任何以往的技术相比，它们越来越展现出一定程度的自主性。”
- 民族国家的困境:
- 作者认为，民族国家体系在面对即将到来的技术浪潮时表现出脆弱性，难以有效应对技术带来的新挑战。
- “在技术持续崛起与国家日渐式微的背景下，这场危机将演变为一道关乎人类命运的重大难题，迫使我们面临一系列棘手的选择与取舍，这无疑构成了21世纪人类所面临的最大困境。”
- 技术可能导致社会契约的瓦解，以及权力的分散和集中。
- “在权力不断分裂的背景下，主权国家将面临空前的压力，甚至可能被推至崩溃的边缘。”
- 国家可能在安全保障、社会秩序、税收、法律等方面失能。
- 潜在的灾难性后果:
- 技术失控可能导致灾难性后果，包括人为制造的流行病、自动化战争、人工智能网络攻击，甚至导致反乌托邦式的全球监控体系。
- “设想一下，由人工智能助力的网络攻击、可能引发国家毁灭的自动化战争、人为制造的流行病，以及一个由看似强大但充满未知力量的技术所主导的世界，这些极端情况在技术的推动下都有可能成为现实。”
- 作者指出，如果未能遏制即将到来的技术浪潮，灾难的降临就是迟早的事。
- “事故、失误、恶意使用、超出人类控制的进化以及各种难以预料的后果，这些都可能发生。在某个阶段、某个地方，总会有某些东西以某种形式出错。其潜在的危机规模将远超博帕尔毒气泄漏和切尔诺贝利核事故，其灾难性的后果将是全球性的。”
- “悲观规避陷阱”：
- 人们，尤其是精英阶层，倾向于忽视、淡化或排斥他们认为过于负面的观点，这是一种乐观偏差，影响我们关于未来的讨论。
- “将这种我观察到的普遍的情感反应称为‘悲观规避陷阱’，即当你过于害怕面对潜在的黑暗现实时，你就容易产生错误的分析和判断，并倾向于从另一个看似安全的角度来看待问题。”
- 10个关键步骤以实现遏制：
- 作者提出了10个步骤，试图构建一套相互衔接的有力的遏制机制，这些步骤涵盖了从代码编程到国际条约的各个层面。
- 1.安全：技术安全的阿波罗计划
- 审计：知识就是力量，力量就是控制
- 技术命门：争取时间
- 开发者：批评者也应参与开发工作
- 企业：利润+使命
- 政府：生存、改革、监管
- 联盟：是时候制定条约了
- 文化：正确地接受失败
- 运动：公众的力量
- 狭窄小道：在开放与封闭之间寻找平衡。
- 对监管的审视与反思：
- 作者认为，仅仅依靠监管是不够的，但监管是起点。
- “依靠监管是远远不够的，但监管至少是一个起点。”
- 作者强调，需要公共部门和私人部门之间建立创新、大胆的合作关系，并为各方提供一套全新的激励机制。
- 对技术的双重认知:
- 作者认为，技术代表了人类最好和最坏的方面。必须同时认识到技术的正负两面。
- “技术同时代表了人类最好和最坏的方面。任何片面的观点都不足以被称为对技术的客观审视。唯一合理的技术认识论便是同时认识到技术的正负两面。”
重要引述:
- 张钹： “本书提出的见解是深刻和有说服力的，具有很大的参考价值。”
- 沈向洋：“作者探索出了一系列‘遏制浪潮’的步骤，既展示了强大技术创造的巨大繁荣，又引领我们直面技术的重大威胁，为我们提供了一套切实可行的应对策略。”
- 朱松纯：“这本书既有技术深度，又有人文情怀，值得深读！”
- 胡泳：“你读到了一本既批评人工智能炒作又批评人工智能厄运预言的书，只不过这一次的这位作者的确是个行家。”
- 安德鲁·麦卡菲：“这本书是真实的、充满激情的，直面我们这一代人将面临的重要挑战。感谢苏莱曼，让我们看清了现状，也明白了自己的选择。现在，该轮到我们采取行动了。”
- 阿兰·德波顿：“书中不乏令人胆寒的章节，毕竟当浪潮将至 4意识到众多熟悉的事物即将发生巨变时，恐惧是不可避免的。但读完之后，人们会感到充满能屋，为能活在这样一个时代而感到兴奋。浪潮将至，此书便是我们的先兆与指南。”
- 玛莎·米诺：“这本重要著作就像一张生动且颇具说服力的路线图，为我们指明了主动引导技术创新，而不是被动接受技术控制的道路。”
- 梅根·奥沙利文：“更为难得的是，苏莱曼不仅提出了问题，还深入思考了解决之道。他提出了一系列切实可行的技术治理措施，这些措施如果能够得到大家的共同推进，将有望改变这些技术的开发和传播环境，为我们通向更加光明的未来开辟道路。”
- 斯图尔特·罗素：“这是一份既实用又充满希望的、针对我们这个时代紧要问题的行动指南: 如何掌控那些比我们自身强大得多的实体。”
结论:
《浪潮将至》是一本对当今技术发展提出深刻反思的著作。它不仅仅是对未来风险的警示，也是一份行动指南，呼吁人们在享受技术进步的同时，正视潜在的威胁，积极寻求技术发展的“狭窄小道”，避免灾难性的结局，并尽可能避免反乌托邦的未来。这本书的价值在于其冷静的分析、深刻的洞见，以及提出的切实可行的解决方案，为技术发展与社会治理提供了重要的参考。