自雷·库兹韦尔的新书《奇点更近》，探讨了人工智能、纳米技术和生物技术等指数级增长的技术趋势如何将人类带向技术奇点。书中分析了库兹韦尔过去预测的准确性，并对未来几十年技术发展及其对人类社会（包括健康、经济和社会公平）的影响做出了预测，同时也探讨了技术奇点可能带来的挑战和风险，例如人工智能失控和就业市场变化。
作者认为，尽管存在挑战，但技术进步将显著改善人类生活，并最终克服许多长期困扰人类的问题。
本书旨在概述“粘贴的文字”中讨论的核心概念和思想，包括人工智能（AI）的发展、意识的本质、技术奇点的概念，以及这些因素如何塑造人类的未来。本文档将深入探讨技术进步的伦理和社会影响，并对人工智能在人类社会中扮演的角色进行分析。
主要主题与核心观点
- 雷·库兹韦尔的早期生活与技术天赋：
- 库兹韦尔从小就展现出对技术和人工智能的浓厚兴趣和卓越天赋。他七八岁时创立了机器人木偶剧院和机器人比赛，12岁开始专注于计算机发明，14岁撰写了关于大脑皮质的论文。
- “系列”图书。七八岁时，他创立了一个机器人木偶剧院，而且还开办了机器人比赛。12岁时，库兹韦尔开始花费大量精力做计算机和相关设备的发明工作。14岁时，他便写出了一篇详细论述大脑皮质的论文。在他的感染下，他的家中总是充满关于未来和技术的讨论。”
- 他在高中时期向在贝尔实验室工作的叔叔学习计算机科学，15岁编写了第一个计算机程序，17岁创建了模式识别软件用于音乐创作。
- “上高中后，库兹韦尔开始向在贝尔实验室当工程师的叔叔学习计算机科学的基础知识。一年后，15岁的他便写出了自己的第一个计算机程序。17岁时，他创建了一个模式识别软件，用于分析古典作曲家的作品，然后合成自己的歌曲。”
- 在麻省理工学院，他师从人工智能之父马文·明斯基，并快速完成了所有计算机编程课程。
- “在进入麻省理工学院学习后，库兹韦尔师从“人工智能之父”、《情感机器》《心智社会》的作者马文·明斯基，并于1970年获得计算机科学与文学学士学位。库兹韦尔在一年半的时间里修完了麻省理工学院提供的所有计算机编程课程。”
- 他的发明包括全字体光学字符识别系统、语音识别系统、盲人阅读机和音乐合成器等。
- “从20世纪80年代开始，他的发明可谓硕果累累——全字体光学字符识别系统、语音识别系统、盲人阅读机、音乐合成器等，他的发明专利同样数不胜数。”
- 宇宙的演化与信息处理：
- 作者将宇宙的演化分为六个时代，每个时代都建立在前一时代的信息处理基础上。
- “宇宙诞生起的六个发展时代或阶段，每一阶段都是基于前一阶段的信息处理而创造出来的”
- 第一个时代是物理和化学定律的诞生，使原子和分子的形成成为可能。
- “第一个时代是物理定律和化学定律的诞生，它们使后来发生的一切成为可能。在宇宙大爆炸后的几百万年间，电子围绕由中子和质子构成的原子核运动形成了原子。”
- 第二个时代是生命的诞生，分子变得足够复杂以定义生物体。
- “经过数十亿年，原子进化出了能承载复杂信息的分子。在许多分子中，碳是一个最为关键的构建模块，因为它能形成四个化学键，而其他许多原子核只能形成一个、二个或三个键。我们生活在一个复杂的化学世界，这实在是极为罕见的巧合。”
- 第三个时代是DNA编码生物的出现。
- “紧接着是第三个时代的到来，那些由DNA描述的...”
- 神经网络与深度学习
- 神经网络的构建基于对人脑神经网络工作方式的启发。
- “我们的初衷是创建一个基于人类神经网络工作方式启发的计算机模型。”
- 神经网络通过多个神经元层和突触连接进行信息处理。
- “这是一种基础的神经网络算法结构示例。设计这样的系统可以有多种变化，但需要设计者提供以下详述的一些关键参数和方法。”
- 训练神经网络需要大量数据，并调整神经元之间的突触强度，以提高准确率。
- “持续进行这样的训练，直到神经网络的准确率不再提高（即接近极限值）。”
- 神经网络学习过程类似于哺乳动物大脑，通过奖励函数调整连接强度。
- “神经网络的核心任务便是学习，它的主题就像它所模仿的哺乳动物大脑一样（至少大致如此）。初始时，神经网络对相关知识“一无所知”，但它被编程为最大化“奖励函数”。
- 即使在有错误标记的数据下，神经网络也能有效学习。
- “实验显示，即使教师的指导存在不可靠因素，神经网络也能有效学习。例如，在标注正确率只有60%的情况下，神经网络仍能以超过90%的高准确度掌握所学知识。”
- 小脑与新皮质的作用
- 小脑负责控制无意识和自动的动作，通过练习将技能内化为肌肉记忆。
- “掌握某项体育技能，关键在于通过充分练习将技能内化为肌肉记忆。原先需要有意识思考和保持专注才能完成的动作，渐渐变得自然而顺畅，这实际上就是从大脑运动皮层控制向小脑控制的转变。”
- 新皮质是人类大脑中负责高级认知功能的部分，具有层次分明的结构和自我调整能力。
- “为了取得更快的进展，进化需要设计出一种方法，让大脑在无需等待基因变化重新配置小脑的情况下发展出新的行为。新皮质应运而生，字面意思”
- 新皮质的层级结构允许信息处理时进行多层次抽象，从而形成了复杂的认知功能。
- “这种组织方式允许信息处理时进行多层次抽象，从而形成了我们认为属于人类的复杂认知功能。”
- 新皮质使人类能够进行抽象思维，创造出语言、音乐、幽默、科学、艺术和技术。
- “新皮质的这种抽象思维能力，让我们得以创造出语言、音乐、幽默、科学、艺术和技术等文化成就。”
- 人类新皮质与拇指的结合是人类科学和艺术成就的关键。
- “尽管人类的新皮质功能强大，但如果没有另一个关键的身体结构创新，即拇指，人类的科学和艺术成就也不会实现。”
- 技术奇点的概念：
- 作者认为深度学习是对新皮质魔力的数字化再现，未来云计算将使人类的认知能力飞跃。
- “现在，我们如果能在云端访问额外的新皮质，那么在认知、抽象能力上的飞跃无疑能够与之相媲美。”
- 未来的艺术形式可能直接将角色混乱的、非言语化的思想传达给观众。
- “比如，演员目前只能通过语言和身体传达角色的想法，但未来的艺术有可能将角色原始的、混乱的、非言语化的思想——以它们无以名状的美丽和复杂性，直接传达到我们的思维中。”
- 意识的本质与道德考量：
- 意识包括功能性意识（对环境的感知）和主观体验（内在感受）。
- “人们通常使用“意识”这一术语来描述两种不同但相关的含义。一种是功能性的，即意识到自己周遭的环境，并能够感知到内在思想和一个与之不同的外部世界。......但当涉及本章讨论的个人同一性问题时，另一种含义显得更为关键：有在头脑内部拥有主观感受的能力，而不仅仅是外在的表现。哲学家将这种体验称为“主观体验”（Qualia）。”
- 道德判断往往依赖于对意识的评估，尤其是主观体验。
- “在审视人类道德体系的基础时，我们会发现人们的道德判断往往依赖于他们对意识的评估。”
- 泛原心论认为意识是宇宙中的一种基本力量，复杂的信息处理能够唤起主观体验。
- “面对意识这一难题，查默斯提出了一种他称之为“泛原心论”（Panprotopsychism）的哲学概念。泛原心论认为，意识类似于宇宙中的一种基本力量，无法简单地视其为他物理力量影响的结果。可以想象存在一种拥有潜在意识的普遍场域。”
- 我们应默认一个实体具有意识，避免折磨有知觉的生命。
- “如果你虐待的某个实体可能具有意识，最安全的道德选择是默认它是有意识的，而不是冒险折磨一个有知觉的生命。”
- 决定论与自由意志：
- 作者认为，即使宇宙遵循决定论的规则，仍然可能存在看似自由的意愿。
- “即便大脑的运作方式遵循与我们能观测到的物理定律有着本质的区别，这并不意味着，它并不遵循依据这些定律处理信息的特定模式，根本不会产生有意识的经验。”
- 大脑不是一个统一的决策器，而是多个功能模块的集合，每个模块可能偏好不同的选项。
- “明斯基将我们的大脑比作一个“心智社会”（Society of Mind，这也是他的第二本书的书名），其中包含许多反映各种不同观点的简单过程。”
- 大脑两个半球可能独立做出决策，但都属于同一个意识体。
- “这些以及其他涉及大脑两个半球的实验表明，一个正常人实际上可能拥有两个可以独立做出决策的大脑单元，不过这两个半脑都属于同一个意识体。”
- 数字复制与身份认同：
- 大脑的电子复制品可能具有意识，但其身份与原始个体不同。
- “简而言之，如果一个电子大脑包含与生物大脑相同的信息并自称有意识，我们在科学上没有充分的理由可以否认它有意识。因此，从伦理角度看，我们应当认为它具有意识并因此拥有道德权利。”
- 逐步将大脑替换为数字化副本可能会保留主观体验，但会引发“忒修斯之船”的哲学难题。
- “在制造副本“2号你”的情形中，我们无法判定“2号你”的主观自我是否与原来的你有某种关联。你最初的主观体验是否会以某种方式同时包含你的两个副本，即使它们的信息模式会随着体验的不同而逐步分离？或者，“2号你”会在这方面保持独立性吗？这些都是科学无法解答的难题。”
- 身份的完整性由信息和功能决定，而不是特定的结构或材料。
- “重要的是，你的身份的完整性是由信息和功能决定的，而不是任何特定的结构或材料。”
- 加速回报定律与技术进步：
- 加速回报定律描述了某些类型技术创造加速创新的反馈循环，这些技术主要与信息处理相关。
- “加速回报定律实际上描述的是这样一种现象：某些类型的技术创造了加速创新的反馈循环。广义上讲，这些技术使我们能够更好地掌握信息：收集、存储、操纵和传输信息，从而使创新本身变得更加容易。”
- 信息技术的指数级发展推动了人类福祉的各个方面，包括识字率、教育、财富、卫生、健康和民主化。
- “信息技术之所以呈指数级发展，因为它直接促进了自身的进一步创新。与此同时，这一趋势也助推了其他领域众多相互强化的进步机制。在过去的两个世纪里，这催生了一个良性循环，增进了人类福祉的各个方面，包括识字、教育、财富、卫生、健康、民主化和减少暴力。”
- 印刷机、互联网等技术促进了知识传播和民主化。
- “印刷机的发明改善并大大扩大了人类接受教育的机会，给社会培养了更有能力和素质更高的劳动力，从而促进了经济增长。更高的识字率使生产和贸易的协调更加顺畅，这也带来了更大的繁荣。”
- 技术进步的社会影响：
- 尽管生活水平总体上在提高，但媒体偏向于报道负面事件，造成人们对现实的误解。
- “暴力事件会被广泛报道，而犯罪率的下降（例如以数据为依据执法或警察与社区之间更好的沟通）实际上是“非事件”。因此，它们不会被广泛报道。”
- 自动化可能导致失业，但这也会创造新的创新机会。
- “我们应该记住，伴随着自动化导致的失业的负面影响，新的创新机会也随之而来，这一点不会改变。”
- 人们需要时间来适应变化，社会需要提供安全网，以缓解技术变革的社会冲击。
- “卡尼曼认为，人们需要时间来适应变化并抓住新的机会，许多人将无法快速地接受再培训以适应新型就业岗位或其他个人创业机会。”
- 纳米制造技术将使产品价值主要体现在其所包含的信息上，而不是原材料成本。
- “因此，产品的真正价值将体现在它们所包含的信息上。从本质上说，是投入其中的所有创新，从创意到控制其制造过程的软件代码。”
- 纳米技术与人类增强：
- 纳米机器人将用于修复和增强器官功能，最终可能完全取代生物器官。
- “因此这些纳米机器人的一个关键作用将是修复和增强器官的功能。除了扩大我们的新皮质，正如第2章所讨论的那样，这主要涉及帮助我们的非感觉器官有效地将物质输入血液供应系统（或淋巴系统）或将其移除。”
- 纳米技术可用于改善血液成分、增强免疫系统、修复神经元和替换受损器官。
- “它们还可以用于调节血液中各种物质的浓度，使其达到最佳水平。例如，纳米机器人可以通过清除血液中的有害脂质来减少患心脏病的风险。”
- 通过纳米机器人增强大脑将使人类的认知能力大大提高。
- “纳米技术在我们身体中最重要的作用将是增强大脑，最终我们的大脑将有99.9%的构成部分都是非生物性的。”
- 技术风险与伦理挑战：
- 失控的纳米机器人自我复制可能导致灾难，因此需要设计安全的纳米机器人架构。
- “然而，这种情况的发生并不一定是出于恶意。我们可以设想这样的情况：由于编程错误，纳米机器人意外地开启了失控的自我复制过程。”
- 原教旨主义人文主义者反对改变人类本质的尝试，但这种反对最终会失败。
- “随着技术开始改变我们的身体和大脑，另一种反对进步的声音出现了，那就是“原教旨主义人文主义”：反对可能改变人类本质的任何尝试。”
- 延长寿命可能引发资源耗尽的担忧，但我们有能力优化资源利用。
- “对大幅延长寿命的第二种反对意见是，我们会因为几个世纪以来一遍又一遍地重复同样的事情而感到厌倦。我们可以将大脑与云端连接，从而使我们的体验比目前任何人都更广泛，并可以获得新的创造性挑战。”
- 脑机接口可能会因监管法规而推迟。
- “卡珊德拉：你说的“其他方面”是指计算机吗？因为计算机将在各方面的技能上都超过人类。
库兹韦尔：不是计算机，因为我们的福祉将依赖于计算机，而是那些可能被认为利用AI来增加自己的财富、扩大自己的权力、牺牲失业工人利益的人类。
卡珊德拉：是的，我怀疑卡尼曼考虑到的是中间阶段，在这个时期，一些人类仍握有权力，而AI还没有创造足够丰富的物质来消解冲突。
库兹韦尔：但是当人们有目标感时，冲突就可以最小化。将我们的新皮质扩展到云端对于人类保持目标感至关重要。”
- 对奇点来临的思考：
- 作者认为，人类需要超越生物学上的弱点，实现“身-心-灵”的升华。
- “因此，大家不必局限于库兹韦尔提出的“奇点”这个名词，其本质，自始至终都有关于信息、思想、意识、智慧，都是人类如何利用机器的能力实现“身–心–灵”的升华。”
- 技术进步不仅带来好处，也带来虚假信息与错误信息的干扰，需要人类提升鉴别能力。
- “在信息化高度发达的社会形态下，我们除了面临寻找到正确问题与合适答案的挑战，还面临虚假信息与错误信息的干扰。”
- 信息时代需要的是能够真实与正确表征世界的信息，以及能被人类接受、消化和理解的有益知识。
- “从人类利益角度而言，我们需要的是海量信息，而是能够真实与正确表征世界的信息。这种信息还需要以高效和准确的方式承载能够被人类接受、消化与理解的有益知识。”
- 信息的力量是一种社会力量，能够改变人类思想，并改变人类利用物质和能量的方式。
- “信息时代的核心挑战是人类对于信息力量的认知。信息可以通过改变人类的思想而改变人类利用物质与能量的方式。”
- 人类需要理解知识与智慧的关系，分清人与机器的区别。
- “考虑到未来的智能学习机器大都会学习到人类的整体知识，人类需要充分理解知识与智慧的关系，才有可能分清人与机器的关系。”
- 关于机器具备的到底是智能还是知能，其本质是对“能指”与“所指”的辨析。
- “理解机器的潜能和未来的趋势，首先需要理解人类智慧的来源，才有可能定义机器具备的到底是智能还是知能，其本质是对“能指”与“所指”的辨析。”
- 数字分身与自我叙事
- 作者讨论了数字分身的概念，强调即使是精确的复制品，也无法完全代表原始个体。
- “第一，分身做得再好，也不可能百分之百代表你。”
- 人的意识是复杂计算的涌现，而不是超自然现象。
- “第三，人的意识不是什么神奇的超自然现象，它只是复杂计算涌现的结果。”
- 个人身份不是由身体的物质构成，而是由自我叙事的延续性来定义的。
- “以我之见，真正让你是你的，是你的自我叙事的延续。”
- 在意的不是“像”而是爱因斯坦如果活在今天，他会说些什么。
- “我们真正想要的不是“当年的爱因斯坦会怎么看这个时代”，我们想要的是如果爱因斯坦活在今天，在他本人也被这个时代影响的情况下，他会说些什么。”
- 其他观点技术的进步是呈指数级增长的。
- “这个定律认为，科技发展并非以匀速前进，而是呈指数级增长。换句话说，科技进步的速度本身也在加快，使得创新来得越来越快。”
- AI的发展可能对就业市场产生巨大冲击。
- “因此，这一轮由AI带来的技术性失业将可能和过去的历次技术性失业都截然不同。如果接下去AI技术继续按照指数速度增长，那么纯粹依靠市场的自发调节，恐怕很难再让社会实现充分的就业。”
- 对AI的监管也存在很多不确定性。
- “我的看法是，前面还有太多不确定性。如果脑机接口只是可以让人用意念移动光标或者机械四肢，那对健康人来说没什么价值。而脑机接口到底能不能实现比语言和动作、比人的五感更快、更准确的输入与输出，现在还没有实验证据。”
- 全民基本收入可能会成为一种应对技术性失业的手段。 * “一些学者对此给出的解决方案是：对AI使用者征税，并用得到的税款发放全民基本收入。这样，即使那些因AI冲击而失业的人难以找到新的工作，他们也可以获得基本的生活保障，不至于让生活陷入困境。”
结论 “粘贴的文字”深入探讨了技术进步、意识、自由意志和身份认同等重要问题。它强调了技术进步的指数级增长及其对人类社会和未来的深远影响。书中不仅提供了对技术奇点的展望，也警示了技术进步可能带来的风险和伦理挑战。总而言之，该文献敦促读者以开放的心态迎接未来，并以积极的姿态参与到塑造未来的过程中。
后续行动
- 进一步研究神经网络、深度学习和脑机接口技术。
- 深入探讨意识、自由意志和身份认同的哲学问题。
- 关注技术进步对就业市场和社会结构的影响。
- 积极参与有关技术伦理的公开讨论。