《生命3.0》读书笔记

2018/1/10 读书笔记真理物理学

《生命3.0》(Life 3.0)的作者是 MIT 教授麦克斯·泰格马克(Max Tegmark),人工智能领域的权威专家。作为研究机构“生命未来”的负责人,他和硅谷著名创业家埃隆·马斯克(Elon Musk)一起发起了人工智能安全的相关研究。值得一提的是,英国物理学家斯蒂芬·霍金教授(Professor Stephen Hawking)也推荐了这本书,他写道,“所有人——不仅仅是科学家,为了享受未来人工智能给我们带来的福利并规避可能的风险,各类人都应该问问我们自己可以为此做些什么。这是我们这个时代最重要的思考,而泰格马克这本富有洞见的书能在你思考这些问题时帮到你”。

# 一、生命和智能

  • 什么叫生命呢?— 生命,就是可以 自我复制的信息处理系统,在这个系统里,信息(软件)决定它的行为以及硬件的蓝图(Life is a self-replicating information system whose information(Software)determines both its behavior and the blueprints for its hardware) 。其中的“信息”包括个体硬件复制的蓝图,以及个体行为的模式。一个生命体包括“硬件”和“软件”:硬件就是它的身体,软件就是信息。

# 生命1.0: 硬件和软件都只能演化,而不能设计的生命(Life where both the hardware and software are evolved rather than designed)

生命1.0,是说这个生命的硬件系统和软件系统都是靠演化来进行更新迭代的,完全是自然选择的结果。基本上除了人以外所有的生物都是如此。这是达尔文进化论的标准理论。有时候你觉得动物也会一代比一代聪明一代比一代强壮,那只不过是因为自然选择。环境变了动物不会主动适应,只能寄希望于下一代,通过生育过程中的随机变异。条件好的有优先交配权,不行的被淘汰了,行的留下。一切功能上的改进都是听天由命,而不是主动学习的结果。

# 生命2.0: 硬件只能演化,但是软件可以从很大程度上设计的生命(Life whose hardware is evolved, but whose software is largely designed)

生命2.0,是硬件升级仍然依赖自然演化,一部分软件升级则可以自己设计。这就是人类的特点,人是可以学习的。把人类在复杂世界中所有的生存技能都遗传给下一代是不可能的,生殖细胞的存储能力根本不够。人身上的可遗传信息,把所有DNA信息加起来,大概只有1.6GB。而成年人大脑中可以存储的信息量,则是100TB(注:1TB=1024GB)。

所以最理想的办法是只遗传最基本的本能,把绝大多数技能都留到后天慢慢学习。这100TB的脑容量就可以让你装下很多很多东西了,学习的潜能是巨大的。更重要的是这个软件升级模式可以让你随机应变。也许你长大后所处的环境跟父母那一代截然不同,但是因为你可以学习,你随时能适应新环境。

比如你父亲是很好的猎手,你从小具备了优秀的猎人基因——城市化以后你不能打猎了,但是你还能学别的,你可以“主动”适应环境。正因为人是“生命2.0”,可以在一定程度上自己设计软件系统,人才是万物灵长。所以我们千万不要像那些1.0的生物一样整天感慨遗传基因好不好,给你那么大的大脑是让你学习用的。

# 生命3.0: 不仅软件可以设计,硬件也可以被设计的生命(Life which can design not only its software but also its hardware)也就是说,生命的 3.0 版,能掌握自己命运,摆脱演化的束缚。

生命3.0,则是硬件和软件都可以自己设计。你认为计算机是有生命的吗?根据前面对生命的定义,如果一个AI系统会自己复制自己的下一代,那我们就可以认为它是有生命的。如果这个AI还具有自己学习新东西的能力,而且还能升级硬件,那它就是生命3.0。计算机升级硬件是家常便饭。内存不够大可以加内存条,CPU不够快可以换CPU。

当然我们人类现在也可以在一定程度上给自己升级一下硬件,比如说装个假牙之类,但这不是决定性的升级,所以大概只能算生命2.1。比如我就觉得我的硬件不行,我非常希望能够像计算机那样一秒钟之内就看完一本书,但我的输入设备——眼睛和耳朵——的带宽实在有限,我大脑的理解速度太慢。赫拉利在《未来简史》中设想了一种“神人”,能把自己和AI结合起来,真正给身体和大脑升级。但是泰格马克这里说的生命3.0,可不是这些神人。泰格马克说的是干脆不带人,纯机器AI。

例如太空探测,人是个累赘——维持一个人的生命系统非常麻烦,人的效率太低,升级余地太小。而纯机器AI,摆脱了人的血肉的束缚,那潜力可就大多了,也容易多了。如果将来有一天AI真的具备了人的全部智能,而且还可以自己设计自己的下一代,这样一代比一代强地升级下去,将会是一个什么局面?那些3.0的生命看我们,是不是跟现在我们看那些1.0的动物一样?生命3.0的AI如果出现,那将是人类最后一个发明。

有这么一种生命,容貌可以从黄渤到吴彦祖,随意更换;跑起来比高铁还快,跳起来比埃菲尔铁塔还高,总之只要有机能不能满足自己的需要,就可以改进和更换,买一颗大脑像今天买电脑 CPU 一样便利。

# (2)第二章 I 与 AI

  • 智力的定义:有能力完成复杂目标。相对于不同目标也就有不同种类的智力。
Last Updated: 2022/1/8 04:00:18