转发提醒！手机上这些设置，可能在“偷”你的信息……

《未来之地：超级智能时代(shídài)人类的目的(mùdì)和意义》，［英］尼克·博斯特罗姆（Nick Bostrom）著，黄菲飞译，中信出版社2025年4月(yuè)出版 从超级(chāojí)智能到未来之地 上一次读尼克·博斯特罗姆（Nick Bostrom）的(de)书，还是他2014年的大作(dàzuò)《超级智能：路线图、危险性与应对策略》（Superintelligence: Paths, Dangers, Strategies），帮助世界意识到(dào)人工智能(réngōngzhìnéng)的第一次大爆炸——深度(shēndù)学习的到来。彼时，人工智能的第二次大爆炸尚未发生(fāshēng)（它为我们带来GPT-4这样的大语言模型），但博(dànbó)斯特罗姆提出的很多话题充满洞见，至今(zhìjīn)波荡不已。该书聚焦于人工智能发展出现(chūxiàn)问题可能带来的后果，特别在提高人们对人工智能带来的存在性风险的关注上，具有极其重要的影响。 在《超级智能(zhìnéng)》一书中，博(bó)斯特罗姆认为：“如果有一天我们发明了超越(chāoyuè)人类大脑的智能机器大脑，那么这种超级智能将会非常强大。并且，正如现在大猩猩(dàxīngxīng)的命运更多地取决于人类而(ér)(ér)不是它们自身一样，人类的命运将取决于超级智能机器。……一旦不友好的超级智能出现，它就会阻止我们将其替换或者更改其偏好设置，而我们的命运就因此被锁定了。” 所以，超级智能带来的(de)挑战很可能是人类面对(miànduì)的最重要和最可怕的挑战。而且，不管(bùguǎn)我们成功还是失败，这大概都是我们将要面对的最后一个挑战。“我们要的不仅仅是娴熟的技术以引燃智能爆炸，我们还要能在更高水平(gāoshuǐpíng)上掌握控制权，以免我们在爆炸中身首异处。” 但是，假设我们能安全且合乎伦理(lúnlǐ)地发展超级智能，并充分利用这种几乎具有(jùyǒu)魔力的(de)技术，我们将会进入(jìnrù)一个人类劳动变得过时的时代——这一未来社会，不仅是一个“后(hòu)工作”和“后稀缺”的社会，还将催生一种“后工具性”境况：人类丧失了做任何事情的工具性理由，不再需要为任何实际目的付出努力；人实现了不朽，可以转变为数字形态，继续(jìxù)存在十亿年；而且，人类本性也变得完全可塑。 在此情况下，我们面临的挑战不仅仅是技术性的，更是哲学(zhéxué)和精神(jīngshén)层面的。如果技术解决(jiějué)了所有实际问题，那么我们还剩下什么可以追求的？如果生存和劳动不再是我们所关心的，什么会赋予我们生活的意义(yìyì)和目的？我们整天会做什么，又会体验到什么？ 在(zài)他的(de)最新著作《未来之地》（Deep Utopia: Life and Meaning in a Solved World，2024）中，转变了视角，探索了超级智能所带来的生活意义危机。博斯特罗姆预想(yùxiǎng)的“存在之轻”读起来无比沉重：“随着我们(wǒmen)向这种轻盈的状态(zhuàngtài)迈进，摆脱了日常(rìcháng)吸干我们时间(shíjiān)和精力的挥汗如雨的辛勤劳作，我们可能开始感到一种疏远(shūyuǎn)的无目的感，一种无根的‘存在之轻’。我们可能将要面对这样的发现：自由度最大的地方实际上是一片虚空。” 博斯特罗姆将(jiāng)此归纳为“深度乌托邦”（deep utopia）的(de)问题(wèntí)，也即“在(zài)我们解决了所有(suǒyǒu)现存的其他问题之后，我们将面临的问题”。这些问题具有永恒的心智吸引力，让我们走到了对目的和存在的理解的边缘。某种意义上，博斯特罗姆是在进行一种思想实验(shíyàn)，将深度乌托邦的概念作为一种哲学粒子加速器，在其中(qízhōng)创造一些极端条件，让不同的价值观发生撞击，从而使我们能够研究我们价值观的基本组成部分。 在我们深入探讨博斯特罗姆的(de)论点之前，读者应该(yīnggāi)意识到这本书(běnshū)与典型的哲学专著有两个不同(bùtóng)的地方。首先，博斯特罗姆的书并(bìng)未(bìngwèi)围绕一个核心论点展开系统论证，而是以一种开放的方式探索主题，尝试(chángshì)各种想法，并在一些关键问题(guānjiànwèntí)上保持谨慎。其次，这本书采用了一种实验性的风格和结构。它由一系列虚构的讲座组成，这些讲座是博斯特罗姆想象自己年老时在一周的时间里所做的演讲（每一章以一周的某一天为标题）。幸运的是，这些讲座并不像陈旧的讲义(jiǎngyì)——学生们经常插话提问，各种事件增添了戏剧性并注入幽默感。文本还包括讲座中分发的讲义和指定的阅读材料——这些阅读材料是博斯特罗姆专门为本书撰写的独立文学作品，常常是寓言性质的。所有(suǒyǒu)这些内容的框架叙事(xùshì)来自三位哲学思维敏捷的朋友，他们闯入博斯特罗姆的讲座，并喜欢在讲座后一起去公共浴池放松。他们之间的犀利对话，包括对讲座和阅读材料的反应，贯穿(guànchuān)了许多章节(zhāngjié)。 开放的方式和(hé)实验性的结构可能会让一些读者感到高兴，也(yě)可能让其他读者感到愤怒。不喜欢(xǐhuān)的人可能会觉得这本书(běnshū)“臃肿”，认为如果去掉那些文学(wénxué)修辞和旁枝末节的讨论，书的篇幅可以缩短三分之一。而有些读者没准会觉得博斯特罗姆的非标准方法令人耳目一新，可以享受书中弥漫的趣味和机智。 既非乌托邦，也非反乌托邦，而是进托邦(jìntuōbāng) 形式而外，书中的哲学内容十分丰富，充满了论证、思想(sīxiǎng)实验、案例研究和实证数据。也许(yěxǔ)在此无法涵盖所有有趣的内容，因此我将集中讨论(tǎolùn)该书的两大(liǎngdà)突出之处：一个巨大的、具有争议的假设和一个巨大的转折。 这个假设是(shì)，按照博斯特罗姆的观点，在可预见的未来，我们(wǒmen)将(jiāng)生活在一个“所有问题都被解决了的世界”里，这个世界是“技术成熟的”。它意味着所有重要的科学问题都已经解决，人类平静地向(dìxiàng)宇宙扩展，人口(rénkǒu)随着时间的推移呈指数增长。我们享有极大的富足(fùzú)，几乎所有冲突的源头都已然被消除。所以，该书的核心任务是探讨这种(zhèzhǒng)状态对人类（或后人类）来说是否令人愉快，以及我们的生活是否还能够拥有意义。 我认为，当博斯特罗姆相信一个“最大技术能力(nénglì)”的(de)(de)社会也将是“非常(fēicháng)好”的社会时，他或许(huòxǔ)过于乐观了(le)。就逻辑而言，我觉得他的假设不太可信。过去，每当人类解决了一个挑战(tiǎozhàn)，都会暴露出若干新的挑战。尽管过去并不是未来的可靠指南，但我强烈(qiángliè)怀疑这种模式会持续下去(xiàqù)。因此，我更倾向于凯文·凯利（Kevin Kelly）的“渐进乌托邦”（简称“进托邦”，英文protopia，为progress+utopia或process+utopia的组合概念），而非乌托邦，哪怕博斯特罗姆在“乌托邦”一词前边加上了修饰语“深度”。在《必然》（The Inevitable，2016）一书中，凯利写道：在进托邦的模式里，事物总是今天比昨天更好(gènghǎo)，虽然(suīrán)变好的程度可能(kěnéng)只是那么一点点，“因为(yīnwèi)进托邦在产生新利益的同时，也在制造几乎同样多的新麻烦。今天的问题(wèntí)来自昨天的成功。而对今天问题的技术解决方案(jiějuéfāngàn)，又会给明天埋下隐患。随着时间流逝，真正的利益便在这种问题与解决方案同时进行的循环扩张背后逐渐积累起来”。 为了(le)论证他的(de)“深度乌托邦”，博斯特罗姆的首要任务是判断在一个“所有问题都(dōu)被解决了的世界”里，人类/后人类是否会变得冗余。他做出了一个有用的区分：浅层冗余和深层冗余。 在书的第三章，博斯特罗姆(sītèluómǔ)讨论了我们如何在一个几乎所有职业劳动都已自动化的后工作世界中找到意义和目的。他的答案是(shì)，我们需要(xūyào)发展一种能赋权和教育个体(gètǐ)在没有传统就业的情况下茁壮成长的休闲文化。这种文化将(jiāng)“鼓励有益的兴趣和爱好，促进精神修养和对艺术、文学(wénxué)、运动、大自然、游戏、美食和对话等的欣赏，这些领域可以(kěyǐ)成为我们的灵魂乐园，让我们能够抒发创造力，了解彼此、了解自己、了解环境，同时愉悦身心，发展我们的美德和潜能”。 然而，后工作社会的(de)问题与后工具性社会所提出的更深层(shēncéng)次问题相比是肤浅的。博斯特罗姆将前者称为“浅层(qiǎncéng)(qiǎncéng)冗余”，后者称作(chēngzuò)“深层冗余”。在浅层冗余中，由于机器能够以更便宜、更好、更快的方式完成我们曾作为谋生手段的所有(yǒu)工作，人类将不再(bùzài)有工作可做。但是，如果我们拥有了上述的休闲文化，在浅层冗余的情况下，人类依然可以过上有价值、甚至富有意义的生活，通过创造、娱乐和从事自己喜欢的工作，尽管不再为之获得报酬。 本书的(de)(de)大部分都致力于探索深层冗余问题，这使(shǐ)得讨论进入了高度推测和未来主义的领域(lǐngyù)。在一个后工具性世界中，人类努力变得冗余，也(yě)就是说，没有任何任务，包括休闲活动，值得人类和后人类去从事。博斯特罗姆提到一些例子：纳米机器人可以(kěyǐ)在我们睡觉时对我们的身体进行物理调节，从而(cóngér)使锻炼变得不再必要(bìyào)；学习变得毫无意义，因为(yīnwèi)人工智能指导的大脑编辑可以将新的信息和技能融入我们的大脑，而无需进行学习。甚至育儿也可能变得深度冗余，因为机器人可以成为更好的父母，而且无论如何，育儿也不足以占据一个人生命（现在非常长寿）的足够时间来赋予其意义。 如果深度乌托邦(wūtuōbāng)中的(de)人们拥有博斯特罗姆所称的可塑性和自我变革能力——即修改自己心理状态的能力——他(tā)们或许可以(kěyǐ)避免因无用而产生的绝望。但尽管可以消除无聊(wúliáo)，他们却无法(wúfǎ)消除乏味感。博斯特罗姆引用(yǐnyòng)了格雷格·伊根（Greg Egan）的科幻小说(kēhuànxiǎoshuō)《数字永生计划》（Permutation City,1994）中的情节，名为皮尔（Peer）的角色实现数字永生之后，为了避免无聊，他通过编程让自己在随机时间间隔内产生新的激情。在小说的那个时刻，他的激情是制作桌腿，已经制造了162,329条。由于(yóuyú)他在雕刻完美的椅子腿时充满喜悦，皮尔并不感到厌倦(yànjuàn)，但他的生活却是极其乏味且缺乏意义的。 到此，这位牛津大学的前哲学(zhéxué)教授不得不继续他寻找生命意义(yìyì)的旅程。正是在这一刻，发生了巨大的转折：博斯特罗姆并没有给出答案。公平地说，他在书中的一段话中已经提前(tíqián)警告了我们，这也是我认为书中最精彩的段落之一：他比喻(bǐyù)说，向别人提问生命的意义，就像问他们自己该穿多大的鞋码一样。“有些人可能需要更自信，而(ér)(ér)另一些(yīxiē)人则应该更周到。有些人应该对自己更宽容，而另一些人则需要更自律。有些人无疑应该被鼓励去独立思考、追求梦想，而另一些人最好还是待在人群(rénqún)中。”（此处，博斯特罗姆模仿道格拉斯·亚当斯的风格补充(bǔchōng)道，最佳的鞋码是十码半。） 如果所有人类努力都(dōu)是冗余的，那一切又有什么意义 抛开这类调侃，我们来看看(kànkàn)博(bó)斯特罗姆对后工具性目的(de)问题的回应。总体来说(láishuō)，他对深度乌托邦中生活的前景持乐观态度。尽管开放式(kāifàngshì)讨论风格常常使得结论(jiélùn)模糊不清，但他强调了两点乐观的原因。首先，他认为，即使深度乌托邦中的生活缺乏意义，它们(tāmen)在其他方面将极为丰富，可能弥补(míbǔ)这一缺失。这样(zhèyàng)的生活可能充满巨大的愉悦，通过“令人心醉神迷的美丽”带来的强烈体验来让人类尽情享受。凭借认知增强(zēngqiáng)和精密的人工智能内容编程，我们的智力、情感和审美能力都可以得到充分激发。此外，这样的生活不必是被动的——即使人类努力变得冗余，人工智能仍然可以为我们设计引人入胜的任务和挑战（博斯特罗姆称之为“人工目的”），来利用我们增强的能力。 无疑，有些人会对(duì)这样的(de)生活感到满足。但(dàn)其他人仍然会感到目的问题的痛楚挥之不去——如果所有人类努力都(dōu)是冗余的，那一切又有什么意义呢？这使得(shǐde)博斯特罗姆开始探讨生命意义的哲学文献，特别是与南非哲学家撒迪厄斯·梅茨（Thaddeus Metz）的理论展开对话。这一理论规定，生命要有意义，就应遵循一个整体改善的弧线，并包含(bāohán)原创性和帮助他人的元素。这是一种(yīzhǒng)客观主义理论，意味着意义不能(bùnéng)仅仅是我们每个人决定自己想要的样子。相形之下，主观主义(zhǔguānzhǔyì)的意义则可以通过调整心理状态来满足，甚至包括美国法学学者理查德·波兹纳（Richard Posner）警告过的那种生活：“打架(dǎjià)、偷窃、暴饮暴食、酗酒和晚睡。” 对于梅茨来说(láishuō)，有意义的生活必须具有(jùyǒu)一种包容性和超越性的目标：它应该吸收一个人大量的时间和精力，且应服务于超越日常生活的目的。博斯特罗姆承认，根据梅茨的理论，深度乌托邦中的生活将缺乏一个有意义生活的关键成分——即朝向善的方向，并在现实(xiànshí)中产生价值。如果人类努力完全冗余，那么我们(wǒmen)将不再能够创造(chuàngzào)价值，因此(yīncǐ)无法达到(dádào)此种生活意义的标准。然而，博斯特罗姆指出，我们仍然可以通过成为一个具有美德的人，去热爱和欣赏周围的善。同样，也可以欣赏意义的另外两个基本方面，即真和美。实际上，深度乌托邦将比(bǐ)我们当前的世界提供更多的机会来做到这一切(yīqiè)。这让(ràng)博斯特罗姆不禁要问：为什么这还不足以让我们的生活变得有意义呢？ 在书中的博斯特罗姆教授正要对此给出回答的时候(shíhòu)，系主任悄悄耳语告诉他结束演讲(yǎnjiǎng)，因为场地只租用到(dào)晚上6点。“好吧”，博斯特罗姆角色说道，“我想就这样吧”。 无论书里书外，博斯特罗姆可能(néng)十分明智地没有对后AGI世界中(zhōng)的生命意义(yìyì)做出精准评价。或者也不妨设想，他自己也根本不知道答案。如果(rúguǒ)非乌托邦是可怕的，而乌托邦又是乏味的，我们(wǒmen)是否能找到某种(mǒuzhǒng)在中间的甜美平衡点？人类天生讨厌问题，但如果我们没有问题需要解决，生活还能有什么意义呢？我们在桃花源中或者巨石糖果山上坐多久，才能感到满足？对我来说，一个长周末大约(dàyuē)就足够了。十亿年的完美幸福将变成完美的痛苦。 (本文来自澎湃新闻，更(gèng)多原创资讯请下载“澎湃新闻”APP)