“对话刘慈欣”

本篇文章9003字，读完约23分钟

【科技在线】

与刘慈欣老师展开了这次对话，灵感来自于我们受到一点打击的项目。 阿里巴巴与清华大学签署战术合作，建立人机交互实验室，探索新一代人机交互方法，使人工智能具备五感视觉、触觉、听觉、嗅觉和味觉，分解理解和反馈人类情感和情绪，从而

我们都觉得这件事很有趣。 它是探索人类与人工智能如何相处的比较激进的尝试，反而激发了我们对ai的理性和情感、ai的创造力、人类生命的广度和永生的意义，以及人类与ai融合产生了新的想象力。 没有什么比科幻小说作家更适合谈论这些了。

所以，虽然这次的对话没有一点界限，但是我还是觉得很有趣。 脑洞大，哪个头不寂寞的人应该更有趣。

以下是完善对话实录。

一、人工智能可能在感情上超过人

骏航:你好。 我很高兴今天有机会和刘慈欣老师一起讨论人机交互、人的感情和机器的感情，以及人与机器、人与人工智能关系的未来。 从科幻作家的角度，从注意者的角度，五感(具备视觉、听觉、味觉、嗅觉、触觉的机器人和人工智能，是怎样的存在，作为小说家如何表现它？

刘慈欣:我现在也认为人工智能的特征集中在与感情无关的活动上。 对人类社会来说，这种感觉和更好的感情是我们生活中相当重要的一部分。 但是，对机器来说并非如此。 必须让机器有人的感觉。 实际上是为人自己服务的。 如果遵循机器自身的进化法则，就无法消除人的感情。 这是限制。 对于人与智能机器的相互作用来说，特别是智能ai要推动未来人类社会的迅速发展，给人们带来更好的生活，我认为机器需要在感情上与人进行交流。

骏航:这种交流是模拟人类的感觉和感情，不是复制品。

刘慈欣:这是个很有趣的问题。 我们整天谈论感情，谈论感情，其实无论是从技术上，还是从严格的科学上，人类本身都不知道感情是什么，我们没有一个，一点严格的科学定义。

记忆中的哪些数据，和事实的关系是什么？ 你说的是左半脑，右半脑，那是应急反应还是算法？ 我们甚至不知道感情在人类的哪里。 当然根据以前流传下来的主流说法，可能说它在大脑里，但这其实很可疑。 因为莎士比亚深刻地知道爱来自哪里，是头脑还是心房。 如果从人的身体里挖出大脑，它能活下来，那是有感情的吗？ 这个东西不能说得太简单。

骏航:莎士比亚这首诗应该是400多年前写的，但这400多年来人类在科学上也没怎么进化，所以把这个问题搞清楚了。

刘慈欣:但是，我在写科幻小说。 我不是学者。 我倾向于排列所有的可能性。 情感的存在方式有两种可能性。 一是，正如我们现在许多主要科学家认为的那样，人是大脑。 大脑里什么都有。 感情什么都在大脑里。 取出大脑后，再取出人。 另一个就像莎士比亚说的，感情的一部分在大脑里，其他部分可能与你的整个身体系统，和你的内分泌，和你的方面有密切的关系。 从我自己来看，后者的可能性可能更高。 特别是恋爱的东西，很难想象只能由大脑产生。 所以说模拟情感，一方面比模拟人类的纯粹智能难度要大。

但另一方面，这也不是不可能的。 那不是我们真正用认识感情的生物学、生理学的脑科学机制模拟的，这当然是理想的，也是如此。

骆航:但是，我们自己还处于未知的状态。

刘慈欣:对。 人类的脑科学和神经学处于非常原始的状态，但是我们可以把大脑，把人类的身体感情看成是黑匣子，只模拟其输入和输出。 这是完全可能的。 我们不管它的内部是什么样的，你模拟的感情都是初级感情，不一定是。

让我举个例子。 我们没有模仿鸟的飞行。 但是，飞机在速度和高度上都比鸟强。 要想强大的人工智能不了解大脑，不了解整个身体的情感系统，只从大数据上模拟情感，可能会像围棋一样。

骏航:就像阿尔法go一样。

刘慈欣:那可能会变得感情丰富。

骏航:围棋的这种禅、这种力量、这种哲思之所以没有进入，就是靠算法。

刘慈欣:想想人类历史上所有的书、所有的小说、文学作品，有一个人可以在一个小时内全部看完，或者在更短的时间内看完。 这样的实体基于这个数据，可以将数亿人的感情生活全部分解在内。 这样通过大数据筛选出来的感情，可能比不上人。

骏航:我甚至怀疑那是源于人类的感情，那是计算力和算法的结果。

刘慈欣:最近流行的一种说法是，人和人工智能哪个更好？ 这份感情就像人背后的防线。 很多学者认为计算机没有感情，但实际上这个东西在科学上是不成立的。 我们自己连感情都不懂，怎么知道没有电脑？

骏航:所以，根据你的看法，我们复制人的五感。 首先，我们必须清楚那不是人的感知、感觉，而是机器的感觉。 但是，我们可以期待它能与人类的感觉在很大程度上交换信息，前提是它服务于我们的诉求和需要。

刘慈欣:这是人工智能里面的中文房间，有一个房间的人完全不擅长中文，但他后面有数据库。 你说中文的话，他会拿着那张卡片去查那个数据库，查完再来回答你。

骏航:这本质上是机器翻译。

刘慈欣:感情也是，你说计算机不擅长感情，但它可以采样你的感情。 我去我后面机器庞大的大数据，我去里面找。 我不是简单地找，而是像阿尔法go一样对数据库有算法。 那个也许比人类的真实感情更能像人类一样计算。

二、人类对机器的歧视，比其他物种要深得多

骏航:机器比人感情丰富细腻，超级感情。

刘慈欣:所以我认为这条防线不存在。 这条防线是幼稚的人类中心论，把我们自己看得太高了。

骏航:以人为中心论，或者说他真的以此为防线。

刘慈欣:他自己不知道感情是什么，以为没有其他物种。

骏航:比如，现在很多美国人家里都有亚马逊的echo，但中国的房子可能像天猫精灵。 作为大人，我们及其信息表达很简单。 请预订机票。 请查一下天气。 在中国人中我真的见过孩子。 三四岁的孩子，和天猫精灵不断地说话。 家里没有人，但家里有摄像头，能看到他。 他能和那个天猫精灵说三四个小时，它也回复了他，他认为它和我信息表达得很好，很亲切，出去玩的时候会带着它。 这是一个非常有趣的场景。 这件事让我好奇的是做孩子。 我觉得他表现得像机器和人一样。

刘慈欣:人工智能的情感和人类的信息表达分为几个层面。 现在，在比较简单的层面上，正如你所说，银行、服务产业的人机界面非常友好，这将成为人机交互的润滑剂。 这至今意义有限。

骏航:消除了对人与人的信息表达产生误解的不自然的部分。

刘慈欣:人与机器的信息表达之间存在着难以突破的障碍、底线。 这个底线不太破。 如果这个底线被突破，就会对人类的变化产生巨大的影响。 什么底线？ 就是机器本身。 我们和机器的信息表达，感情的信息表达。 要说我们不知道那是机器，可能很简单。 如果我们知道对方是机器的话，这种感情只能在某种程度上限制。 再往上一点，人类自身的种族间存在种族歧视问题，但未来人类的巨大歧视是对人类机器的歧视。

骏航:人天生就带有歧视、偏见和自我中心。

刘慈欣:人类对没有生命的机器，无论智力多么高、感情多么高，人类的歧视都比这个体系种族之间的歧视要深得多，尽管其他物种没有法律保障其生命，但也有一定的尊重。 不能杀死小猫和小狗。 机器掉了。 这完全没有道德谴责。

所以，机器的感情和人类的感情信息表现，要发展成能够直接传达到内心的感情之间的关系，就需要人类和机器建立这样的关系。

骏航:我们去享受吗？

刘慈欣:应该期待，但是要做好冲击的准备。

骏航:那是对你的异化，还是对你的异化？

刘慈欣:不能异化机器。 不容易。 这是一个障碍。 一旦冲破这个障碍，机器在感情方面真正进入人的感情生活，人类整体的文明、人类的文化都有可能完全改变。

骏航:这么说，我想到了一个很奇怪的画面。 也就是说，当机器能够进入人类的感情世界时，那个人的另一半到底是什么？ 然后有感官的，也有生物学的，完全能满足人对另一半感情、生理、甚至心理的诉求。

刘慈欣:其实我对此的预测是20世纪80年代有科幻小说《温柔的故乡之梦》。 描写得很生动。 你说的完全有可能。 我记得用那本小说描绘机器人的另一半，是怎么描绘的。 他说那是太阳里的女儿，女儿里的太阳，已经到了这个程度了。

骏航:这个相对的人类文化包含着人类伦理，我们不能说它是什么样的，但它是一种变化。

刘慈欣:如果我们整个社会跨越了对机器根深蒂固的歧视，我既然能找到理想的伙伴，我为什么要去找像你们这样真正的人呢？

三、越现代、前卫、艺术性，越容易被机器模仿

骏航:我们回到最初的画面，一个孩子和机器一起成长，长大了，他意识到那不是机器，那一刻的感情撕裂变化，这个事件在未来世界出现的概率有多大？ 因为现在确实是一代孩子真的长这么大了。

刘慈欣:我宁愿这不是一个沉重的问题。 其实，你说的这个事件以前就发生过，但不是在机器上发生的。 在孩子眼里，世界是生物活性论的世界。 不仅是小动物，猫、狗、秃顶，甚至树、川、岩都有灵魂，有生命，但随着我们的成长，童话给现实世界带来了如此迷彩。我想对机器来说也能做到。 就连小孩子一开始也一定知道那不是一个。 和小猫和小狗不一样。 他可能知道。 他会看到它充电的。 我觉得这种身体连接会适应这台机器的这种转换，我觉得很好。 但是，从小就与机器进行感情交流的人，长大后，存在着他的感情世界是如何形成的问题。 他还能和人交流吗？

骏航:近两年来，谷歌目前推出了72位量子计算，这一计算速度和计算能力进一步提高，数据的获取、数据的运算分解、问题的处理、以及创造事物的能力也发生了一个变化 可以看出，这有助于机器创作诗歌、音乐创作、文学创作、艺术、书画等创作。 我知道最近有一家企业实际在做这件事。 那个让人工智能写诗。

刘慈欣:我在闲暇无聊的时候，做过写诗的软件。 那是1980年代的事。

骏航: 80年代大家都写诗，但当时没有人用软件写诗。 我们看到这个东西现在由机器操作，特别是现代诗、现代诗有时是符号的游戏，是语言学家的符号学，这个东西机器很容易模仿。 我看了机器出的诗集觉得很有趣，经常去看。 有时把它当作现代诗的作品，我真的不知道审美哪个好。 这个时候，我感到很不安。 我知道那不是用和我们一样的方法制作文艺作品，但是它们也在制作。 你觉得这件事今后会迅速发展成什么样？ 我认为这才是人类最后的堡垒。

刘慈欣:这不是后堡垒。 我说文学艺术包括你说的人文事物，其实现在机器正在大规模入侵。 其实前年，国内举行过写古诗的图灵测试。 就是不告诉你这是机器还是人写的。 很多诗。 请你选择机器写的东西，人写的东西。 还有，中文戏教授，学生不能选，都是错的，不知道是人写的还是机器写的。 虽然会写古诗，但现在能用电脑写好古诗。 结果，至今仍有一些学者陈词滥调说他们的诗后面没有感情。 你管它后面有没有感情。 你的作者不重要。 诗摆在这里，不是吗？ 所以，这是没办法的事。 但是，这些现在人类仍然有很多可以防守的行业。 你现在没有注意到吗？ 计算机容易写的诗是现代诗。 我编的c语言、写诗程序还不到一千句，是个小程序。 但是，要写经典的诗，就像经典的拜伦和雪莱写的诗一样难。

小说也一样，你写现代意识流的小说似乎很容易让电脑写。 写托尔斯泰那样的小说，恐怕不容易吧。 画画更是现代的画画。 反正反过来看，反过来看很容易。 制作那个程序很简单。

骏航:“蒙娜丽莎”不容易。

刘慈欣:因为《蒙娜丽莎》几乎没有画，所以得出了这个很有兴趣的结论。 也就是说，我觉得越是现代、大胆、艺术，越容易突然被机器模仿。 反而认为越是以前传下来的东西，机器越无法模仿。

骏航:是因为进入现代社会后，人们的创作方法、思考方法受到了人工智能的深刻影响吗？

刘慈欣:不是这个。 现代派的出现无论在文学中还是艺术中，都与人工智能的迅速发展没有必然的关系。

为什么越是现代的东西、后现代的东西，只能看到被机器模仿的东西。 这给了我们一个思考，人类的精神世界是越来越低级还是越来越低级。

骏航:这个我不敢评价。 特别是从文化作品中。

刘慈欣:所以我说这个行业的人还是有可以防守的领土的。 当然，未必以后会保护。 说我们古典厚重的话，比如说更重要的文学艺术绘画，可能更有生命力。

骏航:而且，我们也必须从古典主义中寻求我们的创作和解释。 我们用艺术的方法说明这个世界的能力，固有的成果。

刘慈欣:因为你现在是用电脑创作的，所以出上海艺术双年展没什么辛苦，也不知道那是用电脑做的吧。 但是，我觉得你要收集古典油画和国画之类的作品不容易。

骏航:模仿是可以模仿的。 模仿宋徽宗的可以模仿，但这不是我们想要的。

刘慈欣:如果计算机、人工智能完全进入人文行业、文学艺术行业，将再次冲击我们的文明。 首先，那个时候艺术品的数量可能很庞大。 取不完，可能用不完。 你每天无论多少秒都想生成长篇小说。 这种状况会让我们的文化变成什么样的状况呢？

骏航:你有没有想过人工智能写科幻小说有什么不同于科幻小说作家的地方？

刘慈欣:我怕的不是有不同的地方，而是和你有什么相同的地方。 那个写下来看可能是机器写的，但其结构不会构成威胁。 还是那句话，如果写得不知道那是人类科幻作家协会的还是机器的，就会受到威胁，但据我所知，这是办不到的。 据说任何文学品种都一样，现在用机器写的小说虽然能赶上那个有意识的作家，但赶不上古典作家。

骏航:你写的里面其实从古典主义和历史经典中摄取的要素相当多。

刘慈欣:这个怎么说？ 虽然说是机器的想法，但艺术和文学的想法和我们的想法不同。

它是基于庞大的数据，基于一点算法而产生的。 这我再补充一点，对于机器作品之后的评价，人们还存有误解。 例如，阿尔法戈下围棋的杰伊的一句话给我留下了很深的印象。 他说我们三千年来所有的围棋理论，顿悟做了半天都是错的。 我看过那台机器的推理过程。 我见过用蒙特卡罗方法，用进化算法推理一个事件的过程。 他打印了整个照片。 请看。 完全没有意义的乱码山。 你一点也不擅长。 我认为alpha go对围棋的推理过程也是如此，但我不擅长。 但是，不管它读不懂还是赢，围棋无论说多古老，都很有禅意。

骏航:很有禅意。 我是人文科学。

刘慈欣:这很好，但是围棋是为了赢，对吧？ 你刚才说的文学艺术其实也一样，感情也一样，不管我怎么产生它，我都会感动你，我震撼你，引起你的共鸣，你知道我怎么产生，你知道我背后说的感情 现在，这些人类、诗人为他们有感情辩护，但其实无论你的哪种感情深入到深处，都不是大脑中化学物质的传播和反应吗？ 任何电子的传播算法和自然规律都没有本质区别。

四、机器创造的人类永生，真的是永生吗？

骆航)如果五感被模拟、复制，我能成为活人，那么我的价值观、我的品位、我思考问题的方法、甚至我的智商，都完全被模拟和再现了，那我们就不一样了

我作为一个存在，比如几十年后的我躺在床上。 而且，据说你不会死在我面前。 即使你的身体死了，你也不会死吧。 因为，当看到你眼前的这个身体，它具备了你所有的理性和感情。 我们这个东西可以通过机器模拟，也可以通过云和大数据进行复制。 这个身体已经和你一模一样了。 这个时候，其实我想做的事件马上就发生了，然后用我人生中的后劲掐死了。 这个事件很可怕。

刘慈欣:你完美的复制体可能是这个世界上很大的异质。 因为那是可怕的东西。 因为我们害怕让别人看到我们自己的缺点。 你的缺点，黑暗面他都有。 而且我也知道那个是你看不见的人。 这东西别说你永生了，你不希望它存在。

而且，关于一个复制体是否意味着一个身体的永生的问题，我想每个人的回答都不一样。 在别人看来你确实永远活着。 那就是你。

骆航:在我看来，我还是走了。

刘慈欣:这个你没有。 那个你和他交往一样。 就你个人而言，你躺在床上奄奄一息，没人管你。 他活着和你没有任何关系。 这不是你。

骏航:而且我死后，不知道我的意识和灵魂被带到了那里。 如果它存在于另一个平行世界，我为什么要容忍这个世界上有另一个存在？ 这件事对我来说是很不安的。

刘慈欣:所以永生对个人来说，可靠的方法还是把数据保存在你的大脑里，让你的身体在未来的先进技术下得以维持。

骏航:就是我们的肉体可以生存。

刘慈欣:否则，复制人的事件、永生的事件从哲学上来看其实很绕，越想越多越杂。

骏航:不是伦理问题，而是纯粹的哲学问题。

刘慈欣:这在感觉上很容易评价。 复制是否是永生很简单，对个体来说肯定不是永生。

骏航:如果人类的感情是用比特的方法，用原子或比特的方法保存和运算的话，那应该是什么样的存在，也许是我们更喜欢的关系。 因为，我们想保存一点美德，保存一点聪明的认识，保存我们周围熟悉的人的感觉。 他们可能已经去世了。

刘慈欣:我认为时间和地点有两条路线。 一条路线可能比较简单。 就像《黑镜》演的那样，综合网络上大量的数据和日常生活中所有的视频和什么，所有的资料，生成这个大数据他。 这可能类似，但我认为这不是身体的真实复制品。 真正的拷贝是根本性的，就是从物理生物学中，完全读取你的大脑，像读取硬盘一样读取数据。 这对我们来说现在太远了。

另一个词是，一个大脑真的能代表一个身体吗？ 不太容易说。 就像电脑一样。 是把硬盘拔出来放进口袋里带走的。 你拿走了整个电脑一样吗？ 不，你可能没有带走它的主要部分。 那个cpu，那个内存条。

骏航:我记得祖母刚走一会儿，我就不停地听磁带。 那盘磁带是我小时候80年代录的，录的是日常聊天。 80年代的磁带后来坏了。 坏了之后，我很久都想去听那个，但是不知道问什么好。 其实，我觉得我们有时需要复制的就是这样的。 以机器人的形态进行复制。

刘慈欣:这些数据不是活数据，而是死数据，不可能进化或随环境而变化。 就像我说的那样，从生物学的基本层面来看，基本元素被复制的人就和真的一样，它也能感知和进化外部世界。

其实就像你说的，用大数据制造逝者的技术，现在几乎都能做到，但据我所知没有人想做这个。 是重庆还是哪里，有一家公司在建造墓地。 他有建造一座非常现代化坟墓的想法。 他的想法是墓碑上有个屏幕，总之是模拟这个亲人的影像。 这个效果除了恐怖以外没有任何效果，特别是晚上去了墓地。

五、人工智能遇到智人时，会不会形成共生的新物种？

骏航:你自己是小说家。 我们能用一点浪漫的方法解释你的理解吗？ 什么是人机交互，什么是人工智能？

刘慈欣:这真的很难解释。 因为智能的定义是什么，所以对我们来说智能可能分为两部分。 一个是硬智能，在基于数学的推理和逻辑方面，计算机早就超过了人。 另一方面，对于人类自身感情微妙的人文、感情方面的东西，人工智能可能还在迅速学习。

但是，我认为总是以大的计算速度、优良的算法，用庞大量的原始数据制作。 计算机一定也会在感情上超过别人。 但正如你所说，这种局面会带来什么样的人类文化，这不容易预测。 这个可能性太多了。

骏航:这应该是我们人类出现的。 也就是说，现代人类智人出现几万年后，1万年或2万年后，可能发生了巨大的变化。

刘慈欣:这个变化可以用一个词来表示。 被称为other。 就是他。 人类文明什么都遇到过，但我们从没遇到过一个东西。 就是他。 他的意思是有自我意识，在智力上和你同等或更高的存在，这样的存在从来没有存在过，如果真的出现过，我们只知道它的存在，会对我们的人类文明、人类文化造成什么样的冲击呢

骆达航:都是他的。 这个事件往小了说相当于智人取代了其他人种。 是几十万年前的阶段。 这是世代之间的交替。

刘慈欣:智人过去在欧洲和尼安德特人一起生活。 虽然是一个其他人，但其他人好像还没有被生殖隔离。

如果机器是别人，其他人在人文感情、文学艺术方面也入侵人类行业，我们的生活可能会发生根本性的改变。 要说如何改变，可能性太多了。 虽然是科幻小说的故事和资源，但真的很不容易适应那样的社会。

但是，目前，我们对人工智能的期待与当前人工智能所达到的技术水平之间还存在一段距离。 媒体把它搞混了。 可能看起来克苏韦尔在奇点中决定了时间。 也就是说，机器取代人是在2045年。 这有点太乐观了。

现在，即使看到人脑的一个神经节，也很可能相当于cpu和计算机。 人脑有一千亿个神经节，而我们现在速度快的计算机的cpu大概在一万个左右。 这个差距太多了，这个技术差距什么时候能赶上，这也是个问题。

所以，我们说的是一个构想，但它很可能还会来，但它来的路和它来的路可能不是我们想的。

骏航:这就像我之前说的，机械在文化、艺术方面，比这个创作和人类比肩的这个事件更有意思。

刘慈欣:所以，我认为这个合作项目(阿里达摩院和清华大学的人机交互实验室)，很可能是插入人类文明和文化核心行业的楔、突破。

骆航)我想那一定会做一点探索。 他可能优先解决的一个问题是机器可以帮助人类实现目的的一点方法。 例如，服务，比如医疗、嗅觉、视觉上的东西，养老、陪护这一点东西，人力不够的时候怎么让机器陪护呢？ 那么，机器能让有点失明的人模拟视觉，让他恢复一些东西吗？ 这是一个非常美好的期待。 当然，今后也必须致力于机器自身的感悟和创造力。 这个问题是在我们作为人活着的时候，可能不会面对这个事件的根本性变化的时候。

刘慈欣:那不一定。 在我们面前，现在在我们的意识深处，我们的感情就像马奇诺防线一样，把机器停在外面。 但是不像历史那样马奇诺防线被打破了，而是被绕过了。 所以机器从哪条路绕到我们后面，在感情上超过我们，在文化上超过我们，这不明白。

刘慈欣:就像你说的，我们在一步步积累。 我们是一个服务项目、养老项目，人与机器的交互算法越来越完整，后面的数据支持越来越庞大，有一天量很可能会转化为质，悄然发生。 通过绕过马奇诺防线的道路。

骆达航:比如说，这一天迟早会到来。 我想现在还不知道这件事是应该有强大的无力感，还是应该有强大的感觉。

刘慈欣:要防止你引起这种混乱，我认为你和机器结合是个好选择。 总之身体也老了。 我认为人机合并是度过智能机危机的一种方法。 如果我赢不了你，我就加入你。

骏航:我们积极地将人与机器的人的生理和机器的生理、人的心理和机器的心理、人的意识和机器的意识结合在一起，成为全新的物种。

刘慈欣:我认为这种课题对人类的五种情感的模拟，以后很可能也会朝这个方向迅速发展，这也许也是一条路。

骏航:那有自己的感情生成方法，也有自己感知世界的方法。