卡尼曼：最后的对谈——双系统、人工智能与人生意义
丹尼尔·卡尼曼 开智学堂
开智君说
3月27日，丹尼尔·卡尼曼（Daniel Kahneman）逝世，享年90岁。他的著作《思考，快与慢》自出版以来，已被翻译成多种语言，影响了全球无数读者。开智社群特翻译俄裔美国计算机科学家莱克斯·弗里德曼（Lex Fridman）与卡尼曼的对谈节目，以作缅怀。
在访谈中,他们讨论了以下主要话题:
二战对人性的启示：Kahneman认为纳粹德国的种族灭绝暴行表明,在特定环境下,普通人也可能做出残暴行为。关键在于将他人非人化。
人类思维的两个系统：Kahneman提出人脑有两套思维模式,系统1是快速、直觉、情绪化的,系统2是缓慢、审慎、逻辑的。两套系统相互影响,共同决定人的行为。
人工智能：Kahneman认为,当前的深度学习类似人脑的系统1,还缺乏因果推理和对世界的真正理解。要实现通用人工智能,还有很长的路要走。
行为经济学：Kahneman分享了他在决策、判断、启发式和偏差等领域的研究心得。他指出,要克服人性的局限,关键是要意识到直觉的不可靠性。
幸福：Kahneman区分了体验式自我和记忆式自我。他指出,人们往往通过记忆来评判生活的幸福感,而记忆常常是片面的。追求意义和目标感虽然重要,但未必就能带来幸福。
学术研究：Kahneman谈到,心理学实验常常缺乏可重复性,部分原因是研究者对被试间实验的效应值估计过高。未来需要更大样本量和预注册来提高研究质量。
人生的意义：Kahneman坦言,人类可能永远无法参透宇宙和人生的根本意义,但我们仍然可以去探索未知,取得进步。重要的是要保持好奇心,欣赏生命的神奇。
整体而言,Kahneman分享了他对人性、决策、幸福、科学等诸多话题的深刻洞见,启发我们反思自身,并以开放和谦逊的态度去面对未知。
原视频地址：https://www.youtube.com/watch?v=UwwBG-MbniY
以下为视频对谈要点整理稿。
早年记忆与二战的影响
二战的影响
Lex Fridman: 你讲了个纳粹士兵故事，在二战初期纳粹占领了法国巴黎，那是你长大的地方。
本期节目Lex Fridman采访了诺贝尔经济学奖得主Daniel Kahneman。Kahneman因将心理学洞见与经济科学相结合而闻名。
Daniel Kahneman: 他抱起你，向你展示了一个男孩的照片，可能没有意识到你是犹太人。
Lex Fridman: 可能，肯定不是。
Daniel Kahneman: 所以我告诉过你我来自苏联。战争对此也产生了巨大影响，而且我也是犹太人。你认为二战对我们的人类心理学有什么深远的教诲吗？
Daniel Kahneman: 嗯，我认为唯一的大惊讶就是灭绝政策，种族灭绝，由德国人民所做。回头看时，我认为那是一个大惊讶。这令人惊讶，因为他们能做到这一点令人惊讶。令人惊讶的是，竟然有很多人愿意参与这个。这真是个意外。现在这不再是个惊讶，但我想，它改变了许多人对人类的看法。
对人性的深刻理解
Daniel Kahneman: 对我来说，艾克曼试验确实教给了我一些东西，因为很明显，如果这个情况可以在德国发生，那它就可能在任何地方发生。并非德国人有什么特别之处。这情况可能在任何地方发生。
Lex Fridman: 那你认为这是什么呢？你认为我们都有做坏事的能力吗？我们都有可能表现出残忍吗？
Daniel Kahneman: 我不以那种方式来思考。我认为可以肯定的是，你可以剥夺人们的人性。以至于你不再把他们当作人看待，而是当作动物。就像你可以毫无感觉地屠宰动物一样，去人性化另一方并对其他人施加无控制的权力。我认为这并没有展现出人性中最宽容的一面。
内群体和外群体的区分
Daniel Kahneman: 那个纳粹士兵，他是一个好人，同时也能杀死许多人，我相信他确实做过。但是，犹太人对纳粹来说意味着什么呢？那么，对犹太人的轻视有什么意义？再次，这让人感到惊奇的是它如此极端，但这并不是人性的一种特征。我不想把它称为邪恶，但是对内群体和外群体的区别是非常基本的。所以这是内在的。对内群体的忠诚和情感，以及愿意贬低外群体，这是人性的一部分。
《思考，快与慢》
心理学与《思考，快与慢》
Lex Fridman: 那我们来谈谈一点心理学。在你的书《思考，快与慢》中，你描述了两种思考系统。快速、直觉式、情绪化的系统1，以及慢速、深思熟虑、逻辑性的系统2。对于没有读过你的书的人，你能描述一下这两种系统的独特特征吗？
Daniel Kahneman: 系统1与系统2的主要区别在于，系统1是自动的、不费力的，而系统2涉及到心理努力，我们对精神努力的能力有限。
Lex Fridman: 这些是历史的产物还是人性？我认为这真的是人的本性。
系统1与系统2的进化
Daniel Kahneman: 显然，动物们有自己的感知系统，这其中包括理解世界的能力，至少在他们能预测的范围内。我个人粗糙的想法是，我称为的“系统2”其实是从这个现象发展而来的，其中包含了语言，以及操控思想的能力，以及预想未来的能力并想象那些尚未发生的假设事情，进行条件性思考。实际上，有很多能力是离不开语言的，如果没有我们与众不同的大脑，这是不可能的。
Lex Fridman: 系统1在其所做的事情上比系统2更优秀，也就是说，他们能毫不费力地解决极为复杂的问题。这显然存在，所以一个很好的棋手，他们想到的所有动作都是强有力的动作。所以所有强大的选择都是在无意识中、自动地、非常非常快地发生的。所有这些都属于系统1。
Daniel Kahneman: 系统2进行验证。沿着这条思路，我们实际上就是构建了相当有效的第一系统的机器。
人工智能与人类心智
人工智能的双系统
Lex Fridman: 我们现在谈论的是人类，但如果考虑建造人工智能系统，机器人的话，你认为所有的特性，你在人类身上发现的错误对于建构AI系统有用吗？所以这两种系统或许对于赋予机器人用处吗？
Daniel Kahneman: 发生了什么现在的情况是深度学习正在发生着什么，这更像是系统1的产物，而不是系统2的产品。我的意思是，深度学习匹配模式并预测会发生什么，所以它有高度的预测性。深度学习所缺少的，许多人认为这是关键，它没有推理能力，所以那里没有系统2。但我认为更重要的是，它并没有任何因果关系，也无法表达出真实意义或者真实的互动。所以这个问题解决之前，我们能做的虽然神奇且令人振奋，但是有限。
人工智能的未来
Lex Fridman: 把当前的机器学习进步看作系统1的进步，实际上很好。我们仅凭系统1能走多远？如果我们把深度学习和人工智能系统看作“系统1”会怎样？
Daniel Kahneman: 我是说，深度学习已经远远超出人们所想象的可能，我认为这是非常明显的。我认为AI发展中最让我震惊的就是它的速度。至少在深度学习的背景下，事情是这样的，可能一切即将放缓，但事情的发展速度比预期要快得多。从解答国际象棋问题到解答围棋问题的转变，其速度令人惊讶。从 Alpha Go 进化到 Alpha Zero 的速度令人难以置信。
学习与理解
Daniel Kahneman: 显然，有很多问题可以用这种方式解决，但是有些问题你需要其他的东西。像理智推理这样的事情。其中一个真正的谜团，心理学家加里·马库斯，他也是AI的批评者，他指出了一个问题，我认为他有道理，那就是人类学习得很快。孩子们不需要百万个例子，而是两三个例子。所以，显然，这里有一个根本的区别。
AI的挑战与进展
Daniel Kahneman: 我相信DeepMind在进行研究，还没听说他们已经解决了这个问题。他们以及OpenAI实际上正在试图开始使用神经网络进行推理。因此，积累知识。大多数人都无法理解时间因果关系。
系统1的速度与技能
Daniel Kahneman: 你提到的系统1的好处基本上是它的速度快，让我们能在世界中运行。快速且熟练，是的。这是技能。它对世界有一个模型。你知道，在某种程度上，我是指，早期阶段的人工智能试图模拟推理，他们取得了适度的成功，但你知道，仅靠推理并不能带来太多的东西。深度学习在他们能做什么上已经取得了更大的成功。
对未来的展望
Lex Fridman: 但现在，这是一个有意思的问题，是否它正在接近其极限。你怎么看？
Daniel Kahneman: 我想绝对可以。我刚和杨立昆交谈过，他提到他。所以他认为，我们不会用神经网络达到极限，最终，这种系统1的模式匹配开始看起来像系统2，而无需大规模改变架构。因此我更倾向认为神经网络在其能力上会有所限制的大多数人的观点。
人类复杂性与AI
Daniel Kahneman: 人类是非常复杂的，系统会出错，但人也会出错。我认为他们能够预测行人的动作，否则情况会很糟糕。他们能找到方法绕行，进入了交通中。因此，他们必须预知或预期人们在他们潜入时的反应。而这其中涉及了很多的学习。目前，行人被视为不能被撞到的物体。他们并不被视为你在博弈理论中交互的代理人。
人工智能与人类互动
Daniel Kahneman: 这是个完全开放的问题，每次有人试图解决它，似乎比我们想象要难。且没有人真正尝试过认真解决那个舞蹈的问题。因为我不确定你是否思考过行人的问题，但你实际上是将生命掌握在司机手中。你知道，这是一场舞蹈，这场舞蹈的某些部分可能相当复杂。但比如说，当我过马路，有一辆车正在靠近，我会看着司机的眼睛。我认为很多人都这样做。你知道，这是我发出的一个信号。我会把这个机器送到一个无人车里，而且最好理解它，这意味着我正在过去。
Daniel Kahneman: 所以问题是，观察到这一点的机器是否需要理解生死。在这里，我不确定它是否需要理解，我认为更重要的是它需要预见。而这里，但你让我惊讶了，因为…在这里，我认为或许你可以预见但不理解。因为我认为这正是在下围棋或下棋时会发生的事情。大家都充满期待，但是谁也不明白。
人机合作的未来
Lex Fridman: 我有一个跟进的问题，想看看你的直觉在哪里。就像，几乎每个机器人和人的合作系统都比人们想象的要难得多。所以…你认为机器人和人类有可能成功地合作吗？
Daniel Kahneman: 稍微谈一下半自动驾驶汽车比如Tesla的自动驾驶，但就一般的任务，如果你认为我们谈论的现代神经网络类似于一种系统，你认为同样的系统能否为系统2类任务借用人类，并成功协作？
人类在人机互动中的角色
Daniel Kahneman: 我认为，在任何人机互动的系统中，在不久的将来，人类可能会变得多余。也就是说，如果这台机器足够先进以至于它能够真正帮助人类，那么可能长时间都不需要人类参与。
人类介入的必要性
Daniel Kahneman: 只要是机器出于某种原因不能解决的问题，但是人们能够解决，然后你需要给机器建立一个能识别这个的能力，这是一个典型的问题情况，需要人类介入。这不可能容易。没有理解的情况下，也就是说，编程识别这个非常困难。你处在一个问题重重的情况中，而你并不理解问题所在。
人工智能的局限性
Daniel Kahneman: 为了理解所有有问题的情况的全貌，你几乎需要足够聪明才能解决所有这些问题。我还不清楚机器会需要多少人的帮助。我认为象棋的例子非常有启发性。我是说，有一段时间卡斯帕罗夫表示人机组合将击败所有人。甚至连’Stockfish’都不需要人，更不用说’AlphaZero’了。
人工智能与人类直觉
Daniel Kahneman: 问题就像你说的，有多少问题就像下棋一样，那些与棋类游戏不同的问题有多少呢？好吧，每个问题最后可能都像下棋一样。问题是，这个过渡期会持续多久？我的意思是，这是我想问你的问题，我的意思是，自动驾驶，驾驶车，可能要比解决围棋问题复杂得多。
可解释性的重要性
Daniel Kahneman: 你有一个不能解释自己的设备，这是一个重大的难题，我们已经看到了这一点。我是说，这真的在发生。所以，这在司法系统中也正在发生，所以你有的系统明显比法官更擅长预测假释违规行为，但他们不能解释他们的推理过程，所以人们不想信任他们。
故事的力量
Daniel Kahneman: 故事并不一定要反映真相，只需要有说服力就行。这有一定的道理。你可以用听起来很愤世嫉俗的方式，或者不愤世嫉俗的方式来表达完全相同的观点。但解释的目的是要讲述一个能让人接受的故事。为了让这种接受成为可能且稳定，它必须含有某种真实的元素。但目标是让人们接受它。
Daniel Kahneman: 所以关于我们讲的故事，很抱歉问你大多数人都知道答案的问题，但或许有一整个运动的人正尝试去解释可解释的人工智能。实际上，我们并不必要去解释，AI无需解释自己，只需要讲述一个有说服力的故事。
经验自我与记忆自我
经验自我与记忆自我
Lex Fridman: 你谈到了两种自我观念，即生活中的经验自我和记忆自我。你能解释一下这两者之间的区别吗？
Daniel Kahneman: 是的，确实如此。我们大部分时间都在生活，经历不同的事情，有好有坏，随着时间的推移持续发生。我们主要是忘记发生的一切，或者至少忘记大部分事情。然后你偶尔会评估过去并形成记忆。记忆是模式化的，并不是说你可以把一场互动拍成电影。你实际上构建了关于一个事件的故事的元素。所以有经验，也有关于经验的故事，这就是我所说的记住。所以我有两个自我的概念，一个是生活的自我，一个是评价生活的自我。我们的决策和做的所有事情都由我们的记忆主导，而不是实际发生的事情。
幸福与记忆
Lex Fridman: 我们记忆中的幸福有哪些特性呢？
Daniel Kahneman: 在故事里，时间并不重要。有一系列的事件，或者有一些亮点，或者没有，以及需要多长时间，这些都不重要。这引发了一系列非常有趣的问题，因为时间是我们生活的全部。然而，时间在评估记忆中基本没有体现。这产生了很多我一直在思考的悖论。
假期与记忆
Daniel Kahneman: 我问过这样一个问题，假设你正在计划一个假期，你只是被告知，假期结束时你将服用一种遗忘药，所以你什么都记不住，他们也会销毁你的所有照片，那么你就将一无所有。你还会去同样的度假地吗？实际上，我们大部分时候度假，目的主要是为了创造回忆，我们的目标并不是去经历，而是构建记忆。
社交媒体与记忆
Lex Fridman: 现代有一种方法可以放大记忆自我，那就是在 Instagram、Twitter 或社交网络上发帖。你有没有想过这是否放大了记忆自我？
Daniel Kahneman: 你知道，我已经太老了，不适应社交网络。我从未用过Instagram，所以我无法就这些事情发表高见。但是观察你描述的确切效果很有趣。我认为这将产生非常大的影响。
存在主义与幸福
Lex Fridman: 从两个自我的角度来看，你对存在主义的人生哲学有何看法？
Daniel Kahneman: 我对哲学了解不够，无法回答这个问题，但这不是，你知道，强调的经验也是佛教的重点。所以你只需要去体验事物，不要去评估，而不是去评判，不是去打分，不是去记分。
AI系统与记忆
Lex Fridman: 你认为在构建AI系统方面，重播记忆的重点有什么教育意义吗？
Daniel Kahneman: 所以目前的人工智能系统他们更像是对环境作出反应的体验自我。包括一些像学习等形成模式的过程，除了强化学习，你实际上并不构建记忆，你会一遍又一遍地重温那种感觉。但是，我认为回顾过去绝对是一个特性，这不是个弊端。我是说，你必须先回顾过去才能展望未来。所以如果不回顾过去，你就无法真正明智地展望未来。
寻找生活的意义
寻找生活的意义
Lex Fridman: 虽然维克托·弗兰克尔在他的书《人类对意义的追求》中，我不确定你是否读过，他以在二战中的集中营经历来描述这一发现，确定生活中的目标，一个积极的生活目标，可以帮助人免受苦难。首先，你是否认同他所描述的哲学？
Daniel Kahneman: 其实并非如此。所以我真的可以看出，如果有人有那种目的和意义的感觉，那么这种感觉可以支撑你。我一般没有这种感觉。我确信，如果我在集中营，我会放弃并死去。你知道，他讲话了，他是一个幸存者。你知道，他带着那个存活下来了。我不确定这种感觉对生存有多重要，但我知道，当我想到自己时，我会选择放手。这样毫无结果。有一种性格能在类似的环境中生存下来。然后，因为他们幸存下来，他们便讲述自己的故事，就好像他们幸存是因为他们所做的事情。我们对此一无所知。他们能活下来是因为他们是那种人，他们是那种可以幸存下来，给自己讲故事的人。是特定类型的。
寻找目标的重要性
Lex Fridman: 所以你不认为寻找目标是我们行为的重要驱动力？
Daniel Kahneman: 这是一个非常有趣的问题，因为当你问人们他们的生活中是否需要有意义时，他们会说，哦，这是最重要的。但是当你问人们，你今天过得怎么样？你还记得什么样的经验吗？你没有得到很多的意义。你有社交经历。
实验室与现实世界
Lex Fridman: 所以那个区别，你认为我们可以通过实验室的受控实验来理解人类行为的基本原则吗？
Daniel Kahneman: 很多，但你需要验证。你的结论基本上只限于实验情况。然后你就必须跨越去真实世界的大感应飞跃。这就是特质。这就是我认为优秀心理学家和一般心理学家的区别之处，就是你的实验捕获到了重要且真实的东西。而其他人只是在做实验。
心理学家的直觉
Lex Fridman: 这有点像爱因斯坦或者优秀的物理学家的直觉吗？你基本上是凭直觉去构建的？
Daniel Kahneman: 但我的意思是，你知道，这是非常熟练的直觉。我的意思是，我刚刚实际上有过那种体验。几天前，我有了一个证明非常好的想法，你能感觉到那种建设中的感觉。所以我和一个合作伙伴在一起工作，他基本上就在问，你在做什么？你知道，发生了什么？我当时虽然不能清楚地解释，但我知道这将会引领进一步的发展。但是，你知道，我在这个游戏里已经玩了很长时间，所以我能预期到，是的，这值得我继续深入。这里有些东西。这是技能的一部分。
Lex Fridman: 这是你可以用语言描述过程形式的建议给别人的东西吗？
Daniel Kahneman: 不是。基本上就是听从你的内心？我是说，你知道，这就像试图解释驾驶是什么感觉。你必须把它分解开来，而不是……然后你就输了。然后你就失去了体验，是的。
合作的艺术与科学
与Amos Tversky的合作
Lex Fridman: 你谈到了合作。你写过与Amos Tversky的合作，这是你的写作，我们共事大部分时间都是在人际和智力上极其愉忦的12或13年里。一切都很有趣。几乎所有的事情都很有趣。看到一个想法形成的喜悦。那些年里，我们经常有一种奇妙的体验，就是其中一个人说出了什么，对方会比自己更深入地理解这个问题。相反，根据信息理论的旧法则，我们经常发现，接收到的信息比发送的信息还多。我几乎没有和其他人有过这样的经历。如果你没有体验过，你就不知道合作有多么美妙。
Lex Fridman: 让我提一个可能有些愚蠢的问题，如何进行查找并创造这样一种合作，可能被问到一个人如何找到爱情？
Daniel Kahneman: 但是，你必须要有好运气，并且我认为必须有这个性格，因为我曾经有过许多合作项目。我的意思是，没有一个会比这更令人兴奋。但我有，我正在获得，请教很多，这是一种技能。我认为我做得挺好。并不是每个人都擅长这个。然后就是有幸找到也擅长这个的人。
追求破解信息理论法则的建议
Lex Fridman: 有没有什么建议可以给追求破解信息理论法则的年轻科学家？
Daniel Kahneman: 我真的觉得运气起了很大的作用。在这其中，真正严肃的合作，至少在我看来，是一种非常个人的体验。我必须喜欢我正在与之合作的人。否则，我的意思是，会有这种协作存在，这就像一种交换，一种商业交换，我给你这个，你给我那个。但人际关系才是真正重要的。他们是彼此喜欢的人。喜欢互相启发思考的人，如果你喜欢另一个人对你的想法所作的反应，你必须要幸运。
好奇心的力量
Daniel Kahneman: 是的，我意思是，就连我现在出现在这里，你迅速开始深入研究我正在处理的一个特定问题，新的情报已经开始出现。这是一个充满好奇心的过程，与人们讨论问题并试图看见？我对与AI和机器人有关的任何事情都感到好奇，知道你也正在做之后，我更加好奇了。就让你的好奇心去引导你。
心理学领域的复制危机
心理学领域的复制危机
Lex Fridman: 在心理学领域，我们听说了关于复制危机的讨论，这似乎是一个深奥的术语。但实际上，这是否意味着有时候研究的结果不能普遍适用？
Daniel Kahneman: 你很有礼貌。实际情况比那还糟。我实际上并不完全了解情况有多糟糕。你认为问题的根源是什么？
Kahneman对复制危机的看法
Daniel Kahneman: 我有一个理论。正在发生的是，首先，两种类型的实验之间有一个非常重要的区别。其中一种是以主体为内部的，也就是说同一个人在两种实验条件下参与。另一种是比较研究，一部分人处于这种情况，另一部分人处于另一种情况。它们是不同的世界。跨主题实验更难预测，也更难准备，同时它们也更昂贵，因为你需要更多的人。所以，问题主要出在跨个体的实验中。这并不完全是关于个体内部的实验，实际上是个体间的。
实验设计的误区
Daniel Kahneman: 存在一个很好的理由，为什么研究人员对于被试间实验的直觉会错误。这是因为当你是一名研究员时，你处于主题内部的情况。即，你在想象两种情况，看到了因果关系，并有所感触，但在对象间条件下，他们并没有，他们生活在一个条件里，另一个条件就不再存在。我们对于被试间实验的直觉非常弱。
心理学研究的挑战
Daniel Kahneman: 正因为此，我们对试验操作的操纵力量一无所知。因为同样的手法会更有影响力，当你处在两种情况下时，比你只生活在一种情况下要好。所以实验者对于间主题实验的直觉很差。还有一件非常重要的事，我认为几乎所有的心理假设都是正确的。也就是说，如果你有一个假设，认为A真的导致了B，那不代表A导致了B的反面。或许A的影响很小，但大多数假设都是正确的。但除此之外，他们大多都很脆弱。
实验结果的解读
Daniel Kahneman: 我对此感到兴奋的原因是我最近听说我一些朋友，他们基本上资助了20个不同团队的53项行为变化研究，目标非常明确，就是改变人们去健身房的频率。成功率是零。53个研究中没有一个奏效。现在有趣的是，那些是这个领域最好的人，他们对正在发生的事情一无所知。所以它们并未经过校准。他们认为这将会很强大，因为他们能想象得到，但实际上，只是因为你在专注于你的操纵，所以你觉得它很强大。
改变心理学实践的方法
Daniel Kahneman: 方案是让人们少依赖他们的直觉，或是在采取行动前先尝试他们的直觉。我的意思是，实验必须预先注册，等你进行一个实验的时候，你已经要全身心投入。你还需要认真进行这个实验，这正在公众的面前发生。这将改变心理学的实践方法，这已经在发生。
互联网对心理学研究的影响
Lex Fridman: 你对互联网有什么期待吗？这可能与研究样本的大小有关。
Daniel Kahneman: 这正是现在发生的事情。MTurk，每个人都在MTurk上做实验，这个方式既便宜又有效。你认为这是否会从根本上改变心理学？因为你不能运行一万个受试者。
Daniel Kahneman: 最后会实现的。我是说，我无法精确地指出这一点，但这在心理学中是确实存在的。无论何时有重要的新方法出现，它都会改变这个领域。而mTurk实际上是一种方法，因为它使得做某些事情变得更容易。
心理学研究的未来
Lex Fridman: 一项研究需要多少项目才能得出决定性的结果？
Daniel Kahneman: 嗯，这取决于效果的强度。所以，如果你正在研究视觉感知或色彩感知，很多对颜色感知的经典研究是在三四人身上完成的，我认为其中一个人是色盲，或者部分色盲。但在视觉上，这是非常可靠的。很多人不需要重复很多次某种类型的神经学实验，神经… 当你在研究弱现象时，特别是当你在研究不同的主题时，然后你需要比别人拥有更多的受试者。这就是现在心理学领域正在发生的事情中的一件，实验的统计效力正在迅速增加。
通用人工智能与生命的意义
思维的变迁与智力测试
Lex Fridman: 你认为什么是一个好的智力测试？我们可能在偏离主题，但对于人工智能系统来说，好的智力测试是什么？
Daniel Kahneman: 通用人工智能的标准定义是，它可以做任何人能做的事，而且它可以做得更好。我们看到的是，在很多领域里，你会找到领域特定的设备或程序或软件，它们以特定的方式轻松击败人类。我们离通用能力，通用智能还很远。
人工智能的进步与局限
Lex Fridman: 我们在机器学习中，人们正在接近更加广泛的领域。我是说，AlphaZero比AlphaGo要更具通用性。但它在能做的事情上仍然非常狭窄和特定。所以我们离能以超越人类的方式在每个领域进行思考的东西还很远。
图灵测试与人工智能的挑战
Lex Fridman: 图灵测试的自然语言对话部分因过于简单而被批评。在明确的约束下很容易通过所谓的测试。如果你听到了某个对话，那部分内容会让你印象深刻？是幽默吗？
Daniel Kahneman: 是的，我想，机智肯定会让人印象深刻，幽默比纯粹的事实对话更具影响力。我认为这很容易，而且寓言会很有趣，隐喻会很有趣。我是说，但是新的隐喻，而不是实践过的隐喻。所以，许多东西在对话中完全自然流露出来，十分令人印象深刻，但你真的不会预料到这一点。
对人工智能未来的期待与担忧
Lex Fridman: 能创建人类水平智能或超人类智能系统的可能性让你兴奋吗，让你害怕了吗？这会让你有什么感觉？
Daniel Kahneman: 我发现整件事情很有趣。绝对引人入胜。太令人兴奋了。这也是恐怖的，你知道，但是…但我可能看不到了。所以我对现在发生的事情感到好奇。但我也知道，对此做出预测是愚蠢的。我们真的不知道30年后它会变成什么样。
生命的意义与科学探索
Lex Fridman: 说到荒诞，几乎到了深奥的边缘，让我问你一个问题，在你看来，这一切的意义是什么？生命的意义是什么？
Daniel Kahneman: 我无法理解的问题没有答案。我并没有积极寻找一个。我们无法理解的答案。我没有资格去讨论我们无法理解的事情，我知道我们无法理解现实和真实。我的意思是，我们可以做很多事情。我的意思是你知道引力波，我是说，这对人类来说是一个重大的时刻。但是为什么，这个问题比我们更大。问为什么真的没有希望。
Lex Fridman: 丹尼，非常感谢你。这是我的荣幸。感谢您今天的发言。
Daniel Kahneman: 谢谢。■