赫拉利再论“未来简史”：哪些人类将沦为无用阶层
“智能”和“意识”有什么区别？如果机器人有了意识，我们该如何与之相处？当科技掌握在少数人手中时，如何保证大多数人都能从新技术中获益？
7 月 6 日，全球畅销书《人类简史》、《未来简史》的作者——新锐历史学家尤瓦尔・赫拉利（Yuval Noah Harari）在北京出席了由中信出版社与大数据公司百分点集团联合举办的“ XWorld 大会”，与中国读者交流了他对人类与 AI 、未来人类的价值在哪里等深度话题的看法，并接受了腾讯科技的独家专访。以下是部分访谈要点摘录：
▨ “智能”是解决问题的能力，而“意识”是感知事物的能力。我们在计算机的“智能”上有了很大的进展，但是在“意识”这一领域上的进展几乎为零。
▨ 大多数人没有意识到，在 21 世纪，最重要的就是数据。
▨ 现在大家应该醒悟过来，我们向各种机构免费提供的大量数据，实际上是给予他们控制世界的权力。
▨ 通过免费提供数据来获得一些免费的服务，这对我们来说是一场不公平的交易。
▨ 我担心再过几十年，大家会完全丧失高度集中注意力的能力。所以我觉得大家需要的不是海量信息，而是集中注意力，然后分辨出对你来说真正重要的事情，专注地完成它。
https://v.qq.com/txp/iframe/player.html?vid=r002471m4go&width=500&height=375&auto=0
在您的书和今天的演讲中，您为我们描绘了一个非常宏大而复杂的未来图景。人工智能的开发目前还处于非常早期的阶段，还有很大可能做出根本性的改变。您认为，在这个开发的过程中，科学家们和开发者们应该遵循哪些原则？
赫拉利：首先，当人工智能这样的新技术出现时，我们要考虑的因素不仅仅是技术层面，还需要考虑社会、经济和政治层面。
第二，要让大多数人能从新技术中获益，而不只是少数精英。
第三，具体到人工智能，我们不能只研究机器的“智能”，同样也要研究机器的“意识”，否则，事情会陷入极度不平衡的状态。因为，即使我们发现了人工智能有极大的能量，我们也不知道它有多大的用处，或者即使我们用了，也会用得极不“明智”。
您提到要研究机器的“意识”，就人类而言，其实我们还不知道“意识”是如何产生的，如果未来机器也有了“意识”，我们是否应当将他们视为等同于人的存在？我们又应该如何与它们共存？
赫拉利：机器产生“意识”其实是非常难的。在科幻小说中，当机器变得非常“智能”时，它们其实也具备了“意识”，但这只是科幻小说，并不是真正的科学。
事实上，大多数人对“智能”和“意识”都区分不清，甚至有些计算机科学家也并不清楚两者的区别。
“智能”是解决问题的能力，而“意识”是感知事物的能力。人类和其他的哺乳动物都是通过感知事物来解决问题，但计算机并不是这样的。我们在计算机的“智能”上有了很大的进展，但是在“意识”这一领域上的进展几乎为零。
5 月份，Alpha Go 再次战胜了人类的围棋冠军，围棋是非常需要智慧的游戏，但是却不需要任何的感知能力，在比赛中，机器不会有任何的焦虑感，即使赢了比赛，机器也不会有任何高兴的感受，这其中不涉及任何的意识和感觉。所以，我们没有道理认为人工智能在“意识”这一领域真正有进展。
我以前提及过“意识”的重要性，我说了人类有意识，所以人类才能知道、面对那些强大的能量。让计算机产生“意识”并不一定能办到，因为我们自己都不是很清楚人类的意识到底是怎么来的，所以要让计算机也学会意识，这很难。
但是如果我们真的能够让计算机成为有意识的个体，能感受到疼痛、痛苦，我们就要从人工的角度来考虑，如何对待这些有意识的个体。最开始，你不会把它当成有意识的人，而只会把它视为物体和工具，因为它们可能会像飞机、汽车一样贵，但是它没有办法感知，意识总是伴随着感知而来的，我们需要从人工方面来创造这些感知。
您认为谁有权力决定如何对待这些机器呢？是人类和机器之间产生一个协议，还是仅仅由人类来决定？
赫拉利：这很难下定论。很多的科学电影创造了一些有意识的机器人，让大众感到困惑，机器人真的有意识了吗？事实上不是的。
但我认为，如果这一天真的来了，也应该是人类和机器人双方共同的决定，因为一旦机器人有了意识，它们会和我们一样感受到痛苦，那它们也应该有权利决定自己可以接受怎样的待遇。
尽管目前的人工智能还没有“意识”，但它也已经开始面对一些伦理问题了，例如，在车祸中，面对“杀死 5 个坏人，还是 1 个好人”的命题时，驾驶系统该如何做选择？我们应当如何建立人工智能选择的伦理标准？既然人工智能不能只是少数精英的游戏，作为普通大众，我们应该如何参与？
赫拉利：首先，我认为我们应该有一个讨论机制。目前，公众并没有针对人工智能进行特别热烈的讨论，也没有明确的发展路线。现在的决策都只是掌握在少数人手里，这些人都来自大企业或者其他组织的工程师、科学家，他们不代表任何个体。所以大众其实根本没有注意到人工智能目前发展到了什么阶段。
所以，大家要先有意识，明白这对我们和我们的后代都是非常重要的，然后可以将关于 AI 的讨论当作日常的一件事，探讨人类究竟可以给 AI，或者说这些算法多大的权力。即使是老年人，也可以多接触计算机、智能手机，有了更多的了解后才能做出一些决定。
大多数人没有意识到，在 21 世纪，最重要的就是数据。
在很早期的时候，对人类最重要的是土地；到了工业时代，最重要的是工厂和机器。而现在，最重要的是数据，尤其是个人数据。
在我们没有意识的情况下，我们向各种机构免费提供了大量数据。现在大家应该醒悟过来，并意识到是大家给了这些机构、这些少数人控制世界的权力。
我们在免费提供数据的同时，也获得了这些互联网公司提供的服务。对普通人来说，如果我们不提供这些数据的话，就必须选择放弃那些服务。而今时今日，对我们而言放弃那些互联网服务几乎是无法想象的，所以您认为我们应该如何处理这个问题？
赫拉利：你说得对，我们并不是免费提供数据的，我们获得了服务，但是相比我们获得的服务，我们的数据其实更有价值。所以，免费提供数据来获得免费的服务，对我们来说是一场不公平的交易。但是我们的确没有选择，大多数服务商都是这么干的。只是消费者其实应该有权利去提出要求，比如说我愿意付一定的费用，但我要控制自己的数据。
我个人比较倾向于通过付费来获取信息和服务，比如有些资源、书籍，通过付费来获取数据，其实比免费要好。如果你选择免费获得某些资源，你自己可能就在不知不觉的情况下成了商品，而在某些情况下，你的数据才是你最有价值的资产。
我举个例子，在过去，纺织业最重要的资产是机器，谁有了机器和工厂就能生产鞋子和衣服，但现在最重要的资产是数据。首先是产品的数据，比如说，未来一家工厂要生产衣服，他们不需要把货品运送到世界各地，只需要知道衣服对应的一组代码就可以了，而你从这家公司购买的就是这组代码。你可以自己把这组代码输入 3D 打印机，然后就可以打印自己想要的衣服了。
另一个重要的资产是客户数据，包含客户的着装尺寸、衣服喜好等。客户个人的数据是最重要的，因为这些数据决定了一家服装企业是否能够跑赢市场。
从这个角度来看，现在人们免费公开了自己的数据，其实是丢掉了一些重要的权利。
您在书中提到，未来会有一部分人因为工作被机器代替等种种原因，成为“无用阶层”。选择放弃这些数据的独有权，是否会加速我们成为“无用阶层”的过程？
赫拉利：是的，这是非常危险的。因为在这种情况下，只有少数精英拥有了数据、权利，而大多数人却没有。那些拥有了数据的人，可能比你自己更了解你，他可以预测你的行为和决策，操控你的选择和想法，为你做决定。
当然，这不全然是坏的，也有积极的一面。
最基本的过程是，我们收集数据，并以此发展计算机算法。不过，你参考一下世界上的大公司，你根本不知道他们会用这些数据干什么，但他们竟然全力收集到了这么多数据。比如说亚马逊，它到现在都还没有盈利，却在不留余力地收集客户的数据，因为这 20 年来收集了大量的数据，所以它的计算能力非常强，堪称是世界上最强大的公司，这就是数据给他们带来的好处。
我们是不是可以认为，目前我们所享受到的这些免费的服务，实际上是科技公司为了积累未来的资产，而做的长线投资？
赫拉利：是的，我们现在看到的很多事情都是科技公司在下注，赌的就是在收集到海量数据之后，未来可能从中获利，即使现在他们甚至都不知道怎么去用这些数据。
想要利用这些数据，首先要创建一个非常大的数据库；然后用非常强的计算能力去分析这些数据；最后，通过这些分析结果，公司就能掌控很多事情。所以即使目前他们是在亏损，没有盈利，他们也要做这件事。很多大公司都是如此，比如 Twitter，比如 YouTube，他们可能还不清楚要怎么盈利，但是就是要一直收集数据，因为可能再过十几年，数据就会成为最重要的资产。
作为普通大众，如何避免自己在人工智能的潮流中变成“无用阶层”？我们怎么保有自己的数据，保全这个最重要的资产？
赫拉利：我的建议是，希望大家能少接收一点信息。
以前大家总觉得信息越多越好，其实不是的。现在，我们周围充斥着各种信息，让我们无法集中精力。其中大量的垃圾信息，会占据我们大量的时间，最后，将导致你没办法长时间在一件事情上进行集中精力，进行深入研究。
我担心再过几十年，大家会完全丧失高度集中注意力的能力。所以我觉得大家需要的不是海量信息，而是集中注意力，然后分辨出对你来说真正重要的事情，专注地完成它。
原标题 / 独家专访《未来简史》作者赫拉利：机器很难有“意识”
来源 / 腾讯科技（ID：qqtech）
作者 / 刘语珊
壹
贰
叁
肆
伍