想象未来|科技发展影响下的未来世界：几个基本场景
“想象未来”项目邀请科学家、哲学家、社科专家、作家和艺术家，对未来三十年科技的可能影响做出预测。我们希望能促进以证据为基础、以未来为导向的哲学和伦理思考。项目报告《科技与社会：三十年以后的人类》基于于2021年7月举办的第一次研讨会的内容完成，并尝试为未来构建设立三个基本情景，为我们想象未来科技社会提供基础共识与思想性预设。
本篇为该报告的第三部分也即最后一部分节选。
点击文末推荐阅读关于技术、社会发展的第一、二部分内容。
阅读报告原文，请复制以下链接到浏览器：
中文：
https://rb.gy/swlsoj
English：
https://www.berggruen.org/activity/imagining-futures/
或者留言与我们分享您对在目前科技发展状态下未来三十年、五十年的地球的预想，也欢迎为我们“想象未来”项目下一步工作提出意见和建议！
我们将选出点赞最多、质量最优的三条点评，赠送印制精美的纸质报告和2022年博古睿中国中心定制年历。
在本次讨论里，与会的专家学者对本学科领域未来三十年的发展状况，以及与之相关的人类社会的可能境况做了充足的预设与构想。即使难以简单划归，依照届时科技发展水平的高低及其所占地位，尤其根据黄铁军教授针对“超级大脑”、陈小平教授针对“公义创新”、以及张祥龙教授针对“适生科技”的分别建议，
我们仍能总结出三种主要的场景模式。
4.1
场景一：超级大脑泛在的技术时代
富有超级智能的人造大脑在三十年内出现，人类社会正式进入强人工智能（AGI）时代。大数据、大算力、几乎全是“全知全能”的超级计算机将会安排社会的方方面面，避免战争、饥荒和其他生存性风险，带领人类走向更安全、完美和可持续的生存状态。超级智能将会跨域时代和地域，成为一种世界中的“泛在”，全方位地服务、指导人类生活。但即便如此，在开发这样的人工智能时，仍然会有国与国、社会团体之间的博弈，我们需要达成全球治理上的共识。此外，国际社会还需共同应对强人工智能的潜在失控风险，使超级 AI 具有不对人类造成危害的自发意愿。
哲学指向：认知可计算主义、仿真主义的意识涌现。智能源自感知和行动，它是在与环境的相互作用中得以体现的，认知就是物质结构（神经网络）应对环境的一种活动，是智能系统与环境的交互过程，是在不断适应周围复杂环境时所进行的行为调整。
科技未来：设计更先进的探测分析工具，从结构上解析大脑，再利用工程技术手段“照葫芦画瓢”式地构造仿脑装置，最后通过环境刺激和交互训练“仿真大脑”，实现超级智能。超级大脑的神经形态器件可以在运算速度上快多个数量级、没有颅骨的限制、AI之间“精诚合作”、AI自己设计自己（recursive self-improvement）......超级智能将远胜过人类智能，并成为一种颠覆性、跨越性的技术进步，“人类最后的一个发明”。
社会未来：由于超级智能将全方位胜过人类智能，社会形态的方方面面将可能全部由AI重塑。生产力可能会由于自组织、可复制的机器出现而急剧增长，贫困、饥荒、疾病、不平等现象大大改善，政治形态、文化现象、生态环境可能都在超级AI的计算赋能后发生剧变。技术将是社会的第一驱动与变革力。
全球治理：超级AI的开发需要国际协调与博弈，各国的科学家、哲学家、政策制定者需要充分讨论并对如何部署超级AI的研发、应用形成基础共识。人类社会需要加强合作，促进研究成果共享，根本性地提高应对突发情况的能力，真正保障 AGI 的应用落地和拓展。
4.2
场景二：公义创新引领的深度科技化时代
未来三十年，超级智能不会出现，AI不会产生意识或伦理价值观念，机器仍不会是一个有自由意志的道德主体，人类在星球上的主导地位不会被撼动，我们的价值与判断仍至关重要。三十年内，随着时代的持续深度科技化，封闭场景下的AI应用将大大解放人类的生产力，在各个领域成为辅助人类决策、行动的关键工具，这势必将带来更多伦理风险与挑战。人类需要重新思考科技创新模式，靠自己的力量努力探寻一个更为公义和谐的社会，革新观念、制度，在技术向善的加持下探索新的思路和方案化解全球性危机。
哲学指向：认知的算法不可完全性、哥德尔不完全性定理。人类和神经科学家目前对整个人脑的结构、功能和机制知之甚少。AI计算机基于的图灵可计算概念不可能把所有的人脑的工作基础、智能机制、思维机制、甚至包括情感，意识和无意识的机制完全表达出来。
科技未来：AI将延续过去70年的底层逻辑，在强力法与训练法的加持下持续提高在封闭环境内的表现。15年内，场景封闭化是技术应用的主通道，重点应用是L4级别的无人驾驶；15-30年，超越封闭性的AI技术逐步投入领域，L5级别的无人驾驶，家务劳动、养老护工、私人助理等家用AI机器人将成为主流。越来越智能、高效的AI将在各个层次辅助人类、解放人类。
社会未来：科技创新将主要由公义创新驱动：市场要素和非市场要素公义性组合，市场原则和人性原则中的有效成分提炼、整合和升级。在深度科技化与公义的加持下，社会中的人将尽其才，各显其能；工作-娱乐-休闲深度融合，多数人的工作时间大大减少；教育将回归人性化、个性化、内需化；固定居所的必要性大大降低，处处无家处处家；创造力将回归人性、遍地开花。
全球治理：面对深度科技化，需要在伦理层面形成全球共识，避免技术的非正当使用，关注用户隐私保护、数据安全、算法公平。为创造公义创新的制度环境，需要国际协调克服熊彼特创新的基础，积极主动为当今发展模式的负面效应（阶层固化、人口老龄化、数字鸿沟等）探寻出路。
4.3
场景三：以退为进的适生科技时代
高科技在二十一世纪已经充分暴露其弱点与危害。几乎每一个重大新发展，如纳米技术、人工智能（含量子计算）、基因工程，都包含着某种重大的危险。以自身进化为唯一追求的高科技几乎一定最终脱离人类的掌控，在完全脱离人类伦理价值的条件下改造、奴役人类，使人类成为未来的黑猩猩。所以，人类要有一个活的和繁荣的未来，就不能被捆绑在高科技之上，而必须寻找更多元和适生的科技及其相关的生命形态。适生科技就是适合地球及人类的长久和良好生存的科技，为长久、自由且有幸福感的人类生活构建可能。
哲学指向：反高科技的技术批判与范式多样化。适生科技让人们可以最佳地结合当下亟须和长远未来的利益；从方法上看，它既可以是对象化的，又可以是非对象化的；从它促成的生活质量上看，它使人们能够将安全与舒适、物质(生理)与精神、保守与进取(或传统与创新)、简朴与丰富、自然与人为等，最大程度地相互嵌入和糅合起来。
科技未来：有选择地采用高科技，只保留其绿色：例如采用高科技的绿色部分来提升自行车、帆船、地方性风车、沼气发生器等器物的质量，改进滴灌治沙、医科手术、防疫治病等知识技艺能力，而不用它的那些会污染环境、破坏人际共生关系的部分。复活那些传统科技，但将其用到最恰当的地方，并利用今人的知识能力来提升它：例如传统的耕作、手工艺、制盐、纺织、医学等，在保存其传统运作的同时，用新方法改进它们，使之更能适应当下及未来的需要。
社会未来：（1）适生的未来是绿色的，这意味着现在一系列使生态恶化的趋势，比如全球变暖、空气污染、水体污染、土壤污染、物种减少将得到减弱、中止乃至逆转；（2）适生的未来是亲家庭和地方社团的，这意味着让适合家人和家基社团的科技主宰我们的生活；（3）适生的未来将拥有安全、舒适、多样、持久和充满新鲜意义的生活，拒绝贫乏、过度辛苦和健康恶化。
全球治理：适生科技以退为进，以寻找一种长久安宁的人类生活为己任，这需要一种超越只有“东西方”文明对垒框架的广阔视野，在各地域、各文明的历史与现实中找寻最佳实践。可以说，每种文明都曾有自己对于“适生”的理解与运用，我们应加以汇总、思虑、通过全球治理的方式推广，在世界范围内恢复我们对科技的选择能力。
5.1
开放问题
人工智能：信息是否等于世界，还是世界比信息更多？
以人工智能为代表的智能科学、信息科学的一种本体论假设是，世界就是信息，计算机中信息的输入、输出便是格式化之后的世界的真实结构。不过，世界真的就只是信息与可被量化、收集、分析的证据吗？除此之外，还遗留下些什么？我们究竟应当如何思考被量化的、可计算的信息同世界的真实结构之间的关系？
生物技术：生命系统从无序到有序的进程究竟是如何发生的？如何为人类在更大尺度上寻找生命的话语体系？
人类是生物的一种，只不过我们恰巧演化出了智能，在生物族群漫长的演化树上，我们不能因为身在此山中就忘记了无数的随机性特征。既然是一种生物，人类的生存也应当符合其他生物的规律，那么，人性是否还有不可撼动的神圣性？如果没有，我们如何为人类在更大尺度上寻找关于生命的共同话语体系？
创新体系：探讨公义创新，需要政府与社会组织怎样的推动与配合？
公义创新的模式对资本、企业家提高了严格要求，不再以盈利、追逐利润作为唯一诉求，而是广泛采纳社会对科技创新的伦理期待。对于政府而言，什么程度的政策配合是适切的？Ta们应该作为公义创新的领头羊与主要的推动方吗？对于社会组织而言，如果公共性、无偿性同样体现在了商业与资本之中，公益慈善机构会对自己的使命与职能做哪些修正？
国际关系：技术将会如何再造国际关系？国际关系的治理协调如何更好地配合、促进或约束技术的发展？
现有的非军事性技术突破（人工智能、基因编辑、疫苗研发使用等）已经在国际治理中初现弥彰。从影响力的互相传导而言，国际关系的治理协调如何更好地配合、促进或约束技术的发展？突破性的技术又将如何重塑国际关系格局？我们值得畅想一种更有效和更具韧性的技术全球治理框架，确保单边（unilateral）的伦理败坏得到有效制约、在应对全球性的挑战时能反应更迅速和从容。
科幻想象：技术现实很可能比想象跑的更快，在此种意义上，我们该如何继续畅想未来，它的价值是什么?
科幻故事的叙述者们往往在隐晦、具象地谈哲学问题，而哲学家们则可能在抽象、系统地打造一个科幻世界，二者在这个意义上殊途同归，都在试图回答那些人类必须要面对的重大问题，以其预言式的构想描绘科技的发展给人类的文明、社会、道德、思想带来的改造与挑战。在一个技术加速主义可能兑现的时代，我们如何继续使用“想象力”来守卫我们珍视的价值？面对不确定性与复杂的因果推断，科幻或哲学的思想实验怎样才能指引我们绕过崎岖、走向光明的未来？
5.2
研讨计划
气候环境分析视角的补充
人在整个自然生态圈的位态及人类文明与全球气候环境的协同演化同样是我们在展望未来时不容忽视的视角。本次研讨会暂未有从事气候环境科学研究或生物、生态哲学学者参与，我们期待在后续的系列讨论中邀请Ta们参与，共同探究我们在未来将如何与生态自然共生共存。
学科范式的补充：经济学、政治学、社会学、教育学......
本次研讨会主要由哲学工作者、科技学者、国际关系学者与作家艺术家构成的三类学术群体碰撞思想，事实上，其他学科的范式例如经济学的效益计算、政治理论的文明冲突、社会学的制度与能动性等思路同样在畅想未来时极具价值，值得被纳入讨论并与其他学科交流互动。我们期待在后续的讨论中进行相应补充。
丰富不同视野的时间尺度：30年，50年，100年，500年？
本次研讨会的时间尺度界定是未来“30”年，主要原因是我们希望对近未来的科技社会进行深究，并获得一些在当下有底层思维指导意义的结论与建议。不过，30年在宇宙意义上（cosmic significance）如弹指一挥间，而科技的发展演进又或将大大延展人类文明存续的时间与空间。围绕特定议题，对50年、100年、500年甚至更久的未来场景进行推演和畅想或许同样值得重视。
再思主体性：人类、所有生命、智能？
本次研讨会中争论的一个焦点问题是，我们在思考未来时，究竟需要守护的是谁的价值？是我们这一种人类（自然演化的智人）的价值，非人类中心视角的、地球上全部可能生命的价值，还是“智能”的可持续（超级智能继承了人类智能、是人类的后裔）？我们希望在未来的讨论中对此有更多深入的探讨。
寻求与全球关心人类未来的思想者的对话
跨学科、跨文明、跨地域的对话是深化关于人类未来研究的重要预设，也是实践一种“智识的全球治理”的先导方式。本次研讨会在中国的哲学与技术界率先开启未来展望，我们同样希望寻求与全球关心人类未来的思想者的对话，结合东西方与更多可能文明的视域，反思来路、构想去处。
# # #
点击阅读报告第一部分
点击阅读报告第二部分
项目主要参与专家（以姓氏拼音排序）
白书农，北京大学生命科学学院教授
宝树，科幻作家，译者
陈小平，中国科学技术大学机器人实验室主任
段伟文，中国社会科学院哲学所研究员
黄铁军，北京智源人工智能研究院院长
刘晓力，中国人民大学哲学院教授
陆扬，独立艺术家
夏笳，科幻作家，西安交通大学中文系副教授
查道炯，北京大学国际关系学院教授
张祥龙，北京大学哲学与宗教学系教授
报告撰写人：李治霖
项目策划团队：宋冰、展翼文、李潇娇、田馨媛
留言与我们分享
您对在目前科技发展状态下未来三十年、
五十年的地球的预想，
也欢迎为我们“想象未来”项目下一步工作
提出意见和建议！
我们将选出点赞最多、
质量最优的三条点评，
赠送印制精美的纸质报告和
2022年博古睿中国中心定制年历。
我们生活在一个充满伟大变革的时代。通过搭建全球对话平台、推动跨文化交流、促进学术与思想创新、打造新型治理政策，博古睿研究院致力于增进人类对这个变革时代的深度理解，培养和发展新的思想和理念，助力全球各机构、政策制定者以及公众应对影响人类的深刻变化。