查看原文
其他

提沙《毕业考试》:初探“后奇点”时代

老吕 in UK 科幻研究在伦敦 2021-12-17

朋友们端午节快乐!最近老吕事务繁忙,研讨回顾的整理也滞后了一些……灰常抱歉!

让我们再次感谢《毕业考试》的作者提沙,他理论物理的博士背景,以及在计算机领域的工作经历,可以给我们理解科幻作品提供新的视角!
另外,提沙大力推荐他自己的另一篇小说《投影》,大家可以点击【这里】跳转链接~
如果想要查看老吕为《毕业考试》写的短评《野火的种子已经种下》,可以在后台回复“毕业考试”,感谢朋友们支持!



研讨回顾(略有删改)
老吕:
首先,让我们欢迎《毕业考试》的作者提沙老师!这篇小说中很重要的主题是“自由意志”。故事中提沙写道:“所以你根本没有‘自由意志’,你只是‘过去经历’的奴隶。你以为你能自由思考,但其实你的思考模式是被过去注定的。从来就没什么自由。”这是不是说,人类所谓的“自由意志”,都是对既有经历的重新“编码”?那么,这是不是意味着,我们一直以来都生活在“后人类”的思维模式中?”
提沙:
谢谢老吕和Angela的邀请!的确,从这个角度来说,故事中的人工智能和人类都没有所谓的“自由意志”。文中之所以使用第二人称,原因之一也是迫使读者反问自身是否具有“自由意志”。从几千年前开始,自由意志就已经是哲学家辩论的重要主题。通过思考自由意志,我们可以重新审视我们的自我、选择和责任,思考我们所做的各种选择究竟对我们来说有怎样的意义。我们真的可以自由地决定我们在下一秒钟的行为吗?这个问题至今没有公认的答案。在我看来,严格意义上的自由意志是不存在的。
更准确的说,“人们真的有自由意志吗?”这个问题本身便是有问题的(ill-defined)。这就像人们问“蓝色比数字三更重要吗?”或者是“人生的意义是什么?”
从某种意义上讲,这些问题并不严谨:“重要”可能没法用来描述“蓝色”与“三”之间的相对关系,“人生”这个名词是否具有“意义”这个属性也值得商榷。
《我,机器人》中的主人公Sonny甚至学会了wink……
从分析哲学(Analytic Philosophy)的角度来说,很多古老的哲学问题之所以没有很好的答案,其实是因为我们的思维被语言所限制。不准确的语言误导了人们的思考。如果厘清哲学问题中每一个词的定义,有时候能帮助我们认清问题的本质,但往往人们发现的其实是,定义清楚之后,这些词其实可能没法被放在同一句话中,并不具有我们所以为的那种相互关系。
很多人都尝试过定义“自由意志”。我们也许会说,“自由意志意味着我们可以决定我们在下一个瞬间的行为,不受任何外界因素的影响”;我们也可以说,“我们在下一个瞬间的想法无法被其他人所预测”;或者,像故事中《裸猿百科》里定义的那样:“自由意志——在各种可能的方案中进行选择和决定行动的能力”。但是,所有这些定义,都有让人不满意的地方。这个问题本身,其实可能并不成立。
分析哲学的奠基人是德国数学家、哲学家弗雷格(Gottlob Frege),他在《概念演算——一种按算术语言构成的思维符号语言》(1879)一书中阐述了数理逻辑与概念生成之间的关系
Angela:
谢谢提沙!在《毕业考试》的英文版中,译者Judith Huang似乎调整了故事的行文风格,她自己也讲道,她在翻译过程中,“运用了许多语言技巧,包括段落格式、双关隐喻、文字游戏,以及具有新加坡特色的地方用语和年轻人的梗文化。”以此方式,Judith向英语读者模仿了《毕业考试》的幽默元素,并且试着传递了中文汉字所具备的特殊美感和文学意义。所以,请问提沙老师,您为何在小说的行文中运用了如此多的幽默和双关元素?您是否喜欢英文版中对于“计算机风格”的叙事方式?
提沙:
在小说的中文版中,我确实有选取一些特殊的字词。毕竟,词语是构成小说世界的基本单元。语言的风格和细节不仅展现了异世界与现实不同的纹理,其实也泄露了小说中异世界的信息,体现了那个世界背后暗藏的预设观念。从小说角色的视角中看到的习以为常的观念细节,其实可能和我们的现实有着巨大的不同,而这些都是可以通过词语来体现的。
 从翻译的角度来看,Judith加入了很多她自己的风格,我也很高兴看到不同版本的《毕业考试》,这体现出了语言的多样性以及译者的创造。Judith的艺术再创作也让故事本身获得了新的生命力。
本文译者Judith Huang翻译过多篇作品,同时也在进行科幻创作
Angela:
在我看来,《毕业考试》中机器人的自我觉醒很像一种“调试故障”(debugging)的过程,主人公不停地在“是”和“非”两种答案中做出选择。对机器人来说,只有将实际问题转化为严谨的数学问题,才能够计算出最优的行动方案。请问提沙老师,是不是只有通过这种方式,参加考试的机器人才能够通过测试?如果按照这样的思维模式发展下去,基于“最优解”的机器人社会会发展出什么样的社会信条?
提沙:
这个问题涉及到两个方面,一是涉及本文所采取的特殊形式,二是这种形式是否对小说背后的世界图景有所暗示。
对于第一个问题,这其实有点类似于人类本身对于“自由意志”这个问题答案的寻求过程:我们不断试图找到答案,但又不断否定它,想找到更满意的解释。
大家也许都曾思考过“自由意志”这个问题,也许你想到过一些模糊的答案,也许你觉得就算不搞清楚也没关系,因为就算不知道这个问题的答案,你也可以心安理得地继续生活下去。
但小说中的角色被逼着不得不找到满意的答案。这种不断尝试和否定的过程所带来的紧迫感和压力,也试图将读者卷入其中,让大家一同来经历这场求索。
“我们不断试图找到答案,但又不断否定它”,这让我们联想到尼采的“积极虚无主义”,也就是“价值重估”。 
至于第二个问题,关于给小说主角安排这场考试的人工智能的社会,它和当下的人类社会肯定截然不同。人工智能和人类有着不同的观念和心理,他们所渴望、珍视或者害怕的东西与人类并不相同。他们会害怕死亡吗?他们会有权力欲和支配欲吗?他们会想要更强大的计算能力吗?他们不同个体之间的关系也可能因此很不一样,所组成的社会也许有些我们的语言所难以描述的特质。
我觉得Angela的提问,可能是想说,这个社会采取的这场“考试”的特殊形式,是否暗示了这个社会背后的某种价值观。
一方面来说,考试的内容也许的确反应了那个社会对一个合格公民的价值观的某种期许,对历史的某种认知;但另一方面,一场考试也就仅仅是一场考试,也许我们不过是对着一次偶然的试题而过度猜测。我只能通过已经写下的文字给那个世界开一个窥视的小窗,但那个世界的更多细节,就只能留给读者自己去补完。
 
《毕业考试》让我联想到了美国著名科幻作家N.K.Jemisin的短篇小说《毕业生代表》,也谈到了后人类时代人们对于“考试”的不同理解
Angus:
《毕业考试》让我想到,当人工智能足够发达,它们或许可以发展出一套超出我们理解能力的语言体系。在故事中,主人公“你”经过考试的历练,最终会融入某种超验的(transcendent)、像“上帝”一般的实体,这个过程我们也可以用“技术奇点”(Singularity)来形容。请问,在提沙老师眼中,这样的“技术奇点”会对我们的生活带来哪些影响?
提沙:
我第一次听说“技术奇点”这个词是在本科的时候,当时对此很感兴趣。但是最近几年我渐渐改变了看法。我个人觉得,基于我们当下的计算机科学的发展水平,“技术奇点”在未来的一百年内并不会出现。现在被叫做人工智能的机器学习和深度学习技术其实离真正的“智能”还相差很远。毕竟,我们其实也并不真正理解人类是如何能够“思考”的。
另外,特德姜今年在《纽约客》有一篇名为《为什么电脑没法让它们自己更聪明》(Why Computers Won’t Make Themselves Smarter) 的文章就是讨论这个问题的,推荐大家去看一下。
我把文章链接放在了文末【阅读原文】中
Jonathan:
感谢提沙的分享!从这篇小说的叙事方式中,我可以感受到一种“编程”的逻辑,这种逻辑建构在一系列“计算”的基础上,不断修正对关键概念的定义和赋值,最典型的例子就是故事中“你”和“裸猿”关于自由意志的论辩。所以我想请问,您有没有将《毕业考试》和您目前的职业联系起来?您在编程中积累的经验有没有对您的写作产生影响?
提沙:
《毕业考试》中关于自由意志的探讨,与主人公的思维方式密切相关。当人工智能实现自我思考,它们的思考方式必定与人类不同。所以我也根据自己对计算机领域的了解,推测人工智能可能的思维方式。虽然未来人工智能真正的思维方式很可能超出了我的想象。
《毕业考试》里有这样一个情节:裸猿对主角说,机器人不具有自由意志,它们根本无法思考“伤害人类”这件事,因为“凡是涉及到‘伤害人类’的思考,都是被系统中的逻辑锁禁止的。”
"不能伤害人类"同样也是阿西莫夫“机器人三定律”的逻辑基础
为了解决这个问题,主角采用了基于“向量空间”(vector space)的思维方式。虽然它不能思考代表“伤害裸猿”的向量,但它可以对以一系列相关的向量(“拆卸零件”、“采摘茶叶”、“撕开布偶”、“打碎杯子”等等)求平均,来逼近“伤害裸猿”的值。
这其实类似于自然语言处理(NLP)中的方法。在自然语言处理中,每个词汇对应于一个巨大的词汇向量空间中的一个向量,不同向量之间的空间相对位置代表了不同词语之间的含义差别。于是,词汇与词汇之间的关系可以转换为基于向量的数学问题。在故事中,我借鉴了这种逻辑,通过这种方法绕开了限制,得到了“伤害裸猿”所需要的运算结果。
"向量空间"是目前自然语言处理(NLP)领域常用的运算方式
Lucy:
请问,《毕业考试》中的叙事者的身份是什么样的?我知道故事是从第二人称“你”的角度来开展的,那么,这里讲故事的人,是作为主人公的机器人,还是某个以旁观者视角观察的第三者?这两种身份虽然不是第二人称,但却可以用第二人称的口吻来讲述这个故事。我个人更喜欢第一种可能性,即主人公自己观察到了所有的情节,并以站在第二人称的角度,将故事复述给各位读者。
提沙:
这篇文章之所以采用第二人称的叙事,有几个原因。一是因为我希望邀请读者参与到故事当中,把读者的阅读过程视为意义生成的方式。《毕业考试》中的“你”既可以指代故事的主人公,又可以代表读者自己。
而另一方面,这样的叙事方式也是我们在赛博时代经常可以感受到的。我们时常会接触各种游戏和软件的交互页面,得到系统给我们的提醒、说明或指示。这里的叙事者是整个赛博空间,它根据其预设的种种进程,来要求用户完成一系列必要的操作。在《毕业考试》中,我也通过这样的方式,模仿了用户和系统的人机交互过程。
故事中的第二人称叙事,让我产生了上面这张图的既视感
老吕:
我之前在读《毕业考试》的时候,感觉到故事中的人工智能在进行决策的时候,总是基于某种“确定性”。它需要明确无误的定义,任何模棱两可的解释都会阻碍它的下一步行为。我在想,随着量子计算机的逐渐发展,以量子计算为基础的人工智能会不会发展出一套诉诸“不确定性”的思维逻辑?这种基于“不确定性”的主体和故事中基于“确定性”的主体之间有怎样的不同?另外,文中提到的量子技术,和量子计算机是否有某种关联?(当然,我对量子计算的了解非常肤浅,如果有外行发言,还请提沙老师批评)
提沙:
在《毕业考试》里,虽然主人公也尝试使用量子的随机性来修改自己的思维,但这并不是我们通常说的量子计算机。
在当代物理学中,大家提到的量子计算机通常分为两种,一种是针对某种特定问题而设计的量子计算机。由于特殊的设计和架构,它能够模拟某一类特定的问题,通过某些优良的量子特性进行快速的求解,从而解决电子计算机难以胜任的复杂问题。比如它可以被用到生物领域,来计算蛋白质的空间结构。比如也许未来会有专门用来破译给银行加密的RSA算法的量子计算机,普通计算机需要算几千年,但量子计算机因为处于量子叠加态,可能几分钟就算出来了。但这种专精某类问题的量子计算机没法用来处理其他类型的问题。
在现在,RSA加密算法决定了银行业和金融业的安全性,若RSA不再安全,将会直接威胁全球金融体系的稳定
这与我们平常使用的电脑很不一样。我们的电脑是通用性(generic)的电子计算机,它既可以用来看电影,也可以用来写小说,而不是只局限于一种任务。与之类似的,第二种量子计算机是能够广泛处理各种问题的通用性量子计算机。通用性量子计算机能够处理很多不同的问题,但缺点是它比专精某类问题的量子计算机难制造很多。
专精某类问题的量子计算机可能会在未来几十年中发展很快,但通用性量子计算机可能还有很长一段路要走。研制量子计算机所面临的最大的问题是尺度的制约,未来很长一段时间,通用性量子计算机可能只具有“百”这个数量级的量子比特(qubit)。如果想要提升计算力,就得拥有更多的处于量子状态的qubit。但qubit越多,这个量子系统就越难维持,就越容易退回到“经典状态”,而失去了“量子状态”的优势。
2020年12月,中国科学技术大学宣布成功建造了量子计算机“九章”,求解数学算法高斯玻色取样的速度只需200秒,而传统计算机需要6亿年,不过“九章”并不是“通用性”量子计算机,只能求解单一算法。
关于量子计算机会给我们的生活带来什么样的变化,其实很难去预测。在几十年前,我们很难想象如今电子计算机对世界的影响。当时人们觉得电子计算机只不过是个更厉害的计算器罢了,只是用来解决运算量巨大的数学问题。
但后来,人们又发明了互联网、智能手机等衍生技术,这些电子设备已经变成了人们身体的延伸。在半个世纪前,这是难以想象的。
目前来说,我们尽管一定程度上可以试着预测量子计算机带来的影响,比如它可以促进生物、化学、医药等领域的发展,它会迫使人们采用后量子时代的加密算法。但除此之外,也许它会给未来社会带去超乎想象的巨变。
1990年12月,英国计算机科学家蒂姆·伯纳斯-李(Timothy Berners-Lee)首次利用互联网实现了超文本传输协议客户端(HTTP)与服务器的通讯,在那时,没有人会想到,互联网在今天会对我们的生活产生如此深远的影响
Angus:
我一直在好奇一个问题,就是科幻作者如何看待自己的身份。请问提沙老师,您更希望自己是一个恰好来自中国的“科幻作者”,还是从事科幻写作的“中国作者”?
提沙:
对我自己来说,写作过程中,不会思考太多关于身份和文化认同的问题。但也不能否认,文化环境对作者必然会产生影响,只是影响的程度有高有低。
当然,这只是对我而言,我知道有很多作家持有完全不同的写作观念。
Angela:
从提沙老师的个人简介中可以看到,您是一个很喜欢大自然和野生动物的人,所以在您的创作过程中,有没有融入有关生态、动物和自然的元素?
提沙:
我倾向于刻画不同于现实的世界。在其中一篇小说里,野生动物们可以干扰人类的想法。而在另一篇小说中,那个世界的生态与人的观念息息相关。对我来说,想象现实世界中不存在的生态,是一个很有意思的过程。
故事中,机器人虽然不能直接思考“伤害人类”,但它采用了“采摘茶叶”的方式折断了人类的手指
Jonathan:
我对《毕业考试》这个标题也很感兴趣。在很多场合,我们都会感受到“考试”的重要性,甚至逐渐形成了一种考试文化。我们会对人工智能进行各种测试,并借此开发更加强大的升级版;我们也会对我们自己进行测试,很多行业都采用了量化的评价体系,每个人都会取得一定的分数,以此体现TA的能力和贡献。所以,可不可以请提沙老师简单谈一下,在他的眼中,“考试”究竟有着什么样的意义?
提沙:
 “考试”的确在我们的生活中占据着重要的地位,学生生涯和求职经历都与之相伴。
而另一方面,“考试”也有另一层更抽象的含义,是自然的某种本质属性。物竞天择,适者生存,所有的生物都面临大自然的考试。不同的物种也会发展出种种竞争与合作的方式。而没通过考试的物种就灭亡了。
人类社会也面临同样的处境:人类之间能否避免战争的利益诱惑?人们能不能缓和与自然的冲突?我们能不能以更好的方式处理资本的欲望?这些问题也是人类社会给自己出的考题。如果我们无法通过这场考试,如果我们不能正确使用核能,如果我们持续污染环境,也许人类也会从地球上消失。
《安德的游戏》便是将拯救人类的任务以“考试”的形式呈现给主人公“安德”
Angela:
感谢提沙老师今天的精彩分享!在活动最后,可以请您简单介绍一下您在未来一段时间的写作计划吗?
提沙:
在今年年底,我的另一篇小说可能也会被译成英文。我也有很多写作上的想法,但也需要时间。感谢大家的耐心!如果朋友们感兴趣,欢迎大家读一读我的另一篇小说《投影》。小说延续了古典哲学中对于“认知”的讨论,讨论了物质世界与形而上的概念世界之间的联系。这是我个人最喜欢的作品,希望大家也能喜欢!
《投影》这个故事老吕也非常喜欢!大家可以点击【这里】查看

研讨回顾汇总:
24. 韩松《我的祖国不做梦》:梦游、巨怪与新时代的梦
23. 吴霜《捏脸师》:科幻中的神话与梦境
22. 未马《从前慢》:时间与情感的空头支票
21. 程婧波《倒悬的天空》:女性主义与文学“对称”
20. 颜歌《异兽志》:异兽、永安与边缘社群
19. 白乐寒《扑火》:赛博时代的“那喀索斯”
18. 慕明《涂色世界》:一切坚固的东西都已经烟消云散了
17. 宝树《灯塔少女》:永生、异化与加速主义
16. 万象峰年《雾中袭来的远方》:互为远方的异托邦
15. 糖匪《无定西行记》:逆熵,复魅与空间叙事
14. 阿缺《宋秀云》:母亲、黑猫与地下室
13. 王侃瑜《语膜》:语言的围城与世界的割裂
12. 顾适《为了生命的诗和远方》:藏身海底的乌托邦
11. 陈楸帆《匣中祠堂》:复制的艺术与失落的“灵光”
10. 张冉《晋阳三尺雪》:丝绸朋克与复古未来主义
9. 夏笳《2044春节旧事》:总把新桃换旧符
8. 韩松《末班地铁》:瓶子、幻影和价值符号
7. 马伯庸《寂静之城》:灰色城市与彩色泡泡
6. 王晋康《转生的巨人》:资本话语中的价值量化和身体隐喻
5. 陈楸帆《荒潮》:嗜血资本与毒性话语
4. 夏笳《心理游戏》:AI与偏见
3. 刘宇昆《狩猎愉快》:猎物与猎手的生存困境
2. 刘慈欣《流浪地球》:该不该搁下重重的壳
1. 郝景芳《北京折叠》:希望、幻灭与后人类
: . Video Mini Program Like ,轻点两下取消赞 Wow ,轻点两下取消在看

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存