查看原文
其他

徐英瑾:人工智能不智能|经济人大家讲坛

徐瑾经济人 重要的是经济 2021-12-23


智能的本质到底是什么?
当下的主流人工智能算是通用人工智能吗?
人工智能是否会奴役人类?
人工智能的未来是什么?

前不久deepmind表示atFord可以预测蛋白结构,并且将能广泛运用于生命科学领域药物研发领域,可以说是人工智能应用的又一突破。另一方面,人工智能“威胁论”一直伴随其发展,从“人工智能对人类产生恶意”的担忧 而引发对人工智能本身的批判从未停止过。


对此,复旦大学哲学教授、人工智能哲学专家徐英瑾,在经济人大家讲坛分享中引用AI科学家李飞飞的话说“目前人工智能的发展,如果和物理学做对比,刚到伽利略的阶段,离牛顿阶段还很远,更别说宇宙飞船上天”。


今天的人工智能离科幻小说式的全面规模还很远。而且大多数人在讨论这个问题的时候意义不清。


△来自徐英瑾PPT分享

1
通用人工智能:依然在远方

在讨论所谓的人工智能威胁论前,徐英瑾老师先定义了何为人工智能。

即这里语境下的人工智能,显然不是指“专用人工智能”——指专司某一特定领域工作的人工智能系统,而是指“通用人工智能”(Artificial General Intelligence,简称AGI),就是能够像人类那样胜任各种任务的人工智能系统。

明确了“威胁论”的主体是AGI。而富有讽刺意味的是,符合大众对于AI未来期待的虽然是AGI,但是目前主流的AI研究所提供的产品都不属于“AGI”的范畴。例如,名震天下的Alpha Go,其实就是一个专用的人工智能系统——下围棋,它甚至不能用来下中国象棋,更不用说那些用于医疗诊断、家政服务、产品检测等AI系统。

徐英瑾老师说,就目前主流基于“深度学习”技术的AI系统而言,是基于某一特定工作领域的,程序本身不能自动切换工作领域。

因此,由于一切真正的AGI系统都应当具备在无监督条件下自行根据任务与环境的变化切换工作知识域的能力。所以目前深度学习系统无论如何发展,都不能演变为AGI系统。



2
人工智能or人工智障

从哲学层面看人工智能,徐英瑾老师说,人工智能运用逻辑关联来推理事物之间的关系,逻辑有一个最大的特点,就是逻辑是不关涉日常的事物之间的语义关系的。

所以,描述同一的逻辑事实经过语言的修饰可以有成千上万种表述,而AI无法识别其中的关系,需要逐一定义并“教会”AI,这些语言的合集要被完全定义,工作量非常大。

另一方面,逻辑不能确定两件事之间的因果关系。纯粹的逻辑,如果不考虑因果关系的话,会把很多后续性发生的事件都看成是他的一个逻辑后尘,即逻辑后跟的东西。

△来自徐英瑾PPT分享

举个例子:天上打个雷,我现在打了个喷嚏,这两者之间有因果关系吗?我们都知道没有一点关系。如果天上打个雷,张三家的牛被打死了,这十有八九是有关系的,但也要看那个张三家的牛在哪里。如果打雷是在上海,张三家的牛在陕北,上海打雷,张三家的牛被打死了,这显然没有关系。

因为在时空序列上,离得特别的遥远应该是没有什么关系。所以它还牵涉到两个事件之间的时空的这个关系,所以要在两个事件之间建立因果关联有很多很复杂的条件。

《人工智能哲学十五讲》

作者: 徐英瑾 出版社: 北京大学出版社 出版年: 2021-7





徐英瑾老师告诉学友,人类思考问题的一个特点,是我们只考虑有因果关系的事情,如果没有因果关系的事情我们就不会在当下问题里面去考虑。但AI不知道哪些事情之间有关联,哪些没有关联。这种对于人类直觉就能判断的事情,AI无法判断,必须把有关联的和无关联的所有条目都输入进去“告诉”它。这就有问题了,因为无法做到穷举。

所以我们可以观察到,像Alpha Go这种“专用人工智能”在纯粹智力活动场景下,显得很智慧,可以赢过李世石、柯洁,因为它存储了百万棋谱,每一步都计算了最佳概率,并对当前棋面预测棋手的赢率确定是否需要调整战略。而类似客服机器人这种,一旦跳出预设服务场景,即使非常简单的问题,往往答非所问。


思考:智能的本质

徐英瑾老师对于现有深度学习技术的发展提出了质疑,他认为深度学习机制缺乏跨领域的学习能力,两个不同领域的深度学习框架是不相通的,这就意味着下围棋的框架不能用于下中国象棋,人脸识别的训练样本对下围棋的训练样本也是无效的。

进一步地,对于目前深度学习模块的积累也无法保证可以达到AGI的水平。人类既有的大脑皮层分工是为了满足人类在采集—狩猎时代的生存需要而被缓慢演化出来的,而现有的人工智能研究内部的工程学分工方案,则主要是为了满足人类当下的商业与社会需求而被人为地制定出来的。

△来自徐英瑾PPT分享

再举个例子:在围棋发明之前就已经出现的人类大脑架构,必定是没有一个专门用于下围棋的模块的——因此,在AI 领域内对于诸如“围棋”模块的累积,显然无法帮助我们把握AGI所应当具有的认知架构的本质。

或用带有中国哲学色彩的话来说,对于智能活动的“末”“流”与“用”的渐进式模拟,是无法帮助我们认识到智能活动的“本”“源”与“体”的。

《用得上的哲学 : 破解日常难题的99种思考方法》


徐英瑾 / 上海三联书店 / 2021-5 /




随着徐英瑾老师话题的逐渐深入,也引发了不少学友的思考:

有学友问人工智能是否能像生物一样进化?进化的外部瓶颈是什么?

徐英瑾老师表示,当我们在技术领域说进化,更确切的说是进步,是人在进行技术迭代,它不能自己进化。不过人工智能旁支有个小技术领域,叫人工生命,试图在做进化过程的数码化模拟。


人工智能进步的一个外部的瓶颈是基础理论的问题,既所谓“画鬼容易画人难”。关于人工智能,它缺乏一个像牛顿似的智能定律或者是智能科学规律,要有一个关于人类心智的创造性的一般性的理论,现在还没有。


对于人工智能某些方面又表现得非常不智能,有学友问人工智能的本质是什么?

我们都会传达尔文主义者,智能的本质是在于适应外部世界的一个挑战,外部世界的挑战是什么,我们就回应什么。进化论的一个基本原则就是,进化出来的东西不需要完美,够用就好。


人类的身上的很多器官都是不完美,但是够用就好。现在的人工智能,走上了岔道,大家像上帝一样的追求所有的数据,要控制所有的数据,所有的数据都是我的,控制了所有的数据,就像控制了这个地球上的石油,我就成了这个世界上的一个拥有者。


请注意,我们人类能够在这个地球上生存几十万年,不是靠这种愚蠢的线性思路,我们是靠着一种巧劲,就是以小博大。


徐英瑾老师表示,现在基于大数据的深度学习,其实是靠不断发展的高性能算力硬件支撑起来的,十分低效的技术方法。照此路径发展的人工智能不会达到AGI水平。

真正的AGI,应当具有“意向性”、具有“意图”生成能力、具有“情绪”、有限度的理解并执行人类社会的伦理规范、具有“德性”。达到以上五个目标,才能说真正具有智能。

课后学友反馈:

关于人工智能,要区分“有联系”与“有因果关系”的本质区别。



4
下期活动预告

NFT当下可谓“大火”,“天价JPG文件”频出,6月支付宝推出了基于蚂蚁链发布的NFT付款码皮肤,腾讯在8月1日上线了NFT交易平台并推出首款数字艺术收藏品,此外,网易、视觉中国、字节跳动等头部企业在NFT领域均有所动作。


在9月底,我们邀请私塾学友、上海外滩三号沪申画廊艺术总监王钰,给大家说说数字艺术领域的NFT,究竟是怎么一回事,为何突然火热?又有什么风险?未来会如何?




私塾月月有活动,期期很精彩
往期活动回顾
中美博弈走向何方|沈丁立做客经济人大家讲坛
北大赵冬梅:从宋朝看帝制中国困境|经济人大家讲坛
通胀之下,中国投资时钟告诉我们什么|经济人大家讲坛
如何看待历史:葛剑雄变了么?|经济人大家讲坛

变革时代,链接是关键词。社群化生存,也是软阶层对抗阶层下移、打造二手人生的一个重要途径。

学友、老师、嘉宾的强强组合,会打磨出深度思想碰撞和思维链接的强悍小圈子——践行社群信念“小圈子,大能量”。(选对圈子,一切都对了,寻找志同道合的你|徐瑾私塾第0期内测咨询联系助教,VX:jjr19001900  、ashes-18,记得备注私塾



↓↓欢迎同频好友,阅读原文或扫码申请
: . Video Mini Program Like ,轻点两下取消赞 Wow ,轻点两下取消在看

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存