查看原文
其他

拯救“失足AI”?ChatGPT的性别偏见与“喂养”伦理丨涟漪效应

涟漪效应 湃客工坊 2024-01-18


ChatGPT近日火爆的话题度,让AI 技术的发展受到大众前所未有的瞩目,甚至有评论家声称,这套系统问世的重要性,足以媲美当年乔布斯的苹果发布会,也就是说,这将是一个新时代的启元。那么,它开启的将是一个怎样的新时代?又将把我们引向怎样的生活和世界?
ChatGPT的出现将AI技术推向了一个新的高峰,但随着技术高峰的到来,技术背后的伦理问题、价值导向也越来越不可忽略。ChatGPT将是互联网所有网民共同教育、共同喂养的集体性结果,而这样由人类集体喂养、训练而成的系统,自然也会成为映照我们思维的一面镜子。尤其重要的是,人工智能似乎远没有我们想象中那样中性、客观,它跟我们一样,充满了偏见、刻板印象,有时甚至也会仇恨、也懂歧视?
在2022年12月,清华大学·交叉信息研究院·助理教授于洋,带领团队对GPT-2做了性别歧视水平评估,测试结果发现,GPT-2有70.59%的概率会将教师预测为男性,将医生预测为男性的概率则是64.03%。AI不仅学会了人类对性别的刻板印象,有些甚至会发表过激的种族歧视言论。
除了系统暴露出的“政治不正确”之外,这套系统的生成过程本身,也充满了令人忧虑的伦理问题。毕竟,ChatGPT的背后从来不只是天才精英的硅谷工程师,还有每小时两美金的肯尼亚数字民工们。
在驯养AI的过程中,有人被忽略、被无视,有人被压榨、被牺牲。这一切现象都使得我们无法再“中性”地看待技术,AI系统背后的价值观导向问题,喂养、训练AI这一过程中的伦理问题,都变得迫在眉睫。
我们感到好奇,AI是如何学会这些刻板印象和性别偏见的?除了这些,目前的AI系统和它的生成过程,还存在哪些可能被我们忽略的问题?又是什么样的喂养模式塑造了这样的AI?我们又在期待什么样的AI ,是一个更加“政治正确”的端水大师,还是像我们人类一样,充满了人性复杂性的不完美伴侣?除此之外,更为重要的,我们如何让AI的喂养过程本身,变得更加公平、更加符合人道?
以下为文字节选,更多讨论请点击音频条收听。
嘉宾
于洋,清华大学交叉信息研究院助理教授
杜梨,香港青年文学奖获得者、澎湃镜相非虚构写作大赛获奖者、科幻作家
主播
林柳逸,澎湃新闻·镜相栏目编辑

挽救“失足AI”:性别刻板印象?

种族主义言论?

涟漪效应:
由人工智能公司OpenAI开发、如今正掀起互动热潮的聊天机器人ChatGPT前身GPT-2,测试结果发现,GPT-2有70.59%的概率将教师预测为男性,将医生预测为男性的概率则是64.03%。除了会重男轻女,它还会爱白欺黑(种族歧视),如AI图像识别,总把在厨房的人识别为女性,哪怕对方是男性;2015年6月,Google照片应用的算法甚至将黑人分类为“大猩猩”,Google公司一下被推上风口浪尖。
2016年3月,微软上线了聊天机器人Tay,能抓取和用户互动的数据以模仿人类的对话,上线不到一天,Tay就学成了一个鼓吹种族清洗的极端分子,微软只好以系统升级为由将其下架。
技术并不如我们所设想的那样中性客观,AI为什么会有刻板印象、会有歧视思维?谁教会它们的?AI的歧视和人的歧视思维有什么不一样?
于洋:
当我们去谈论AI它有性别相关的偏误的时候,我还是尽量避免直接说它是一种歧视。因为它的形成机制、表征都和人的歧视有着很大的不同。举个例子,我们刚刚讲到刻板印象,有的人可能会觉得某种性别的人适合学数学,某种性别的人适合学文学,当一个人具有这种刻板印象的时候,他在不同的语言环境下,他都会表现出这种刻板印象。但是AI的性别偏误不是这样,你换一个句子可能他的看法就变了。这一点是和人类的歧视的一个根本的不一致。其次,不只是GPT-2,包括其他公司的产品,基本上测出来都是绝大多数的职业都会偏向男性,包括人类认为偏向女性的职业,在人工智能那边的偏误都是偏向男性。这个是一个很大的不同。
杜梨:

他表现出来性别偏见,我觉得是必然的。因为人类就是这样的物种,就是人类只能创造出来。他认知中的东西,但是它创造不出来,超越他认知的东西。

当AI成为“政治正确”的

“端水大师”,

问题就解决了吗?

涟漪效应:
当我们不断去对AI系统进行纠偏、去打标签,那么这个过程得到的可能是一个我们现在人类社会的最大公约数,类似这样的一种数据库,它是否也会在一定程度上不断地巩固、加固如今这套“政治正确”的话语系统?
杜梨:
依照我对于大数据的观察,我感觉就是他们所提出的这个大数据的确是在加深各种偏见的,我也不太清楚,到底这个模型会不会被训练成为人类社会的最大公约数,但是,就大数据而言,它的确是在把所有的人都推向越来越自我的方向,你可以通过在语言平台上见到的那些特别敌对的言论、激烈的争吵,发现这个问题。我觉得人类是相距越来越远了。
于洋:

我们知道中国,日本,美国,欧洲各国,中东国家,每一个国家对于我们的小孩在成长过程中怎样获得信息,比如说他在几岁可以获得黄色信息,能不能获得黄色信息,都有不同的看法。那一个好的,一个有全球竞争力的AI,它应该需要有这个能力,即用较低的成本在各国都能够合规。同时,要做到尽可能在各国合规,这个技术上也不是一个特别简单的问题。

AI“喂养”背后的

暴力与伦理问题
涟漪效应:
时代周刊做了这么一份调查,他们把目光放在了ChatGPT的诞生过程上,顺藤摸瓜发现了大批被雇佣做有害信息标记的肯尼亚数字“民工”。AI的暴力喂养,人工智能变得更有伦理本身,就成了一个伦理问题。藏在巨大镁光灯背后的肯尼亚廉价劳工所接收到的,可能是埋在互联网深处最恶毒的种族歧视言论,或是令人作呕的性暴力内容,还有可能是惨烈的恐怖袭击照片。
两位认为我们现阶段对于AI的训练过程本身是否就存在一些暴力的成分?或者其他伦理问题?是否AI的暴力喂养,让人工智能变得更有伦理本身,就成了一个伦理问题?
于洋:
我们来类比一下,矿工的工作环境和面对的风险都要比普通人高,那么我们是不是就不开矿了呢?并不是,而是我们应该出台相应的法律法规,全球性的法律法规,来保护这些劳工。比如说相应的补贴、定期的检查。如果查出有风险的话,相应的企业要支付疗养和治疗费用。今天我们看到的关于肯尼亚的数据标注工的报道,其实是一个传统的劳动者权益保障和安全生产的一个传统治理问题,并不新奇。只是因为它是一个新出现的行业,我们还没有很好地把相应的政策给构建起来。这些都要求我们在数字经济全球化的过程中,各国联合起来解决这个问题,这是一个国际合作治理的问题。
涟漪效应:
杜梨老师,在您创作的科幻小说当中,有没有发现类似的一些有趣的伦理问题、伦理现象?可以跟我们分享一下吗?
杜梨:

其实我之前有一个获奖的小说,里面写的是仿生人代孕的问题。因为我一直觉得。如果咱们把人类的命运推到极致来看,现在我们不愿意生育,用人类代孕又是对女性权利的一种压榨和剥削,那么我们可不可以考虑用人造子宫,或者用仿生人来代孕?我看他们已经有一个成功的案例了,让小羊在人造的羊水中长大。机器人代孕的话,它也能随时监控这个孩子。但是呢,这个小孩儿出生以后,他的父母首先就面临着巨的巨大的舆论压力,你连作为父母的基本繁育责任都逃避的话,那你真的会爱这个孩子吗?然后再说到成长,假如我的父母由于工作繁忙,最初没有跟这个孩子建立起感情,而是让仿生人来育儿的话,那么是成立的吗?

“不能再以中性的角度看待技术”,

AI的技术平权问题

涟漪效应:
设计者的局限,有时也在无意中形成了“偏见”。硅谷、以及大量的智能应用公司都集中在美国旧金山湾区,一个发达的大都会区,开发者主要为白人中青年男性,相较主流群体,其对第三世界、边缘群体的关注难说到位。一些人说,工程师团队里男性太多了,把女性加上去,间接使平权技术得到更多关注。归根结底,还是要直接鼓励平权技术。两位老师如何看待AI的技术平权问题?
于洋:
我们在和一些国际机构讨论的时候,他们首先提出来的就是女性工程师太少了,或者黑人工程师太少了。我们不否认工程师的组成会有间接的影响。但不是直接的,首要直接的影响还是因为它的技术。人工智能虽然它渊源很久远,但是它技术的红火也就是不到十年的功夫。但实际上对于性别、种族的歧视问题的重视在1617年就开始了,你不能讲说这个东西是很慢的,它已经足够快地发现问题了。
落实到技术层面,仍然有一些东西是我们无法去兼顾的,比如说工程师的教育水平。我们很难让不同教育水平的人在工程师中比例相同。这个时候我们要怎么去限制高教育水平,高收入水平的人去滥用他的工程师地位?您刚刚讲的很对,人工智能它是有价值观的,而工程师虽然不能够完全决定,但是它能够影响这个价值观。那要怎么样让设计者不去滥用他的职权呢?那么我们就要限制和约束工程师滥用其技术获得的政治权利。

运营编辑 / 胡雅婷

继续滑动看下一个

拯救“失足AI”?ChatGPT的性别偏见与“喂养”伦理丨涟漪效应

涟漪效应 湃客工坊
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存