风险提示｜“AI图”引发股市动荡 各国加紧打造监管“笼子”

5月22日，一张五角大楼爆炸的假照片在网上引起了混乱。这张看起来很逼真的照片在发布后几分钟内就被一些热门账号转发，在推特和其他社交媒体网络上传播开来。很快，这张照片被确定为骗局，是由AI生成的。然而，受此图片影响，美国股市出现明显下跌。美国《纽约时报》对此报道称，“一场人工智能带来的‘恶作剧’让市场不安”。

无独有偶，两天后，中国人工智能研发公司科大讯飞受一篇名为《科大讯飞出现重大风险的警示文》的文章影响，股价迅速跳水。该公司紧急回应称，股价下跌系某生成式AI写作虚假“小作文”导致。在此期间，“AI换脸”“AI换声”进行诈骗的事件在多国频发。随着AI技术的高速发展，潜在的数据、算法危机带来的危害已在真实发生，多国也加紧从政策层面对其进行监管与约束。

虚假信息泛滥扰乱金融市场

根据欧盟执法机构欧洲刑警组织的一份报告预测，到2026年，互联网上多达90%的内容可能由AI创建或编辑。目前似乎完全由AI生成的垃圾新闻网站已经开始出现，反虚假信息平台NewsGuard开始追踪这类网站，发现其数量在呈现几何级增长。

“我们已经看到了2016年发生的事情，当时我们举行了第一次选举，充斥着大量的虚假信息。”纽约大学社交媒体与政治中心教授兼联合主任约书亚·塔克表示，“现在我们将看到这个等式的另一端。”

对于此次“五角大楼爆炸图片引发美股大跌”事件，彭博社报道称，这可能是人工智能生成图像首次影响市场。德意志银行全球经济和专题研究主管吉姆·里德对此评价称，未经证实的五角大楼爆炸报道在网上传播后，市场出现短暂的抛售。这一由AI生成的假新闻对资产价格造成冲击的例子，揭露了市场未来将面临的潜在风险。此外，假图片的出现正值美国债务上限谈判的关键节点，投资者神经十分紧绷。另据福布斯新闻网报道，近来由AI生成的非常逼真的“深度伪造图像”已经多次在网上引起轰动，其中包括美国前总统特朗普在一次假逮捕中抵抗当局的逼真图像。

AI生成内容的“以假乱真”令投资市场增加了更多不确定性。据《纽约时报》报道，美国证券交易委员会主席加里·詹斯勒曾警告称，一些不法分子可能会通过人工智能来影响本就“脆弱的”金融体系。美国联邦贸易委员会也对AI生成的深度伪造图像和克隆语音系统可能被用作新型欺诈手段向人们发出了警告。

科技巨头急于实现自我监管

尽管人工智能对金融资本市场带来了一定风险，但《纽约时报》也表示，这并不意味着人工智能总是“可怕的”，对这一技术的投入研发推高了谷歌、微软等相关公司的市值。那么，在获利的同时，这些科技公司应该做些什么，以防止他们的技术被滥用而轰炸互联网呢？

事实上，人类历史上可能没有哪个行业的企业这么急于让自己被监管。近日，在美国国会听证会上呼吁设立新机构监管AI后，OpenAI首席执行官山姆·奥特曼又展开欧洲之旅，面见各国政府首脑，并在高校参加对话活动，重申监管建议。在接受媒体采访时，他警告称，因为欧盟正在制定的AI法规，OpenAI可能会从欧洲市场撤出其服务。

与此同时，其他科技大企业也不甘示弱。当地时间5月25日，微软总裁布拉德·史密斯在华盛顿与美国议员一起主持了一场备受瞩目的活动，推出了微软关于政府应该如何监管AI的建议。前一天，谷歌首席执行官桑德尔·皮查伊在布鲁塞尔与欧盟官员会晤讨论AI政策，他强调，需要对技术进行适当监管且不会扼杀创新。

记者了解到，目前一些科技公司正在采用一种新颖的方法来对AI信息进行标记及区分，其主要是使用元数据、水印和其他技术系统来区分真假。据悉，谷歌、Adobe和微软等公司都在其产品中支持某种形式的AI标签。例如，谷歌在最近表示，在接下来的几个月里，它将在谷歌图片上AI生成的结果下面附加一份类似版权声明的书面披露；而OpenAI的流行图像生成技术DALL-E也已经在它创建的所有图像的底部添加了彩色条纹水印。

为了减少假图像和真实图像之间的混淆，Adobe内容真实性倡议小组还开发了一种名为内容凭证的工具，该工具可以跟踪AI编辑图像的时间。“我们都有建立共同客观现实的基本权利。”Adobe内容真实性倡议小组高级主管安迪·帕森斯表示，“首先要知道某样东西是什么，在有意义的情况下，是谁制造了它，或者它来自哪里。”

“如果我们能向你展示一个有用的标签，我们会想要这样做，但我们也会试图给你提供背景信息，我们可以独立于标签来确定。”谷歌搜索公共联络员丹尼·沙利文表示，这种AI标签只是致力于监管的一部分，目的是为人们提供更多关于他们所看到的图像的背景。

多国积极打造AI监管“笼子”

近期公布的一项益普索民意调查显示，超过2/3的美国人担心人工智能的负面影响，61%的人认为它可能威胁文明。不仅民众，政府对人工智能也感到担忧。多国也已经走在了出台相关措施的道路上。

“唐宁街10号首次承认了AI存在风险”，据英国《卫报》报道，英国首相苏纳克会见了OpenAI、谷歌Deepmind和Anthropic的首席执行官，讨论人工智能监管的必要性。会议后发表的一份联合声明表示，AI技术的成功取决于是否有“正确的护栏”，以确保公众相信它是安全的。苏纳克表示，对AI的监管必须要灵活并且寻求国际间的合作。

据《华尔街日报》报道，拜登政府宣布正在制定一项国家人工智能战略，以防范虚假信息和该技术的其他潜在缺陷。

此外，据路透社报道，欧盟也在推进《人工智能法案》，这可能是全球首部全面管理该技术的法律文书，不过欧盟各国政府和立法者仍然需要时间就法律文本内容达成一致。为防范AI诈骗，统一俄罗斯党正在起草一项对AI监管的法案，该法案将确定有关责任，防范犯罪者利用AI进行诈骗。法国总统马克龙也在筹划在法国建立AI监管机构，希望在AI监管方面发挥关键作用。

印度电子和信息技术国务部长钱德拉塞卡表示，印度将对AI进行监管，“不会让对用户造成伤害的平台在印度运营”。“全球监管的发展需要大量的时间和精力”，《印度人报》报道称，“节奏问题”是监管面临的挑战之一，因为技术的应用和传播速度很快，而法律法规的制定和推广速度却相对较慢。

6月12日，联合国秘书长古特雷斯宣布，将组建一个由人工智能专家和联合国机构首席科学家组成的科学顾问委员会，并计划在今年年底前启动一个高级人工智能咨询机构，定期审查人工智能治理安排，并就如何使人工智能与人权、法治和人类的共同利益保持一致提出建议。

显然，AI监管的全球竞赛已然兴起，多国争当首个立法监管AI的国家，以制定对自己有利的规则，促进本国及地区的AI产业安全发展。（本文刊于《中国信用》杂志2023年第6期）

END

风险提示 |

“空瓶卖高价”你是局中人吗？——防范化妆品空瓶黑产造假乱象风险