近日，麦肯锡全球研究院（McKinsey Global Institute）测算，人工智能（AI）在未来十年可为全球GDP增长贡献1.2个百分点。

麦肯锡在近日发布的报告中表示，到2030年，人工智能将推动全球经济总量增长13万亿美元，其贡献或可与蒸汽机等变革技术相媲美。

新兴科技的颠覆力量势不可挡。不过，伴随着巨大经济效益的，还有一系列潜在的问题。

教授简介

卢耀群｜Lawrence LOH 

新加坡国立大学商学院

策略与政策系副教授

治理制度与机构研究中心 主任

研究领域：公司治理、科技政策、战略管理等

今年6月，新加坡宣布成立“人工智能与数据道德使用咨询委员会”（Advisory Council on the Ethical Use of Artificial Intelligence and Data），以解决因使用相关技术而产生的道德和法律问题。

该委员会的成立可谓正当其时。AI是一种模拟人类特质和人工流程的技术，包括解决问题甚至是自主学习的能力，如果与大数据相结合，这一技术将拥有十分广阔的应用前景。

人工智能和大数据间独特的相互作用，足以从根本上影响我们的生活、工作和娱乐方式。举例来说，中国利用人工智能和数据科技构建的面部识别技术，可以用来在大型活动中识别犯罪嫌疑人。但从隐私的角度来看，这一科技可能会令人不安。

另一方面，企业可以利用各种新兴的人工智能和大数据应用，为客户带来意想不到的体验。例如，华侨银行开发了一款基于人工智能的自动聊天系统——名为“艾玛”的聊天机器人。无需人工干预，它完全可以胜任与客户沟通并计算住房贷款的任务。

该委员会成立时，个人资料保护委员会（Personal Data Protection Commission）曾推出过一份讨论文件，提出了一个管理人工智能和数据科技的可能框架。目前，个人资料保护委员会正致力于一项“责任制框架”，要求AI协助消费者做出的决策，应当是可解释的、透明的、公平的。

然而，更大挑战在于要从两个截然不同的角度来考量“责任”。

首先，“责任”可以用来解决广义上的道德和社会影响方面的问题。允许使用AI和数据的场景有哪些？这又是基于何种标准制定的？这些考量是否有绝对意义上的对错，还是需要基于具体情况和环境进行判断？对于没有绝对正误，一切都介于两者之间的“灰色地带”，又该如何处理？

例如，当一家社交媒体公司知悉其客户可能犯下了一些轻微罪行，那么在没有明确法律要求的情况下，它是否应该向当局报告？

其次，除了道德之外，“责任”也有法律层面的意义。如果AI应用和数据使用出现了问题，应该由谁来负责？

以无人驾驶汽车为例，发生事故时，是汽车制造商的责任吗？还是计算硬件或软件提供商、地图制作方、车主甚至修筑道路的政府的责任呢？

由于可能涉及的问题非常宽泛，该委员会的确任重而道远。

那么，哪些是不应该做的呢？

首先，它不应让行业偏离原有的目标，或是插手规划人工智能或数据技术的发展方向。因为这个范围太过广泛，之前的努力可能化为徒劳。此外，过度热情的“指导”，反而会扼杀创新。

其次，邀请众多人工智能和数据专家参与虽然会有一定帮助，但顾问的身份能够更高效地推动委员会的发展。事实上，没有必要邀请太多专家作为委员会的正式成员，这样有利于专家对特定技术保持中立态度。

同时，从重要的利益相关者（包括个人和组织）获得相关信息也是极为必要的，因为他们是相关科技的真正用户群体。

第三，道德是哲学范畴中的一个复杂领域。道德推理通常与道德哲学相关，而这一领域有着诸多学派，其中一些可能与宗教信仰密切相连。严谨的论述固然是积极有益的，但是，我们也不应该冒“分析僵化”的风险展开无休止的辩论，从而丧失了对于实际问题的关注。委员会的审议，必须转化为可行的指导方针。

第四，紧迫的问题往往可能在本质上更为合法。因此，拥有强大的法律背景是该委员会有效运作的先决条件。委员会应从广泛的政策观点出发，以法律角度阐述使用这些科技所可能带来的影响。但它不应对太过具体的情况作出评论，以免其表述无法被用作法律意见。

制定国家层面的道德守则，引导人工智能和数据科技，是新加坡的又一重大发展，并让其有机会成为该领域的开拓者。目前，许多现有的准则往往是由技术供应商或专业机构提出的。不久前，英国透露出了引领世界制定相关准则的意图，而印度和欧盟等其他国家，也或多或少地开始涉足这一方面。

拉贾先生（Mr. Rajah）领导下的委员会不应仅仅停留在准则上，因为准则本身并不是目的，为人工智能和数据使用的持续发展制定战略和计划，才是真正的重点。

委员会可以通过使用场景提供实用建议，并采用充满活力的工作方式。虽然委员会可以编纂基本规则，但最好能留出一些空白领域，仅提供指导性案例以作为反思和学习的资料。这些指导性案例可以根据不断变化的技术发展和政策思想，在需要时进行更新。

该委员会的建立，是朝着正确方向所迈出的坚实一步。它奠定了明确的意图和清晰的目标。现在所面临的挑战是，如何正确地界定其工作范围、平衡内部人士构成，并推出一个参与和实践的框架。它不仅要解决人工智能和数据的使用问题，更需要制定出一定流程，以管理对此类科技的使用。

本文英文版刊登于新加坡国立大学商学院Think Business网站，原题为Navigating the ethics of AI and Big Data

作者：卢耀群

翻译：杨嘉铭 | 编辑：王彤 | 制作：秦豪

部分图片来自网络

*本文观点来自作者，不代表新加坡国立大学商学院机构观点

▼

点击以下学者名字，查看更多评论文章或视频

陈龚涛 | 陈仁宝 | 陈素娟 | 楚军红 | 戴家宁 | 段锦泉 | 方博亮 | 傅强 | 何龙 | 洪瑞云 | 胡震禹 | 黄宝金 | 黄幸亮 | 柯滨 | 梁慧思 | 廖文良 | 李真 | 林金玉 | 林玉萍 | 李利伦 | 李仁 | 刘其章 | 刘玉添 | 卢耀群 | 麦润田 | 麦珂 | 欧怡 | 钱瑞安 | 钱文澜 | 任启智 | 施永丰 | 宋照礼 | 王砚波 | 乌耀中 | 谢慧贤 | 杨楠 | 杨贤 | 张俊标 | 张世进 | 张岩 | 张子颖 | 钟基年 | 周正芳

Alex CAPRI | Andrew DELIOS | Ashok CHARAN | Daniel MCALLISTER | DE PATER, Irene Elisabeth | Johan SULAEMAN | Jochen WIRTZ | Jayanth NARAYANAN | Julie Huan | Jussi KEPPO | Jumana ZAHALKA | Kulwant SINGH | Laina GREENE | Lim Wei Shi | Marleen DIELEMAN | Markus TAUSSIG | Michael FRESE | Nitin Pangarkar | Ravi CHANDRAN | Remus ILIES | Richard ARVEY | Robert KIMMEL | Sarah CHEAH | Simon Poh | Sumit AGARWAL | Pranay Gupta | Prem SHAMDASANI | Tambyah Siok Kuan | Thompson TEO