青年讲 | 科技伦理：智能向善 伦理先行

一、典型科技伦理风险——以生成式人工智能为例    

人工智能与实体经济加速融合，人工智能技术已广泛应用于制造、交通、医疗、农业、金融、教育等各领域。去年以来，生成式人工智能的快速迭代升级释放出巨大生产力，但也带来了系列伦理风险。

虚假内容风险。从技术上看，生成式人工智能技术还存在局限，生成虚假错误内容的风险还不能从技术上完全避免。

误用滥用风险。从使用上看，生成式人工智能可被用于批量制造虚假恶意内容、生成恶意代码，对网络生态产生冲击。

偏见歧视风险。从技术上看，训练大模型的数据集、算法、模型等可能存在缺陷，从而生成存在性别、年龄、民族、地域等歧视的内容。

信息泄露风险。在与生成式人工智能的交互过程中，用户提供大量信息，甚至涉及敏感个人信息、商业秘密等。一旦以上信息被用于模型训练，则可能产生信息泄露风险。

除了上述四个方面外，生成式人工智能也带来了知识产权侵权、劳动就业冲击、技术过度依赖等法律和社会问题，需要全社会的重视

二、科技伦理治理举措

《中华人民共和国科学技术进步法》《中共中央办公厅 国务院办公厅关于加强科技伦理治理的意见》等法律和政策已对科技伦理治理进行了体系化设计和布局。构建符合工业和信息化领域特点和实际的科技伦理治理体系，是建设中国特色的科技伦理治理体系必不可少的一环，工业和信息化领域的科技伦理治理举措正不断细化完善。

健全治理制度和机制。成立工业和信息化部科技伦理委员会和工业和信息化领域科技伦理专家委员会，从制度规范、审查监督、决策咨询、宣传教育等方面提升科技伦理治理能力。

细化治理规范和标准。开展人工智能等重点领域的科技伦理规范、指南研究，推动科技伦理治理技术化、工程化、标准化。

建立敏捷的治理模式。围绕生成式人工智能伦理风险等问题及时开展科技伦理专题调研，探索建立多主体合作、快速应对科技伦理风险的治理模式。

积极推进宣传教育。组织面向企业、高校和科研院所等创新主体的政策解读和宣传培训，并依托科技类社团和各类会议平台开展科技伦理宣传教育。

三、企业应对科技伦理风险的建议

企业是技术开发和应用的重要创新主体，也是防范和化解科技伦理风险的关键力量，可以从完善制度、开发工具、参与治理等方面应对科技伦理风险，不断推动科技向善。

落实科技伦理管理主体责任，健全和完善企业科技伦理管理制度。根据实际情况和要求建立科技伦理委员会。主动研判、及时化解科技活动中存在的伦理风险，加强产品全生命周期的伦理管理和评估、制定应对风险的机制方案。开展面向技术和管理人员的科技伦理培训，提升人员科技伦理意识和化解伦理风险能力。

通过技术化、工程化手段解决科技伦理问题，参与科技伦理治理的标准化实践。提高关键核心技术创新投入，将科技伦理要求转化为工程化实践，积极研发科技伦理治理的管理、评估、检测、监测等技术工具。

参与科技伦理治理，推动行业共治和国际交流。积极参与科技伦理治理实践，加强与政府在科技伦理风险治理中的沟通交流与合作，主动报告发现的科技伦理风险和处理措施，为增强科技伦理治理的有效性和科学性提供意见建议。积极分享科技伦理典型用例和最佳实践，推动行业自律共治。参与国际科技伦理治理交流并根据具体情况吸收借鉴国际有益经验。

相关业务联系：

端晨希

duanchenxi@caict.ac.cn

校  审 | 谨  言、珊  珊

编  辑 | 凌  霄

推荐阅读