彭海青 于坤：人工智能辅助量刑建议的缺陷审思 | 数据法学202301
【作者】彭海青（北京理工大学法学院教授、《北理法学》执行主编）；于坤（北京理工大学法学院硕士研究生）
【来源】北大法宝法学期刊库《数据法学》2023年第1期（文末附本期期刊目录）。因篇幅较长，已略去原文注释。
内容提要：人工智能技术在司法实践中广泛应用，对于检察机关提出量刑建议而言尤为重要。检察机关对于人工智能量刑辅助系统的开发应用日益深入。目前的人工智能技术仍处于弱人工智能时代，其发展仍处于初始阶段，不具有人的思维逻辑，仅能按照提前设计好的程序发挥作用。因此，现阶段人工智能在辅助检察机关提出量刑建议时，存在精准性不足、与量刑建议实践部分偏离、“算法黑盒”、算法偏见等缺陷，影响其功能的发挥。在弱人工智能时代，必须提升检察人员的专业素养与能力，完善司法案例数据库以及相关机制规范等，以促进人工智能辅助量刑建议效能的更好发挥。
关键词：人工智能；量刑建议；算法偏见；智能量刑
目次 引言
一、人工智能辅助量刑建议的实践考察
二、人工智能辅助量刑建议的缺陷分析
三、人工智能辅助量刑建议的发展设想
四、结语
1956年，约翰·麦卡锡等人在达特茅斯会议上提出了人工智能的概念，认为人工智能是让机器的行为看起来与常人无异，即智能行为，这被公认为是人工智能的起源。在普遍意义上，可以将人工智能分为弱人工智能与强人工智能。弱人工智能是指无法用人的思想推理、处理问题的智能机器，它们不具有像人一样的思考方式，只是在机械地、重复地执行命令，并不拥有独立自主的学习意识，往往只适用于某一特定领域。而强人工智能则能够进行深入学习，根据经验知识进行应急处理，在理性知识基础上进行推理，具有与人类一般的学习、推理和认知解决问题的能力，并且不再局限于解决特定领域中的问题。另外，在未来还可能出现“超人工智能”虽然对人工智能的探索已经过了半个多世纪，但直到现在，人工智能的一举一动仍是为程序设计者设计的程序所驱动，如果出现特殊情况，也需要程序设计者提出相应方案，再由机器加以执行，因此现阶段仍属于弱人工智能时代。需要明确的是，至少在现阶段，对于量刑建议的提出而言，人工智能系统只能处于辅助地位。检察官不能直接依据人工智能系统得出案件的最终量刑建议，智能量刑系统生成的结果只可以作为检察官提出量刑建议的一种参考，或是被当作一种量刑建议提出的依据，最终的量刑建议仍应由检察官把握。所以，本文认为，在量刑建议领域的人工智能系统应被称为“人工智能量刑辅助系统”。
在检察机关进行量刑建议的实践过程中，人工智能技术发挥着愈加重要的作用。因此，应对人工智能在检察机关对量刑建议探索各阶段的作用进行明确。检察机关对于量刑建议的探索大体可以分为三个阶段：第一阶段为20世纪90年代末至2010年左右的自由探索阶段。其间进行的探索最早可以追溯到北京市东城区检察院在1999年开始试行的“公诉人当庭发表量刑意见”工作。在此阶段，各地对于量刑建议并没有明确统一的法律规范，对于量刑建议的形式、幅度、效力等也未达成一致。第二阶段为2010年左右至2018年的初步成型阶段。在此阶段的2010年2月，最高人民检察院公诉厅出台了《关于开展量刑建议工作的指导意见（试行）》，对量刑建议的概念、范围、幅度等进行了统一的规定，要求检察机关所提量刑建议应以相对确定的幅度刑为主，绝对确定的量刑建议和概括性量刑建议只有在极个别情况下才可以提出。第三阶段为2018年至今的深入发展阶段。2018年《刑事诉讼法》修改，确立了认罪认罚从宽制度，并要求检察机关在办理认罪认罚案件过程中提出量刑建议。2019年“两高三部”联合发布的《关于适用认罪认罚从宽制度的指导意见》规定，检察机关对于认罪认罚案件一般应当提出确定刑量刑建议。在量刑建议实践探索的前两个阶段，由于提出量刑建议的幅度较大，检察机关仍可满足其实践要求，因而检察机关在量刑建议方面对人工智能技术的需求较低；此外，在这两个阶段，人工智能技术在司法系统中的应用并不成熟，因此检察机关应用人工智能系统辅助量刑建议的实践并不丰富。直到认罪认罚从宽制度为《刑事诉讼法》所确立以后，在确定刑量刑建议的要求下，检察机关对于应用人工智能辅助量刑建议的需求大幅上升。再加上相关人工智能技术在司法领域早已广泛应用，人工智能辅助量刑建议的实践不断涌现。因此，本文对于人工智能辅助检察机关量刑建议的研究也以量刑建议探索的第三阶段为切入点。
检察机关应用人工智能辅助量刑建议，在现阶段对于司法实践而言是不可或缺的。首先，“同案不同判”的现象一直被长期诟病，司法裁判的公信力也因此而受到损害。而检察系统对于量刑经验标准的把握较之法院系统而言更弱，所提量刑建议与法院的实际量刑仍具有一定差距。人工智能量刑辅助系统以大数据为基础，其量刑建议是借助深度学习训练模型得出的，因此对类案提出的量刑建议结果较为相似，与量刑标准差距较小。这可以提高量刑建议的说服力，保证司法决策的一致性，进而提升司法公信力。其次，在认罪认罚从宽制度被确立以后，量刑建议在性质上发生了根本转变，不仅承载了检察官、被害人及其代理人、犯罪嫌疑人及其辩护人或者值班律师等各方对量刑的态度和意见，成为凝聚控辩合意的重要载体，还体现了我国刑事诉讼模式从对抗到合作的根本变迁，推动了协商式新型辩护模式的产生。据统计，2020年全国认罪认罚从宽制度适用率超过85%，量刑建议采纳率接近95%。这意味着在刑事案件辩护方面，控辩量刑协商的形式已占据主导地位，协商式辩护的出现也让刑事审前程序中的辩护，尤其是审查起诉环节的辩护更具有决定性意义。因而通过在认罪认罚案件中应用人工智能技术提出量刑建议，可以为辩护人提供一个明确的量刑建议标准，更好地与检察机关进行量刑协商，从而推动协商式刑事诉讼模式的良性发展。最后，2021年全国检察机关共办理各类案件363.7万件，同比上升20.9%。在此背景下，广泛应用智能技术辅助量刑建议可以提高检察机关办案效率，极大地缓解“案多人少”的矛盾，在短时间内弥补检察系统量刑建议工作的短板。并且通过人工智能量刑系统得出量刑建议结果，可以减少司法人员对量刑建议提出的参与过程，限制司法人员提出量刑建议的范围幅度，进而减少司法腐败现象。
（二）人工智能辅助量刑建议的具体实践
检察机关应用人工智能辅助量刑建议是随着量刑建议的实践以及检察信息化工作的开展而进行的，相关具体实践主要集中在“智慧检务”部分。2017年5月22日，最高人民检察院党组会审议通过了《关于智能语音与人工智能应用的报告》，正式提出出“智慧检务4.0”的概念。2018年，检察信息化正式进入‘“智慧检务”阶段，强调利用人工智能技术实现量刑建议精准化。地方检察院利用智能系统提出精准化量刑建议的实践不断涌现：2018年，上海市虹口区检察院建立“量刑过程可视化系统”，勾选案件在各个量刑因素上的表现即可生成量刑结果。2019年4月28日，全国检察机关在“量刑建议精准化、规范化、智能化”网络培训中强调，各级检察机关要深入推进量刑建议工作有效开展，朝着“精准化、规范化、智能化”的目标努力，并充分发挥大数据智能辅助系统的作用，采取多种措施全面提升检察官量刑建议的能力和水平。2019年，河北省保定市检察院开发“智能比对系统”，通过智能抓取并对比文书中的关键词，呈现出既判类案中的刑期、缓刑适用比例，罚金数额等裁判结果，供法官参考。2020年1月2日，全国检察机关统一业务应用系统2.0版在最高人民检察院以及贵州、海南两省检察机关上线试点运行。自此，检察机关步入检察业务应用系统2.0版。相较于之前的1.0版，检察业务应用系统2.0版增加了量刑辅助系统等智能辅助办案工具，并实现与法院系统的数据互通，从而更有助于完善检察机关量刑建议辅助系统的数据库，促进量刑建议精准化、规范化。2020年，安徽省怀宁县检察院引进“小包公智能量刑辅助系统”，通过选择区域和罪名、敲定量刑情节，即可生成量刑预测报告。该系统由广东博维创远科技有限公司研发与设计，首创了理论量刑预测和实际量刑分析“双系统”，在刑期预测过程中可以实现刑期展示和法律法规、司法解释等法律依据及指导案例、刑事审判参考等司法观点的推送，提供同地区类案智能推送及大数据可视化分析。并通过量刑规范化表格呈现出量刑计算过程，可以充分考虑个案的法定情节、酌定情节和检察官的裁量权，从而助力量刑建议的提出。2020年以来，重庆市检察机关在提高量刑建议精准化水平的过程中坚持做到精细化、规范化、智能化，研发了涵盖31个常见罪名的智能办案辅助系统；重庆市武隆区检察院积极利用25个常见罪名量刑建议智能辅助系统，合理利用量刑建议辅助、本地类案优先推送、量刑偏离度分析等智能技术，助力量刑建议精准化。2020年7月20日，上海市虹口区检察院“智慧量刑”小程序上线，涵盖交通肇事罪、故意伤害罪、职务侵占罪等12类罪名。在小程序上输入“罪名”和“核心量刑情节”后即可直达“量刑可视化图表”，图表中清晰地显示出适用认罪认罚和未适用认罪认罚两种情况下各类量刑的对比情况。可见，随着检察信息化建设的开展，量刑辅助系统已在检察系统中逐步推进，尤其是进入“智慧检务”阶段，智能量刑辅助系统已经成为各地检察机关智能化的重点研究开发领域。
（三）人工智能辅助量刑建议的类型划分
按照案件情节输入方式的不同对人工智能量刑辅助系统进行分类，可以将上述具体实践中的相关辅助系统分为“类案推送”型、“量刑因素”型、“常见罪名”型、“罪名与量刑因素综合”型四大类（见表1）。
通过表1对检察机关所应用的智能量刑辅助系统四大类别进行分析，可以发现：对于“类案推送”型而言，一方面，其主要依据“自动抓取”与大数据的“类案推送”技术快捷地输入案件信息，检察官在类案的指引下能较为充分地发挥自由裁量权作出最终决定；另一方面，由于现阶段法律文书中的文字表述并不一致，且人工智能技术灵活性较低，因此极易遗漏相关情节，进而影响最终结果的准确性，并且所得结果只是类案判决，较为粗略。对于“量刑因素”型而言，一方面，其通过人工直接对量刑因素进行勾选，能够较为精确地录入案件相关信息，并且系统“输出”的是一种直观、精确的结果，能够更为精准地指引检察机关提出量刑建议；另一方面，其主要依靠检察官手动将案件相关量刑情节录入系统之中，此过程较为烦琐，且对检察官主观能动性的依赖程度较高，易受到人为因素的影响。此外，该系统所依据的量刑建议生成逻辑也较为单一，较难适应复杂的案件情况。对于“常见罪名”型而言，一方面，其根据案件所属罪名的不同而应用不同的量刑建议生成逻辑，依据相关量刑指导意见的指引，所得结果较为合理；另一方面，其只依据罪名不同而生成量刑建议，导致量刑建议的生成过程较为简单，并且在“输入”端主要也依靠检察官手动将案件相关量刑情节进行录人，仍易受到人为因素的影响。对于“罪名与量刑因素综合”型而言，一方面，其对“量刑因素”型和“常见罪名”型进行了综合，丰富了生成量刑建议所依据的要素，所得量刑建议结果更为合理、精确；另一方面，其仍未避免“输入”端主要依靠检察官手动录入案件相关量刑情节的缺陷。
从总体上看，随着检察机关对人工智能技术研发与应用的不断推进，智能量刑辅助系统运算所依据的要素逐步从单一走向复合，所得结果也从较为粗略变得更为细致，运算逻辑更为严密清晰，所得量刑建议更为科学、合理。但毋庸置疑的是，现阶段检察机关对人工智能量刑辅助系统的探索仍处于初期阶段，其不可避免地存在一定的缺陷，尤其是在相关案件信息的输入过程中（“输入”端），现有智能量刑辅助系统均存在较大缺陷。
二人工智能辅助量刑建议的缺陷分析
虽然时常会有人谈论人工智能技术可以直接对量刑建议作出一个准确、适当的结果，在未来有极大的可能性取代检察官的工作，并且智能量刑辅助系统在司法实践中已经得到广泛应用，但现在的人工智能仍处于弱人工智能阶段，仍是根据人类预先设定好的程序执行命令，并不具有像人类一样的思考能力。因此，应用智能技术辅助检察机关提出量刑建议，不可避免地存在一些缺陷。
（一）人工智能辅助量刑建议的精准性不足
2018年《刑事诉讼法》修改，确立了认罪认罚从宽制度，规定检察机关对于认罪认罚案件需要提出量刑建议，人民法院对于检察机关提出的量刑建议一般应当采纳；而《关于适用认罪认罚从宽制度的指导意见》更是规定，检察机关所提量刑建议一般应当为确定刑。虽然司法实践对于量刑建议的效力颇有批判，但不可否认的是，认罪认罚从宽制度已经形成了协商式司法模式的框架，要想使认罪认罚从宽制度更好地发挥让犯罪嫌疑人认罪服判的效果，就必须让犯罪嫌疑人能够对认罪认罚的法律效果有直观的预期。因此，量刑建议应当具有司法公信力，原则上法官应当受到量刑建议的约束。从最高人民检察院公布的量刑建议采纳率来看，量刑建议也确实发挥了此种功能。为实现这一功能，量刑建议必须具有极高的精准性：一方面，检察机关所提量刑建议应当与案件事实相匹配，为不同案件犯罪嫌疑人提供一个准确的预期结果；另一方面，检察机关所提量刑建议应当与法院量刑标准相契合，符合法院的裁判要求。
现阶段人工智能对量刑建议进行的辅助是以大数据技术为基础的。大数据技术虽然可以对海量的数据进行分析，但在精确性方面较为不足，因此人工智能辅助量刑建议不可避免地存在相应缺陷。其一，基于大数据而形成的量刑建议往往是总结海量案件的普遍规律和结论而形成的，是一种系统化、标准化的产物。但完全意义上的同案是不存在的，司法实践中存在的都是类案，不同的案件往往具有独特性。因此，智能量刑辅助系统只会对案件的一般情节进行分析，而对于每个案件的独特情节很难做到精确且全面地把握。在现阶段人工智能并不能用人的思想推理、处理问题的情况下，智能量刑辅助系统所提出的量刑建议往往很难实现个案正义。其二，虽然现在已处于司法大数据时代，但并非与案件有关的所有信息均会被公开。现阶段仍处于认罪认罚从宽制度全面实施的初期阶段，已决认罪认罚从宽案件的数量相对不足，大数据分析的基数达不到“海量”程度，且已决案件的司法文书在数据公开、文字表述等方面也存在不全面、不客观甚至遗漏等问题。另外，我国目前司法领域人工智能技术的数据基本来源于中国裁判文书网上的裁判文书。但中国裁判文书网2014年才正式启用，上面的裁判文书数量可能只有审结案件的50%。这些因素导致人工智能辅助量刑系统所依据的大数据不完整，且充斥着大量无效数据，因此人工智能对于量刑建议的辅助作用并不能达到十分精确的程度，只能为检察机关量刑建议提供一个相对模糊的参考结果。其三，我国幅员辽阔，各地经济发展与法治化程度差异较大，这就导致不同地区的量刑标准极为不同。以“法定刑在三年以下有期徒刑、拘役、管制、单处罚金幅度的盗窃罪”量刑为例，广西壮族自治区高级人民法院在其发布的《关于常见犯罪的量刑指导意见》实施细则中规定，增加相应刑罚量的标准之一为“犯罪数额每增加二千五百元，增加一个月至二个月刑期”；而四川省高级人民法院在其发布的《关于常见犯罪的量刑指导意见》实施细则中则规定，“犯罪数额每增加一千五百元，增加一至二个月刑期”。即使在同一地区，由于不同法官之间的专业知识水平与办案经验等有差异，对量刑的把握也会存在差异，因此通过大数据提出量刑建议的精准性有待检验。
（二）人工智能辅助量刑建议与实践存在部分偏离
其一，人工智能辅助量刑建议与检察机关的实践需求脱节。量刑建议的司法实践主要集中于认罪认罚从宽制度中。2019年6月至12月，适用认罪认罚从宽制度并提出量刑建议的案件适用率仅用半年时间就从 38.4%提高到82.9%；2019年1月至9月，认罪认罚案件适用普通程序审理占比为14.5%，而适用简易程序审理占比为49.8%，适用速裁程序审理占比为35.6%。可见，适用认罪认罚从宽制度并提出量刑建议的案件大部分是轻罪案件，重大疑难复杂案件占比很低，这使得关于重大疑难或者新型案件提出量刑建议的数量较少，轻罪案件数量较多。而检察官对于常见的轻罪案件，因为办理的案件数量极为丰富，因此对于法院处理轻罪案件的量刑标准已相当熟悉，并由此形成轻罪案件量刑建议标准。所以在现阶段，检察机关借助智能量刑辅助系统对轻罪案件提出量刑建议的需求并不高，往往最需要借助智能量刑辅助系统对新型、疑难案件进行处理。但此类案件数量较少，对弱人工智能时代的量刑建议辅助系统而言，大数据作用发挥不充分，最终导致智能量刑辅助系统很难针对新型、疑难案件为检察机关提供相对准确的量刑建议。
其二，人工智能技术的开发应用不完善。一方面，检察系统对于人工智能技术存在一定的僵化追求，在一定程度上一味追求量刑建议科技化而非科学化，这不符合量刑规范化的要求，存在机械主义的倾向。检察系统在进入“智慧检务”阶段后，就大力提倡对人工智能技术在办案领域的开发应用。2017年12月22日，《最高人民检察院关于深化智慧检务建设的意见》发布，对深化智慧检务的建设目标进行了明确；2018年7月，最高人民检察院发布《全国检察机关智慧检务行动指南（2018—2020年）》，细化了2018年至2020年智慧检务的建设任务，不仅强调要推进大数据、人工智能等前沿科技在检察工作中的应用，而且对检察系统完成各项智慧建设任务的时间作出了统一安排。加之司法责任制的影响，基层检察系统及其工作人员容易出现“唯科技论”，尤其是在量刑建议提出的过程中，极易依赖于人工智能技术所产出的结果。但科技化并不等于科学化，过度迷信人工智能技术会使得科技代替检察机关作出司法决策。而人工智能技术正处于初始成长阶段，无法替代检察官本身进行量刑建议工作。另一方面，现阶段智能量刑系统的数据兼容性不足，各地检察机关之间以及检察机关与公安、法院之间的智能系统信息对接度不高，难以实现互联互通。人工智能技术不仅在检察系统内部进行应用，公安系统、法院系统均在大力建设，甚至各地律所的智能化建设也在大力推进。就量刑辅助系统而言，虽然检察系统的应用已较为广泛，但最早对其进行研发探索的是法院系统。山东省淄博市淄川区人民法院从2003年就开始设计审判系统，以期将电脑量刑应用于司法实践之中。2006年3月，淄川区人民法院与科技公司正式推出了共同研制的电脑量刑软件，之后法院系统应用技术辅助量刑的实践不断涌现。另外，当下各地律所也正在对量刑预测系统进行大力开发。然而这些探索研发基本均是各自进行，各个系统之间彼此独立，数据兼容性不足，难以进行对接与整合；加上不同地区的量刑参数不同，建立统一的智能量刑辅助系统困难重重。在认罪认罚从宽制度全面实施的背景下，检察机关所提量刑建议需与全国各地相似案例大体均衡，但相关数据资源尚不能实现整合，因此该要求难以实现。
另外，我国人工智能与法学相结合的复合型人才数量远远不足，主要由单一学科背景的技术人员对系统进行研发。研发人员法学背景的缺乏使得智能量刑系统较为僵化，无法与法学专业理论相匹配，进而阻碍智能量刑辅助系统效能的发挥。检察机关对检察工作人员所进行的人工智能技术应用培训也不尽规范，尚未形成一套完整的培训体系，在实践中经常出现各级检察机关重复培训以及部分领域培训空白的情况，这种现象也制约了人工智能时代量刑辅助系统的应用。智能量刑辅助系统主要依据司法案例库的大数据发挥作用，而我国是成文法国家，判例在我国并不具有正式的法律效力。再加之法律也并非一成不变，往往会跟随实践的发展而变化，因此当法律出现变化，甚至前后法律规范之间出现完全相反的立法状况时，人工智能技术由于没有可以依赖的正确案例加以支持，进而难以对量刑建议的提出发挥作用。
（三）人工智能辅助量刑建议自身存在缺陷
其一，人工智能本身存在“算法黑盒”问题。“算法黑盒”，是指人工智能在数据吞吐阶段，根据既定的语法和句法规则，经过半自动或全自动的自然语言生成，将输入的数据整理成一定的结构，因为此阶段所涉及的技术繁杂且用户无法了解或得到解释，故形成“黑盒”对于人工智能辅助量刑建议而言，由于“算法黑盒”缺乏透明度，可能会让公众对智能量刑系统所输出的结果产生不信任。国外检察官与法官应用智能量刑辅助系统对被追诉人进行量刑已引发了较大的社会争议，美国的卢米斯诉威斯康星州案就是典型案例。在卢米斯诉威斯康星州案中，检察官依据“COMPAS”智能量刑辅助系统的评估报告指控卢米斯具有再犯高风险，法官也依据该评估报告判处卢米斯6年有期徒刑和5年的延期监督。但因为保护商业秘密的需要，法庭在这一过程中只能获得再犯高风险的评估报告，具体的评估过程则不会被展示。卢米斯对此提起了缓解动议，理由是法院使用“COMPAS”评估进行量刑判决侵犯了其获得“个殊化判决”和基于准确信息获得判决的权利，但被初审法院驳回，驳回结果也得到威斯康星州上诉法院和州最高法院的维持。最高法院认为，虽然风险评估的具体过程没有被公开，但法官利用算法进行风险评估而作出的判决并没有侵犯到被告人的正当程序权利。即使科技公司不考虑商业秘密，自愿将“COMPAS”评估过程所涉及的技术手段进行公开，但作为一种人工智能时代的量刑工具，“COMPAS”本身就存在不确定性，研发公司也未必可以对该技术的分析、决策过程作出准确详尽的解释说明。同样，人工智能在辅助量刑建议的实践过程中，其“算法黑盒”问题会与司法决策的公开性产生冲突。尤其是在认罪认罚从宽制度中，量刑建议具有了控辩协商的属性，但由于“算法黑盒”问题的存在，被追诉人及其辩护人无法了解量刑建议的形成过程，进而可能阻碍量刑建议协商的顺利进行。
其二，人工智能可能导致量刑建议存在价值偏见。在司法实践中，智能量刑辅助系统绝大多数是由科技公司研发设计的，这使得科技公司在一定程度上行使着司法权。但科技公司并不是司法机关，很难站在公正、中立等价值角度去判断问题，从而导致智能系统在研发过程中极有可能加入研发者的价值判断。而司法机关中具有计算机、人工智能等技术背景的复合型人才稀少，难以对智能量刑辅助系统进行可视化的审查判断，这就会导致人工智能系统在辅助量刑建议过程中出现价值偏见。这种价值偏见，在本质上并非研发者所导致，而是一种社会公众普遍存在的价值偏见。例如，通过对“COMPAS”系统进行独立测试，发现在美国司法实践中，黑人犯罪者比白人犯罪者更有可能根据该系统获得较高的风险等级评估。黑人被评估出的再犯风险几乎是白人的2倍，但实际再犯的比例仅有20%。即使不考虑科技公司在研发过程中加入价值偏见的情形，由于以大数据为基础的人工智能系统是通过对之前海量案件进行分析判断而辅助量刑建议的，而在之前的案例之中不可避免地加入了检察官或者法官可能存在的某一时期或者某一地域的偏见观念，这就会影响到量刑辅助系统最终输出的结果，进而使得这些观念和偏见的影响时间与范围都在不断地扩大。这样的后果就是现实社会中原有的量刑实质不平等将不断被复制进而固化，并且不断恶化。而这种存在于智能量刑辅助系统内的价值偏见与一般的价值偏见远远不同，因为其具有不可预测性，其产生是系统程序依据司法大数据库进行推演的结果，在此过程中需要经历“算法黑盒”的部分，而这种推演过程远远不同于人类之间的互动，是人类通常逻辑所不能理解与预测的。因此，这种不可预测性也不利于被追诉人及其辩护人与检察机关进行量刑协商，进而不利于协商式量刑建议的提出。
其三，现阶段人工智能辅助量刑建议可能存在技术“瓶颈”。根据前文对人工智能辅助系统的类型划分，现阶段的人工智能辅助系统在“输入”端总体上可以分为“手动输入”与“自动抓取”两种类型，但这两种类型的人工智能量刑辅助系统均存在不可避免的缺陷。对于前者而言，其主要依靠检察官对相关量刑情节的手动录入。不仅录入过程较为繁杂、便捷性较低，而且依赖检察官主观能动性的发挥，对检察官专业能力与素养的要求较高，潜藏着“不同检察人员所录入量刑信息也会不同”的风险，从而不利于对“同案同判”的追求。对于后者而言，其对相关量刑情节的录入虽是通过人工智能对关键词的自动抓取技术实现的，但由于现阶段的人工智能技术仍处于弱人工智能时代，不具有人类灵活与变通的思维，很难应对现阶段法律文书中存在的文字表述不一致的情形，极易遗漏关键量刑情节，进而对量刑建议的最终结果产生不利影响。因此，上述两种类型的人工智能系统在“输入”端均存在相应缺陷。要想解决上述缺陷，必须借助人工智能技术，实现对相关量刑情节的准确录入，即一方面需要以人工智能代替检察官从而实现案件量刑情节的自动抓取与录入，另一方面又需要赋予人工智能技术准确理解法律文书中文字表述的思维能力。该种设想的实现需要建立在人工智能技术具有较为灵活的思维的基础之上。这种技术要求只能在强人工智能时代实现，而现阶段人工智能技术仍处于弱人工智能阶段，并且仍会存在一段相当长的时间。因而对于现阶段人工智能在辅助量刑建议领域的发展而言，其已出现技术“瓶颈”，需要一段较长的时间来加以突破。
三人工智能辅助量刑建议的发展设想
正如前文所言，现阶段智能量刑辅助系统还处于弱人工智能阶段，虽然已经广泛应用于检察机关量刑建议的提出过程，但其发展仍处于初始阶段，不可避免地存在一些缺陷，人工智能在辅助量刑建议领域存在很大的进步空间。
首先，要提升检察工作人员的专业能力与素养，培育正确的科技应用观念。在科技崇拜的当下，不少检察官、法官因为司法责任制的影响，可能会过度注重智能量刑辅助系统的作用，但弱人工智能技术并不具有人的判断思考能力，只能按照已经设定好的程序进行推演，不能完全取代检察官提出量刑建议。因此，应对检察工作人员进行专业培训，帮助其树立正确的科技应用观念，让其清楚地意识到不能一味追求量刑建议提出的科技化，而应当追求量刑建议提出的科学化、规范化。智能量刑系统所生成的结果只是提出量刑建议的一种参考，或是量刑建议提出的理由支撑，但最终作出何种量刑建议仍应由检察官决定。检察机关还应定期开展人工智能技术应用的专门培训，提升检察官应用智能量刑系统的专业能力。尤其要对年龄较大的检察官进行专门培训，提升其对智能量刑系统的适应力。
其次，在提高人工智能辅助量刑建议的精准性方面，由于现阶段人工智能量刑辅助系统作用的发挥主要依赖于大数据技术，因此大数据的精准性将直接决定人工智能辅助量刑建议的精准性。而大数据技术精准性与数据库的案件质量有着密切关系。现阶段，不管是中国裁判文书网还是其他的司法数据库中，均存在大量无效数据和空白数据，导致人工智能辅助量刑建议难以形成高精准化的结果。因而，必须要清除智能量刑辅助系统所依据的司法数据库中的无效数据、空白数据，提升司法数据库的质量。另外，即使为了保密需要或者基于其他因素考虑，部分裁判文书不能上网公开，司法机关也应当联合建立一个专门的裁判文书数据库对其进行储存。裁判文书的内容也不需要全部进行应用，可以把与量刑无关的因素隐藏，只保留与量刑有关的情节。这样就可以在提高大数据精准性的基础上，兼顾司法数据安全与个人信息保护。此外，还需要规范裁判文书的格式。对于通过“自动抓取”录入案件信息的智能量刑辅助系统而言，其面临的主要问题就是很难灵活应对现阶段法律文书中文字表述不一致的情形。对此，技术层面的解决方式可能已遇到“瓶颈”，在较长时间内无法通过人工智能技术的改进加以解决。应对裁判文书的格式与文字表述等进行规范，帮助智能量刑辅助系统较为准确、全面地捕捉相关量刑信息，进而提升人工智能辅助量刑建议的精准性。
再次，针对人工智能与量刑建议司法实践存在部分偏离的问题。司法机关是司法工作的第一线，能够及时精准地把握实践对于人工智能的需求，因此必须由司法机关对智能量刑辅助系统进行开发，这样可以避免科技公司在一定程度上部分行使司法权的问题。另外，鉴于司法机关各自研发量刑辅助系统、难以实现数据整合的现状，需要各个司法机关进行联合研发，这样既可以扩充司法案例数据以提升大数据应用的质量，还可以集中司法机关的复合型人才以进行更好的研发与后期维护。智能量刑辅助系统的研发必须与量刑理论和逻辑紧密贴合，不能完全凭借技术产生的逻辑进行研发。应将提出量刑建议所需要考虑的相关因素都包括在内，不仅需要考虑法定量刑情节，更应尽量补充酌定量刑情节，还应与司法实践中存在的其他人工智能技术进行结合，如社会危险性评估技术以及量刑证据识别技术等。再者，由于现阶段量刑建议领域的智能量刑辅助系统分为“类案推送”型、“量刑因素”型、“常见罪名”型、“罪名与量刑因素综合”型四大类，而这四种类型又有各自不同的缺陷，因此司法机关在系统研发过程中应重点把握与规制不同类型所存在的缺陷。虽然其可能在“输入”端均已出现技术“瓶颈”问题，但现阶段仍是人工智能技术飞速发展时期，可以通过引进尚未在量刑领域应用的其他人工智能技术，来对这些缺陷进行一定程度的弥补。
最后，面对人工智能本身存在的“算法黑箱”，必须提高算法的透明度。在此过程中，需要建立算法解释规则，使那些可能受到算法决策不利影响的当事人能够得到合理解释或者寻求人工干预加以纠正。这就要求检察机关在使用智能量刑辅助系统提出量刑建议之前，告知被追诉人及其辩护人该系统的应用以及可能的结果，并征求他们的意见。当被追诉人及其辩护人认为智能量刑辅助系统的应用可能会对量刑建议的提出产生不利影响或者对此存疑时，可以要求智能系统的研发者对此进行解释，或者要求检察机关对量刑建议进行人为更正。另外，在智能量刑辅助系统投入运行前，应该对其算法规则以及司法数据库进行检验评估，这一过程不仅需要技术人员、法学专家的参加，更应该吸收社会公众的加入。唯有如此，才能增强人工智能辅助量刑建议的合理性与公正性，产出的结果也更容易为社会公众所接受。
近年来，人工智能辅助量刑建议的实践不断涌现，各级各地检察机关都在大力推动人工智能技术与量刑建议的结合。在此背景下，检察机关所研发和应用的智能量刑辅助系统，不仅是人工智能时代的必然产物，而且与检察机关对量刑建议的探索进程相契合，其蓬勃发展具有必然性。然而，针对人工智能辅助量刑建议的具体实践进行探析后发现，该技术的应用在精准性、与司法实践的契合程度以及技术本身等方面存在一定缺陷，这些缺陷的存在直接影响到人工智能在量刑建议领域的具体应用效果。因此，需要提升检察官的专业能力与素养、提高司法数据库的质量以及算法的透明度、建立相应的算法解释机制和救济路径等，使检察机关能够应用智能量刑辅助系统得出准确、适当的量刑建议。鉴于人工智能技术以及检察机关对量刑建议的探索仍存在很大的发展空间，并且作为两者结合的智能量刑辅助系统也是近些年的新兴之物，本文对人工智能辅助量刑建议具体实践所进行的审思，由于能力所限，仅是浅尝辄止，期冀能够引起学界对量刑建议领域人工智能技术的关注，推动人工智能辅助量刑建议的良性发展。
2023年第1卷（总第四卷）要目
【特稿】
1.《个人信息保护法》背景下侵犯公民个人信息行为的罪与非罪认定标准分析
洪延青（3）
【“数字货币的法律规制”专题】
2.论法定数字货币权利变动中的交付
徐文、李思奇（25）
3.数字人民币对刑法若干罪名适用的影响
陈琦（47）
【“个人信息侵权责任研究”专题】
4.个人信息侵权责任的归责困境与消解路径
袁俊宇（61）
5.敏感个人信息侵权责任传统“损害认定”规则的困境和突破
孟思洋（77）
6.敏感个人信息侵权责任的检视路径
——微信读书案评析
杜冰焱（97）
【专论】
7.个人信息纠纷民事判决之历时性比较分析
——以《民法典》生效日为界
林凯、张建肖（119）
8.刑事诉讼非羁押人员数字监控实证研究
胡雨晴、罗澜（141）
9.人工智能辅助量刑建议的缺陷审思
彭海青、于坤（157）
10.论网络爬虫的刑事合规
董文蕙、潘郑伟（175）
11.数字社会时代数字政府的行政法治课题
刘学涛（195）
《数据法学》（半年刊）于2021年正式创办，是数据法学领域的专业性学术刊物，由中国人民公安大学法学院主办、李玉华教授担任主编，向国内外公开发行，邀请国内外有志于研讨数据相关法律问题的同仁，合力探索数据法治之道。
-END-
责任编辑 | 张馨予
审核人员 | 张文硕 韩爽
本文声明 | 本文章仅限学习交流使用，如遇侵权，我们会及时删除。本文章不代表北大法律信息网（北大法宝）和北京北大英华科技有限公司的法律意见或对相关法规/案件/事件等的解读。
王利明：对生成式人工智能法律规制的几点思考张凌寒：生成式人工智能的法律定位与分层治理 | 现代法学202304
李振林 潘鑫媛：生成式人工智能背景下数据安全的刑法保护困境与应对 | 犯罪研究202302
徐伟：论生成式人工智能服务提供者的法律地位及其责任 | 法律科学202304
李晓楠：《生成式人工智能服务管理暂行办法》的涉外视角
赵精武：生成式人工智能应用风险治理的理论误区与路径转向
关注下方公众号，获取更多法律信息