2025年11月1日，习近平主席在亚太经合组织（APEC）第三十二次领导人非正式会议第二阶段会议上强调：“人工智能对未来发展具有重大意义”，“我们要以全人类福祉为念，推动人工智能朝着有益、安全、公平方向健康有序发展。”当前，在司法层面，AI工具已应用于帮助法官开展庭前阅卷、案情摘要、争议焦点归纳、类案推送、生成文书初稿、庭审语音转写、笔录和文书校对、流程管控等，能够大幅压缩事务性工作。但也存在弊端和风险，技术层面的“幻觉、偏见、黑箱”，悖于司法裁判客观、准确、公开、公正要求；大规模、常态化使用，易造成司法惰性、裁判同质化、人机关系异化等风险；在法律与数据安全方面，存在责任归属模糊、数据安全隐患、程序正当性质疑等问题。在全国各地法院办公办案系统先行先试后，2025年开始，最高人民法院要求建好用好全国法院“一张网”统一办案办公系统，推进全国法院在一个平台办案办公，“积极稳慎研发人工智能辅助审判系统”。本文建议，生成式人工智能辅助司法裁判需强化法律规制与制度建构。

一、厘定应用边界，确立有限辅助原则

（一）限定人工智能辅助系统的适用范围。人工智能在辅助司法裁判方面，限于拟定法律文书草稿、类案检索推送、证据链瑕疵排查等辅助性工作，必须明确规定AI不得用于案件最终裁决、量刑决策等实质性司法判断，不得突破辅助性定位，不得用人工智能工具或机器人独立开展调查、取证、诉讼保全等司法活动，不得赋予人工智能工具在未经司法人员操作或发出指令情况下，自动查阅电子卷宗、生成文书、发出送达等需要司法人员开展的诉讼流程和司法活动。

（二）明确“人主机辅”定位。限定人工智能辅助系统的效力边界。在使用人工智能辅助办案中，我们必须清醒的认识到，司法裁判涉及当事人权利义务问题，司法人员是司法活动的主体，裁判职权始终由审判组织行使，司法责任由审判组织承担，人工智能可以提出参考或建议，但人工智能作为机器或软件仅是由司法人员使用的工具，不具有办案资格，不得代替法官裁判。根据最高人民法院《关于规范和加强人工智能司法应用的意见》规定，人工智能“不得代替法官裁判”，“裁判职权始终由审判组织行使”，“司法责任由裁判者承担”。为防止“机器错误”，司法人员要对人工智能生成内容保持警惕，要进行实质性审核、修改，作出独立判断，不能依赖算法决策。

（三）强化分级分类管理。运用AI生成文书时，发现简单案件好用，准确性较高，法官审核、修改难度较小。如双方无争议或争议较小的金融借款纠纷、民间借贷纠纷、逾期交房和逾期办证的房屋买卖合同纠纷、被告人认罪认罚的简易刑事案件等。复杂案件并不好用，如争议较大的合伙纠纷、离婚纠纷、建设工程合同类纠纷等，这些案件当事人争议焦点较多，人工智能判断不准，生成内容需要大幅修改。为此，应据案件类型和诉讼阶段，设定差异化的AI介入深度标准。在简易案件中可普及应用，减少人工工作量，在复杂、重大案件中慎用，可仅对文书中的部分内容如当事人信息、诉辩意见归纳、无争议事实认定部分等进行应用，在争议事实认定、争议焦点说理、裁判结论方面主要由法官进行撰写、由审判组织作出认定。通过分级分类管理，促使技术应用与司法审慎性相适应，即提高效率，也减少错误。

二、构建技术准入，建立司法AI产品的合规审查与算法备案机制

（一）建立准入标准。要确立司法人工智能产品准入标准，使用前进行安全评估、合规测试。为节约资源、提高AI辅助裁判工具的质量，建议由最高人民法院牵头制定生成式AI司法辅助系统的技术标准和测试规范，AI辅助裁判工具在推广应用前，应由最高人民法院组织技术人员、审判人员团队，进行合规审查，并进行试用，合格的进行备案登记准许使用，未达到技术标准和测试规范的产品不得在司法系统内推广。

（二）强化算法透明与备案。运用AI辅助裁判工具的法院，在应用前，应要求研发企业公开算法的基本原理、数据来源及决策逻辑，并向法院技术部门或者管理部门进行算法备案，确保算法可解释、可追溯。备案时，尽可能避开商业秘密，必要时签保密协议。法院应组织本院技术人员和审判专业人员进行检测、核实。审判专业人员应当对用于构建AI知识体系的法律规定、理论知识、案例是否全面、权威、准确、有无过时等认真检查，并通过试用检测是否好用。

（三）持续评估与更新。在运用人工智能时，要确保AI辅助裁判工具使用的安全性、可靠性和对法官切实起到帮助作用，强化动态评估，对于功能欠佳、安全性不够、用户体验不好的工具，应及时停用、整改。强化数据更新，对于运用于司法工作的AI工具，发布者要定期组织法律专家、资深法官、技术人员对于应用于AI工具训练的数据、知识、法律法规进行筛查，去除过时信息、案例、理论文章、已废除的法律法规，补充并更新最新的数据、资料、案例、法律法规、各省市级司法机关最新文件精神、办案指南。

三、强化数据治理，健全数据安全与隐私保护制度

（一）数据分类分级。

国家秘密、商业秘密、个人隐私等受法律保护，如被AI工具掌握会产生泄露风险。因此，应提高数据案全意识，遵循数据安全规范。对司法数据进行严格分类，区分可公开信息和非公开信息，严禁将涉密信息、个人隐私、不宜公开的个人信息等含有非公开信息的数据用于AI模型的公开训练，也严禁在运用AI辅助裁判时，向AI提供含有非公开信息的内容。

（二）去标识化处理。司法人员运用人工智能时，需要将案件材料、信息输入人工智能工具，为确保安全，应对含有非公开信息的数据进行脱敏处理，将可识别特定自然人身份信息、含有国家秘密和商业秘密内容、单位和个人明确表示不愿意公开的信息去除掉，采取措施防止信息泄漏，确保数据安全。

（三）权限管理与审计。为确保数据来源合法、真实、准确、安全，对司法人员必须强化管理、明确工作要求、严明工作纪律、开展数据安全培训。通过账号权限管理和操作日志审计制度进行监督。使用痕迹要可追溯、可倒查，如出现问题，能够迅速采取措施、确定责任人、追究相应责任。

四、明晰责任归属，构建“司法人员为主”的归责体系

（一）司法人员的最终责任。司法人员是裁判的主体，AI工具仅具有辅助作用，司法人员需进行审核把关修改，对外，应由司法人员承担最终责任。

（二）技术提供者的瑕疵担保责任。AI工具之所以具有被运用的生命力，取决于其辅助作用大小、准确性、好用性，如起不到很好的辅助作用，其使用价值会大打折扣，如出现算法设计缺陷、训练数据错误等致使AI输出错误，司法人员在尽到合理注意义务情况下仍不能发现，技术提供者应向使用者承担相应的民事赔偿责任，情节严重的可追究行政乃至刑事责任。因此，技术提供者应保证AI工具的使用性能，尽可能的完善。