从一场法院专题讲座看人工智能的场景适配与风险防控

近日，重庆市第五中级人民法院举办“经纬悦享”大讲堂第二场讲座，邀请重庆理工大学教授、重庆市人工智能学会副理事长、重庆市科普研究学会副理事长张小川作题为“向智而行、循规而执——谈谈AI对法务工作辅助边界及其应对”的专题辅导。讲座由市五中法院党组成员、副院长蒙洪勇主持。以下为讲座要点摘编，供公众参考。

一、AI在法务工作中能做什么？

从应用场景看，人工智能在文书辅助生成、信息检索、类案梳理、法律知识问答等环节具有一定应用潜力。但讲座同时提醒，不同场景对技术可靠性、数据质量和规则约束的要求并不相同。有的环节适合AI提供初步辅助，有的环节则必须由人作出最终判断。不能因为AI“能生成”，就默认它“可以用”。

二、为什么“条文是真的”，结论却未必可用？

讲座重点讲了一个容易被忽视的问题：AI输出的正确性，不能只看它引用的法条、数据是否真实，还要看它适用的事实前提和程序场景是否匹配。一个规则在某种场景下成立，换一个程序环节就可能失效。生成内容读起来流畅、法条引用看似准确，但如果前提错配、场景不当，结论就可能产生误导。对AI输出，既要看“说了什么”，也要看“在什么前提下说”。

三、AI辅助的边界在哪里？

讲座强调，人工智能在司法领域应坚持辅助定位，不能替代法官的事实认定、法律适用和裁量判断。智能辅助与司法履职之间需要厘清权责边界：AI可以提供信息整理、检索参考、初步草拟等支持，但最终核验、判断和担责的主体仍然是人。人机协同的关键，不是把判断交给机器，而是让机器为人的判断提供更充分的依据，同时保留人的复核环节。

四、AI赋能司法有哪些风险需要防？

讲座分析了若干风险点：生成内容看似流畅但事实前提错配；法条引用真实但适用场景不当；使用者过度信任技术输出；数据安全与责任归属不清等。对应的防控思路是让AI输出可解释、可追溯、可核验，对高风险场景建立分级分类应用机制，明确人工复核节点，完善操作规范，避免“结论直给”替代专业审查。

五、对公众使用AI的启示

这场讲座虽然面向法院干警，但对公众使用AI同样有参考意义。随着生成式AI进入日常工作和生活，每个人都有可能遇到“AI说得头头是道，却不一定适合我的情况”。使用AI时，不妨多问几句：它依据的是什么？前提条件是什么？我的场景和它说的场景一致吗？重要事项是否经过人工核实？知其能，亦知其限，是AI素养的重要内容。

重庆市人工智能学会秘书处认为，人工智能赋能行业应用，既要看到效率提升，也要坚持辅助定位、厘清权责边界、强化风险防控，推动技术能力与场景规则有效衔接。学会将继续围绕人工智能与行业治理、场景适配、风险防控和AI素养提升等方向组织交流研讨。

供稿：重庆市人工智能学会秘书处