□郭欣雨
法律实务领域正在经历一场前所未有的技术手段更新迭代。在合同审查、法律检索、文书草拟、案件要点梳理等业务环节，人工智能技术手段已渗透至全作业流程。这种变革在使作业效率得到提升的同时，也使潜在风险随之攀升。
据公开资料披露，近年来，澳大利亚司法系统已查实数十起由人工智能工具性输出偏差所引发的涉法案件。所出现的问题集中体现在判例虚构、援引谬误与事实陈述失实等方面，如当地有执业律师借助法律应用软件，生成虚假的引证材料并提供给法庭。该案成为澳大利亚首例因律师提供的引证材料失真而遭受执业约束惩戒的案件。澳大利亚联邦法院以此为鉴，发布了相应的操作指引《使用生成式人工智能实践指南》。这些域外司法实践带来的启示值得重视。人工智能技术手段已经不可避免地融入法律实务作业流程，但“人作出裁判、人承担责任”这一司法底层逻辑需要坚守。也就是说，只有厘清技术工具的辅助性角色定位，恪守法官作为裁判主体与责任归宿的制度要义，方能推动技术手段真正服务于、服从于司法公正的实现。
生成式人工智能所带来的一系列风险具有较大的危害性。这是因为，这类偏差并非局限于个别偶发情形，更多地源于其错误本身所具备的隐蔽特质。这类偏差主要体现为引证层面的失真问题。大模型被训练要求输出形式上体例完备的引用内容，但由于大模型数据没有可靠事实可以调用，就可能依据概率拼凑一套“看起来通顺合理”的内容。实际上，这些内容属于杜撰，并不存在所给出的裁判案例、文献出处乃至法官署名。对于缺乏审慎检索意识的使用者而言，此类谬误具备较高的识别门槛。此外，有时还表现为案件事实层面的扭曲。在归纳梳理案件事实的过程中，它容易混淆诉讼当事人的主体地位，将多起案件的事实片段随意糅合。这样一来，就会从根本上动摇类案比对与案件事实认定的可靠基础。由此，便可能引发法律责任被虚化的难题。假如允许实务从业者以“系统自动生成”作为抗辩事由，要求责任豁免，将导致法律责任落空。法律职业伦理也会变相交由技术代为处置，司法程序将丧失稳固的责任追究载体。上述多重风险并发的内在根源，也许在于部分人误将模型生成通顺文本的表层能力，等同于作出专业法律判断的实质能力。
法官的价值，恰恰在于人工智能无法替代的部分。首先，法律适用不是机械演绎。以家事案件中子女抚养争议为例，法官围绕最有利于未成年子女原则，综合评判父母照护能力、子女真实意愿、家庭环境等因素，这是在相互冲突的价值之间作出衡量，而非数据计算。其次，程序正义依赖“人”的在场。当事人需要被一个有责任能力的主体倾听、询问和回应；裁判文书署名，意味着法官以个人声誉和职业良知对裁判内容负责。再次，司法正当性来自可追责。法官必须公开说理，接受上诉、监督和社会评价；人工智能系统黑箱决策、责任分散，一旦出错便难以归责。可以说，法官在场本身，就是法治权威的一种制度表达。
防控风险，需要制度与人的双向发力。一方面，完善应用规则，把人工智能严格限定为辅助工具。对于格式化文书初稿、材料分类、公开资料整理等低风险事项，可以较为宽松地使用；对于法律检索摘要、证据目录整理等中风险事项，应设置人工复核；在事实认定、证据采信、裁判理由形成等高风险环节，必须坚持法官实质主导的原则。同时细化核验义务与必要披露规则，凡提交法庭的材料，引证是否真实、事实有无依据，均由提交者负责。另一方面，提升法律从业者的智能素养。法官、检察官、律师虽不必成为技术专家，但必须理解人工智能概率生成的运作机制和“幻觉”风险，养成回到权威数据库和原始材料独立核验的习惯，把人工智能视为需要审查的材料来源，而非具有权威性的意见来源。
人工智能是人类智慧的产物，可以为人提供辅助，增强人的本领，却不能代替人承担判断责任。技术越是进步，就越需要确认人的责任位置。只有守住“由人倾听、由人判断、由人负责”的底线，司法的智慧化转型才能行稳致远。
责编：程迷静
审核：陈晓容
主编：万先觉
