□随着人工智能技术的不断发展,尤其是大模型技术的应用,在线索发现、数据分析、专业咨询、深化治理等方面推动了检察工作高质量发展。与此同时,检察机关也要确保人工智能技术在检察工作中有序、高效且安全使用,合理预判将大模型应用于法律监督可能存在的潜在风险。要明确检察官主体地位,提高技术准入门槛,扩大模型学习体量,关注数据安全和个人信息保护,深化应用成效,在运用前景和风险规避之间找到平衡点。
在数字化时代,人工智能正逐步成为推动检察工作高质量发展的重要技术支撑。在此背景下,北京市海淀区检察院利用人工智能前沿技术,创新推出未成年人保护AI智能体——“智航”。我们在输入未成年人保护相关素材的基础上,对智能体进行算法训练、数据分析,并对未成年人保护相关问题的解答内容予以优化,进一步提升了未成年人保护工作质效。在此,以“智航”的开发利用为依托,探讨将人工智能技术更好地应用于检察工作,提升检察工作质效的路径。
人工智能推动检察工作高质量发展的四个维度
随着人工智能技术的不断发展,尤其是大模型技术的应用,通过深度学习和大数据分析,极大推动了检察工作高质量发展。
一是线索发现。大模型具有强大的自然语言生成及理解能力,能够对与特定事件相关的各种信息进行智能化挖掘和整理,并实现结果的可视化,从而帮助办案人员快速有效发现案件线索。
二是数据分析。运用大数据办案是近年来检察工作提质增效的重要依托,办案中的数据可能包含文本、图像以及视频等多个种类,传统人工智能无法有效应对不同形式的数据,而大模型则能凭借其多模态的特征优势对多源数据进行精准、高效处理,为检察机关开展工作提供准确的数据支持。
三是专业咨询。大模型可以帮助检察人员更全面地了解案情,并凭借自然语言生成及上下文感知能力提供更智能、更准确、更流畅的问答系统支持,为检察人员提供专业咨询。它还能很好地模拟人类思维和认知能力,通过算法模型和法律法规等数据信息,为检察人员提供决策建议,提高案件办理质效。
四是深化治理。大模型具备强大的文本、数据、图像分析及推理能力,可以帮助检察人员总结类案中的共同要素,开展类案监督,提升社会治理效能。另外,大模型可以通过实时监控网络、社交媒体等渠道的信息,持续关注监督办案中发现的具体违法违规行为,在开展监督后继续关注相关违法行为的整治结果,确保治理成效。
预判风险,确保人工智能在检察工作中有序高效安全使用
推动人工智能技术在检察工作中有序高效且安全使用,就要预判将大模型应用于法律监督可能存在的潜在风险。
一是算法缺陷和技术风险。人工智能算法在理解人类社会的复杂关系时可能存在一定的局限性,导致决策产生偏差。虽然人工智能可以模拟人的思考,但面对伦理道德、公序良俗等价值判断问题时则无能为力。
二是数据偏差可能影响司法公正。大模型输出结果的可靠性取决于训练数据的质量和数量,对于超出学习和训练范围的陌生领域,人工智能很容易输出偏离事实的信息内容。监督办案面向的是飞速发展、日新月异的科技和社会,很容易遇到新的事物和技术,如果未能及时对相关领域和数据进行深度学习训练,大模型将难以保证输出内容的准确性。另外,训练数据的范围也会影响大模型作用生成内容的质量。在监督办案中,如果将特定数据集作为训练数据来源,被模型频繁记忆,容易形成“算法偏见”,可能影响法律监督的公正性。
三是数据安全和个人隐私保护。法律监督面向的是人的涉法行为,只有通过对海量的个人信息进行收集、分析、提取,才能归集有价值的线索,从而有效开展法律监督。而其中不乏个人金融账户、行踪轨迹等敏感信息,根据个人信息保护法的规定,即便是采用办案系统或诉讼文书中的个人信息数据对人工智能进行深度学习训练,也需要征得敏感个人信息主体的单独同意,这几乎不具备现实可能性,同时,这也会影响模型训练的效率和质量。
四是技术门槛可能导致司法权威受损。大模型在最初部署与训练时需要的算力与成本较高,这使大型科技公司在计算资源上占据优势地位。检察机关要将大模型技术运用于检察工作,需要借助科技公司的力量,研发适用于检察工作的大模型应用,如果因为技术产权归属问题,研发公司对算法等技术要素等予以保密,检察官和被监督对象对大模型决策过程不了解,将影响检察官对大模型决策的信任度以及被监督者对检察机关履职的接受度。
人工智能深度运用于检察工作的五个面向
由于目前司法实践仍处于以弱人工智能运用为主的阶段,因此对大模型以及强人工智能运用于检察工作的思考具有一定的前瞻性,需要进行科学、合理的预判,在技术运用前景和风险规避之间找到平衡点。
一是强化检察官主体地位。依照法律规定,具体履行法律监督职责的是检察机关的检察官,虽然目前人工智能逐步融入检察工作,在实际中形成检察官与人工智能协同开展法律监督工作的局面,但应明确人工智能的辅助性地位,其作用是辅助检察官完成线索挖掘、数据要素提取、文书生成等工作,从而让检察官将更多精力集中在核心业务和深层次的复杂问题上。检察官更具主观能动性,对社会日新月异的发展更能及时、灵活地发现和应对,对于案件的处理更能兼顾情理法的统一,这是人工智能所无法取代的。因此,在确定检察官在法律监督职责中的主体地位的基础上,应积极主动地将人工智能融入检察工作,形成人机协同、人主机辅的合理分工格局。
二是提高技术准入门槛。一方面,法律监督工作专业性要求高,即使可以记忆并搜索海量法律条文规定、案例参考,但更重要的是理解、运用法条和案例的能力。因此,大模型需要针对法律适用的原则、逻辑方法等进行深度学习,要做到像检察官一样让目光在法条与案情之间来回穿梭,才能符合一个合格“法律人”的要求。另一方面,法律监督工作面向多元化的对象和社会领域,如何满足法律监督工作既专又广的需求,需要紧密结合检察工作的特点。因此,在研发适用于检察工作的大模型时,要确保夯实大模型的底层架构,在此基础上搭载内容多样化的监督子模型,不断丰富应用场景,从而契合法律监督的实际需要。
三是扩大模型学习体量。尽管大模型在处理各种复杂任务时表现不俗,但毕竟法律行业专业性强,面对复杂的法律问题时人工智能可能存在理解错误或片面的情况。为了适应法律监督工作的需要,在构建专门的大模型时需要有针对性地在专业性和准确度上进行优化和改进,以提高其处理复杂法律问题的能力和效率。大模型的可靠性依赖深度学习训练的数据质量和数量,因此要充分利用数字检察建设期间积累的数据池,尤其是检察机关内部的数据,要充分将其转化为大模型学习训练的数据素材,并且确保数据的及时更新,不断提高大模型与发展中的法律监督工作的适配性。
四是关注数据安全和个人信息保护。人工智能在给人类社会发展带来更多创新和进步的同时,也需注意人工智能的发展安全问题,尤其是要保护用户的隐私和权益。一方面,可以使用一些新兴技术,例如区块链技术,开展与外部单位的数据隐私计算,以“原始数据不出域、数据可用不可见”的方式共享利用外部数据,从而确保数据的安全性。另一方面,为保护个人隐私,现实中可以对个人信息进行匿名化处理,隐去真实姓名后将其作为大模型深度学习训练的数据来源,经过匿名化处理的数据无法识别确定特定的个人,这样就能有效解决使用个人信息可能侵犯公民隐私的问题。
五是深化应用成效。在构建适用于法律监督的大模型后,如何拓展运用场景、深化运用成效成为其发挥作用的关键。具体到法律或者是检察工作领域,可以从大模型的主要功能着手,比如知识问答,可以在审查卷宗、法律适用等场景中调动人工智能的海量知识库,为检察人员提供相应的专业知识、法律条文参考。聚焦具体检察工作流程和环节,找到大模型自身优势功能得以有效发挥作用的具体场景,实现大模型作用的最大化。在技术层面要与检察业务应用系统相衔接,将大模型功能嵌套于各个办案环节,设置可使用功能提醒,让每一名检察人员都有自己的数字专家、智能助手来辅助监督办案。
通过大模型系统的设置,只要输入日常办案数据,法律监督中过去依赖人力但实际上难度较低的工作,可以由大模型代劳。虽然目前大模型技术还在完善发展阶段,但相信检察机关在不断推动智能化发展的趋势下,在不远的将来更多更高形态的人工智能技术将被运用于法律监督工作,让法律监督历经数字化浪潮后在履职方式和手段上获得革新式发展,推动检察工作步入高质量发展新阶段。
(作者为北京市海淀区人民检察院党组书记、检察长)