当今社会,深度合成技术已越来越普遍地用于音视频制作。同一项换脸、拟声服务,在生产创作中可以成为趁手利器,也可能被不法分子利用进行身份冒充,成为网络诈骗的工具。如何认定技术提供者明知他人利用信息网络实施犯罪,直接影响正常技术服务与可罚帮助行为的界分。2025年,“两高一部”发布《关于办理帮助信息网络犯罪活动等刑事案件有关问题的意见》(下称《意见》),将利用深度合成等人工智能技术实施犯罪列为依法从严惩处的情形,并提出综合认定主观明知的要求。具体言之,应当围绕认识内容、认识形成时间及证明依据,对帮助行为作具体审查,并通过相反证据防止客观归罪。
区分技术风险认知与犯罪事实认识
在涉深度合成技术等利用人工智能进行的犯罪中,提供帮助行为者对犯罪的全部内容未必尽知。深度合成内容的生成,是利用大量现有图像和音视频数据,通过复杂的模型运算加以实现的,这意味着其过程往往因算法黑箱而不透明,末端使用者只需输入相应指令即可生成对应的合成内容,而就算溯源至开发者或技术提供者,其对具体输出结果也未必能够充分解释或准确预见。这种技术特性导致了深层的归责困境:尽管行为人引起了深度合成内容的产生,但其过程和结果均未必处于行为人的主观意志控制范围之内。
然而,对具体生成结果缺乏预见,并不当然意味着对利用技术实施犯罪行为缺乏认识。深度合成行为的全程服务链条上,包含技术提供者、内容生产者、内容传播者以及平台服务者在内的多个主体,不同主体对技术风险的可预见性不同、对危害结果的控制能力不同,其认识可能性亦呈现差异。例如技术开发者通常能够预见换脸、拟声功能存在被滥用的可能,但这种认识仅指向技术的一般风险,而若要达到帮助信息网络犯罪活动罪所要求的明知,则需其与提供帮助所支持的犯罪活动相联系。对于故意犯罪,若将“应当预见风险”直接等同于“明知他人利用信息网络实施犯罪”,便会以技术风险的可预见性替代对犯罪故意的具体审查。由此可见,对生成机制的技术性认识,与对他人利用技术实施犯罪的事实性认识,应予分别判断。
在此基础上,对犯罪事实的认识也不宜被理解为对犯罪全部细节的准确掌握。《意见》明确,对信息网络犯罪行为类型认识有误,不影响明知认定。此外,还应进一步区分犯罪事实认识与违法性认识。提供者是否知道某种帮助会被评价为帮助信息网络犯罪活动罪,与其是否知道用户正在利用服务实施犯罪,属于不同问题,也即不熟悉具体罪名,不等于缺乏犯罪事实认识。实践中,应当关注行为人是否已经认识到其服务正在为他人的信息网络犯罪提供帮助,无须一概要求其知悉被害人身份、犯罪时间及具体数额。例如,使用者要求针对特定身份制作冒充素材,沟通内容涉及套取个人敏感信息、骗取转账,提供者仍持续调试并指导使用,即使其不知道最终受骗人是谁,也不能仅以不知具体案情为由否定明知。相反,技术只具有被用于犯罪的抽象可能,缺乏联结技术服务与犯罪活动的信息,不宜直接作出“明知”的判断。
按照认识形成时间划定归责范围
一个提供深度合成服务的项目或产品,从其诞生到运行,可能先后经历模型开发、服务上线、用户调用和持续维护等多个阶段,在此期间,技术提供者的认识也会随之变化。同一提供者在初次交付时不知犯罪用途,后续也可能因用户反馈、监管告知等获得明确线索,对此,判断刑事责任,应将认识形成时间与帮助行为发生时间对应,区分已经完成的交付行为和之后继续实施的支持行为。对于交付后才获知犯罪用途的情形,交付后的认识不能自动回溯为交付时的明知,而应进一步查明订单、告知、更新及收费记录等发生的时间,以此确定主观认识与客观帮助在哪一阶段发生重合。行为人在获知情况后是否继续提供接口、算力、版本更新或针对性指导等,可帮助判断其行为是否实际支持了相关犯罪。反之,若行为人在接受订单时已了解犯罪目的,后续仅以未直接接触被害人为由否认明知,亦不能当然排除其责任。
此外,对于停止支持但未采取阻断措施的情形,还须进一步探究不作为责任的规范依据、履行可能性及其与犯罪的联系,不能将所有未能阻止用户犯罪的情形都评价为帮助。平台的安全管理责任与帮助信息网络犯罪活动罪的成立条件各有要求,相关义务违反应分别审查,不能直接将应承担安全管理责任的行为界定为帮信行为。行为人能够控制所提供技术服务的哪些环节,也应具体判断:仅参与早期研发、已无运营权限的人员,与能够决定持续供给技术服务的经营管理人员,其行为及责任基础不能混同。
结合服务功能与交易过程审查主观状态
实践中,行为人的主观状态还可以通过客观事实加以证明。2019年“两高”《关于办理非法利用信息网络、帮助信息网络犯罪活动等刑事案件适用法律若干问题的解释》列举了经监管部门告知后仍实施有关行为、接到举报后不履行法定管理职责、交易价格或者方式明显异常等可以认定为明知的情形,并明确有相反证据的除外。在认定具体罪名的另一个侧面,对于已深度参与具体网络犯罪的情形,也应进一步审查是否构成关联犯罪的共犯,不能仅因其提供的是技术帮助便限定于帮助信息网络犯罪活动罪评价。基于此,针对深度合成服务,应结合技术功能和服务过程综合判断,避免根据表面特征作机械判断。
首先,应当审查技术功能与用户需求的对应关系。深度合成服务所提供的通用换脸功能、实时拟声能力及较高的合成逼真度,本身并不能证明犯罪用途,需查明服务的相关功能是面向不特定用户提供,还是围绕已经显露的犯罪需求作专门改造,技术提供者仅交付通用工具,还是参与冒充对象选择、欺骗脚本设计及使用效果测试。对于具有多重用途的程序,不能仅凭办案机关发现其被用于犯罪,倒推其在开发时就专门服务于犯罪。功能定制的内容及其形成过程,比单纯的技术先进程度更具证明价值。
其次,应当审查沟通内容与获利方式。聊天记录、订单要求、接口调用记录和售后指导,可以共同反映技术提供者对用途的了解。例如交易价格明显异常,可能支持对主观上“明知”的判断,但技术开发成本、授权范围和定制难度等要素也会影响价格,为此,应结合具体案情明确异常之所在。如果技术提供者根据诈骗效果收取费用,反复协助用户解决冒充过程中的障碍,相关事实便比单纯的高额收费具有更强的指向性;反之,则不能将合法服务的高利润、频繁调用或跨境交易一概解释为犯罪明知。
再次,审查风险信息的到达与后续反应。对监管告知、举报及平台警示,应核实其具体内容、送达对象与对应的服务账号,一般性的行业风险提示,与指明某一账号、订单或用途的犯罪线索,在证明力上存在差别。例如,收到具体线索后仍继续针对性提供技术支持,或者协助转移账号、隐匿调用记录,便能够加强对“明知”的判断。对于企业提供的服务,还应查明线索由谁接收、向谁报告、由谁决定继续履约,不能把组织内某一人员掌握的信息当然归属于全部技术人员。
最后,应重视相反证据的审查。在以间接证据认定“明知”的情况下,应同时审查支持与否定该结论的事实。用户隐瞒用途的记录、合理的身份核验措施、接获线索后的调查和限制服务情况,以及技术提供者实际可见的数据范围,均可能影响判断。合规措施是否真实运行、是否覆盖涉案服务,应通过后台记录与具体处置情况核实。仅凭服务协议中的禁止违法条款,不能当然排除明知,同样,出现审核漏洞,也不能直接证明行为人具有故意。如果行为人提出合乎情理、能够核查的解释,办案机关应调查其真实性,并结合全案证据判断是否仍存在合理怀疑;对未作供述或无法完整解释技术细节的行为人,亦不能因此要求其承担证明自身不具有犯罪明知的责任。认定意见应当具体说明已掌握的基础事实、据此推定明知的理由,以及为何不能采纳相关辩解,使专业技术背景下的主观判断保持可检验性。
(作者分别为华东政法大学刑事法学院院长、教授、博士生导师,华东政法大学刑法学博士研究生)
北京正义网络传媒有限公司 版权所有
未经授权 严禁转载
京ICP备13018232号-3 | 互联网新闻信息服务许可证10120230016 | 增值电信业务经营许可证京B2-20203552许可证 | 信息网络传播视听节目许可证0110425 | 广播电视节目制作经营许可证(京)字第10541号许可证 | 网络出版服务许可证(京)字第181号 | 出版物经营许可证京零字第220018号许可证 | 京公网安备11010702000076号 | 网站违法和不良信息举报电话:010-8642 3089