中华人民共和国最高人民检察院主管 检察日报社主办
    
莫让人工智能“偷声”击穿社会信任
时间: 2026-09-10 11:08   作者:姚湜  
新闻来源:新华社微信公众号

  只需十几秒的语音素材,就能精准复刻一个人的声线、模拟其情绪语气,生成任意话术。随着人工智能(AI)“克隆”声音技术不断迭代,并伴随社交平台走入日常生活,一些AI“偷声”滥用现象也不断出现,不仅暴露多重安全问题,甚至还成了诈骗的新方式,给社会治理带来新挑战。

  声音是独属于每个人的“听觉身份证”,承载着专属身份属性与人格权益。然而当前部分个人声线未经许可被抓取训练成AI语音包,在短视频、带货广告中肆意商用,甚至被明码倒卖,导致人格权益遭受侵害。线下电信诈骗手段更借AI仿声不断“更新”。不法分子复刻、模仿子女和晚辈音色,编造车祸、急需医药费等紧急说辞,一些老人听见熟悉的声音便慌了神,来不及核实就转出养老积蓄。

  乱象丛生的核心症结,在于AI“偷声”侵权成本低廉,维权却困难重重。记者在部分网络购物及二手交易平台上,搜到大批AI克隆软件安装包购买以及声音替换、定制音色服务,价格从十几元到几百元不等,部分店铺交易记录多达上千次。从购买者的使用评价看,这些软件操作简单,不仅可以克隆普通人说话,还能将声音逼真地转为名人和著名角色的声音。

  更为重要的是,被侵权后,大部分时候受害人只能靠自己或朋友偶然发现。由于传播路径复杂,侵权音频常经多次剪辑、跨平台转载,技术链条又涉及数据提供方、模型开发者、平台运营方等多方角色,该起诉谁、如何取证,对受害人而言都有很大难度。

  技术不能野蛮生长,个人声音不能被当成免费工具。当语音真假难辨,社会信任也将受到严重侵蚀。平台应升级音频鉴伪系统,清理非法售卖声模的交易;司法层面需细化声音权益认定标准,提高侵权、诈骗违法成本;监管方面需要求AI训练平台对数据来源进行合规审查,内容分发平台建立快速响应的侵权投诉处理机制。多方携手为AI应用划定明确的规范边界,才能确保技术以人为本、智能向善。

[责任编辑:杨晓]
更多热点速报、权威资讯、深度分析尽在检察日报App
网聚正义端看世间
扫描二维码下载客户端
如遇作品内容、版权等问题,请在相关文章刊发之日起30日内与本网联系,版权侵权联系电话:010-86423033
中检报业
品牌推荐区