记者暗访AI声音克隆乱象后续：监管部门已介入处置

在网络购物平台，只需花几十元，就能批量克隆名人的声音。6月4日，潮新闻刊发稿件，引发了网友和相关人士的热议。

“这个要管一管啊”“看来以后要和朋友对暗号才能信了”“名人尚难自保，普通人如何设防？”，评论区里，网友议论纷纷。

暗访中，AI声音克隆网店“AIGC时代”，曾根据记者提供的演员张铁林的语音，制作了宠物餐盘的音频广告。“店铺制作的克隆音频，如果用于商品销售等用途，由市监部门负责查处。如果用于诈骗等，则需要公安机关介入处置。”6月4日下午，网店“AIGC时代”注册地所在的义乌市市场监管部门相关负责人告诉记者，他们已派人去核查该店铺，如果查实该网店存在不在登记地址经营的情况，将把店铺列入异常经营名录。市场监管部门也会督促平台履责，对违法网店采取相应处罚措施。

针对网上相关店铺提供AI声音克隆服务情况，淘宝官方客服则回复记者说，他们已经注意到了这个现象。平台设有专门的部门，对卖家合规性进行定期检查，一旦确认有卖家提供非法的AI克隆声音或相关违法软件，将会对此类行为进行严肃处理，并对相关商品做出下架扣分甚至关店等处罚，保障平台用户信息安全。

记者追踪调查发现，一些头部平台已开始主动加设门槛。例如，剪映等主流视音频处理软件，今年初已对AI克隆声音功能，增设了实质性的审核环节：用户若想复刻某个声音，必须由该声音的本人现场读出系统给出的条款文字，经核验匹配后方可生成。

“平台，才是治理的关键一环。”AI治理专著《人工智能的新衣》作者、浙江大学科技与法律研究中心研究员郭喨也认为，确权、模型备案、音频水印等举措都有意义，但最关键的是压实平台责任。“不要让受害者去证明‘我妈是我妈’，要让潜在获益者去证明。”他建议，可以要求平台设置“声音非法使用预赔付金”，责任明确后由受害者直接向平台索赔，平台再追责具体商户。

AI声音克隆技术已经对配音行业带来冲击。江西九江一家配音公司工作人员告诉记者，AI声音克隆技术的出现，对公司的业务已造成一定影响。“主要是中低端的客户量少了。但是高端客户的一些需求，如广告和情感旁白，大家还是更倾向于用真人配音。”

这名工作人员补充道，他们对外都会提前说明，公司的声音是不能够拿去克隆的。一经发现也会追责。不过也坦言这个过程确实会很麻烦。他们期待未来能够有更完善的技术手段和法律法规来监管。

“现在，语音合成，已经和文字、图片生成一样简单、易操作。也有假冒别人声音用于诈骗犯罪的。”台州市公安局科技信息化支队副支队长翁燕敏说，为确保技术用于正道，一方面要加强对违法犯罪行为的打击。同时，市民也要加强自我防范，特别是在大额转账中，更要多次核对。

翁燕敏曾作为基层民警代表，受邀参与伪造人像方面国家标准的撰写工作，推动伪造人像作为司法采信证据，帮助公安司法部门更有力打击这类新型犯罪。“针对伪造声音，也可以考虑出台相关标准。”他说。

记者 陈久忍 徐惠文 金鹏