读端丨数十元复刻任意人声？ 刘海明：反思AI声音克隆乱象，底线伦理不能被批量删除

文 | 刘海明

今年5月，知名音乐人高晓松，再次就AI合成声音冒充他本人一事发布声明，重申自己并未营业，正过着“渔樵耕读清闲度日”的日子，提醒大家不要上当受骗。这也是他2026年以来发布的第二个辟谣声明。

不止高晓松，跳水运动员全红婵、太乙真人配音演员张珈铭等知名人士，同样深受AI声音克隆侵权的困扰。

随着技术的进步，AI声音克隆日益泛滥。它不仅能生成逼真的声音，还能模仿人的各种情绪变化。而侵权成本低、举证难度大、维权成本高，让许多人选择息事宁人。

所有的新生事物在带给人类惊喜的同时，也伴随着某些烦恼。AI合成声音技术，就是喜忧参半的新样板。

AI合成声音，技术手段让一个人的声音可以“分身有术”，也带来声纹被盗取的新问题。这样的烦恼，不仅困扰着知名人士，就连普通人也不敢轻敌，说不定哪天自己的声音被用来行骗。

记者调查AI声音克隆乱象，把事实摆出来相对容易。面对乱象该如何反思，难度反而大了。记者更多从法律保护的角度进行采访，答案并不乐观。利用AI合成声音技术模仿名人，这是直觉都可以判断违法的事情。明知不合法，为什么还要违法，这才是反思的重点。

AI声音克隆变成公开吆喝的买卖，只能说底线伦理被“批量删除”了。

俗话说，一物降一物，卤水点豆腐。研制AI合成声音技术，应该同时配套反克隆声音的技术，技术研发者同时配制“毒药”与“解毒剂”，让AI合成声音既造福社会，也防止技术的滥用。这样的技术“对冲”，坚持了技术向善的原则，捍卫了技术研发的底线伦理。假如只研发AI合成声音技术，没有或者不能同步提供反合成声音技术，匆忙的技术应用，实质上把底线伦理给批量删除了。

AI声音克隆乱象的出现，被批量删除的底线伦理不仅仅是技术研发方的，也包括AI社会治理方面的。从记者的调查可知，AI声音克隆的销售全部在线上，记者按图索骥找不到任何店家，这样的卖家全部处于无迹可寻的状态。如果平台在允许这类商家注册前，事先提供合法经营的资质；如果市场监督部门主动要求平台做到审核义务，也许，仍有商家兜售AI声音克隆生意，总不至于对违法者无计可施了。正因为管理上的底线伦理被批量删除，高晓松们才不得不多次辟谣自己没说过哪些话。

社会越发展，社会应该越文明。文明从来不是馈赠之物，而是每个时代合力缔造之物。AI时代，让AI发挥助推社会进步的力量，限制AI作恶的功能，需要技术研发者和AI技术应用管理方坚守底线伦理。监管到位了，伦理自觉了，有人想删除底线伦理又谈何容易呢！

 （作者刘海明系重庆大学新闻学院教授、博士生导师）

原稿：

 反思AI声音克隆乱象，底线伦理不能被批量删除

刘海明

所有的新生事物在带给人类惊喜的同时，也伴随着某些烦恼。AI合成声音技术，就是喜忧参半的新样板。

今年5月，高晓松，再次就AI合成声音冒充他本人一事发布声明。跳水运动员全红婵等知名人士，同样深受AI声音克隆侵权的困扰。近日，记者暗访AI声音克隆乱象，揭露“偷声术”的同时，也提醒更多人注意保护自己的专属声音。（潮新闻6月4日报道）

AI合成声音，技术手段让一个人的声音可以“分身有术”，也带来声纹被盗取的新问题。这样的烦恼，不仅困扰着知名人士，就连普通人也不敢轻敌，说不定哪天自己的声音被用来行骗。

记者调查AI声音克隆乱象，把事实摆出来相对容易。面对乱象该如何反思，难度反而大了。记者更多从法律保护的角度进行采访，答案并不乐观。利用AI合成声音技术模仿名人，这是直觉都可以判断违法的事情。明知不合法，为什么还要违法，这才是反思的重点。

AI声音克隆变成公开吆喝的买卖，只能说底线伦理被“批量删除”了。

俗话说，一物降一物，卤水点豆腐。研制AI合成声音技术，应该同时配套反克隆声音的技术，技术研发者同时配制“毒药”与“解毒剂”，让AI合成声音既造福社会，也防止技术的滥用。这样的技术“对冲”，坚持了技术向善的原则，捍卫了技术研发的底线伦理。假如只研发AI合成声音技术，没有或者不能同步提供反合成声音技术，匆忙的技术应用，实质上把底线伦理给批量删除了。

AI声音克隆乱象的出现，被批量删除的底线伦理不仅仅是技术研发方的，也包括AI社会治理方面的。从记者的调查可知，AI声音克隆的销售全部在线上，记者按图索骥找不到任何店家，这样的卖家全部处于无迹可寻的状态。如果平台在允许这类商家注册前，事先提供合法经营的资质；如果市场监督部门主动要求平台做到审核义务，也许，仍有商家兜售AI声音克隆生意，总不至于对违法者无计可施了。正因为管理上的底线伦理被批量删除，高晓松们才不得不多次辟谣自己没说过哪些话。

社会越发展，社会应该越文明。文明从来不是馈赠之物，而是每个时代合力缔造之物。AI时代，让AI发挥助推社会进步的力量，限制AI作恶的功能，需要技术研发者和AI技术应用管理方坚守底线伦理。监管到位了，伦理自觉了，有人想删除底线伦理又谈何容易呢！

https://tidenews.com.cn/news.html?id=3463221&from_channel=63e60cad5476b20001d52d62&top_id=3463254&source=weixin

来源：潮新闻

链接：https://tidenews.com.cn/news.html?id=3463416

编辑:赵牧云