读端丨当你遇到AI整蛊是哭还是笑？刘海明：让AI造福人类而非制造恐慌的 “中性之物”

有网友用AI制作“流浪汉闯入餐厅后厨”，老板吓到喊来保安；有人合成“同事电脑被流浪汉占用”视频，把当事人急哭；还有人为博取关注使用AI生成了“女儿被人抱走”的“寻人启事”并发布到社交平台，最终被行政拘留……

如今，AI换脸、语音合成等技术触手可及，也让制造虚假信息变得轻而易举。试想，若下一次真有危险发生，人们是否会因“狼来了”而迟疑？

所以，AI整蛊的边界在哪里？

社交平台搜索截图

详情点击>>>

我们都同时生活在两个不同的世界里：一个是现实的世界，一个是虚拟的世界。传统的虚拟世界主要是艺术的世界，包括文学读物和影视作品虚构的世界。在这样的虚拟世界里，人们沉浸其中，不论是为之流泪还是为之自豪，证明的是作品的成功。随着这样的情感体验结束，重返现实世界并不会因此影响他们正常的工作和生活。

AI自动生成视频程序的问世，许多人尝试根据个人兴趣生成想要的奇特场面，这样虚构出来的场面真假难辨，由于混淆现实世界和虚拟世界的边界，制造混乱就不奇怪了。比如新闻中那个家庭主妇对丈夫晚归稍有不满，就指示AI制作“流浪汉闯入家中、女儿被人抱走”的恐怖场景，吓得这位丈夫报警求助。

天下本无事，AI自动生成视频技术被别有用心的人利用，以假乱真的AI视频就成了戏弄人或者报复人的“武器”。这样的恶作剧视频不但扰乱受害者的生活，还扰乱了社会秩序。面对这样的恶作剧，有人把目光投向新出台的规定，有人提议通过“AI生成”的显式标识和隐式标识，让AI视频的整蛊（恶作剧）不能继续兴风作浪。

俗话说，解铃还须系铃人。AI自动生成视频，原本是扩大人工智能应用的新场景。负责任的技术必须在技术面向社会敞开服务前，充分评估技术应用中的各种风险，预见这些风险对社会的危害。现在，舆论将AI自动生成视频技术这只“球”抛给了平台，显然有点为难了平台。用户体验这种技术带来的乐趣，也在刺激着他们的报复欲，遇到点鸡毛蒜皮的小事，就可能用这类视频来“修理”人。面对AI视频恶作剧惹的祸，把这样的问题留给平台，未免把问题想得过于简单了。人性的复杂决定了技术应用动机的复杂，人们不会轻易限制自己的欲望，指望平台用户自觉不用AI自动生成视频技术并不现实。

谁抛出来的“球”谁来接住，而不是把带有伤害性的球交给别的人接住，这才是堵住AI整蛊的关键所在。拒绝提供暴力场面服务，拒绝提供任何有悖于伦理道德和法律禁止的场景生成，需由开发这类技术的公司在源头上拒绝AI自动生成这类场景。

AI属于新生事物，在新品应用过程中出现的混乱不足为奇，前提是技术公司不能推卸伦理责任，技术应用的舆情就是他们技术限制和技术完善的指挥棒。这样，AI才能真正造福人类，而不是让人欢喜让人忧的中性之物。

海报由AI共同生成

原稿：

AI视频恶作剧的“球”应该谁接？

刘海明

我们都同时生活在两个不同的世界里：一个是现实的世界，一个是虚拟的世界。传统的虚拟世界主要是艺术的世界，包括文学读物和影视作品虚构的世界。在这样的虚拟世界里，人们沉浸其中，不论是为之流泪还是为之自豪，证明的是作品的成功。随着这样的情感体验结束，重返现实世界并不会因此影响他们正常的工作和生活。

AI自动生成视频程序的问世，许多人尝试根据个人兴趣生成想要的奇特场面，这样虚构出来的场面真假难辨，由于混淆现实世界和虚拟世界的边界，制造混乱就不奇怪了。比如新闻中那个家庭主妇对丈夫晚归稍有不满，就指示AI制作“流浪汉闯入家中、女儿被人抱走”的恐怖场景，吓得这位丈夫报警求助。

天下本无事，AI自动生成视频技术被别有用心的人利用，以假乱真的AI视频就成了戏弄人或者报复人的“武器”。这样的的恶作剧视频不但扰乱受害者的生活，还扰乱了社会秩序。面对这样的恶作剧，有人把目光投向新出台的规定，有人提议通过“AI生成”的显式标识和隐式标识，让AI视频的整蛊（恶作剧）不能继续兴风作浪。

俗话说，解铃还须系铃人。AI自动生成视频，原本是扩大人工智能应用的新场景。负责任的技术必须在技术面向社会敞开服务前，充分评估技术应用中的各种风险，预见这些风险对社会的危害。现在，舆论将AI自动生成视频技术这只“绣球”抛给了平台，显然有点为难了平台。用户体验这种技术带来的乐趣，也在刺激着他们的报复欲，遇到点鸡毛蒜皮的小事，就可能用这类视频来“修理”人。面对AI视频恶作剧惹的祸，把这样的问题留给平台，未免把问题想得过于简单了。人性的复杂决定了技术应用动机的复杂，人们不会轻易限制自己的欲望，指望平台用户自觉不用AI自动生成视频技术并不现实。

谁跑出来的“球”谁来接住，而不是把带有伤害性的球交给别的人接住，这才是堵住AI整蛊的关键所在。拒绝提供暴力场面服务，拒绝提供任何有悖于伦理道德和法律禁止的场景生成，只能由开发这类技术的公司在源头上拒绝AI自动生成这类场景。

AI属于新生事物，在新品应用过程中出现得混乱不足为奇，前提是技术公司不能推卸伦理责任，技术应用的舆情就是他们技术限制和技术完善的指挥棒。这样，AI才能真正造福人类，而不是让人欢喜让人忧的中性之物。

https://tidenews.com.cn/news.html?id=3308491&from_channel=63e60cc814892e00016b1592&top_id=3308513&source=weixin

原网址链接：https://tidenews.com.cn/news.html?id=3308914&from_channel=63e60cc814892e00016b1592&top_id=3308932&source=weixin

编辑：张家乐