广电1802 陈娜 5120187386

陈娜

1.ZAO背后AI技术的风险

8月30日，AI换脸软件ZAO上线并迅速刷屏。但仅发布第二天，它就因安全性遭到许多网友的质疑。面对接踵而至的舆论风波，ZAO官方进行了修改用户协议、发表致歉声明二部曲。但9月3日ZAO仍被监管层约谈整改并上传新用户协议。（9月4日，新京报)

从2017年网友“深度伪造”（deepfakes）在美国Reddit论坛上传第一段AI换脸视频以来，就迎来了其曲折的前进道路。虽备受打击与质疑，但AI换脸技术却从未曾淡出人们的视野。不论是今年年初的《射雕英雄传》中黄蓉扮演者朱茵AI换脸杨幂，还是后来居上的《回家的诱惑》中男一洪世贤换脸女二艾莉，AI换脸技术的每一次回归都会引起不小的风波。

有需求才会有市场，这需求源自人们对于AI换脸技术从未停歇的热情。AI换脸技术的吸引力从ZAO的宣传语上就可见一斑。“仅需一张照片，出演天下好戏”，ZAO让许多人的明星梦找到了出口，一键换脸，与偶像同台飙戏不再是遥不可及的梦想。同时，一键换脸也让许多“戏精”有了一个展示自己的舞台。

换脸一时爽，信息泄露火葬场。一方面，肖像易被他人利用。也许在某天，有了面部图像，通过技术合成，犯罪分子就可以替你和家人通话。脸书创始人扎克伯格就曾惨遭“换脸”。2019年6月12日，一段扎克伯格谈论大数据以及网络隐私的视频被疯狂传播。后经证实该视频截自扎克伯格17年发表的一则演说视频，后经AI换脸配音合成。AI换脸的应用何止于“仅供娱乐”。2018年4月，奥巴马的脸也被人利用，并制作视频攻击现任美国总统特朗普。为了避免AI换脸技术为2020年美国总统大选带来不可控风险。2019年6月，美国众议员对深度伪造正式召开听证会，敦促科技公司要在2020年美国总统大选之前制定出政策。另一方面，AI换脸技术还有可能被不法分子用作，支付验证等。即使现阶段面部认证还很难突破，但在技术的博弈中没有人知道最后赢家会是谁。

人工智能外加用户生物特征，这些都使得AI换脸技术难以操控。虽说技术本身是没有错误的，关键在于使用者如何将其利用，但AI换脸背后隐藏的风险使人们不得不高度警惕。在人类还不能很好的把握该技术应用方向之前，进一步的管理以及监管都是非常有必要的。为新技术狂欢的同时，也不应放松对个人信息安全的保护。