“蚂蚁呀嘿,蚂蚁呀呼,蚂蚁呀吼,蚂蚁呀哈哈......"最近一周,在各大社交平台上,许多人都被这款变脸特效视频刷屏了,夸张扭动的表情配上魔性的音乐,十分上头。特效的玩法也非常简单,只要上传一张照片,照片上的人便可扭脖子瞪眼地唱上一首“蚂蚁呀嘿”。
这款名为Avatarify,火爆全网的AI换脸软件从2月底冲上苹果App Store免费榜第一,到3月2日凌晨从App Store中国区悄然“下架”,只用了不到一周的时间。目前官方未给出具体下架原因,业界猜测该款软件可能涉及隐私安全等问题。
“蚂蚁呀嘿”霸屏
最近,在短视频社交平台上,“蚂蚁呀嘿”的特效火了。许多网友都将自己的照片导入一款“变脸”软件中,照片会被算法驱动,变成一段跟着节奏晃动的视频。
资料显示,该特效的制作软件叫Avatarify,它是一款摄影与录像类别的变脸应用,服务器设在国外。东方网报道称,Avatarify的创作者是一位开发工程师,名称来源于“阿凡达”电影。
据东方网,移动应用数据分析平台七脉数据显示,2月25日0点,Avatarify在中国区App Store的免费App榜单仅排名第65,而到了3月1日,该软件已冲上苹果App Store免费榜第一。
截至直到3月5日,抖音#蚂蚁呀嘿#相关话题播放总量已超29亿次,特效被 785 万人使用。
网友们玩得不亦乐乎,不仅自己亲自上场,影视剧角色、名人名星,甚至小猫小狗也都被“玩坏了”,一个个都也伴随着魔性的音乐都唱起了“蚂蚁呀嘿”。
网友的图片素材五花八门,甚至还有用身份证照片进行制作上传。从身份证上的信息来看,视频话题下还包括一些年龄在10岁以下儿童的“蚂蚁呀嘿”。
换脸软件Avatarify悄然下架
就在一众网友玩的兴起的时候,3月2日凌晨,AI换脸软件Avatarify却从App Store中国区悄然“下架”。目前官方未给出具体下架原因,业界猜测该款软件可能涉及隐私安全等问题。
从爆红到凉凉,“蚂蚁呀嘿”只用了几天时间。但目前在App Store上,还有一批“蚂蚁呀嘿同款特效”的App。
“让你变成任何你想成为的人”“恶搞老板和同事”“让宠物开口说话”……这是换脸软件Avatarify在苹果APP Store的介绍。实际上,在“蚂蚁呀嘿”爆火后,就有律师提醒,消费者委托他人制作视频,应考虑到隐私泄露和可能面临的风险,私自将名人头像做成动画视频,并发布传播,会涉及侵犯名人的肖像权。
不仅如此,“蚂蚁呀嘿”这样的特效,还存在极大的安全风险。 据央视新闻消息,“变脸”软件还可以通过操纵一张图片,让它做出某些动作来,可以用于攻击人脸识别系统的各种场景当中。
不久前,由清华大学孵化的一个从事人工智能安全研究的团队,向记者演示了这项技术所存在的安全漏洞。研究员表示:“我们可以生成系统指定的这些张嘴、点头、摇头之类的指定动作,然后最终我们就可以冒充这个人,完成人脸认证的环节。”
也就是说,我们只需要这个人的一张照片,就可以冒充他攻破这个系统。技术人员用这样一种方式将市面上共19款运用人脸识别技术解锁屏幕的手机逐一击破!不仅如此,一些常用的人脸识别门禁系统、考勤打卡系统也存在相似的安全漏洞。
AI换脸安全争议不可回避
早在2019年,一款名为“ZAO”的换脸社交软件在朋友圈刷屏,这款由陌陌开发的App,用户只需要一张正脸照,就可以替换影视作品或者小视频中的人物,生成以自己为主角的视频片段。
不过,这项技术在带来创新体验的同时,也存在被滥用甚至侵害他人权益等额外风险,这也是Avatarify和ZAO引发质疑的共同原因。虽然ZAO曾发布声明称,没有采集任何个人生物识别特征、不会存储个人面部生物识别特征信息、使用ZAO不会产生支付风险等,但依然无法打消用户的疑虑,并引起了有关部门的关注。
用户的个人信息安全问题也引起了有关部门的重视。早在2019年11月底,国家网信办、文旅部和广电总局三个部门就联合发布了《网络音视频信息服务管理规定》,其中明确了“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的应当及时采取相应的辟谣措施”等针对换脸技术的新规定。
其中第十一条指出,基于deepfake技术制作的换脸视频“应当以显著方式予以标识”,且不得利用该技术“制作、发布、传播虚假新闻信息”。此外,规定还强调,不得利用相关的音视频技术“侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益”。
近年来,围绕人脸识别的争议不断。由全国信息安全标准化技术委员会等机构发布的《人脸识别应用公众调研报告(2020)》显示,有九成以上的受访者使用过人脸识别,有六成受访者认为人脸识别技术有滥用趋势,还有三成受访者称已经因为人脸信息被泄露和滥用而遭受到隐私或财产损失。
在近日召开的全国政协十三届四次会议新闻发布会上,大会新闻发言人郭卫民也表示,个人信息保护法草案已经提请全国人大常委会审议,对保护个人信息安全将发挥重要作用。
要守住娱乐和安全的边界
下架并非排除AI技术隐患的最优解。在各大应用商店里,目前仍存在一批 “蚂蚁呀嘿”同款特效App,在电商平台上,各类同款换脸特效制作服务普遍且廉价,最低单人照片只收取5元的制作费用。
对此,红网发表评论文章称,隐私泄露的风险从未消失,因而,仅下架一个App是不够的,还要警惕其他的各种换脸软件。作为软件与用户的连接者,应用平台对产品内容具有监督和管理的责任,在相关软件上架、推广时,要考量其对用户可能造成的侵害,加强审核和监管,明确权责问题,守住安全底线,绝不能把利益作为工作导向。
人脸识别技术是一把双刃剑,错的并不是技术本身。“刷脸购物”“刷脸坐地铁”“刷脸打卡”等,人脸识别技术,使人们的生活变得高效快捷,在各个领域也发挥着巨大的作用,比如帮助警方抓捕犯人、提高办公效率等。然而,一旦被泛滥应用,就会为公民个人信息泄露留下严重的安全隐患。在人脸识别过程中,人脸会以数字化信息进行储存,一旦保护力度不够,相关数据库就会面临着被攻击的危险,倘若有人故意借此收集人脸信息,人们往往也防不胜防。
在享受“数字化”时代便利的同时,更要善用技术,守住娱乐和安全的边界。人脸信息如何安全保管、合理使用,需要相关部门进一步完善数据管理、应用和流动等方面的法律制度,同时,人脸识别技术人员也应明确自身权责,从技术、制度等层面制定合理完善的保护机制,保障用户信息安全,守住法律底线。用户对于面部信息的使用也应当更加谨慎,主动辨别服务的规范程度,确保个人信息不被过度收集。
综合自央视新闻、东方网、北京日报、每日经济新闻、红网、证券时报等
【免责声明】上游新闻客户端未标有“来源：上游新闻-重庆晨报”或“上游新闻LOGO、水印的文字、图片、音频视频等稿件均为转载稿。如转载稿涉及版权等问题，请与上游新闻联系。
