现在的视频APP特别流行换脸特效,本来是一种娱乐,没想到却被一些不法分子利用来勒索财钱。这两天,重庆市江北区的关云宇就遇到借“高中同学”名义微信视频聊天,被录屏后利用AI智能换脸合成裸聊视频勒索10万的事。
“高中同学”来电要加微信
23日凌晨2点到早上8点,关云宇(化名)的手机又收到了526条验证码短信,加上前一天的验证码短信,两天时间,他已经收到了809条这样的短信。不仅他收到了验证码短信,他的妻子在24小时内也收到了153条验证码短信。
11月21日23时,关云宇突然接到自称“高中同学”唐某飞的电话,唐在电话里说11月18日学校一百周年校庆,网络直播时在留言区看到关云宇的电话,便打电话加微信聊天。
“我们高中班上的确有一个叫唐某飞的同学,大概有10年没有联系了。”关说,11月18日学校校庆,他在网络直播留言区留下了自己的联系电话,还在留言区说“高XXXX级三班关云宇报到”。想到“高中同学”说出了这么多基本情况,关云宇没有怀疑就通过了“高中同学”的微信验证。
微信通过不久,“高中同学”发来一个公众号二维码,让关云宇扫描关注“高中同学”所在公司情况。想到是同学的公司,关云宇一扫描二维码,手机黑屏5秒钟左右就恢复正常了。
AI技术换脸合成裸聊视频
一会儿后,“高中同学”发来视频,关云宇打开视频看到同学那边的视频一片黑屏,说话也没有声音。大约10秒钟后,关云宇挂断视频想问同学,给同学打电话也无法接通,关云宇也没有在意。
30分钟后,“高中同学”从微信上发来大约10秒钟的裸聊视频,视频里的主角是关云宇,当关云宇准备保存视频时,“高中同学”却撤回了视频。
“不一会儿,我就接到高中同学电话,喊我拿10万钱删除裸聊视频,如果不拿钱就将视频用彩信发给我的亲朋好友。”关云宇说:“当我收到裸聊视频后,就知道遭了,对方肯定不是我同学,而是假冒的‘高中同学’,对方在微信里也承认是假冒同学骗我视频。这个假‘高中同学’还在微信上给我发来了被读取的手机通讯录,我一看通讯录电话号码是真的。”
关云宇说,事后回忆,假“高中同学”骗他点公众号二维码,其实是一种木马病毒,从而获取了他的通讯录信息,造成手机黑屏。而和“高中同学”视频,只看到他自己,没有看到“高中同学”,其实“高中同学”正在录制他的视频。骗子录了视频后利用AI智能换脸技术,将关云宇的脸部及上半身,和事前录制好的裸聊视频,换脸合成另一段裸聊视频,以此为要挟实施敲诈勒索。
不拿钱删视频就用骚扰短信“轰炸”
关云宇说,他直接拒绝了对方的要求,对方恼羞成怒,用虚拟的电话不停骚扰他。从22日凌晨1点起,关云宇不断收到乱七八糟网站的验证码,两天加起来一共收到809条。于是,他给移动客服打电话,拦截了所有骚扰短信。
“22日早上,我妻子接到用虚拟号码打来的电话,威胁我妻子拿钱删裸聊视频。”他说,他的妻子见对方的虚拟电话是境外电话,而且视频聊天当晚妻子就在旁边,果断挂断电话。随后,妻子的手机也收到大量验证码短信。
■解读
技术专家:APP换脸容易,但并不能用于人脸识别
孵化于中国科学院重庆研究院的云从科技公司的高级技术专家表示,云从科技就是一家专注于人脸识别、计算机视觉等的人工智能技术公司,利用AI技术换脸已是公司最基础的技术。
“抖音上很火的换脸特效,其实就是利用AI智能技术达到换脸的目的,是很简单的技术,换脸容易,这是基于deepfake技术,APP软件都可以实现。”他说,关云宇遇到的AI技术换脸合成裸聊视频,一般人简单培训就可以制作。
因此,他建议和朋友视频聊天,注意保护自己的脸部,不露脸最好。同时,他提醒大家,换脸合成视频只能骗骗人娱乐一下,并不能用于人脸识别的地方,比如银行、车站等。因为这些地方的人脸识别有活体检测的设备,大家不用担心。
律师:涉嫌非法占有为目的敲诈勒索他人财物
上海锦天城(重庆)律师事务所张剑波律师表示,这伙人利用AI技术换脸合成裸聊视频是事先预谋,以裸聊视频作为要挟的工具索要钱财,这种行为已经构成敲诈勒索罪,应当以敲诈勒索罪追究其刑事责任。根据我国刑法相关规定,敲诈勒索公私财物,数额较大或者多次敲诈勒索的,可处3年以下有期徒刑、拘役或者管制;数额巨大或者有其他严重情节的,处3年以上10年以下有期徒刑。
上游新闻·重庆商报记者 郑三波
【免责声明】上游新闻客户端未标有“来源:上游新闻-重庆晨报”或“上游新闻LOGO、水印的文字、图片、音频视频等稿件均为转载稿。如转载稿涉及版权等问题,请与上游新闻联系。