阅读(4414) 来源:环球时报
导读:" 中国的兄弟姐妹你们好,我是俄罗斯娜娜。"最近,一个名为 @俄罗斯娜娜 的账号忽然走红抖音网络。视频中,一个长着 " 俄式假脸 " 的人,操着蹩脚的 " 俄式中文 ",时而唱歌,时而做 " 科普 ",在抖音上积累下近 200 万粉丝。由于其脸孔怪异,有...
" 中国的兄弟姐妹你们好,我是俄罗斯娜娜。"
最近,一个名为 @俄罗斯娜娜 的账号忽然走红抖音网络。视频中,一个长着 " 俄式假脸 " 的人,操着蹩脚的 " 俄式中文 ",时而唱歌,时而做 " 科普 ",在抖音上积累下近 200 万粉丝。
由于其脸孔怪异,有用户不禁在评论区质疑此人性别、国籍的真实性,但更多人是在 " 追捧 "。4 月 1 日晚,抖音官方发布《关于打击仿冒帐号等黑产行为的处理公告》,指出包括 @俄罗斯娜娜 在内的 4 个账号存在滥用平台道具、仿冒虚假人设的情况,将对其进行无限期封禁的处罚。
对于公告中所说的 " 滥用平台道具 ",有人认为是 "AI 换脸 ",即通过人工智能技术将别人的脸替换到自己身上。也有人指出,这可能是抖音自带的某种可以将人的五官特征、轮廓改为外国人的特效——且该特效的使用基本是 0 门槛,使用目的也缺乏规则和监管。
而这种通过技术手段造假 " 人脸 ",造假 " 身份 ",蹭网络热度的情况,全世界其实都屡见不鲜。上个月,还有人通过类似技术使得乌克兰总统泽连斯基发布 " 投降宣言 "、俄罗斯总统普京发表 " 和平宣言 "……
" 通过技术手段换脸 ",这个以前听来天方夜谭的技术,如今已经变得常见。
最近热播的刑侦局《猎罪图鉴》中,男主的恩师就因接到儿子借钱的求助视频,把自己的养老积蓄全都转了过去。在发现自己被骗后,老两口选择投海自杀。
随后,男主在和恩师儿子的沟通中发现,这则视频的说话方式、脸部肌肉趋势都与本人有所不同,连光线都是伪造的。
原来,这又是一起用以诈骗的 "AI 换脸 " 视频,背后则是一个长期通过类似技术手段骗取老人钱财的犯罪团伙。
现在,剧情走进了现实。
这个 @俄罗斯娜娜 的账号视频中,名为娜娜的 " 女人 " 拥有棕色的长发、蓝绿色的眼睛和一口 " 烈焰红唇 "。她动不动就操着蹩脚的外国腔调说 " 中国的兄弟姐妹你们好 ",讲解一些道听途说的 " 俄罗斯常识 ",要么就为观众 " 高歌一曲 ",且是假唱 ……
由于抖音上的 @俄罗斯娜娜 已经被封,用户们的发言也难以找到。但在 b 站上,还留存着她的歌声,和满屏真情实感的 " 好好听 " 弹幕。
评论区曾有用户质疑," 娜娜 " 画面怪异,五官模糊,可能是 AI 换脸,趁着最近俄罗斯热度高在 " 蹭流量 "。也有人表示,抖音有一些如下图所示的 " 外国人 " 特效或者滤镜," 俄罗斯娜娜 " 可能也是通过这些特效改变了五官特征,伪装成外国人。但在大量的称赞里,这些质疑声基本很快就被淹没了 ……
靠着这些手段," 俄罗斯娜娜 " 在抖音上积攒了近 200 万粉丝,在 b 站上也存在浏览量破 5 万的视频。
抖音表示,仿冒账号是黑产团伙常用的作弊手段,行为违反了抖音平台相关公约,进行诈骗更是涉嫌触犯国家相关法律法规。抖音坚决打击各类黑产行为。
为此,抖音安全中心对包括 " 俄 *** 娜 "、" 俄 **** 莎 "、" 罗 **** 娜 "、"*** 娜娜 " 在内的 4 个帐号予以无限期封禁的处罚。
目前,尚无官方消息确认 " 俄罗斯娜娜 " 的真实身份。
这种 " 改脸 / 换脸技术 " 对于年轻人来说,可能还有辨别的可能;但对于一些中老年人而言,或许真的很难识破。这也造成了本文开头,老年人被骗尽养老钱的悲惨剧情。
目前,通过技术手段造假 " 人脸 ",造假 " 身份 " 的情况,已经出现在了世界各地。像 " 俄罗斯娜娜 " 这种造个假人设、骗点关注和广告的还算 " 收敛 "。更有甚者,直接伪造政界名流,致力于伪造出假的 " 大新闻 "。
据英国广播公司(BBC)3 月 18 日报道,俄乌冲突期间,网上出现了不少 " 假总统 "。先是乌克兰总统泽连斯基在一段视频中发表了号召乌克兰 " 投降 " 的讲话 ……
而后,又出现一段普京宣布和平的视频 …… 这两段视频随后被证实都是用 "AI 换脸 " 伪造的。
根据彭博社发布的一段视频,早在三年前,这项技术就已经发展到可以把一个人的表情、口型完全复刻到另一个人脸上。
两年前,这项技术已经发展得相当成熟。在开源社区网站 GitHub 上,有一个项目,就可以把自己的脸替换成别人的脸,并且是实时的。
也就是说,你可以直接把自己的脸换成马斯克的脸,去和别人开在线会议 ……
技术无罪,有时甚至只是出于毫无恶意的 " 好玩 "。
但当它被 " 娜娜 " 们掌握时,如何管理和使用,则将成为 "AI" 即将到来的时代里,一个经久不衰的话题。