封面深镜|防不胜防的“AI换脸+AI拟声”:分辨难度堪比“真假美猴王”

封面区块链 该文章已上链 >

封面新闻 2023-05-25 15:04 242261

封面新闻记者 边雪

一秒改变容貌,作为川剧最为知名的表演特技之一,“变脸”也在AI的浪潮下,也开始实现技术迭代了。

在直播间、短视频里,主播时而像迪丽热巴、时而像易烊千玺,你能点出的明星名字,不论男女老幼,充当明星带货的主播,都能通过以手遮脸后在屏幕之后帮你实现。

视频AI换脸技术,是指通过人工智能大数据技术,根据用户需求,通过技术手段将视频中某个人物的脸替换成另一个人的脸。当前,AI换脸技术已经广泛应用于短视频、广告、电影等领域,带来了不少的创意效果。

明星遭AI换脸。图源网络

但是,这一技术也被一些不法分子用于违法犯罪活动,即AI换脸诈骗。当“AI换脸+AI拟声”,分辨难度如同让你对着屏幕,看着“真假美猴王”分辨谁是真的孙大圣。





“AI诈骗正在爆发”冲上微博热搜

据“平安包头”微信公众号消息,近日,包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件,福州市某科技公司法定代表人郭先生10分钟内被骗430万元 ,随后话题#AI诈骗正在爆发#冲上微博热搜。

已经对公共利益构成威胁的AI变脸,到底是怎么进行诈骗的?

具体来说,不法分子会利用AI换脸技术制作虚假的视频或图片,以此进行诈骗活动。比如,通过将某个政治人物或名人的脸替换到色情影片中,制作虚假事件,或者通过将受害者的脸替换到一些不雅或违法视频中,以此进行敲诈勒索。这些诈骗行为不仅侵犯了受害者的个人隐私和合法权益,还可能对其造成巨大的精神伤害和财产损失。

实际上,AI诈骗此前也在我国发生过多起案件。据封面新闻记者此前调查报道,浙江温州公安曾发布消息,2021年拱宸桥派出所接到报警,受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。经警方调查,对方利用AI换脸技术,将小陈视频中的面部合成到不雅视频中,借此对其实施勒索。

2020年,上海某公司高管因对方使用AI换脸与人工生成的语音技术制作公司领导的面孔,并要该高管转账,致使该高管被诈骗150万元。

“用户利用AI换脸技术伪装,导致被伪装人的肖像权等权利被侵权,或导致其他人的感情和财产大量受损时,平台在未尽到合理审核义务、未有效规制该类行为发生的情况下,需要承担一定的帮助侵权,甚至直接侵权法律责任。”泰和泰律师事务所律师刘青告诉封面新闻记者,但是,除非平台故意为之或协助诈骗人进行诈骗行为,否则很难认定平台构成诈骗罪。

“用户在使用AI技术介入的软件或互联网产品时,一方面应当注意勿恶意利用AI技术进行不法行为,另一方面也应注意识别、核对交流方的真实身份,切勿轻信表象,在需要转账或花销采购时谨慎考虑。”刘青指出,若民众遭遇诈骗应当第一时间报警寻求警方的帮助,注意保留相关材料以供警方尽快掌握案情、严惩犯罪分子。“此外,一旦发现自己的肖像被盗用或者‘被换脸’,我们应当第一时间保留证据,以便后续维权;同时还可以向网络平台运营商提出投诉,要求强制下架侵权图片或视频;最后,也可以提起人格权诉讼,用法律武器维护自己的合法权益。”

5月24日,中国互联网协会发布公告,面对利用AI技术的新型骗局,广大公众需提高警惕,加强防范。在AI时代,文字、声音、图像和视频都有可能是深度合成的,在转账汇款、资金往来这样的典型场景,要通过回拨对方手机号等额外通信方式核实确认,不要仅凭单一沟通渠道未经核实就直接转账汇款,无论对方是谁。





“AI替身”的魔法 明星也难逃

在AI孙燕姿火爆全网之后,5月22日深夜,歌手孙燕姿在网站上发布了《我的AI》一文,首度回应了自己对AI技术的看法。面对来势汹汹的AI技术,孙燕姿形容自己就像一个吃着爆米花、坐在电影院最好的位子上的人。“在这无边无际的存在之海中,凡事皆有可能,凡事皆无所谓,我认为思想纯净、做自己,已然足够。”

但事实上,如果“AI”技术使用了明星的语音信息,可能会侵犯其隐私权。根据我国《民法典》第一千零三十四条规定,自然人的个人信息受法律保护。个人信息是以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人的各种信息。因此,未经明星同意在其直播间使用“AI换脸”或“AI变声”技术可能构成对其隐私权的侵犯。

明星遭AI换脸。图源网络

网上出现了一些“换脸直播”的教程,声称通过相关软件换上一张明星艺人的脸,可以更好地直播带货。对此,刘青告诉封面新闻记者,根据我国《民法典》第一千零二十四条规定,任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。这种做法可能涉嫌侵犯艺人的肖像权和名誉权,用于商业行为还可能涉嫌虚假宣传。

在封面新闻记者查询民法典时,发现,AI换脸技术涉及肖像权、名誉权、隐私权等多种权利。据我国《民法典》第一千零一十九条规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段侵犯他人肖像权的方式,制作、使用、展示他人肖像。利用AI换脸技术制作虚假的肖像,侵犯了他人的肖像权,可能会引发侵权纠纷。





谁打开了AI换脸的潘多拉魔盒?

AI换脸直播的发展史可以追溯到2018年,当时DeepFaceLab等工具的发布开启了AI换脸技术的发展。随着AI技术的不断优化和升级,AI换脸直播开始在各大直播平台上应用。

在2020年,美国的真力(Zoom)公司推出了AI面部替换功能,允许用户在Zoom视频会议中将自己的面部替换为他人面部。这项功能引起了广泛的关注和讨论,也推动了AI换脸技术的发展和应用。

2021年,随着AI换脸技术的不断成熟和完善,AI换脸直播的应用范围也不断扩大。不少平台和企业开始推出自己的AI换脸直播服务,例如抖音的“Faceu秀颜”和“Perfect”等。这些应用不仅可以实现面部替换,还可以实现声音、动作、表情等多种维度的替换和合成,使得AI换脸直播更加真实和生动。

然而,随着AI换脸直播的普及和应用,也出现了不少争议和问题。有人认为AI换脸直播可能会侵犯个人隐私和肖像权,也有人担心AI换脸直播可能会被用于虚假宣传和色情内容等非法用途。因此,不少国家和地区开始出台相关政策和法规,规范AI换脸直播的发展和应用。

2021年,我国某知名电商平台开始在直播中使用AI换脸技术,用户可以通过该功能将自己的面部替换为明星或网红的面部,从而实现更生动、更真实的展示效果。此外,该电商平台还推出了自己的AI换脸直播服务,通过该服务,品牌方可以在直播中使用更为真实和生动的展示效果。





AI换脸技术应用的未来受多方影响

目前,AI换脸直播已经成为我国直播行业的一种趋势,越来越多的平台和企业开始在直播中应用AI换脸技术。同时,随着技术的不断发展和应用,AI换脸直播在我国的应用前景也将更加广泛和多样化,但仍受多种因素的影响。

某头部直播平台工作人员张蕾(化名)跟封面新闻记者透露,据她从业以来的经验,AI技术的发展将推动AI换脸直播的进步。随着AI算法的不断优化和升级,AI换脸直播将会更加精确和真实,从而更好地满足品牌方的需求。“市场需求和消费者行为也将影响AI换脸直播的发展。如果市场需求不断增加,那么AI换脸直播的发展将会受到更大的推动。同时,消费者的行为和偏好也会影响AI换脸直播的发展方向,例如消费者更倾向于观看哪种类型的直播内容。”

明星遭AI换脸进行直播卖货。图源网络

在封面新闻记者问到政策法规对AI换脸的影响时,张蕾直言政策和法规会在极大程度上影响AI换脸直播的未来发展。“如果政策法规对AI换脸直播的发展持积极态度,那么AI换脸直播的发展可能会更加迅速和广泛,但一切都还是未知的。”

评论 7

  • 仪陇县金子村第一书记 2023-05-31 发表于四川

    安全第一

  • 说个正事 2023-05-30 发表于四川

    时代在前进,科技代替传统艺术

  • 风风火火恍恍惚惚 2023-05-26 发表于四川

    这就是未来?

查看更多

去APP中参与热议吧