科技观察|“AI卷福”成涉案主角:要求影视公司转账20万英镑才能见面?

封面区块链 该文章已上链 >

封面新闻 2023-05-16 20:14 8234

封面新闻记者 边雪

当国内的“AI孙燕姿”用近乎与歌手孙燕姿一模一样的声音,唱出孙燕姿以前未曾唱过的迥异歌曲全网走红没多久,国外的AI技术克隆已经开始模仿当红演员,企图向影视公司诈骗了。

据英国媒体报道,一家总部位于西班牙马拉加的小型电影制作公司(Peabody Films)称收到英国著名男演员Benedict Cumberbatch(以下简称“康伯巴奇”)的电话,对方表示对该公司即将拍摄的电影感兴趣,想寻求合作。

康伯巴奇是英国的国宝级演员,因其在热门高分英剧《神探夏洛克》中出演了大侦探福尔摩斯,被中国观众称为“卷福”。康伯巴奇曾被英国女王授予大英帝国司令勋章,也被《时代周刊》评为全球最具影响力人物之一。

康伯巴奇饰演的夏洛克·福尔摩斯

值得注意的是,不论在热门英剧《神探夏洛克》里,还是在好莱坞大片《奇幻博士》中,康伯巴奇都是自己配音,因声音极具辨识度,“卷福”还被力邀为《霍比特人》里的恶龙等虚拟形象配音。

“当我们接到电话进一步跟他交谈时,简直不敢相信自己的运气。”Peabody Films 的编剧兼导演鲍勃·威廉(Bob William)在接受采访时表示,他们当时并未发现,是有人使用AI“克隆”康伯巴奇的声音进行电影拍摄合作沟通,并企图诈骗。

惊喜变惊吓

“这100%是康伯巴奇的声音”

“令人难以置信,电话那头100% 是康伯巴奇的声音。”威廉称,自己在打电话的开始,完全相信这是康伯巴奇本人在通话,直到“康伯巴奇”和他的经纪人拒绝亲自见面时,他才意识到了这并非康伯巴奇本人。

“起初,这封电子邮件似乎是梦想成真。康伯巴奇显然已经阅读了我们即将上映的电影的剧本,并且有兴趣讨论一个潜在的角色,”威廉解释道,他们最初收到了自称是复仇者联盟明星经纪人发来的电子邮件,并建议他打个电话进一步沟通。威廉说:“康伯巴奇是我们这个时代最有才华的演员之一,他竟然主动联系我们并对我们的电影项目表现出兴趣。”

惊喜来得太快,很有可能变成惊吓。当威廉拨打的号码数字似乎比正常电话号码多时,他已经有点怀疑是否自己被骗,电话接通之后,声音真假难辨的“康伯巴奇”也非常不愿意亲自见面。

“在我想邀请电话中的‘康伯巴奇’面谈时,‘康伯巴奇’都拒绝了,起初我们以为这可能是配音演员在恶作剧,直到电话的另一头提出要我们先打款20万英镑(约合人民币170万元)。”威廉导演称此时他和公司才意识到,自己可能遇到了骗子。

随后,该公司向“康伯巴奇”的经纪公司确认后才发现,这的确是场AI骗局。威廉表示当发现自己是冒充著名演员的AI程序的受害者时,感到十分震惊和失望。

封面新闻记者在检索时发现,Peabody Films是一家独立制作公司,由标志性的英国电影导演巴尼·普莱茨-米尔斯 (Barney Platts-Mills) 创立,以《野马牛蛙》和《私家路》等获奖影片而闻名。

警惕!

模仿人声的AI技术已被用于诈骗

据全球知名网络安全公司McAfee调查发现,在美国、英国、法国、德国、日本、澳大利亚和印度,有10%的人是AI语音诈骗的目标。其中,78%的人因AI语音而受骗。

微软研究人员曾公开展示了一种文本转语音 AI 模型,该模型可以从三秒钟的音频样本中合成任何人的声音。

这个名为VALL-E的模型可以保留说话者的情绪基调,并且可以让这个人说出任何话——它的创造者建议它可以用来创建由其他人工智能模型编写的音频内容。

实际上,“AI孙燕姿”在国外也同样存在。据外媒报道,一名网友用美国知名歌手弗兰克•奥申(Frank Ocean)的歌曲片段用以训练AI,之后用AI生成了大约9首仿冒其风格的歌曲,随后该网友于4月初在论坛上发布了这些曲目,并将其伪造成唱片录制时的泄露片段,通过出售这些音乐骗取了约970美元(约合人民币6700元)。

借助AI来还原知名歌手的声音,并进行商用或盈利,是否违法?封面新闻记者在查阅《中华人民共和国著作权法》时发现,第四十二条第二款规定:录音制作者使用他人已经合法录制为录音制品的音乐作品制作录音制品,可以不经著作权人许可,但应当按照规定支付报酬;著作权人声明不许使用的不得使用。

中国法学会知识产权法学研究会副秘书长、中国人民大学知识产权学院副教授姚欢庆曾在接受媒体采访时表示,未经过本人同意,就把当事人的姓名拿来说“这是AI孙燕姿”,等于很大程度上是借用了歌手的商业声誉。

AI使用孙燕姿的录音制品进行训练的行为是否构成侵权呢?姚欢庆教授指出,在我国著作权法下,这种情况原则上是不构成侵权的,一般还是应该被归为正常使用的范畴。但是在英美法框架下就不太好说。比如当年“Google图书馆侵权案”中,谷歌最后还是掏了一笔钱来购买许可。现在ChatGPT、AI绘画中大量涉及这方面问题,比如《纽约时报》《经济学人》等杂志报刊里面的文章被作为素材投喂,在英美法的司法实践中有可能得出不同的结论。

评论 1

  • Django是我 2023-05-25 发表于四川

    😂这个

我要评论

去APP中参与热议吧