AI人卖惨营销以假乱真，给大模型局部“限能”要提上日程｜封面评论

□蒋璟璟

“姨姨妈妈求求你别划走，我已经三天没好好吃饭了！”“姨姨能支持一下吗？……”最近，不少人都刷到这类苦命孩子，他含泪求助，不少人看得心里发酸，纷纷留言下单，购买豆浆粉、抹布、翡翠吊坠等商品，其中不少是中老年女性。记者调查发现，这些很多都是AI批量复制的同款人设。所谓身世和苦情故事，从头到尾都是编出来的，只是引流带货的“人设”。（央视）

卖惨营销是老操作了，很多年前就有“水果滞销，帮帮他吧”的话术，配图以一张皱纹深刻的老农形象，至今令人记忆犹新。而近年来，这类套路又瞄准某些欠发达地区大做文章，一些团伙炮制出各种“视觉贫困”乱象，很是骗了不少人、博得一波同情、带动了一批销量。而时至今日，在AI技术的助力下，这类骗术又有了升级版本。用AI人绘声绘色造身世、编故事，绘声绘色地“出镜”哭诉求助，如此逼真而又凄惨的景象，毫不奇怪地就击中了中老年女性柔软的心。

表演悲苦、诉诸同情的卖惨营销，之前之所以不能实现“规模化复制”，一个很重要的原因就是成本。毕竟，靠着一张图就能蒙到人的时代，早就过去了。要编排和“演出”一幕惨剧，既要剧本、布景，还要找到能够驾驭角色的“演员”，要情真意切、凄凄惨惨，打动人心了才能撬开钱包——以往，这些都是需要投成本、花时间去打磨的。但是，如今在AI的赋能下，有太多凄凉的身世剧本可供抓取、太多可怜的面庞和微表情可供萃取。惨人惨事无限量产，总有一款让你哭。

这就是AI的可怖之处，对于很多类型的视频，其既能做到精细化，又能做到批量化。如今，“卖惨营销”在很大程度上，已经实现了工业化量产，这在以往是不可想象的。此前尽管也有很多博主走这一赛道，但是能够“进入角色”表演到位的，毕竟少之又少。与之相较，一批卖惨的AI人，却能够在举手投足、眼神眉宇之间，把一个“惨”字演绎到淋漓尽致，再坚硬的心，想必也要被融化了。更遑论，那些眼神不济、内心温柔的老年人，他们岂能招架得住？

对此，从防骗反诈角度来说，当然可以有很多应对。比如说，系统强化对AI内容的前置主动识别，把“AI生成”的标识打得更大一点。但在更根本意义上，给AI人“限能”，尤其是对其“完全复刻”眼神、表情、语气等人类精微特质能力的限制，或许才是避免误导的治本之策。有没有必要确保AI人与真人在肉眼看来具有显著的区分度，这是必须正视的课题。