她把手机往我桌上一摔。
屏幕亮着,是她自己的抖音号——视频里的她涂着她主打的那款蜜桃色唇釉,梨涡跟本人一模一样,张嘴就喊“家人们今天拍一发三”。
我刚喝进嘴的冰美式差点喷在电脑屏幕上。
这根本不是她拍的。
她上周在外地出差,手机掉了,补完卡登抖音,后台跳出来17条未读私信。有人追着问她“之前说的敏感肌面霜链接呢”,还有人骂她“上周直播卖的唇釉我用了烂脸,你别跑”。她翻了半小时才反应过来:有人攒了她朋友圈30条日常素材,喂给了深度合成工具,捏了个24小时不停播的虚拟号,连她说话带点南京口音的尾调都仿得七分像。
你以为很远的“换脸”,现在已经能精准薅到普通人的钱包
之前大家对深度合成滥用的印象,还停留在明星换脸拍小电影,或者新闻里骗企业老板的几百万大案。
根本没人想到。
现在的工具门槛已经低到离谱——小余找做技术的朋友扒了下那个仿她的账号,用的根本不是什么专业级的生成模型,就是某款面向短视频博主的“数字分身”工具。充299块月卡,上传10分钟本人日常素材,就能生成跟你表情、语气完全匹配的数字人,还能自动匹配直播脚本,连弹幕里的问题都能实时接。
小余当时愣了。
她前两周还跟我吐槽,说做直播太耗精力,每天要坐四五个小时对着镜头,眼睛都快花了,当时还差点下单买那个数字人工具。
谁能想到,先拿她的脸用的,是躲在网线后面的陌生人。
说实话,这种事真的不是个例。我上个月接的咨询,有个住在南湖的退休张阿姨,被人用她老伴的脸,合成了一段“急需转2万块做心脏支架”的视频,发给了她远在深圳的女儿。女儿当时急得要转钱,幸亏阿姨刚好在旁边擦桌子,凑过去扫了一眼——视频里的老伴,右手手背上的老年斑位置不对,才硬生生拦了下来。

你说吓人不吓人?
之前我们总说深度合成的风险是“未来的事”,要等技术成熟了再慢慢规范。现在倒好,规则还没摸透呢,镰刀已经伸到普通人的口袋里了。
现在的规则,还追不上钻空子的人有多鸡贼
很多人会说,那发现这种仿冒号,举报让平台封了不就完了?
没那么简单。
上周跟平台做审核的朋友吃皮肚面,他说现在的深度合成账号跟打游击似的——封一个,换个手机号注册,换个素材包,十分钟就能再开一个新号。更绝的是,现在有人专门把合成的视频剪得特别碎,15秒一个片段,没有连续的人脸特征,你审核的时候根本认不出来这是合成的。
按照现在的《互联网信息服务深度合成管理规定》,所有深度合成生成的内容,必须加显著的可识别标识。可那些钻空子的人,才不会乖乖遵守。
那个仿小余的账号,从头到尾没打任何AI生成的标识。账号资料全是抄的——头像是小余三年前在中山陵拍的自拍,简介跟她本人的号一字不差,连之前发过的“今天去老门东吃蒋有记锅贴”的动态,都原封不动搬过去了。

我之前试过用某款生成工具,上传了小余的一张照片,让她举个写着“我欠你500块”的硬纸牌。生成的视频我来回看了三遍,都没找出破绽——她举牌子的手,指甲上是上周刚换的裸色美甲,连手腕上戴的那个银镯子的划痕,都跟她朋友圈发的照片一模一样。
你说这要是被人拿去跟债主说“我现在没钱还你”,谁能想到是假的?
做风控的朋友跟我吐槽,说他们现在识别深度合成内容,全靠找细节——比如视频里的人耳朵是不是缺了一块,说话的时候嘴唇跟声音是不是对得上,手指的数量是不是正常。
可问题是,普通人刷短视频的时候,谁会盯着屏幕数人家有几根手指啊?
对吧。
别等被骗了才反应过来,你的“脸”已经是能被随便复制的数字资产
之前很多人觉得,我又不是明星,又不是大老板,谁会闲着没事合成我的脸?
错了。
现在的黑产根本不挑。你朋友圈发的自拍,你抖音发的日常片段,你在小区业主群里发的语音,这些零散的素材攒够了,就能捏一个跟你一模一样的数字人。去骗你通讯录里的好友,去冒充你给你的客户发消息,甚至开个直播卖三无产品,最后锅说不定还要你背。
我去年碰到个做建材销售的小伙子,就栽过这种事——有人用他的脸合成了一段“给大家发福利,扫码进群领优惠券”的视频,发在他之前加过的5个客户群里,群里30多个人扫了码,总共被骗了快两万块。最后警察找到他的时候,他整个人都傻了,说那天他在公司开了一天的项目会,根本没发过什么视频。
折腾了快俩月,才把他的嫌疑洗清。
他跟我说,那俩月他睡觉都睡不好,总觉得哪天自己的脸又被谁拿去干点什么糟心事。
说真的,我第一次碰到这种事的时候,觉得特别荒诞。
我们花了那么久,才把“数字身份”跟真实的自己牢牢绑定,现在倒好,技术走得太快,快到你还没反应过来,你的数字身份已经成了别人能随便拿走的东西。
前阵子去老门东逛,碰到个卖糖粥的陈阿姨,她跟我说,她现在拍短视频都要特意把脸挡一半。“我又不会直播卖货,露那么多脸干嘛,万一被人拿去骗我家老头怎么办?”
你看,根本不需要什么专家天天在台上讲大道理,普通人的适应速度,其实比规则跑的还快。
现在法律其实已经在追着这些事跑了——最近出的司法解释,明确了用深度合成技术侵害他人肖像权、名誉权的,要承担赔偿责任,要是用来实施诈骗的,还要追究刑事责任。但法律永远是事后的惩戒,普通人的事前防护,真的太薄弱了。
我身边现在已经有好几个做博主的朋友,发视频之前都会特意在角落打个淡淡的、只有自己知道的水印。不是防同行盗视频,是怕自己的素材被人拿去喂给生成模型。
上周小余给我发消息,说她现在把之前的所有社交账号都设成了私密,发日常的时候,都会在视频角落打个小小的、只有她能认出来的标记。
她说等下次再碰到有人用她的脸卖货,她一眼就能认出来。
你看,我们哪是在等法律把所有漏洞都补上啊。
我们都是一边踩坑,一边学着怎么在这个满是合成内容的世界里,把自己的那点真实,牢牢攥在手里。