深度合成技术滥用:南京阿姨的AI女儿,和一条还没命名的街规

周阿姨的AI女儿,昨天在直播间喊了别人一声妈

周阿姨住浦口,54岁,头发染得乌黑,发根一截白。她女儿小玥2022年走的,白血病。今年三月,她在短视频平台刷到一个账号,叫“记忆重启计划”。视频里,一个和她女儿差不多的女孩,眨眼,笑,喊“妈妈”。她哭到凌晨两点。花了两千八,上传了九张照片,一段微信语音。五天后,她收到一条四十秒的视频。小玥穿着她没见过的毛衣,说“妈,我挺好的”。周阿姨说,那一刻她晓得是假的,但还是看了十七遍。深度合成技术滥用这八个字,她第一次听,是在派出所。 后来呢?后来她在一个保健品直播间看到同一张脸。主播喊:“小玥抗癌成功,靠的就是这款口服液。”背景是医院走廊,其实是南京某民营医院的旧图。周阿姨懵了。她打12315,又跑派出所。警察说,案子新,先做证据保全。平台说,已下架。服务商说,可能是模板泄露。谁干的?不晓得。谁赔?还在等。
南京浦口周阿姨手机屏幕AI复活女儿短视频直播间截图
南京浦口周阿姨手机屏幕AI复活女儿短视频直播间截图
这里头的法律不是没影。民法典第994条写得清楚,死者姓名、肖像、名誉、隐私受侵害,近亲属可以告。个人信息保护法也把生物识别、医疗健康列为敏感信息。可现实是,标识藏在视频右下角,小得像米粒,截图一裁就没了。《互联网信息服务深度合成管理规定》要求显著标识,不得删除、篡改。规定是好规定。周阿姨问:显著是几号字?在手机上看,算显著吗?没人能马上答她。律师只能说,先告平台,再告上传者。周阿姨把公证书塞进帆布袋,袋子里还有小玥的医保卡。她嘟囔:这算哪门子复活,复活了还要替我打官司。

老陶的声音,被切成八百块卖给了骗子

老陶在大明路二手车市场有个摊位,嗓门大,一开口像砂纸磨铁。上个月,三个客户给他打电话,问他是不是换了银行卡。老陶说没有。客户说,昨天“你”亲自打的电话,声音一模一样,连“多大事啊”那个尾音都对。骗子用AI拟声,骗走一个客户两万八定金。老陶气得拍桌子:我的嗓子也能被偷? 他去公证处,想问声音能不能公证。公证员说,可以试试,但得先证明声音是你的。声纹鉴定。他又去平台申诉,平台要授权书,要身份证,要手持照片。老陶骂骂咧咧,还是照做。民法典第1023条,对自然人声音的保护,参照适用肖像权保护。这条他背下来了。可他更关心:骗子用AI合成我的声音,平台能不能先冻结?警察说,得先立案。立案要材料。材料要公证。公证要声纹。声纹要钱。一圈下来,老陶说,这比收车还累。 深度合成技术滥用最麻烦的地方,不是技术多神,是它把举证成本甩给了被冒名的人。老陶现在接电话,先咳嗽两声,再说“喂”。他自嘲,这是活人防伪。可客户哪记得住?客户只记得那个像砂纸的嗓子。法律还在学走路。老陶也在学。他准备在摊位挂个牌子:本人声音已被AI偷过,打款前请视频。
南京大明路二手车市场老板手机播放AI拟声诈骗录音
南京大明路二手车市场老板手机播放AI拟声诈骗录音

评事街的鸭血粉丝店,开始给每条视频盖“真脸章”

评事街的鸭血粉丝店,开始给每条视频盖“真脸章”
评事街的鸭血粉丝店,开始给每条视频盖“真脸章”
评事街拐角,小琴的鸭血粉丝店开了十一年。她脸圆,笑起来有酒窝。四月,一条视频传开:小琴在后厨捞粉丝,字幕写“地沟油回收,一天省三百”。视频里她的脸清清楚楚,动作也像。其实是AI换脸,把另一个黑作坊的视频套上她的脸。播放量七十万。营业额掉了一半。老客跑来问:阿要辣油?小琴说,你先说你还敢不敢吃。老客尴尬,还是坐下。 小琴找律师。律师说,能告:肖像权、名誉权、个人信息。平台要履行通知删除,还得披露侵权人。可她连侵权人是谁都不知道。于是她开始“真人认证”。每条视频开头,她举着当天报纸,报日期,镜头绕店一周。看着傻。但有用。差评少了,老客回来。小区里的阿姨说,小琴,你搞得像新闻联播。小琴笑:不搞不行,现在脸不是我的脸,是流量手里的泥。 新规要求深度合成服务提供者添加标识,平台要审核。可平台一天几千万条,审核员也是人。小琴们只能先学会自己盖章。公证处、派出所、法院、平台客服,都在摸石头。有人愿意用AI复活亲人,有人被AI复活后气得失眠。有人拿AI换脸开玩笑,有人靠AI拟声骗定金。规则不是从天上掉下来的。它是在这些鸡毛蒜皮里,一脚泥一脚水地走。周阿姨说,等新规再细一点,她还要告。但今天不行。今天她要去买半只鸭子。小玥以前最爱吃鸭腿。她拎着袋子,经过评事街,看见小琴在镜头前举报纸。她停了一下,没说话。风把她的白发吹出来。法律大概也在那儿站着,手里没伞。
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:深度合成技术滥用:南京阿姨的AI女儿,和一条还没命名的街规
文章链接:https://wuhanlihunlvshi.com/cases/3866.html