自动化决策拒绝:那个深夜改回“应当”的第七版合同

凌晨一点四十。南京,新街口。

空调外机还在滴水,滴在我窗台铁皮上,哒、哒、哒。跟甲方微信提示音一个节奏。我桌上摞着三份没归档的卷宗,压着一个外卖盒,盒盖上的红油已经结成膜了。保温杯里那几粒枸杞,泡得发白,像在水里躺了半个月的老头。

手机屏幕朝上。十七条未读语音。当事人刘姐的,一条六十秒,十七条。

我没点。

我先看甲方第七版修改意见。红色修订一条条过。到第三页,我停住了。

律师事务所加班办公桌外卖盒卷宗堆叠实景
律师事务所加班办公桌外卖盒卷宗堆叠实景

一个“可”字,把义务改成了恩赐

原稿我写的是:“平台应当在收到用户申请后五个工作日内启动人工复核,并以书面形式告知复核结论。”

第七版变成了:“平台可在收到用户申请后视情况启动人工复核。”

“应当”改成“可”。“五个工作日”改成“视情况”。还顺手删了“书面形式”。

……

说实话,那一瞬间我是想骂人的。不是因为这个条款多难,是因为——太熟了。这套改法我见过。把刚性义务揉成裁量权,把期限揉成“视情况”,最后再删掉留痕要求。等于说:用户提了,平台可以不理;理了,不必告诉你为什么;给了结论,不留证据。

然后呢?然后用户去投诉。客服说“系统判定”。再问,“这是模型结果”。再问,工单转了三圈,最后回到“系统判定”。

死循环。

法条其实不长,长的是它没写出来的那部分

《个人信息保护法》第二十四条,三款,加起来不到两百字。

第一款管透明度和公平性,说不得在交易价格等交易条件上搞不合理的差别待遇。这就是“大数据杀熟”那条。

第二款管推送和营销,说要用算法推你东西的时候,得同时给你一个不针对你个人特征的选项,或者给个方便的拒绝方式。

第三款,就是我今天要在合同里抠的那句——“通过自动化决策方式作出对个人权益有重大影响的决定,个人有权要求个人信息处理者予以说明,并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。”

注意,先注意那个“仅”字。

“仅”通过自动化决策。反过来说,只要有人在流程里伸了一只手,就不构成“仅”。所以这条法条的全部战场,其实就在“那只手是不是真的手”上面。

我见过很多“手”。客服点一下“通过/拒绝”的按钮,按钮上那个分值,是模型算的,客服不看逻辑也看不懂。这叫人工复核吗?我管它叫橡皮图章式人工干预。一天几百单,平均处理时长十一秒。你说这是人在决策,还是人在给模型签收?

GDPR第22条里有个说法,叫“有意义的人工介入”(meaningful human involvement)。人家还配套给了三项权利:获得人工干预、表达观点、对决定提出异议。我们这边法条没明写“人工干预”这四个字,但从“要求说明”加上“有权拒绝”解释出来,指向是一样的。你不能拒绝一个黑箱之后,得到的还是一个更慢的黑箱。

还有一层,很多人忽略了。“对个人权益有重大影响”不是平台自己说了算的。

信贷自动拒贷、保险自动核保拒保、招聘算法自动筛简历、平台自动封号冻结资金、外卖骑手被算法开罚单、内容账号被自动限流……这些算不算重大影响?我认为大概率算。封号尤其。你账户里有钱,有合同,有客户关系,一键清空,这还不重大?

手机APP账号风控自动封禁提示页面截图
手机APP账号风控自动封禁提示页面截图

实操:一个拒绝权,要打四十七分钟电话才摸到门

上个月我陪刘姐走了一遍。

她的网店被平台判了“异常交易”,保证金冻了四万二。系统给的提示只有一句:“检测到风险行为,处置结果不可申诉。”——你看,连申诉入口都不给你。

我们先在APP里找。设置,帮助中心,联系客服。机器人在那儿转圈。“请问您遇到的问题类型是?”我选了六个选项,每一个最后都跳回同一句。

然后打电话。第一通,等了十九分钟,音乐听了七遍。挂断。第二通,通了,对方说“这个我们这边查不到,给你转专线”。转过去,音乐。第三通,四十七分钟,终于有个活人。

我说,我们要的是两件事。第一,说明。第二,拒绝“仅由自动化决策”作出这个处置,要求人工重新审议。

对方愣了一下,说:“我们这边没有这个流程。”

这句话很关键。你把它记下来。不是“不给”,是“没有这个流程”。

再说一个坑:很多人以为“拒绝”就是关掉。关掉算法推荐,关掉个性化,关掉自动续费。那是第二款的“便捷拒绝方式”,对付推送和营销的。第三款的拒绝权完全是另一码事——它不是关掉系统,它是要求把决定权从系统手里收回来,交给一个人重新审一遍。

那平台能不能说“你拒绝,我就不给你服务”呢?

第十六条摆在那儿:不得以个人不同意或者撤回同意为由,拒绝提供产品或服务——除非处理个人信息属于提供产品或服务所必需。关键就是那个“必需”。信贷审核必需,还是征信必需?嗯,这两个不是一回事。你一个卖书的APP,非得知道我星座才能发货吗?

所以对方要动刀子的时候,先问一句:这个信息,不给,服务真的就办不成了吗?还是只是你们不想办?

举证这件事,别自己扛

第六十九条,过错推定。个人信息权益被侵害造成损害,处理者不能证明自己没有过错的,就要赔。翻译一下:不是我证明你错,是你证明自己对。

所以你问“为什么封我”的时候,不是你在求人。是他在交作业。

第五十五条还把自动化决策列进了必须事前做个人信息保护影响评估的情形。第五十六条要求评估报告和处理情况记录至少保存三年。

三年。这个数字很好用。

你在投诉或者起诉的时候,可以直接主张调取这份评估报告。如果拿不出来——那问题就大了。要么没做,要么做了不认。哪一种都比“模型不可解释”更难解释。

我个人最喜欢问的一句话是:“请提供本次自动化决策的可解释性摘要,以及人工复核人员的操作日志。”对方通常两种情况。一种沉默。另一种开始说“涉及商业秘密”。

商业秘密不是挡箭牌。你可以不给我权重和特征工程,但你得给我决策依据的类型、影响结果的要素、以及异议渠道。这三样东西说不清,就是说不清。

我最后在合同里写了什么

回到那份第七版。凌晨三点半,我把修改意见一条条怼回去。

第一,定义。别让平台自己定义“自动化决策”和“重大影响”。我把触发情形列成清单:账号封禁、资金冻结、授信拒绝、定价差异超过阈值、服务中止。清单之外的,由用户提出、平台举证不属于。举证责任不能倒挂给用户。

第二,路径。拒绝权必须落到具体位置——哪个页面、哪个入口、以什么方式留痕。写成“设置相应功能”这种话,等于没写。写成“在账户安全中心决策说明页提供一键申请入口”,才算数。

第三,期限和主体。“五个工作日内”“由具备复核权限的人员”“非参与原始决策的人员”。最后这一条是我加的,防的就是橡皮图章。同一批人复核自己批过的东西,那不叫复议,那叫回访。

第四,书面答复。要写清结论、依据类型、修改与否。哪怕只有三行字,也要落到可保存的介质上。口头答复等于没答复。

第五,替代方案。拒绝自动化决策之后,服务怎么继续。这个不写,拒绝权就是空头支票。

第六,影响评估报告作为附件,随合同交付,更新节奏写死。

甲方那边回了个“……”。然后老板在群里@我:“这个条款是不是有点重?”

我说:不重。出事的时候,重的是我们。

他没回。我猜他在权衡,权衡的是这单的报价和这个条款的麻烦程度。这两样东西在他心里,从来不是一个重量级。

合同条款修改批注红色修订模式电脑屏幕实拍
合同条款修改批注红色修订模式电脑屏幕实拍

最后一点,说给同行

自动化决策这事,最麻烦的地方在于——它不出错的时候,你感觉不到它存在。它出错的时候,你找不到人。

平台会说,模型是为了效率。对,我承认。可效率的成本不该全由被决策的那个人承担。你算得快,不代表你说得对;你说得对,也不代表你不必解释。

我见过一个更狠的版本:某平台在用户协议里写“用户理解并同意,平台基于算法作出的判断具有终局性”。

终局性。三个字。你以为签的是买卖合同,人家给你签的是判决书。

这种条款,我删过不止一次。删的时候要客气,要写“建议调整表述以符合《个人信息保护法》第二十四条”,不能直接说“这条违法”——说了对方律师面子挂不住,第八版又给你绕回来。

四点零七分,天有点灰。我把“可”改回“应当”,把“视情况”删掉,把“书面”加回去。保存。发送。

然后去楼下买了两根油条一碗鸭血粉丝汤。老板问,这么早?我说,还没睡。

回工位的时候老板回了个“?”。

我没理。

先去把外卖盒扔了,那个味道实在受不了。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:自动化决策拒绝:那个深夜改回“应当”的第七版合同
文章链接:https://wuhanlihunlvshi.com/huxg/3898.html