我现在盯着屏幕发懵。
脚边的黄焖鸡米饭盒子还沾着半块没吃完的土豆,打印机卡纸卡到我刚才徒手扯的时候蹭了一手炭粉,老板十分钟前在群里@我,说上周给MCN客户改的那版算法服务合同,对方法务又提意见了,要加一条关于算法解释权行使的条款,说要写得“没有任何模糊空间”。
微信弹出来张姐的头像,就是那个做短视频智能投放的客户,未读消息数标了个红圈,点进去是八条60秒的语音方阵,我甚至不用点开都能猜到内容——无非是品牌方又在会上拍桌子,说如果解释不清楚算法为什么把他们的高端母婴广告推给了刚高考完的学生,就要扣30%的服务费。
客户口中的“解释权”,根本不是法条里写的那个东西
之前我刚进公司法务部的时候,翻《个人信息保护法》,看到第24条写自动化决策要保障用户的知情权、解释说明权,当时还觉得,不就是用户问起来,你告诉人家算法是怎么做出决定的嘛,有什么难的。
真上手接了三个跟算法相关的客户之后,我才发现,所有人嘴里说的“算法解释权行使”,根本不是一回事。

比如张姐他们做智能投放算法的,品牌方每次看到ROI没达到预期,第一反应不是去查自己的广告素材是不是太难看,而是揪着张姐要“算法的解释”——说穿了,他们要的根本不是什么“为什么这个周期的投放人群是25-30岁女性”,而是要张姐把模型的训练数据集来源、每一层的权重参数、甚至给每个人群打标签的逻辑全列出来,美其名曰“要对算法的决策负责”。
这哪是要解释啊。
这是要把人家压箱底的商业秘密全掏出来当投名状。
另一边,张姐他们公司的技术部老大跟我拍过桌子,说要是敢把核心参数写进合同里,他就把我工位上的枸杞全倒了——那套模型他们团队熬了两年才调出来的,凭什么给甲方看?
两边夹在中间的就是我。
上次张姐半夜12点给我发语音,说品牌方的法务在会上说,如果合同里不写清楚“服务商应当提供完整的算法解释”,就不签合同。我当时正蹲在公司楼下的便利店吃番茄味的泡面,听完语音差点把汤洒在刚打印好的合同草稿上。
别信“无模糊空间”,差一个字就能坑到你赔光
改合同改到第七版的时候,我眼睛都快花了,逐字比对双方的修改痕迹,突然看到甲方法务悄悄在原来的“合理说明”前面加了一个“可”字。
就一个字。
原来我们写的是“服务商对算法决策结果提供合理解释即可”,对方改完变成“服务商对算法决策结果提供可合理解释”——别觉得这是文字游戏,顺着这个“可”字往下看,他们把原来我们定义的“合理”标准全换了:
原来我们写的是“解释内容不涉及核心算法商业秘密,能够让普通业务人员理解决策逻辑即可”,对方直接改成了“解释内容应当涵盖算法训练数据集、核心参数设置、模型权重分布等全部影响决策结果的要素”。
我当时看到这句话,后背的汗“唰”就下来了。
这要是没看见,签完字,对方拿着这个条款要张姐他们把整套算法的核心全交出来,到时候别说服务费,人家拿着这套模型自己做投放,张姐他们连说理的地方都没有。

那天我在工位上改到凌晨三点,鼠标左键都点坏了,要连按三下才能选中一行字。我把原来模糊的“算法解释权行使”拆成了三块写进条款里:
第一,解释的触发门槛——不是甲方想什么时候问就什么时候问,只有当单个投放周期的实际ROI和合同约定的目标值偏差超过20%的时候,服务商才有义务启动解释程序,不然你随便想起来就让我解释,我这法务天天给你写说明信得了。
第二,解释的内容边界——解释只说和最终决策结果直接相关的表层逻辑,比如“这个周期把广告集中推给25-30岁女性,是因为这类人群的历史点击转化率比其他群体高15%”,绝对不碰训练数据来源、模型权重、参数设置这些核心商业秘密。
第三,解释的达标标准——只要解释内容能让甲方的品牌经理对着他自己的老板说清楚钱花在哪了,就算完成义务,不需要让对方的技术人员能拿着解释内容复现整个算法逻辑。
改完我把稿子发出去的时候,张姐秒回了个“谢谢”,后面跟了三个炸烟花的表情。我拧开保温杯,枸杞都泡得沉在杯底,水都凉透了。
把“最终解释权”写进合同?真出事了没人认
之前我帮一个做外卖调度算法的客户处理过仲裁的事,就是骑手因为订单被系统自动重新分配,晚了十分钟超时被扣了钱,申请仲裁要平台退钱。
我当时翻平台的用户协议和骑手规则,看到首页最下面用小字体写着“平台对算法调度规则拥有最终解释权”,真的差点气笑了。
这哪是在行使算法解释权啊。
这就是把“我不管你服不服,规则我定的,你问我我也不告诉你”这句话,包装成了看起来很合法的格式条款,真到要担责任的时候,别说仲裁委,连公司门口的保安都不信。
仲裁的时候,骑手那边的代理律师直接把这句话拿出来当证据,说平台根本没有履行算法解释的义务,连最基本的决策原因都不告诉骑手,凭什么扣人家的钱?最后仲裁委直接认定这条格式条款无效,平台不仅要把扣的钱退给骑手,还要赔了一笔精神损失。
后来我们帮客户改规则的时候,根本没提什么“最终解释权”,就是在骑手的APP里加了个小小的跳转入口:如果你的订单被系统重新分配,点进去就能看到具体原因——是因为你距离取餐点更近,还是因为你手上的其他订单快超时了,系统要给你匹配更顺路的单。
就这么简单。
不需要你把整个调度模型的核心逻辑全摊开给人看,也不需要你拿一句“最终解释权”当挡箭牌,只要你真的把和当事人切身利益相关的决策原因说清楚,就算把算法解释权行使到位了。
刚才老板又在群里@我了,说张姐那边的合同对方终于同意按我们改的版本签了,让我下午把终稿打出来送过去。
我伸手去扯打印机里卡的纸,指甲缝里还留着上次蹭的炭粉。
微信里现在还躺着十七条未读的语音,都是各个客户发的,最长的一条72秒,说的全是“我觉得这个条款没问题啊,差不多就行”。
我知道等下送完合同,回来还要改那个外卖平台的骑手规则,还要给下个客户的算法合同做合规审查。
水凉了。
泡烂的枸杞沉在杯底,像极了我现在的脑子。