要钱没有，要码一条？

撰文 ｜ 佘宗明

长臂赋码，红动一时。

豫赐红码，虽远必朱。

这两天，很多网友接续了「大观园试才题对额」式的造词游戏。

这些词指的是什么，懂的都懂。

这将那个现实问题再度抛到了公众面前：

该怎么防止技术脱缰？

该怎么防范驾驭技术者为所「豫」为？

01  

就在近日，谷歌AI工程师Blake Lemoine对外宣称，谷歌的语音对话模型 LaMAD已经觉醒，拥有了8岁小朋友的人格。

结果他遭到谷歌HR的一通怼：你没事吧？你没事吧？没事就吃……就去看看精神科医生？随后把他给停职了。

LaMAD有没有跨过图灵测试，不太好说。

但大数据成精，在河南已被应验。

这几天，许多河南村镇银行爆雷事件的储户，都感受到了世事的怪诞。

现实拍了拍他们，并甩来一段话：要钱没有，要码一条。

知否知否，应是红feign绿show。

健康码变成了电子脚镣，这事在舆论场引发轩然大波。央媒说，给储户赋红码暴露出权力任性。

▲央媒发声。

可讽刺的是，这么任性的举动，愣是还没找到和锁定责任人。

媒体问：红码是谁赋的？结果当地从省里到市里，没人认领——

市12345：大数据库出了问题。

市12320：不太清楚是哪个部门进行的赋码。

省卫健部门：入省的由省大数据局负责，省内流动的由郑州大数据局负责。正在调查核实中。

省大数据局（已更名为行政审批和政务信息管理局）：属地管理，地市赋码。

市大数据局：赋码、解码，由疫情防控指挥部下面的社会防控部直接负责。

舆情汹涌，锅总得有人背。责任人找不到，那能怪的，似乎就剩大数据了。

接下来，有关方面可以把工作重心放在论证「大数据是怎么成精的」问题上。

论证可以分两步：

第一步，论证大数据库会自行加载稳控综治任务，可对人自动赋码；

第二步，论证大数据库能精准锁定那些储户，不冤一人，不漏一人。

新闻中说，同样是扫「郑州车站西南出口」的场所码，有些储户本人成红码，家人却仍是绿码。这不是成精是什么？

就连只存了两毛钱的用户，它都能精准识别，堪称无「微」不至。

存款就是原罪，红码就是赎罪券。

值得注意的是，从舆论反馈看，被红码的，不光是储户，还有当地某烂尾楼业主。

▲媒体报道截图。

看来大数据库已经智能到可以给红码分类别了：储户码、业主码，都是匠心出品。

2019年5月，亚马逊曾被曝用AI监控员工摸鱼，可根据实时数据生成在线解雇指令，直接绕过主管开除员工。

现在看，一山更比一山高——AI监工系统见了能精准自动赋红码的大数据库，也得低头。

02  

技术不单纯，更复杂的是人。

当健康码被某些人当数字截访工具用，人们必然会担心：

被用于非防疫用途的健康码，还会被用来做什么？

然后顺着Marx「异化理论」指引的方向联想。

得看到，近些年，防止技术作恶的呼吁声量渐高。

技术飞速发展，但那些制衡性话语总在拽着它降低配速：

别走得太快，等一等技术伦理。

这不是偶然，而是人们在吃一百堑后长出的一智。

▲技术伦理日益受到重视。

在上世纪初，科幻小说家威尔斯曾设想出「未来技治社会」的场景。他认为，技治社会是不断进步的，最终能把人们带向「现代乌托邦」。

在威尔斯的构想中，未来人类的人性与今日之人性迥然不同，他们渐趋完满，而这类变化并非返璞归真的结果，而是人工规划的产物——从出生到生活、死亡，一切都被「世界国」强力改造。在人性提升过程中，科学技术起着关键作用。

但现实证明，他过于乐观了。

时至今日，就算是技术进步论原教旨信徒，都没法回避一点：

技术没有善恶，但技术可以让某些人为善和作恶来得更容易。

「未来犯罪研究所」创始人马克·古德曼就说，「人类最早的技术应用可能就是对火的应用，用火可以得熟食物，也可以烧毁整个村庄。相比之下，现在的技术革新速度飞快，无论人们想怎样应用科技，都变得更加容易了。」

同样是AI，有人用它来反诈，也有人用它来诈骗。

同样是大数据，有人用它来优化城市管理，也有人用它来侵害用户权益。

这倒不是说，我们该信奉反技术的新勒德主义，该笃信马斯克兜售的「AI末世论」。

但技术作用的两面性，确实该被正视。微软总裁布拉德·史密斯就说：人类科技最紧迫的争议性问题，就在于科技是工具还是武器。

▲科技是工具还是武器？

揆诸现实，在谈到防止技术脱缰时，人们的矛头所指，通常是科技企业：担心被互联网平台侵犯隐私，担心被它们大数据杀熟，担心被它们带入信息茧房，担心被它们变成奶头乐试验品……

而部分企业曝出的隐私侵犯、算法歧视、AI换脸等乱象，确实也授人以柄。

对应的办法，自然是将这些企业关进笼子里。

可如今，红码被滥用的事实将另一个问题抛在了人们面前：

谁来把那些可以将人关进笼子里的人关进笼子里？

毕竟，「技术不该被滥用」对所有技术操控者都该一体通用，不能只许××任性、不准平台乱来。

「监控型资本主义」概念的提出者祖博夫，曾描绘过现代技术的另一面：众人失去了自主性，变为数据制造机，成为具有完全可预测的集体。

而「被红码」现象，无疑丰富了她的理论架构。

03  

天下之器，驭之以道。

但怎么驭，不能由着驾驭者率性而为。

按社会学家项飙老师的说法，健康码这类「技术性的社会系统」也是非流动性基础设施。

它带来了新的「在人口中重新分配流动性的能力」。

在目前的法律框架下，这样的能力与权力显然只能用于防疫。

否则，潘多拉的魔盒必然会被开启：红码一赋，说你是，不是也是。

这就需要，把权力关进笼子里——包括赋码解码的权力。

✎作者 ｜ 佘宗明

✎运营 ｜ 李玩欢迎分享到朋友圈