文·姜昊骞
中国消费者协会，2022年3月11日在官网发布《2021年网络消费领域消费者权益保护报告》。《报告》建议，从更好保护网络消费者的现实需要出发，可考虑再次修改消费者权益保护法，尤其要对直播营销、社区团购等新业态的网络消费作出规制。早在2021年3月，消费者协会建议修改《消费者权益保护法》，对直播带货进行更强力的监管。
这只是建设良性、绿色、健康网络环境的长期行动中的一环。直播带货的魔力不仅在于复读机一样的主播，更在于选品运营的精准算法。主播容易罚，算法却难以处理。
对普通人乃至执法部门来说，算法是无法理解，更谈不上控制的“黑盒子”，却又对个人与公共生活有着无远弗届的影响。《算法的力量》一书运用政治学的基本概念与原理，对我们所处的时代进行了广泛的剖析，指出了算法对力量、民主、自由、社会正义的颠覆性意义。同时，作者还指出了两条摆脱被“黑盒子”控制的道路，即透明化与“新三权分立”。
网约车司机与数字法律
1964年，波兰科幻作家莱姆·斯坦尼斯瓦夫（Stanisław Lem）在《技术大全》中设想了一种自体平衡器。自体平衡器的功能是调控医学诊断、法律判决、工厂生产乃至政策制定，涵盖私人与集体生活的方方面面。如果自体平衡器发展到一定程度，它就能够接管社会，促使人类社会迈入一个前所未有的发展阶段。
这一切都很好，但只有一个问题：自体平衡器是一个黑箱子，不仅使用者不知道它的原理和思考过程，就连机器本身及其创造者也不知道。如此一来，谁能预防和阻止它对人类的潜在伤害呢，谁又能保证它不被滥用呢？
无论从名称还是概念来看，“自体平衡器”都带有十足的科幻味道。但是，在《技术大全》出版将近60年后，自体平衡器不仅已经实现，而且遍布我们的生活，甚至有了一个家喻户晓的名字：算法。新闻里随处可以看到，“算法”、“平台”与人类用户的互动。
在2022年3月19日《1818黄金眼》节目中，网约车司机穆师傅因为害怕自己取消订单后平台会扣服务分，所以尽管平台规则中明确规定他的情况不会扣分，但他还是整整3天不敢点“取消”按钮，结果一直不能接单。
算法是高效而便利的，但也会不时提醒我们：它是一种比人类组织和大部分传统机械更加不透明、更难控制的造物，有时甚至会更加专断。透过算法推荐出现在首页上的视频，我同样能感受到穆师傅的情绪。
《算法的力量》一书探讨的正是这个主宰21世纪的中心议题：我们的生活应在多大程度上受功能强大的数字系统的指引和控制？该书作者杰米·萨斯坎德（Jamie Susskind）是一名英国学者、作家和律师，多年来研究数字技术及其对政治、经济和社会的影响。《算法的力量》的原书名为Future Politics，意为“未来政治学”。这是一个宏大的主题，书中涵盖的内容也相当广阔。
事实上，作者所说的“政治”指的就是“人类的集体生活”，而不是更传统的定义，比如“宣称垄断了正当的暴力使用以维持治安，并能够付诸实行”的实体。萨斯坎德提出这一定义是为了容纳数字时代的种种新式控制手段，他将这些手段归为三类：武力、审查和感知控制。
审查与感知控制，是我们所熟悉的。英国作家乔治·奥威尔（George Orwell）在小说《一九八四》中描绘的“电幕”装置，兼具两种功能。一方面，电幕像摄像头一样，思想警察坐在中控室里观察着每个人的行为举动。“即使一个人待着的时候，他也永远不能确定他到底是不是一个人……他的友谊，他的休闲，他对妻子和孩子的行为，他独处时脸上的表情，他在睡眠中的喃喃低语，甚至他身体特有的动作，都在被不信任地审查着。”今年“3·15”晚会上曝光了“行走的窃听器”——儿童智能手表，表明这种令人不寒而栗的场景并非虚幻。
另一方面，电幕控制了信息渠道，让人们不断暴露于宣传和叛徒的“自述”下，从而变得麻木。奥威尔的想象，基于20世纪的窃听装置与大众媒体。窃听员与报社编辑虽然隐匿在大众视野之外，仿佛在暗室中编织着操纵与阴谋的罗网，但毕竟是具象的、可理解的个体。受众可以将种种情绪聚焦于他们身上，并幻想着只要铲除或改造他们，社会就会变好。
21世纪的审查与感知控制，采取了更日常化，但也更彻底的形式。萨斯坎德举出了一款能够迅速识别并屏蔽违规消息和文章的即时通讯软件。在算法的加持下，数字审核达到了历史上一切审核机制梦寐以求的高度；在算法的帷幕后，审核的标准也变得愈发模糊。用户对自己生成的数据毫无掌控力，而数据却被实时用于规训和审查用户。
此外，正如萨斯坎德所说：“行使这种权力的不一定是国家。各行各业的服务商都可以坚持一定的评级，这增加了这些服务商的权力，而相应地减少了被评估者的权力。”这里点出了一个新的问题：治理主体不再仅限于传统意义上的国家机关，而是必然会分散到其他主体中。
我们常常笼统地将这些主体称作“资本”。为此，西方也有“国有化”的呼声，希望借助国家的力量来约束资本。萨斯坎德正确地指出，根源不在于名义上的所有制，而在于算法本身。
但是，算法的威力在“武力”领域体现得最为鲜明，与传统政治体制的抵牾也最为强烈。“武力”的原文是force，与之相对的概念是“强制”（coercion）。后者就是常见的执法手段，是事后惩罚犯法者，进而威慑众人不敢犯法。前者则更向前了一步，是让人根本没有犯法的可能性，比如给犯人戴上手铐，或者将有自杀倾向的精神病患者关在软墙房间中。或许用“事前执法”和“事后执法”来对应这两个概念，会更加直观。
传统上，武力与强制都是国家的禁脔，武力施用的范围有限，且两者都需要人来执行。在数字时代，这些特征都被打破了。“平台规则”是由算法写成，由算法执行的；文字表述只是为了照顾普通用户的理解能力，执行是自动进行的，不需要人工干预，作为算法燃料的数据也是由其他算法自动搜集处理的。
只有申诉需要人工处理，而且客服人员的第一反应往往是“判决是平台自动得出的”。这些“局部性”的代码法律运行良好，而且正如萨斯坎德所说：“数字法律，私有化的力量，自主化的武力系统，这些都从根本上挑战了我们过去思考武力运用的方式。”
打败算法克苏鲁
在我们享受着数字技术带来的种种便利的同时，心中不时会飘过一丝克苏鲁式的恐惧。美国作家H.P. 洛夫克拉夫特（H.P. Lovecraft，生于1890年，卒于1937年），在小说《克苏鲁的召唤》中描绘了“违背几何原理，不属于欧几里得空间，令人惊恐地联想起球面和与我们这个世界迥然不同的维度”的场景，所有见到这幅场景的人都陷入了谵妄癫狂。
洛夫克拉夫特告诫我们“用谨慎代替鲁莽”，不要再去试图窥探那不应被知晓的奥秘。对于被无理裁决又无处申诉，简直要被逼疯的平台用户来说，算法的形象不亚于南太平洋深处的邪神克苏鲁。萨斯坎德也承认：“我们逐渐进入自己几乎无法理解的数字系统，遑论控制它们了。”
但与洛夫克拉夫特不同的是，萨斯坎德提出了避免这种命运的两种方法，分别是“透明化”与“新三权分立”。
透明化是对算法的祛魅。英国计算机科学家、万维网的发明者蒂姆·伯纳斯-李（Tim Berners-Lee）提出了哲学工程师的概念，他们会以开发者与发明者的身份，用实践的方式来解剖生活。换句话说，哲学工程师既有技术能力，又要有能力和意志去思考自身工作带来的系统性后果。这样的人无疑是存在的，甚至可以发展成一种职业：算法审核员。
然而，这只相当于给将军配了一个监军。用萨斯坎德的话说：“除了这些人，人们仍将处于黑暗中，完全仰赖这些统治者的仁慈和称职。”唯有相当大比例的公众都具有算法素养，透明化才是一种可行的潜在方案。
新三权分立是一种更系统化的方案，要求不能有任何一个组织同时掌控武力、审查、感知控制三者中的任意两者，且任何一个组织都不得垄断三者中的任何一者。从萨斯坎德简要勾勒的方向中，我们能隐约窥见传统政治学智慧在当代乃至未来的延续。
除了力量以外，萨斯坎德还探讨了三个最基本的政治学概念，即自由、民主和社会正义。他相信：“在瞬息万变的时代，回归最重要的原则，并在完全摆脱任何特定合法政权约束的情况下思考这些概念将大有裨益，这使我们有可能去想象一个比我们所继承的制度更卓越的制度。”
《算法的力量》是一本指向未来的书，但并不是一本通常意义上的未来学著作。萨斯坎德没有预测未来的技术或趋势，也不是在发表激进的纲领宣言，而是试图用政治学的概念工具来分析当下危局。他的探讨带有一种平和稳重的气息，甚至可以用保守和温情来形容。安居乐业、自由公正，仍然是他追寻的社会理想。《算法的力量》没有向读者描绘一座飘浮在空中的天空之城，而是先指一指读者眼前的枝丫，接着将目光转向枝丫所在的大树。
《算法的力量》出版后得到了学界与业界的高度好评。爱尔兰哲学家、普林斯顿大学教授菲利普·佩蒂特（Philip Pettit）赞誉道：“只有精英才能控制计算的力量，它分散于空间中，集成在云端，且能够处理数量越来越庞大的数据。这对自由、民主和正义意味着什么？杰米·萨斯坎德开创性地探索了这些问题给我们的政治思维和实践带来的挑战。这是一本必读书。”
华东师范大学教授、《西方现代思想讲义》作者刘擎认为：“萨斯坎德呼吁人们，应当严肃对待正在迫近的危险政治前景，并及时行动予以应对。”