孙亮：要理清算法与资本关系，改变算法逻辑

【编者按】

上海社联2023年度论文已出炉。该活动无需作者自行申报，依托各学科权威专家学者、学术期刊主编、资深学术编辑等开展多轮评审。在“反五唯”背景下，这个活动也是对学术评估机制的大胆创新。

推荐入选论文的共同特点是密切关注社会现实和学界动态，善于发现和提炼问题，彰显学术论文的创新性、学理性、科学性品质，并具有一定前瞻性和开拓性。

澎湃新闻记者与上海社联2023年度论文获奖者展开对谈，看上海社科学者如何在现实关切中，回答中国之问、世界之问、人民之问、时代之问。

当今，算法广泛应用于经济发展、国家治理等层面，同时也渗透进日常的数字化生活之中。随着推送的个性化、生活的指标化、劳动的度量化，一旦以资本原则为主导，算法则会出现严重的“异化”问题。华东师范大学哲学系暨中国现代思想文化研究所教授孙亮认为，当“算法”被构建为认知世界的图像，成为治理的新主体，蜕变为资本增殖的工具时，造成了与现代世界文明的“悖反”。

在上海社联2023年度青年论文《“算法资本主义”的政治经济学批判阐释》（原载于《马克思主义研究》2022年第11期）中，孙亮通过对算法运行机制的分析发现，算法内在地蕴含了设计者的预期“利益”。在资本操控下，算法及其平台在数据引导的能力、数据的占有上形成了垄断。因此，在充分发挥算法积极作用的同时，也要警惕资本为了追逐利益在对算法运用时造成的负面影响。

在“苦于算法之发展”与“苦于算法之不发展”的双重张力下，孙亮认为，一方面中国现代化建设要突出算法优势，另一方面要明确算法与资本之间的复杂关系，警惕算法资本化的运用范围、程度、边界，特别是算法设计的价值偏向，寻求矫正算法的基本原则、具体策略，从而发挥算法在经济、政治、文化等方面的积极价值。

认清算法局限，发挥好算法优势

澎湃新闻：当前算法与现代世界文明出现了怎样的“悖反”现状？存在哪些现实问题有待关注？

孙亮：算法在经济与社会发展、国家治理等层面的运用越来越重要和广泛，但在现实中，算法也与现代世界文明产生了“悖反”状况，被资本所吸纳的算法对现代文明发展带来很多现实问题。

首先，我们生活在被算法精心构造的认知世界中，一切都有可能成为被操纵的“精准图像”。在数据样本足够大的情况下，算法可以对社会进行精准把握与主导，这一过程就好比制图学工作。当世界被卫星导航、地图软件和全球定位系统渗透，会表现为一系列图像，我们只能从图像的算法去理解世界。一旦如此，人们就会失去对世界自身更为整全性的认知，用阿多诺的话说，“对象不可能完全消融在概念之中”。

算法会强化主体“认知茧房”的现象，每个人在数字世界中只能接收主观偏好的事物。算法的前提是生活的度量化，健康、睡眠、行为、情感、经济生活等一切皆可被计算。算法通过我们每次的搜索、浏览记录，能准确投放“选择标准”，人们由于追求完美而臣服于这种标准，最终成为被算法俘获的对象。比如，通过人面部表情欢快的频率、心率、血压等可以评估度量幸福，通过算法的大数据精准推送，也可为不同人群构造浪漫爱情的个性化指标。

其次，算法原本可以解决社会运行的“有序”问题，但在资本化操纵下，很可能走向新的“生命政治”治理空间，带来负面影响。算法世界存在将人“物化”的风险，导致算法本身成为主导规则的“主体”，人和现实世界则成为算法待处理的“对象”。算法治理是对“对象”进行更准确、细致、全方位的数据抓取和加工，在差异化的“私人定制”中，完成对个体无死角的“调节”。由此，算法构成新的生命政治治理的基础条件。

最后，从资本主义社会生产方式看，算法可以为构造生产资料共享的经济发展图景提供便利，但也可能蜕变为资本增殖手段。一旦作为“资本增殖手段”，数字算法将会彻底打破工作与生活的界限，化解劳动的度量难题。而对于无法被度量和价值形式化的情感、交往等“社会关系”，经过算法也彻底解决了度量的难题，这为资本主义的“抽象”统治和实质吸纳提供了可能。因此，认为算法能通过调节资源产生共享经济与相应生存方式的看法不仅难以形成，反而加剧了资本主义的不公正以及社会撕裂现象。

澎湃新闻：这篇论文的重要研究成果是什么？在社会主义生产力发展要求下，这对于推进中国式现代化建设有何现实意义？

孙亮：论文一方面梳理了算法在现代文明发展中可能会出现的问题，更重要的是，通过对算法运行机制的分析，论证算法蕴含了设计者的预期“利益”。受资本操控影响，算法及其平台在数据引导能力、数据占有方面构成垄断，通过操控数据资源完成资本增殖目的，加深了对劳动者的剥削程度。

为此，在社会主义生产力发展要求下，特别是发展新质生产力的要求下，我们必须把握好“苦于算法之发展与苦于算法之不发展”的现实境遇，使其更有助于推进中国式现代化建设。

中国式现代化建设既要突出算法的优势，大力推进数字经济的发展，也要明确算法与资本之间的复杂关系，警惕与规范算法资本化的运用范围、程度、边界，特别是算法设计的价值偏向，寻求矫正算法的基本原则、具体策略，从而发挥算法在经济、政治、文化等方面的积极价值。

因此，不仅需要处理好算法与资本逻辑的关系，更需要改变资本化的算法逻辑，使其在社会主义的应用中产生积极价值。这一课题值得数字研究者从多学科展开富有建设性的研究。

警惕算法在资本推动下的负面影响

澎湃新闻：算法在社会发展中发挥了积极作用，但资本为了追逐利益，对算法运用造成了哪些负面影响？

孙亮：资本为了追逐利益，在运用算法时造成了很多负面影响。比如，算法需要聚合来源不同的数据，但数据获取渠道要合法合规，数据在使用中也要通过更多规范加以约束，目前要警惕存在资本在数据中造成的垄断，恶意竞争、数据不规范导致的风险，以及隐性的数据监控等问题。总体来说，算法在资本推动下造成的负面影响有以下几种类型。

在个体层面，算法会干预偏好、习惯、认知，从而调节和操控人们现在以及未来的生活。比如，创造了“数学清洗”概念的弗莱德·本南森就认为，脸书（Facebook）编辑通过故意推出其他事情以压制另一些事情，是在利用算法左右人们的价值与判断。

在社会层面，算法导致社会鸿沟拓宽，算法治理规则的同一性与社会自身复杂性之间矛盾的强化、社会市场竞争集中化等问题凸显。比如，尽管市场竞争中“赢家通吃”的局面有所改观，但依然需要引导超级大平台通过市场优势支撑市场健康发展。

从全球来看，算法在资本的推动下，加剧了发达国家与发展中国家的不平衡。发达国家垄断数据、支配算法，形成了新一轮的数据殖民主义。此外，还有数据隐私、数据监控等问题，算法社会还在发展之中，其负面性需进一步观察。

澎湃新闻：您在论文中就设计者利益掌控“数据引导”与算法运行的资本原则展开了深入分析，并提出了三种机制，理解这一问题的关键是什么？

孙亮：这三种机制指的是，第一，算法作为特定的资本主义生产形式并非客观、中立，而是蕴含了设计者的“利益”预期；第二，在西方社会，以生产资料私有制为基础的资本主义生产关系所造成的不平等，会进一步在算法和决策中再次显现，其典型表现为数据引导能力；第三，最重要的是，需考察平台所有权的资本主义属性问题，这样才能在改变这一属性的基础上，使其朝公共利益方向发展。

我认为，理解这一问题的关键是将算法看作“工具”。算法本身没有自主性，需要外部给予指令，因此，指令性质才是导致算法与文明相悖的原因。以数据引导能力为例，过去人们上网的主要方式是浏览网页，如今随着智能手机的普及，少数几个APP几乎占据了人们所有的上网时间，让社交、工作、生活都更为便捷。但人们也更加依赖相应平台，甚至不会轻易更换，因为复杂的注册程序，足以让人望而却步。随着生活、工作日益依赖几个大型APP，数据将被更为集中地提取、重构，从而更有效、全面地确保数据引导效果，这种趋势就是数据垄断主义效应的体现。

与此相应的是，一些市场主导者宣称数据资源的私有化，认为任何一种资源的私有化都能给所有者带来最大动力，这是自由主义经济学对算法和数据资源的投射。资本需要利用新技术重构生产组织形式，而平台算法恰恰为资本增殖提供了条件，平台与资本在相互推动中达成纯粹的资本增殖目的，这是“算法资本化”的基本观点。

避免被困在算法中

澎湃新闻：论文中的研究成果如何帮助解决算法所造成的社会问题？比如，近年来备受争议的外卖骑手困在系统、大数据杀熟、信息茧房等问题。

孙亮：经济生活或日常生活中出现的大数据杀熟、信息茧房等问题都只是“结果”，背后的原因是算法被利益引导。资本确实需要增殖，否则就没有资本的扩展，市场也难以进一步发展。但是，市场更需要健康发展。

我在论文中从超越与现实两个维度讨论了如何解决算法造成的社会问题。

从超越角度看，算法或者说是“一般智力”只要为资本占有，个人劳动力便会被广泛吸纳进剩余价值的生产之中。为此，只有变革资本主义生产资料所有制结构，算法才能在提供社会生产力的同时，促进人的自由全面发展。

从现实角度看，算法从属于资本的发展方向，受资本原则的主导与调节，在一定范围内依然有现实性依据。正因如此，人们需要对智能算法时代的来临抱有积极想象，因为它是人类获取自由时间、成就自身的积极条件，这就是“苦于算法之不发展”。

澎湃新闻：2023年人工智能、大模型等技术取得突破性进展，关于人是否会被机器所取代的话题也一度处于风口浪尖，您如何从算法角度看待这一现象？

孙亮：ChatGPT等成为学术热点有现实依据，但目前谈论人能否被机器取代这一问题可能还为时过早，因为无法证明人被机器取代的算法方向完全正确。学术对此有两种讨论，一种认为，人有自己的特殊性，心灵、意志、否定思维、感情等都是无法被人工智能逾越的。另一种认为，心灵、意志等其实是一种功能性存在。比如，丹尼特就在论证这一观点。因此，只要算法方向正确，功能性存在都可以通过算法达成。

在我看来，这是两种不同世界观的争论。当前主要需要警惕的是以算法为代表的科技与资本联合后，对人的生活、现代文明所造成的负面危害，所以在谈论技术奇点之前，更重要的是关注经济奇点的问题。

澎湃新闻：您在论文中谈到“苦于算法之发展与苦于算法之不发展”的现实境遇，要想化解这一矛盾该从什么方面思考解决之道？

孙亮：“苦于算法之发展与苦于算法之不发展”的现实境遇，主要与现代化发展方式有关。西方的现代化以资本原则为主导，凡是利于资本增殖的任何手段都可以被吸纳和推进，不会有发不发展算法的矛盾。但中国式现代化发展方式要规范、引导好资本。一方面要发挥资本的积极作用，进一步发展算法以推进中国现代化建设，另一方面要控制资本的消极作用，规范算法应用，制定系统性的算法规则。

最近，从国家到地方数据局的挂牌，就是要统筹推进政府、企业、社会的数据要素，从而让数据得到合理确权，让算法以实现高质量发展、建设中国式现代化为发展方向。同时，对于数字经济与数字社会发展中出现的算法问题，相关法律、法规及政策也在积极推进规范化建设。这在全球数字社会发展的大背景下具有重要的历史意义。