Cultura digital, gestão algorítmica e repressão política -

数字文化、算法管理和政治镇压

12/08/2021

科学和技术 • 贡献者

通过 安德烈·坎波斯·罗查*

关于数字化转型影响的思考

数字革命的基本方面之一是将无数日常事件和现象——事件、声音、图像、文档等——转换为计算机的二进制语言 0 和 1，从而可以分析、测量、比较并生成预测或理解世界上有时对常识来说很奇怪的事物之间的模式和关系。

在这个过程中，出现了一种新的文化环境，其标志是与以前的生活方式彻底决裂。例如，看看我们的 智能手机，这些紧凑而强大的设备从起床到就寝一直陪伴着我们，让直到最近才构成我们日常生活结构的过时体验，现在被数字化转型的疯狂步伐所取代。

即使在今天，如果属于我们私人生活的东西被适当地打包和压缩在我们的位来自我们电子设备的信息？谁还记得他们上次举手叫出租车的情景，考虑到私人交通市场越来越多地被数字平台所主导，那可能是一次痛苦的等待？如果我们的金融交易和空间定位手段直接整合到我们的生活中，纸币和硬币（以及我们过去用来装饰房屋的小钱猪）甚至实物地图的命运将会怎样？ 聪明人?

通过将事物非物质化并归入一个单一的对象中， 智能手机 描绘我们习惯和习俗的变化节奏对数字创新动态的从属关系。更重要的是，这些人工制品是最近技术征服的真实综合，谴责从工作领域和空闲时间的洗牌到模糊不清的点（如果不是休闲和娱乐与专业空间的混合体，那么社交网络是什么？广告和广告？），因为这些相同的普通习惯和行为被铭刻在维持和引导数字世界的财务、技术、法律和运营安排中。由于能力和塑造能力的主动性存在明显的权力失衡，屏幕上展现给我们的世界并不是一个中立的写照。它是根据控制我们数据的那些公司和机构的利益而设计的。尽管我们知道进入这个宇宙我们就放弃了我们的隐私和亲密关系，但交易的条款并不总是很明确。这意味着，为了在日常工作中胜任，我们依赖于一组我们不认识的技术参与者，他们是宇宙的领导者，他们的操作逻辑对我们来说是不透明的，他们对我们主观性的影响是刚开始意识到。

事情并不总是这样……正如伊朗博主和活动家 Hossein Derakhshan（2015 年）所证明的那样，今天我们正在经历 超链接. 英语单词链接给出路径、捷径、连接的概念。的时间 超链接 那是一个时候 万维网 他重视权力下放，打破等级制度，执行由节点和网络组成的大型可导航系统。那是个人博客的黄金时代，“通往我们知之甚少的生活的窗口，连接不同存在并因此改变它们的桥梁”（Derakhshan，2015 年）。现在已经不是这样了。

在 2008 年危机后的世界中，西方数字生态系统的基础设施由位于美国西海岸的五家大公司运营和主导：Alphabet/谷歌、Facebook、亚马逊、苹果，以及较小程度上的微软. 该系统的核心是企业（Dijck、Poell 和 Waal，2018 年）。硅谷“加州意识形态”的自吹自擂的理想，在反叛和越轨的奇怪混合中一拉 新左派 有创业精神 高科技，宣扬开放和分享的价值观（Barbrook 和 Cameron，2015 年），只不过是面对这些人的侵略性时的颂歌 大科技 扩大他们在网上的业务，购买 初创公司 建立伙伴关系，阻断其他平台的路径，并以生存为代价迫使它们以某种方式与它们连接。众所周知，其主要资产——尤其是 Alphabet/谷歌、Facebook 和亚马逊——是用户提供的数据。有了它们，这些公司可以提取必要的知识，向第三方出售个性化广告，以毫米的精度达到预期目标。

出于这个原因，他们首先努力吸引我们的注意力，这是当今充满屏幕的兴奋社会中越来越稀缺的资源（Türcke，2010），而且由于不可转让，它变得越来越有价值。为了创造价值，为扩展业务提供必要的信息，这对这些人来说至关重要 大科技 我们尽可能长时间地依附于他们的平台——因此 Derakhshan（2015 年）感叹社交网络与过去的博客不同，具有封闭的、自我参照的特征，因为他们倾向于对待原生文本和图像，直接发布在他们的平台上域，比托管在域外的域更受尊重。而他们所使用的说服技巧构成了营销策略的一个“转折点”，使得阿多诺和霍克海默（1985）指出的“经典文化产业”的意识形态手段就像儿戏一样。

在整个 XNUMX 世纪，营销策略首先寻求的是创造消费者对产品的认同感：万宝路香烟非常适合傲慢独立的个性；人造黄油是营造繁荣和谐家庭环境的理想食品。目前，将先进的计算和大数据与知识相结合 行为经济学 和认知行为科学，这些大公司不仅寻求产生 可行的洞见 关于我们有价值的东西，但更果断地，改变我们是谁，影响我们的个性，使我们成为更可预测的人，容易成为其算法管理的复杂机制的猎物（Bentes，2019）。

被限制在数字泡沫中，我们在政治上变得更加激进，无法理解对特定主题的多种看法和不同观点。用 Eugênio Bucci (2021) 的话说，被这个虚构的超级产业迷住了，在他的控制技术中包含了行为主义心理学的整个词典——条件反射、触发器、可变奖励、决策架构等被吸进了这些成瘾的齿轮中，以至于我们经常发现自己处于无休止的运动中窃听 e 滚动在 YouTube、Facebook 或 Instagram 上，它们以压倒性的力量诱惑着我们。

在这里，决定性的不是内容而是形式；或者正如媒体学者麦克卢汉 (McLuhan, 1967) 提醒我们的那样， 媒介就是信息。 网络引入的交流模式吸引了无意识和情感，是当代文化景观中的一个革命性因素。根据神经科学研究，我们的大脑具有可塑性和可塑性，其突触网络由我们的习惯塑造。因此，从思想史的角度来看，互联网是一种改变我们思想的力量（Carr，2010）。在其刺激的多样性中，它促进了分心和肤浅的思考，这与新自由主义资本主义的绩效压力有关，引起了与 多任务、疲劳和注意力缺陷（Han，2017）。在这种鼓励身体和精神行为重复的超快速传递和奖励系统中，我们的思想被消耗在中间。因此，技术不仅是我们的延伸，而且我们也成为技术的延伸。

从文化、经济和技术的这种交织中，人们必须质疑自由主义理论一直用来思考社会和政治的理性和消息灵通的个人的有效性。当我们沉浸在有利于传播的环境中时，深思熟虑和反思选择的地方是什么？ 假新闻 和阴谋论，在不知所云的情况下，在飞速传播的海量信息中，去哪里寻找事实的“真相”？当我们将自己变成位于算法网络中的粒子时，我们如何谈论“自主主体”，该算法网络能够调节我们的品味和欲望并指导我们的行动？

随着信息集中在有限的一群人手中 大科技，结果，政府和企业变得比我们强大得多。与此相关，大数据和人工智能时代算法管理的两个特征似乎是根本性的。首先，应该注意的是算法只不过是一组指令，一系列转换特定输入数据的步骤（输入) 变成一些预期的结果 (输出). 一些常见的东西，例如巧克力蛋糕食谱，可以被认为是一种算法。食谱由一组指令组成，旨在将某些数据输入、配料（鸡蛋、面粉、酵母等）转化为成品，即可以食用的热蛋糕。粗略地说，人工智能系统的特殊性在于它们提供了数据输入和输出，并且算法寻求最佳手段 - 最佳步骤集 - 以达到建议的目标。（在蛋糕这个微不足道的案例中，就好像面对着配料和现成的蛋糕，算法在寻找完成任务的最佳方法，在使用配料、优化成本、节省时间等方面，等）

因此，在拥有大型数据库和当今计算处理能力的推动下，这些系统具有巨大的效率能力，即在手段和目的之间找到最佳和适当的路径，无论它们是什么，在这样的程度上，在它们中存在一种有点非理性和反乌托邦的可能性——被科幻小说系列和小说广泛使用——超越或超越它们原则上被编程的“目的”。

Alphabet/Google 开发的人工智能软件 AlphaGo 打败围棋世界冠军 Go （比国际象棋复杂得多的棋盘游戏）李世石不仅打败了韩国大师，走的显然是荒谬的棋步，而且不久之后，他还被他的新版本 AlphaGoZero 打败了。 AlphaGoZero 与其前身相比的新之处在于，它从伟大的游戏玩家那里学到了许多技巧和技术。 Go 与自己对弈数百万次，只得到白板和游戏规则。这种机器放弃真实世界示例，学习自主解决复杂问题的学习技术，无疑代表了其认知能力向未知领域迈出的一大步（Knight，2017）。像这样的资源可以用于社会的不同部门，这让我们想到了这里列出的第二个特征：某些人工智能应用可以很容易地从一种环境转移到另一种环境，从而脱离它们的原始用途。

应用程序 FindFace，由 Alexander Kabakov 开发，允许用户执行上传未知人物的照片并将其与俄罗斯社交网络上共享的所有图像进行比较 VKontakte等，在不到一秒的时间内筛选出数十亿个。当打包并提供给公众时，应用它已经被一名摄影师用来识别莫斯科地铁上的陌生人，也被一群厌恶女性的性别歧视者用来骚扰和骚扰女性性工作者。卡巴科夫最终与莫斯科市政府签署了一份合同，将他的面部识别算法用于全市 150.000 个监控摄像头（格林菲尔德，2017 年）。

事实上，人工智能应用，如 FindFace 事实证明，卡巴科夫在为世界各地的威权主义服务方面非常有效。与传统的胁迫和恐吓手段相比，它们的巨大优势在于它们是沉默的，因此允许更广泛和更系统的统治类型。如果一个专制政府要镇压反对派，已经没有必要动员大批武装到牙齿的警察。除了所涉及的成本和风险之外，这些手段的有效性还与人体的生物学极限相抵触——尽管正如 Crary (2014) 提醒我们的那样，克服这些极限是 24/7 新自由主义资本主义的目标之一。

人类又饿又渴：他们的能量储备是有限的。自动化的人工智能系统无情且无处不在，即使在没有身体暴力的情况下也会产生行为变化并产生重要的抑制作用。适用于大城市的算法语言是监视、预防控制和可扩展异常检测的语言。知道他们正在被监视，知道实时集群检测算法 - 确定何时形成更大的人群 - 正在被政府甚至是 机器人 如果人工智能在他们的信息中搜索批评该政权的信息，人们会强烈地被迫服从（Feldstein，2019 年）。

一段时间以来，新技术在国家监视中的作用一直是争论的主题，至少自爱德华·斯诺登 (Edward Snowden) 于 2013 年披露美国国家安全局 (NSA) 采用的全球监视机制以来（美国国家安全局) 北美。众所周知，Facebook 和 Twitter 等社交网络如何助长了威权主义的兴起和全球新右翼民粹主义的出现，剑桥分析公司在英国退欧和唐纳德特朗普当选总统时的表现就是明证。 2016. 尽管西方自由民主国家有法律机制可以应对此类滥用行为，对大型平台实施监管和罚款，或通过法律保护个人数据，但不难想象，尽管有相反的言论，民主政府会屈服于利用人工智能技术侵犯公民权利的诱惑。而且，尽管他们实施了新闻检查等“透明机制”，但很难相信数字平台和社交网络正在向民主彻底转变，因为监视和数据提取的模式是核心和存在的理由它的业务。

此外，这里还有一个相关的地缘政治因素，这将是决定未来几年技术方向的基础。在中国——世界第二大经济强国和 5G 革命的世界领导者——人工智能的使用是支撑中国共产党的更广泛控制系统的一部分。在那里，伟大的科技公司——阿里巴巴、腾讯和百度——的联盟， 大科技 在亚洲巨人中占据主导地位，是硅谷公司所独有的——与国家的规模如此之大，以至于在西方世界找不到与之相提并论的地方。除了“更传统”的胁迫和数字监控方法，例如，用来镇压穆斯林少数民族 维吾尔语 在新疆省——带有摄像头的闭路电视配备了与 Wi-Fi 嗅探器相连的面部识别功能，可以在社交网络上筛选联系人、电子邮件、照片和视频——中国正在建立一个真正的奥威尔式国家社会信用体系，人们的名誉受损，那些不“遵守规则”（八卦、过错街道甚至花园凌乱）的人可能会发现自己找到工作甚至上好学校的机会都受到威胁。考虑到新丝绸之路的宏伟工程是其挑战西方自由秩序野心的象征，中国应扩大其影响半径，向其他国家输出其治理模式；事实上，这些已经在津巴布韦、马来西亚或新加坡等不同地方使用（Feldstein，2019 年）。

* 安德烈·坎波斯·罗查 是 PUC-MG 社会科学博士候选人。

参考文献

阿多诺，西奥多；霍克海默，马克斯。 启蒙辩证法：哲学片段. 里约热内卢：豪尔赫扎哈尔，1985 年。

巴布鲁克，理查德；卡梅伦，安迪。 加州意识形态。 1995年发售。 http://www.comune.torino.it/gioart/big/bigguest/riflessioni/californian_engl.pdf.

本茨，安娜。注意力的算法管理：勾引、了解和说服。在：POLIDO，Fabrício；安约斯，卢卡斯；布兰多，路易莎（有机）。 政治、互联网和社会. 贝洛奥里藏特：互联网与社会参考研究所，2019 年。

布奇，尤金。 想象的超级工业：资本如何将目光转化为工作并挪用一切可见的东西. 贝洛奥里藏特：原汁原味，2021 年

卡尔，尼古拉斯。 浅滩：互联网对我们大脑的影响. 纽约：WW Norton & Company，2010 年。

疯狂，乔纳森。 晚期资本主义和睡眠的终结. 圣保罗：Cosac Naify，2014 年。

德拉克山，侯赛因。拯救互联网。图表, 贝洛奥里藏特，第 08 期，第 52 – 55 页，2015 年。

DIJCK, 何塞范; 波尔，托马斯； WAAL, Martijn de. 平台社会。纽约：牛津大学出版社，2018。

韩炳哲。 疲劳社会. 彼得罗波利斯，RJ：声音，2017 年。

格林菲尔德，亚当。 激进技术：日常生活的设计. 伦敦：Verso Books，2017 年。