通过 塞尔吉奥·阿马德乌·达·西尔维拉*
算法灾难和“停电”云
1.
现代性社会学产生了一系列需要深化的反思，特别是在反动浪潮蔓延的时代，这些浪潮共存并以旨在调解所有人类活动的技术的兴起为食。社会学家乌尔里希·贝克 风险社会1986 年在德国出版，警告说，在技术和工业进步的推动下，风险和不确定性已成为现代社会的核心。
乌尔里希·贝克（Ulrich Beck）已经指出，此类风险将越来越不可见，他们的看法将受到科学机构和媒体的影响。风险的动态将被纳入其中，不断寻找那些对灾难负有责任和有罪的人将引导我们制定由风险管理支持的特定政策。
乌尔里希·贝克的看法再现实不过了，因为数字技术已经主导了经济，而控制数字技术并指挥其发展的大公司已经强加了风险管理风格。哲学家Yuk Hui打开他的文字 算法灾难——偶然性的报复2020年，技术灾难不仅仅是物质上的失败，而是理性上的失败。受到保罗·维利里奥 (Paul Virilio) 的启发，许玉认为当代技术系统是灾难的载体，也是减轻其动力和目的所产生的悲剧的技术。
由于自动化和自动化技术的本质，灾难是不可避免的。我们的系统正在朝着越来越多地使用基于统计和概率的机器智能解决方案转变为算法系统，该算法系统通过巨大的计算能力运行，生成用于自动化活动及其风险的模型。
诺伯特·维纳，在正文中 自动化的一些道德和技术后果， 1960年XNUMX月发表于杂志 科学，宣称机器可以开发出不可预见的策略，因为它们携带学习算法，而程序员并不总是能够理解和遵循这些算法。
2.
18 年 19 月 2024 日至 365 日发生的事情就是算法灾难的一个例子。风险管理系统，更准确地说是缓解网络攻击的系统失败了。网络安全公司 CrowdStrike 应用于微软操作系统的软件更新中出现错误，导致了世界媒体所谓的网络或数字停电。微软在前 Twitter（现为 X）上发布的一条消息称：“我们意识到 Windows XNUMX 云 PC 存在一个问题，该问题是由 CrowdStrike Falcon 传感器软件最近的更新引起的。”
每个数字系统都以某种方式包含检测和遏制错误、故障、攻击（换句话说，风险和事件）的尝试。因此，还有其他算法系统一直在工作来分析故障、错误和攻击。防病毒是预防性措施的一个例子，它可以保护系统免遭发送恶意文件的侵害，这些文件会破坏信息，甚至加密数据库，以便从掌握解密信息密钥的犯罪分子那里获取赎金。有趣的是，当保护或攻击预防系统最终促进了对本应防御的系统的攻击时，就会发生被称为“停电”的问题。
安东尼·吉登斯和乌尔里希·贝克写道，在现代晚期，风险很大程度上是由社会本身产生的，主要是由技术、工业化和全球化产生的。然而，我们已经长期处于现代性晚期，处于腐烂的资本主义制度之中。资本家的梦想是反乌托邦的，寻求用自动化系统将人类工作替代到极致，目的是通过提高生产力来降低成本并提高服务和产品的质量和精度。
因此，在当代资本主义中，大型科技公司不断收集数据，以改进从人类、社会和机器过程中提取模式。然而，这个梦想具有不可预测且无法控制的社会技术后果。
在此需要强调的是，风险与增加风险的目标相结合，其中包括数字寡头（即所谓的大型科技公司）推动的市场主导地位的寻求。进入21世纪前十年，基于云计算的商业模式蔓延，加速了算力和数据存储的集中，经济集中度不断扩大。
云业务是什么样的？ “我的数据在云端”这句话是什么意思？云是存储和处理数据和系统的业务的隐喻。 数据中心 通过互联网远程访问。正如笑话所说，“云是其他人的计算机”。
一些公司专业化并最终主导了云配置业务。 2021 年，Amazon Web Server 和 Microsoft Azure 占据了提供基础设施即服务的全球云市场 60% 的份额。这意味着什么。一些公司、机构和政府用亚马逊和微软的合同取代了自己的本地数据处理和存储基础设施，以“照顾”和“租用”数据存储空间和计算服务。
对于公司和政府来说，云承包成本很有吸引力。这导致了这个市场的巨大增长。其结果是经济更加集中。
根据Gartner Group的数据，2023年云基础设施即服务（IaaS）市场集中度如下：亚马逊占39%，微软占23%，谷歌占8,2%，阿里巴巴占7,9%，华为占4,3%。这五家公司占据了全球云市场82,4%的份额。此外，由于大型语言模型（LLM）的训练，这种情况变得越来越糟，这需要许多具有非常高处理能力或计算能力的可用计算机。因此，基于从大量数据中提取模式的生成人工智能正在有助于计算能力的集中，这意味着经济能力。
3.
停电当天，许多公司访问微软云中的应用程序和系统，都面临着著名的蓝屏，这意味着操作系统无法运行。许多拥有 Microsoft 365 的用户也可以访问锁定的文件。 Microsoft 365 就像一项订阅服务，使用户可以通过 Internet 访问 Office 套件和其他服务，而不是将它们本地安装在自己的计算机上。
这意味着用户的数据和文件存储在 Microsoft 云中，允许他们通过互联网连接从任何地方访问其文档和信息。除非提供服务的公司出现故障、受到攻击或阻止，无论是有意还是无意。
这次停电展示了像微软这样的数字关系调解者和数据处理运营商所拥有的巨大力量。毫无疑问，是无意的故障导致了停电。但是，很明显，微软有权阻止公司和机构访问位于其网站上的数据。 数据中心，远离我们的管辖范围和我们实际访问它的能力。
我们那里存在数字主权问题。巴西国家领导人需要评估继续在我国境外的基础设施中托管其战略数据和使用日常软件的风险。我们的大学需要讨论是否有必要将其通信和研究数据保存在我们国家、我们管辖范围内安装的基础设施中并提交给我们的道德委员会。发展所需的自主权越来越涉及数字主权。
*塞尔吉奥·阿马杜·达·西尔维拉 是 ABC 联邦大学的教授。 作者，除其他书籍外， 数据殖民主义：算法战壕如何在新自由主义战争中运作（文学自治）。 [https://amzn.to/3ZZjDfb]
参考文献
贝克，乌尔里希；吉登斯，安东尼；拉什，斯科特。 政治的重塑：走向反思性现代化理论。斯坦福大学出版社，1994。
贝克，乌尔里希。 风险社会. 圣保罗：Editora 34，2010 年。
GARTNER 表示 16.2 年全球 IaaS 公共云服务收入增长 2023%
康涅狄格州斯坦福德，22 年 2024 月 XNUMX 日。链接： https://www.gartner.com/en/newsroom/press-releases/2024-07-22-gartner-says-worldwide-iaas-public-cloud-services-revenue-grew-16-point-2-percent-in-2023
许玉.算法灾难。偶然的报复。 直言：批判哲学杂志， 不。 34 年 2020 号。
维纳，诺伯特。自动化的一些道德和技术后果：随着机器学习，它们可能会以令程序员感到困惑的速度制定出不可预见的策略。 科学,诉。 131，没有。 第 3410 页1355-1358, 1960。
地球是圆的 有谢谢 致我们的读者和支持者。
帮助我们保持这个想法。
贡献
