通过 尤金尼奥·布奇*
新出书章

不确定的人和机器的主人
我们的问题是机器对你来说是一个比你对它更大的不确定因素。 大多数关于您的疑虑,您的智能手机已经解释并定价。 应用程序和算法几乎了解您手指后面的内容,以及您以挑剔的方式移动覆盖屏幕每一平方毫米的内容。 这就是为什么在您键入“v”的那一刻,机器“猜测”您将要写“empty”、“value”或“vice”。
我们的问题在另一边,我的意思是,在这边。 我们的问题是你不知道机器是如何了解你的一切的。 我们的问题是,在另一边有一组复杂的操作,非常有利可图,但您无法访问。 我们真的不知道那边发生了什么。 几乎没有人知道。 唯一知道另一面的人是那些拥有金库钥匙的人 大科技 – 例如拥有谷歌和 YouTube 的 Alphabet,或拥有 Facebook 和 WhatsApp 的 Meta – 锁定他们算法的代码。 人很少。
我们的生活陷入了前所未有的不对称。 另一方面,被科技巨头垄断的“数字世界”的神经中枢,为绝大多数人类带来了巨大的不确定性。 由科技巨头控制的算法已经等同于人们行为可能存在的几乎所有不确定性。 在这一边,我们看着企业集团,看不到他们保留了什么。 他们有不透明的墙壁。
您将接受血液检查。 您的初级保健医生对结果有一定的期望。 根据他评估的症状,他考虑了出现一种或另一种疾病标志物的可能性。 这些指标的可能性或大或小,取决于您医生的临床判断。 无论如何,在指数从实验室出来之前,你只不过是一个具有一定程度熵的系统。 与您在实验室检查的可能结果相关的不确定性越大,来自那里的信息的价值就越大。
但是有所有的技术条件可以让算法比你的血肉之躯的临床医生更准确地知道你考试的概率。 正如手机预料的那样,一旦你的手指在 WhatsApp 上按下字母“v”,你的意图就是写下“virus”或“viral”,一个可以访问你实验室数据库和其他数千家银行的系统将被能够预测结果的可能趋势。 这些可能的趋势将基于从您之前的检查数据中提取的统计模式以及来自数百万或数十亿其他患者的数据。
手机中的一串 XNUMX 和 XNUMX 可以预测出可怕的诊断结果何时出现,具有很好的数学确定性。 为什么系统想要了解你健康的未来? 没错:因为这个预测具有市场价值,尤其是对保险公司而言。 容我们说,还有这些临床预测的预科结果。 受训者 大数据,医生的行为越来越像风险管理者:他们管理患者的临床指标“组合”(胆固醇、血糖、甘油三酯等),目的是将他们从不太有利的统计组中剔除。 福祉和健康被简化为概率安排。
我们在办公室受到的待遇是精算指标的一种变体,目的是将我们从更有可能发生索赔的象限中移除。 医学专业人士的行为或多或少像证券交易所的交易员或基金经理。 至于医院,它们正变得类似于投资银行。
换个说法(零和一),不确定性是一件好事(或坏事),在数字化世界中分布不均:它更大,更大,对于不是财富所有者的人类来说是无法克服的,大企业或权力; 对于价值数十亿或数万亿美元的公司的所有者以及那些运行政治机器的人来说,它规模小、管理良好并且有利可图。
大多数时候,我们将这种不平等视为人与机器之间的裂痕,但说实话,我们在这里谈论的是社会阶层之间的裂痕。 不同之处在于,那些处于顶层的人,精英中的精英中的精英,拥有技术,他们从中获取不确定性的收益,而处于底层的人只会随之损失。 归根结底,我们的问题不在于技术,而在于约束它的产权关系。
* 尤金·布奇 他是 USP 传播与艺术学院的教授。 作者,除其他书籍外, 虚构的超级工业(真正的).
参考
尤金·布奇。 不确定性,一篇文章。 我们如何看待让我们迷失方向(并引导数字世界)的想法。 贝洛奥里藏特,Autêntica,2023 年,140 页(https://amzn.to/3Qyfigp).
