通过 尤金尼奥·布奇*
人工智能研究的六个月休战不会解决任何问题。 以温柔和同情的眼光看待你周围的世界，因为它会在一声叹息中消失。
过去几周，以色列历史学家 Yuval Noah Harari 撰写了几篇文章，声称人工智能 (AI) 已经“黑掉”了人类的“操作系统”。 这是一个比喻：这里的“操作系统”是指语言。 机器终于接管了我们的表达和交流方式——它带来的危险是前所未有的、巨大的，比我们以前所知道的任何危险都要大。
尤瓦尔·诺亚·赫拉里 (Yuval Noah Harari) 以令人难以抗拒的清晰度编织论据。 世界畅销书的作者，例如 智人（Homo sapiens） （由 Companhia das Letras 在巴西出版）具有使我们这个时代一些最痛苦的困境变得可口、容易理解甚至引人入胜的天赋。 文章的第一篇，最初发表于 The New York Times , 被翻译成报纸和 巴西网站.
不久之后，这位作家领导了一项跨国请愿，呼吁在人工智能研究方面休战六个月。 然后，他带着新的文本回到负载，这次是在英语周刊上 “经济学家” （28 月 XNUMX 日），在网站上以葡萄牙语发布 地球是圆的, 传达同样的信息：一种能够接管人类语言的技术拥有阻碍全人类的一切。
争论继续进行。 地球表面存在或曾经存在的所有神话、所有宗教和所有文化都不是由氨基酸或染色体构成的，而是由语言符号构成的。 这些标志支撑着我们信仰体系的“操作系统”、我们的艺术表达和我们的身份——它们是我们意识的结构。 很快， 软件 e 硬件 谁拥有这个“系统”，谁就能统治我们。 这就是为什么在很多知情人士看来，人工智能的破坏力与核武器不相上下。
但这甚至还不到刚刚开始的安魂弥撒的一半。 如果我们正视这个问题，我们会注意到 Yuval Harari 本可以说的比他说的更多。 调用的发展 机器学习，我 大数据 自编程设备遵循不可阻挡的过程。 没有签名者可以阻止它。 不归路可能已经过去了。
要理解技术过程的不可逆性，最好记住弗兰茨·卡夫卡所描述的另一个过程，即法律过程。 不管证据是否存在，司法阴谋都在向前推进，无人能挡。 技术和法律一样，是人类的创造。 然而，与法律不同的是，随着它变得非人化并从人们手中解放出来，它变得更加强大。
马丁·海德格尔 (Martin Heidegger) 在谈到 XNUMX 世纪上半叶技术的力量时，也有类似的感受。 三百年前，托马斯·霍布斯 (Thomas Hobbes) 指出，被怪物利维坦 (Leviathan) 附身的国家会为所欲为，对付任何人。 人类的聪明才智制造出拥有自己生命的“怪物”的感觉并不新鲜。 亚当·斯密设想了这样一只“看不见的手”在操纵市场。 卡尔·马克思发现了一个隐藏在商品和资本之间的凹陷处的“自动主体”。
事实证明他们是对的。 马克斯·韦伯 (Max Weber) 带着一丝乐观看待的官僚主义很快就退化为斯大林主义，并吞噬了他的父母，仿佛证实了小说中的诅咒。 怪人, 从 1818 年开始，玛丽雪莱在其中描绘了征服造物主的生物。 在古希腊的悲剧中，没有政府的宿命被称为命运。 在现代，你可以称之为无意识。 思想甚至理解它在思考什么，但它无法阻止它。
我们在这里，与人工智能面对面。 驯服她的可能性很小。 她完成了将人类语言从有血有肉的人的领域中移除的壮举。 她，这种只能通过我们存在的语言，现在将能够超越我们而存在。 让我们不要低估这一小步的规模，这将是技术的一大飞跃。 语言学家 Ferdinand de Saussure 教导说，谁发明了一种语言并将其投入流通，谁就失去了对它的控制。 很快，我们可能会失去对学会说我们自己语言的机器的控制。
人工智能自动化起源于人类的协议，并以越来越快和越来越大的规模从中提取有效的预测。 它在内部增长并变得更加复杂 掩体 私密且不透明 大科技 – 或者在国家机密中，也是不透明的。 目前还没有政治力量能够同时打破这两种不透明。 不，六个月的休战解决不了任何问题。 我们的机会很小。
以温柔和同情的眼光看待你周围的世界，因为它会在一声叹息中消失。
* 尤金·布奇 他是 USP 传播与艺术学院的教授。 作者，除其他书籍外， 不确定性，一篇文章（真正的).
最初发表在报纸上 圣保罗州.
地球是圆的 感谢我们的读者和支持者。
帮助我们保持这个想法。
贡献
