后人类沙漠

图片:Pavel Danilyuk
Whatsapp
Facebook
Twitter
Instagram
Telegram

通过 斯拉夫·齐泽克*

人工智能的发展将导致我们所知道的资本主义的终结

研究院的公开信 生活的未来 包括埃隆·马斯克在内的数千名高级人物已经签署了要求人工智能发展六个月的预防性暂停。 签署方担心,人工智能实验室“被锁定在轻率的冲动”,以开发和实施越来越强大的系统,没有人——包括他们的创造者——能够理解、预测或控制。

什么解释了精英阶层中恐慌的爆发? 控制和监管显然是故事的核心。 但是由谁呢? 在提议的半年休假期间,当人类可以评估风险时,谁来捍卫它? 由于中国、印度和俄罗斯的人工智能实验室将继续工作(可能秘密进行),因此无法想象就该问题展开全球公开辩论。

尽管如此,我们必须考虑这里的利害关系。 在他 2015 年的书中, 人神历史学家尤瓦尔·哈拉里 (Yuval Harari) 预测,人工智能最有可能的后果将是人类社会内部的激进分裂——远比阶级分裂强烈。 很快,生物技术和计算算法将联手生产“身体、大脑和思想”,导致“知道如何发展身体和大脑的人与那些不知道如何发展身体和大脑的人”之间的差距越来越大。 在这个世界上,“乘上进步列车的人将获得神一般的创造与毁灭能力,落后的人将注定灭亡。”

关于人工智能的这封信所反映的恐慌,是对即使是“进步列车”上的人也无法乘坐的恐惧的一部分。 我们当代的数字封建主人很害怕。 然而,他们想要的不是公开辩论,而是政府和科技公司之间的协议,以保持权力在其原位。

人工智能能力的大规模扩展对当权者——包括那些开发、拥有和控制人工智能的人——构成了严重威胁。 它无非是我们所知道的资本主义的终结,这体现在一个自我复制的人工智能系统的前景中,该系统将需要越来越少的 输入 人类代理(市场上的算法交易只是朝这个方向迈出的第一步)。 留给我们的选择将是在新形式的共产主义和无法控制的混乱之间。

新的 聊天机器人 将为许多孤独(或不那么孤独)的人提供无尽的夜晚,就电影、书籍、烹饪或政治进行友好的交谈。 重新利用我的一个古老的比喻,人们将拥有人工智能版本的不含咖啡因的咖啡、无糖苏打水:一个没有黑暗秘密的友好邻居,一个只会满足你需求的“他者”。 这里有一种恋物癖式的否认结构:“我很清楚我不是在和一个真人说话,但我觉得我是——而且没有任何随之而来的风险!”

无论如何,对关于人工智能的信件的仔细检查表明,我们正在寻找另一种尝试来禁止不可能的事情。 这是一个古老的悖论:我们人类不可能参与后人类的未来,所以我们必须禁止它的发展。 为了让我们自己面对这些技术,我们必须问列宁的老问题:为谁做什么的自由? 我们以前在什么意义上是自由的? 我们不是已经比我们意识到的更能控制了吗? 与其抱怨未来我们的自由和尊严受到威胁,不如想想自由现在意味着什么。 在我们这样做之前,我们会表现得像歇斯底里症患者,根据法国精神分析学家雅克·拉康的说法,他们正在拼命寻找一位主人,但我们可以主宰。

未来学家 Ray Kurzweil 预测,由于技术进步呈指数级增长,我们很快将不得不面对“精神”机器,这些机器不仅表现出自我意识的每一个迹象,而且远远超过人类智能。 然而,我们绝不能将这种“后人类”立场与范式现代关注征服对自然的全面技术统治相混淆。 相反,我们正在目睹的是这一过程的辩证逆转。

今天的“后人类”科学不再追求统治。 他的信念令人惊讶:“黑匣子”人工智能模型将获得什么样的突发、偶然和计划外的属性? 没有人知道,这就是整个企业的刺激——或者说,实际上是平庸。

因此,在本世纪初,法国哲学家兼工程师让-皮埃尔·杜佩 (Jean-Pierre Dupuy) 在新的机器人技术、遗传学、纳米技术、人工生命和人工智能中发现了一种对技术所允许的传统人类中心主义傲慢的奇怪倒置:“我们如何解释科学已经变得如此“危险”,以至于根据一些顶尖科学家的说法,它是当今人类生存的主要威胁? 一些哲学家回答这个问题时说,笛卡尔的梦想——“成为自然的主人和拥有者”——已经落空,我们必须紧急回到“统治中的统治”。 他们什么都不懂。 他们没有看到,通过所有学科的“融合”在我们的视野中形成的技术正是以非支配为目标的。 明天的工程师不会因为疏忽或无知而成为巫师的学徒,而是出于选择。”

人类正在创造自己的神或魔鬼。 虽然无法预测结果,但有一点是肯定的。 如果像这种“后人类”这样的东西作为一个集体事实出现,我们的世界观将失去所有三个定义和重叠的主题:人性、自然和神性。 我们作为人类的身份只能存在于不可逾越的自然背景下,但如果生命成为可以完全被技术操纵的东西,它就会失去其“自然”的本性。 完全被掌控的存在,是没有意义的存在,更谈不上机缘和魅力了。

当然,这同样适用于任何神圣感。 人类对“上帝”的体验只有从人类的有限性和必死性的角度来看才有意义。 当我们变成 上帝之人 并且我们创造了从我们旧人类的角度来看似乎是“超自然”的属性,我们所知道的“神”将会消失。 问题是,如果有的话,会留下什么。 我们会崇拜我们创造的人工智能吗?

我们完全有理由担心,后人类未来的技术诺斯替主义愿景是意识形态幻想,掩盖了等待我们的深渊。 不用说,要确保人类在不久的将来不会变得无关紧要,他们的生活不会变得毫无意义,还需要六个月以上的休息时间。

*斯拉沃热·齐泽克, 欧洲研究生院哲学教授,伦敦大学伯贝克人文学院国际主任。 作者,除其他书籍外, 为失败的原因辩护(博伊泰姆波).

翻译: 丹尼尔帕文.

最初发布在门户网站上 Project Syndicate.


A Terra é Redonda 网站的存在要感谢我们的读者和支持者。
帮助我们保持这个想法。
单击此处查找操作方法

查看作者的所有文章

过去 10 天内阅读最多的 7 篇文章

查看作者的所有文章

搜寻

研究

THEMES

新刊物