人工白痴

图片:ThisIsEngineering
Whatsapp
Facebook
Twitter
Instagram
Telegram

通过 斯拉夫·齐泽克*

问题不在于聊天机器人愚蠢; 是他们不够“傻”

能够以自然语言进行对话、理解用户的基本意图并根据预定义的规则和数据提供响应的“聊天机器人”并没有什么新鲜事。 然而,它的容量在最近几个月急剧增加,使许多人陷入恐慌和绝望。

很多人都说聊天机器人是学生论文结束的预兆。 但需要进一步关注的一个问题是,当人类对话者使用攻击性、性别歧视或种族主义言论来诱使机器人提出自己的下流幻想作为回应时,聊天机器人应该如何回应。 人工智能是否应该被编程为在与向它们提出的问题相同的水平上做出反应?

如果我们决定应该应用某种控制,那么我们必须确定审查制度应该进行到什么程度。 一些部门认为“冒犯性”的政治立场会被禁止吗? 声援约旦河西岸巴勒斯坦人的表达方式如何? 以色列是一个国家的断言 种族隔离 (前总统吉米·卡特曾经在一本书的书名中写了什么)? 这一切会因为“反犹”而被封锁吗?

问题不止于此。 正如作家和艺术家 James Bridle 警告我们的那样,新的人工智能“基于对现有文化的大规模挪用”,相信它们“真正有知识或有意义是非常危险的”。 因此,我们必须非常谨慎地使用人工智能的新图像生成器。 “在他们试图全面理解和复制人类视觉文化的过程中,”Bridle 观察到,“[他们] 似乎也重现了我们最大的恐惧。 也许这只是一个迹象,表明这些系统实际上非常擅长模仿人类意识,甚至触及潜伏在我们意识深处的恐怖:我们对污秽、死亡和腐败的恐惧。”

但是,新的人工智能在模仿人类意识方面有多好呢? 考虑一下最近根据以下条款宣布特别促销的酒吧:“以两杯的价格购买一瓶啤酒,并免费获得第二瓶啤酒!” 对于任何人来说,这显然是一个笑话。 典型的“买一赠一”优惠被重新设计以取消自身。 这是一种愤世嫉俗的表现,被视为滑稽的诚实,以增加销量。 一 聊天机器人 你能理解吗?

“他妈的”提出了类似的问题。 虽然这个词指的是大多数人喜欢做的事情(交配),但它也具有负面价值(“我们完蛋了!”、“滚开!”)。 语言和现实是混淆的。 人工智能准备好辨别这些差异了吗?

德国诗人海因里希·冯·克莱斯特 (Heinrich von Kleist) 在其 1805 年的论文《论言语过程中思想的逐渐形成》(1878 年死后出版)中颠覆了流行的说法,即一个人不应该张开嘴说话,除非一个人有一个清晰的想法说什么:“既然如此,如果一个思想以一种混乱的方式表达出来,那根本不意味着这样一个思想是以一种混乱的方式被构思出来的。 相反,有可能表达得最混乱的想法,恰恰是那些想得最清楚的想法。”

语言和思想之间的这种关系异常复杂。 约瑟夫·斯大林在他 1930 年代初期的一次演讲中提出了激进的措施,以“发现并无情地打击那些甚至只是在思想上反对集体化的人——是的,这就是我的意思,我们必须战斗”。人们。” 我们可以放心地假设这句话不是事先准备好的。 就在这时,斯大林让自己走神了,他立刻意识到自己刚才说了什么。 但他没有退缩,而是决定继续他的夸张。

正如雅克·拉康 (Jacques Lacan) 后来所说的那样,这是其中一个通过陈述行为出其不意地出现真相的案例。 路易斯·阿尔都塞 (Louis Althusser) 在两者之间的关系中发现了类似的现象 服用 e . 突然意识到的人(“服用”)的一个想法会惊讶于它所取得的成就。 同样,任何聊天机器人都能做到这一点?

问题不在于聊天机器人愚蠢; 就是他们还不够“傻”。 不是他们幼稚(不会反讽和反思); 这是他们不够天真(没有注意到天真掩盖洞察力的时刻)。 那么,真正的危险不在于人们将聊天机器人误认为是真人; 但聊天机器人让真实的人像聊天机器人一样说话——无法注意到细微差别和讽刺,痴迷于准确地说出他们认为自己想说的话。

在我年轻的时候,一个朋友在经历了一次创伤后去看了一位精神分析师接受治疗。 这位朋友关于此类分析师对他们患者的期望的想法是陈词滥调,他在第一节课上就产生了错误的“自由联想”,关于他如何恨他的父亲并希望他死。 分析师的反应很幼稚:他采取了一种幼稚的“前弗洛伊德”立场,并责骂我的朋友不尊重他的父亲(“你怎么能这样谈论那个造就了你的人?”)。 这种虚假的天真传达了一个明确的信息:我不会相信你的假“协会”。 聊天机器人能理解这个潜台词吗?

可能不会理解,因为他就像罗文威廉姆斯在书中对梅什金王子的诠释 白痴 陀思妥耶夫斯基。 按照传统的解释,梅什金,“白痴”,是一个被现实世界的残酷和激情逼得孤独而疯狂的“一个非常善良和美丽的人”。 然而,在威廉姆斯激进的重新诠释中,梅什金代表了风暴之眼:无论他多么善良和圣洁,他都是造成他目睹的混乱和死亡的人,因为他在他周围复杂的关系网络中扮演的角色。

并不是说 Myshkin 是个天真的傻瓜。 但他特有的迟钝使他无法意识到他对他人造成的灾难性影响。 他是一个扁平的角色,说话就像聊天机器人。 它的“优点”基于这样一个事实,即它像聊天机器人一样,不带讽刺意味地应对挑战,提供没有任何反身性的陈词滥调,从字面上理解一切,并依靠自我完成反应的心理机制而不是形成句子。想法。 出于这个原因,新的聊天机器人将与来自人群的各种理论家相处得很好“醒来” 与喜欢睡着的民族主义者“MAGA”是当代的。

*斯拉沃热·齐泽克, 欧洲研究生院哲学教授,伦敦大学伯贝克人文学院国际主任。 作者,除其他书籍外, 为失败的原因辩护(博伊泰姆波).

翻译: 丹尼尔帕文。

最初发布在门户网站上 Project Syndicate.


A Terra é Redonda 网站的存在要感谢我们的读者和支持者。
帮助我们保持这个想法。
单击此处查找操作方法

查看作者的所有文章

过去 10 天内阅读最多的 7 篇文章

查看作者的所有文章

搜寻

研究

THEMES

新刊物