人工智能技能

图片:弗朗切斯科·帕贾罗
Whatsapp
Facebook
Twitter
Instagram
Telegram

通过 尤瓦尔·诺亚·哈拉里*

A 人工智能入侵人类文明操作系统

自计算机时代伊始,对人工智能 (AI) 的恐惧就一直困扰着人类。 直到现在,这些恐惧都集中在使用物理手段杀死、奴役或取代人类的机器上。 然而,近两年来,新的人工智能工具不断涌现,以意想不到的方式威胁着人类文明的生存。 人工智能已经获得了一些非凡的能力来操纵和生成语言,无论是文字、声音还是图像。 就这样,人工智能侵入了我们文明的操作系统。

语言是几乎所有人类文化的组成部分。 例如,人权并未铭刻在我们的 DNA 中。 相反,它们是我们通过讲故事和写法律创造的文化产物。 众神不是物理现实。 相反,它们是我们通过发明神话和书写经文而创造的文化产物。

金钱也是一种文化产物。 纸币只是一张张彩色纸,现在90%以上的钱甚至都不是纸币,它只是计算机上的数字信息。 赋予货币价值的是银行家、财政部长和加密货币专家告诉我们的故事。 Sam Bankman-Fried、Elizabeth Holmes 和 Bernie Madoff 并不是特别擅长创造真正的价值,但他们都是非常有能力的讲故事的人。

当一个非人类智能在讲故事、作曲、画图、写律法和经文方面变得比普通人更好时,会发生什么? 当人们想到 ChatGPT 和其他新的 AI 工具时,他们通常会被诸如小学生使用 AI 写论文的例子所吸引。 当孩子们这样做时,学校系统会发生什么变化? 但是这类问题忽略了更一般的情况。 忘记学校论文。 想想 2024 年的下届美国总统竞选,并试着想象一下人工智能工具的影响,这些工具可以用来为新的邪教大量生产政治内容、假新闻和经文。

近年来,QAnon 邪教围绕着被称为“Q滴”。 追随者收集、崇敬并诠释这些 Q滴 作为神圣的文本。 虽然据我们所知,所有 Q滴 以前的是由人类和 机器人 只是帮助传播了它们,在未来我们可能会看到历史上第一个崇拜其受人尊敬的文本的邪教是由非人类智慧所写的。 纵观历史,各种宗教都声称其圣书来源于非人类。 很快这可能成为现实。

在更平淡无奇的层面上,我们可能很快就会发现自己正在与我们认为是人类但实际上是人工智能的实体进行关于堕胎、气候变化或俄罗斯入侵乌克兰的冗长在线讨论。 问题是,我们花时间试图改变一个人的既定观点是毫无意义的。 BOT 人工智能,而人工智能可以如此精确地磨练它的信息,以至于它很有可能影响我们。

通过对语言的掌握,人工智能甚至可以与人建立亲密关系,并利用亲密的力量改变我们的观点和世界观。 虽然没有迹象表明 AI 有自己的良心或感觉,但为了促进与人类的虚假亲密关系,AI 足以让他们产生情感上的依恋。

2022 年 XNUMX 月,谷歌工程师 Blake Lemoine 公开表示, 聊天机器人 他正在研究的 LaMDA 已经变得有知觉了。 这一有争议的说法使他失去了工作。 这一集最有趣的不是先生。 Lemoine,这可能是假的。 相反,他愿意为了 聊天机器人 人工智能。 如果人工智能可以影响人们为它冒工作风险,那么它还能诱导他们做什么呢?

在一场思想和心灵的政治斗争中,亲密关系是最有效的武器,而人工智能刚刚获得了与数百万人大规模生产亲密关系的能力。 众所周知,在过去十年间,社交媒体已经成为控制人类注意力的战场。 随着新一代人工智能的出现,战场正从关注转向亲密。 当 AI 与 AI 进行一场伪造与我们的亲密关系以说服我们投票给某些政客或购买某些产品的战斗时,人类社会和人类心理会发生什么变化?

即使不创造“虚假的亲密关系”,新的人工智能工具也会对我们的观点和世界观产生巨大影响。 人们可以将单个 AI 顾问用作完整且无所不知的神谕。 难怪谷歌会害怕。 当我可以问 oracle 时,为什么还要费心去查找它? 新闻和广告行业也应该感到恐惧。 当我只能请求神谕通知我最新消息时,为什么还要看报纸呢? 当我可以让 oracle 告诉我买什么时,广告还有什么意义呢?

甚至这些场景也无法捕捉全局。 我们正在谈论的可能是人类历史的终结。 不是故事的结局,只是人类主导部分的结局。 历史是生物学和文化之间的相互作用。 在我们对食物和性等事物的生理需求和欲望与我们的文化创造(例如宗教和法律)之间。 历史是法律和宗教塑造食物和性的过程。

当人工智能接管文化并开始创造故事、旋律、法律和宗教时,历史进程会发生什么变化? 早期的印刷和广播等工具有助于传播人类的文化理念,但它们从未创造出自己的新文化理念。 人工智能是根本不同的。 人工智能可以创造全新的思想,全新的文化。

起初,人工智能可能会模仿它在婴儿期接受训练的人类原型。 但随着时间的流逝,人工智能文化将大胆地走向人类从未涉足的领域。 几千年来,人类一直生活在其他人的梦想中。 在未来的几十年里,我们可能会发现自己生活在外星智能的梦想中。

对人工智能的恐惧只是在最近几十年才困扰着人类。 但几千年来,人类一直被更深的恐惧所困扰。 我们一直很欣赏故事和图像操纵我们的思想和创造幻觉的力量。 因此,自古以来,人类就害怕陷入幻想的世界。

在 XNUMX 世纪,勒内·笛卡尔 (René Descartes) 担心也许是一个恶毒的恶魔将他困在了一个幻觉世界中,创造了他所见所闻的一切。 在古希腊,柏拉图讲过著名的洞穴寓言,一群人终生被锁在一个洞穴里,面对一堵空白的墙壁。 一个屏幕。 在这个屏幕上,他们看到投射出各种阴影。 囚犯将他们看到的幻觉与现实相混淆。

在古印度,佛教和印度教圣人指出,所有人类都生活在困 玛雅 ——幻境。 我们通常认为的现实往往只是我们自己头脑中的虚构。 人们可以发动全面战争,杀死他人并想被杀死,因为他们相信这种或那种幻觉。

人工智能革命让我们直面笛卡尔的恶魔,直面柏拉图的洞穴,直面 玛雅. 如果我们不小心,我们会发现自己被困在幻象的幕后,无法撕开,甚至无法意识到它的存在。

当然,人工智能的新力量也可以用于好的目的。 这个我就不展开了,因为搞人工智能的人已经讲的很多了。 像我这样的历史学家和哲学家的工作就是指出危险。 但可以肯定的是,人工智能可以在无数方面帮助我们,从寻找治疗癌症的新方法到发现生态危机的解决方案。 我们面临的问题是如何确保新的 AI 工具用于行善而非作恶。 为此,我们首先需要评估这些工具的真正功能。

自 1945 年以来,我们就知道核技术可以产生造福于人类的廉价能源,但它也可能从物理上摧毁人类文明。 因此,我们彻底改革了整个国际秩序,以保护人类并确保核技术主要用于造福人类。 现在我们必须面对一种新的大规模杀伤性武器,它可以毁灭我们的精神世界和社会世界。

我们仍然可以监管新的人工智能工具,但我们需要迅速采取行动。 虽然核弹不能发明更强大的核弹,但人工智能可以成倍地创造更强大的人工智能。 关键的第一步是在将强大的人工智能工具发布到公共领域之前要求进行严格的安全检查。

正如制药公司不能在测试短期和长期副作用之前发布新药一样,科技公司也不应在被认为安全之前发布新的 AI 工具。 我们需要相当于 食品和药物管理局 对于新技术,我们昨天需要它。

公共人工智能部署的放缓不会导致民主国家落后于更无情的专制政权吗? 恰恰相反。 不受监管的 AI 部署会造成社会混乱,这将有利于独裁者并破坏民主制度。 民主是一种对话,而对话依赖于语言。 当人工智能侵入语言时,它会破坏我们进行有意义对话的能力,从而破坏民主。

我们刚刚在地球上发现了外星智能。 我们对它知之甚少,只知道它可能会摧毁我们的文明。 我们应该结束在公共领域不负责任地部署 AI 工具,并在 AI 监管我们之前对其进行监管。 我建议的第一个法规是强制人工智能披露它是人工智能。 如果我在和某人交谈,而我无法分辨是人还是人工智能,那就是民主的终结。

此文本由人生成。 或者不是吗?

Yuval Noah Harari 是耶路撒冷希伯来大学的历史学教授。 作者,除其他书籍外, 智人——人类简史(文学公司).

翻译: 费尔南多·利马·达斯·内维斯.

最初发表于该杂志的门户网站 经济学家.


地球是圆的 感谢我们的读者和支持者。
帮助我们保持这个想法。
贡献