通过 尤金尼奥·布奇*
如果民主社会的决策过程被人工智能制造的无知所劫持,人类将受到严重威胁。
上周末,我们又收到了另一则关于光技术黑暗用途的新闻报道。这次,一伙人使用了以下工具: 深假 进行了一场价值百万的政变,非常成功。 深假正如您所知,这些经过篡改的视频看起来就像新闻主播的金属演讲一样真实。 国家期刊。它们是欺诈性视频,但欺诈性如此之高,如此清晰,以至于它们为从未发生过的事件制作了可信、可靠、完美和无可辩驳的图像。
他们无处不在。在手机屏幕上,名人说出了他们在现实世界中没有说过的话,更不用说公众人物以狂欢的姿势出演了——无论幸运还是不幸——从未真正存在过。现在发生的事情是,同样的幻术资源让香港一家跨国公司金融部门的一名员工相信,他的老板通过电话会议下令立即将 25,6 万美元转入一个未知账户。那家伙服从了,财富就溜走了,当地警方正在寻找损坏的物品和小偷。看来已经逮捕了一些人。
您可能认为这还不够。也许你会说犯罪没什么奇怪的 高科技 由于世界是肮脏的,邪恶的行为需要创新的服务,无论是一块碎石、箭毒、打字机,还是现在的 智能手机。即便如此,谨慎的做法是检查另一集,这一集更有趣一些。
去年 12 月,在特斯拉美国工厂的装配线上,一名机器人袭击了一名工程师。机器甚至将钢爪伸进毫无戒心的人类手臂。这些解释是有偏见的、不情愿的,直到现在,人们对到底发生了什么以及如何发生仍存有疑问。那里发生了什么?是编程错误吗?如果这个假设成立,那么这个被润滑的怪物就不会为肆无忌惮的罪犯服务,而是会自行行动,就好像他有自由意志,或者至少有疯狂的任意性一样。事实上,这更耐人寻味。
现在想象一下第一条新闻和第二条新闻之间的组合或重叠。想象一个虚拟机器人( BOT正如他们所说),它要求创造人造图像来满足观众的好奇心。有时,这种非物质存在会在所谓的人类的指挥下工作。
然而,其他时候,由于自动化的令人钦佩的壮举,我们的控制论存在将能够自主地设计出令人惊叹的壮举,就像 Spotify 算法一样,凭借其训练有素的自动化功能,能够选择您要听的音乐.下一步,并把它做好。那么想象一下,一个 BOT 操纵 深假 为了取悦最愤怒的人群的反常视网膜,他们为那些他们向其奉献最恶毒仇恨的人的痛苦感到高兴,并以他们无条件仇恨的名义,将任何证实他们的偏见和缺陷的暴行视为绝对的真理。
你想象过吗?现在更进一步。这是需要的。世界经济论坛(WEF)走得更远。一月份,世界经济论坛将错误信息及其传播工具列为人类未来两年将面临的最大风险。这种风险是真实存在的、阴险的,而且就在你家的拐角处。 2024年,超过58亿选民将决定包括俄罗斯、墨西哥、印度和美国在内的2024个国家的命运。据统计,只有到 XNUMX 年,地球上一半的人口才会参加投票,这是有史以来规模最大的选举年。如果工业化谎言继续造成已经造成的损害,就会发生累积性灾难。
已经没有办法不看到它了。如果民主社会的决策过程被人工智能制造的无知所绑架,人类确实会受到严重威胁。世界论坛是对的,这是无可否认的。目前,确实,我们只是在谈论一个风险,但这个风险与“小流感”完全不同。这是真的。如果虚假信息获胜,民主就会产生其对立面并被其吞噬。我们不乏实际测试来证明最坏情况的迫在眉睫。在我们这个时代,我一直坚持这一点,错误信息就是力量。
电子电路和数字媒体可以永远发挥作用吗?是的,显然他们可以。有兄弟会运动的统计、虚拟远程医疗咨询、超复杂的天气预报模型。每种技术都可以服务于公益事业。但是,如果不受管制或屈从于资本的突发奇想,无法无天的技术将把我们引向最糟糕的悬崖。像冈瑟·安德斯(Günther Anders)这样的思想家理解启蒙运动的倒置,感受到了这种技术所产生的世界末日的出现。但如果我们不采取任何行动,接下来发生的事情会更加令人惊讶。
* 尤金·布奇 他是南太平洋大学传播与艺术学院的全职教授。除其他书籍外,作者还包括 不确定性,一篇文章:我们如何思考让我们迷失方向(并引导数字世界)的想法(真正的)。 [https://amzn.to/3SytDKl]
最初发表在报纸上 圣保罗州.
地球是圆的 感谢我们的读者和支持者。
帮助我们保持这个想法。
贡献