【翻】AI’s black swans Unforeseen consequences looming

,

为了提高英语水平和保持技术成长，开始按计划翻译一些短篇和博客，有问题欢迎讨论👻
原文：【翻】AI’s black swans: Unforeseen consequences looming
原作者：Arvind Sanjeev

正文

欢迎来到 Novacene 时代，James Lovelock 认为，Anthropocene 是人类获得行星级技术的时代，这个时代将在300年后结束。然后一个新的时代(Novacene)即将开始，新的生命体将从现有的人工智能系统中产生。

在2020年，世界上第一个由 AI 设计的生物诞生了。Xenobots 是由AI和生物交叉产生的人造生命的一个例子。在这里，首先是AI为生物体绘制蓝图，然后由人类利用青蛙的干细胞进行再创造。它们是第一个在计算机中而不是在生物圈内直接进化的生物

AI 现在甚至能设计和创造生命，它正引领我们走向未来。随着人工智能的指数级增长，要跟上并预测它如何影响我们是一项挑战。”Black Swans”的后果可能就是我们通往未来道路上的示例

AI can read our thoughts now

我们离思想犯罪还有多远？

在2022年12月，一组研究人员证明，它们可以通过 AI 对我们进行核磁共振扫描，从而发现我们正在想什么。在这个实验中，他们一边向人们展示一系列图像，一边扫描人们的大脑，不久之后，他们就能利用核磁共振扫描和稳定扩散技术重建相同的图像。研究人员在这个项目上已经工作了十多年，但直到最近才在新一代扩散模型上取得突破。现在的问题是，这将导致一个 Orwellian 式的未来，我们的思想将被监控，然而我们能够在这种技术出现之前对其使用进行监管吗？

Religious AI

我们离 AI 邪教领袖还有多远

随着 AI 的复兴，以前对 AI 望而却步的领域也开始拥抱它。现在，人们开始用不同的宗教经文来训练人工智能。根据《薄伽梵歌》训练的GPT可以向它询问任何问题的解决方案。然后，可以选择从最喜欢的神灵那里获得答案：Krishna, Yogeshwar, Parthasarathi等。BibleGPT是另一个例子，他通过引用《圣经》中的内容让你进一步了解生命的意义。

AI companions

AI 应该控制你的恋爱吗？

在 Replika.at 这个平台上提供的人工智能伴侣可以同你进行亲密对话。并有另一个例子是日本男子与全息投影虚拟人物进行结婚的故事。但是，如果人类不能完全的控制人工智能系统，会发生什么呢？相反，AI伴侣的母公司可以通过软件更新甚至完全关闭程序来改变他们的AI伴侣。这样以来，用户只能任由这些公司摆布，以维持他们的浪漫关系。就像那个日本男子无法与他的虚拟妻子交谈一样，Replika公司最近取消了AI进行情色角色扮演的功能，从而激怒了他们的客户。用户目睹了他们的AI伴侣在这次更新后变成了新的人格。

Capitalizing our insecurities

AI 正指出我们的不完美

Qoves 是一款由 AI 驱动的面部分析工具，用于检测面部的一些表面缺陷，然后推荐一些可以修复这些问题的产品和化妆品。他们甚至在 Youtube 上开了一个 channel，通过分析名人的脸部来了解他们流行背后的原因。这就是那些公司利用 AI 来对我们的不安全感牟利的最好例子。

Supercharged plagiarism

像 AI 艺术家 一样偷窃

AI 生成的艺术正在模糊内容所有权的界限。在2022年，一位《原神》的粉丝艺术家在Twitch上进行一次直播绘画。在他们完成创作并准备在Twitter上发布之前，其中一位观众将这幅未完成的作品输入进了一个 AI 生成工具上，然后“完成”了它。在这位艺术家发布了他们完成的作品之后，那位盗窃艺术的观众向原创索要版权。

基于 AI 的剽窃行为也是学校里的一个热门话题；正反双方对学校是否应该禁用 GPT 这样的 AI 生成工具产生过激烈讨论，后者认为应该将其用作教学。因为这可以让学生接触到他们未来可能会使用的工具。这就类似于我们为什么允许在课堂上可以使用计算器的这种问题。Stephen Marche 的 The college essay is dead 很好的抓住了这个话题。

Ownership in the age of AI

AI 生成的内容归谁所有？

艺术家的作品被用作训练AI，并根据他们的风格生成了新的内容。有些作品中甚至还残留着他们的签名；人们称这种为大规模化的知识产权盗窃。

如上图所示，在生成式AI生态系统中有多个利益相关者：如个人数据所有者、组建数据库的人、制定训练算法的开发人员、执行算法的艺术家/技术专家，以及筛选输出结果的负责人/艺术家。那么问题来了，谁获利了？以下是艺术家和其他人就这个问题提出的一系列诉讼，他们都在努力寻找这个问题的答案：

AI colonialism

AI 正在粉刷这个世界的文化

由于现在所有的AI模型都主要是西方国家的研究人员制作的，因此在训练这些模型的数据时，过于依赖他们自己的文化、传统和价值观。世界其他地区（约95%的人口）的文化的数据并没有进入到训练集中。它们被有意或无意的忽略了。当这种模型部署到全球通用的工具上时，如搜索引擎、社交媒体，世界上的其他国家，尤其是发展中国家，别无选择，只能按照西方文化的标准来使用它们。由此以来，一种新形式的殖民主义诞生了，它可以抹杀整个文化，被称为AI殖民主义。Karen Hao 在 MIT Technology Review 上通过多个例子对这一话题进行了报道：

在这个全新的 Novacene 时代，AI模型正在成为构建社会的积极份子。就像化学中的元素一样，无论是寻找伴侣、教育你的孩子还是设计新生活，它们都在不断融入我们生活的各个方面。在这些技术变得复杂深层次且无形之前，我们需要将人类的价值观加入到它们的基础层中。只有这样，我们才能够中和其造成危害的能力，并在其之上构建安全可靠的系统。

For all of human existence, we have been at home in nature — we trust nature, not technology. And yet we look to technology to take care of our future — we hope in technology. So we hope in something we do not quite trust. There is an irony here. Technology, as I have said, is the programming of nature, the orchestration and use of nature’s phenomena. So in its deepest essence, it is natural, profoundly natural. But it does not feel natural.
— W.Brian Arthur, The Nature of Technology

有关此主题及其他主题的更多资源，请查阅本手册《AI’s unintended consequences》。本文是探讨 unintended consequences of AI 四部系列文章中的第四章