| huozm32831 |
2023-11-17 17:07 |
通用人工智能（AGI，artificial general intelligence）既是当今科技界最热门的话题之一，也是最具争议的话题之一。很大一部分原因是，人们难以对这个词的含义达成一致。
现在，谷歌 DeepMind 的一组研究人员发表了一篇论文，不仅对通用人工智能提出了一个新的定义，而且对它们进行了完整的分类。
（来源：STEPHANIE ARNETT/MITTR）
广义上讲，通用人工智能通常意味着在一系列任务上的表现媲美或超过人类的人工智能。但关于什么是类人的，什么任务，以及有多少任务等关键细节往往都会被忽略。简言之，人们一般认为，通用人工智能就是更好的人工智能。
为了提出新的定义，谷歌 DeepMind 团队从通用人工智能的现有定义开始，并选出了他们认为拥有基本共同特征的那些定义。
该团队还概述了通用人工智能的五个级别，从低到高是：新兴的（在他们看来，这一级别包括 ChatGPT 和 Bard 等目前最好的聊天机器人）、有能力的、专家级的、精湛的和超越人类的（比所有人都能更好地执行各种任务，包括人类根本无法完成的任务，如解码他人的想法、预测未来事件和与动物交谈）。他们指出，目前人类的（通用）人工智能水平只能达到新兴级别。
美国纽约大学人工智能研究员朱利安·图吉利斯（Julian Togelius）没有参与这项工作，他说：“这为这个话题提供了一些急需的清晰度。太多人在谈论通用人工智能这个词时，没有仔细思考它们的意思。”
研究人员上周在网上发布了他们的论文，但没有过多宣传。在与两名团队成员的独家对话中，我了解了他们为什么提出这些定义，以及他们想要实现的目标。
这两名成员分别是 DeepMind 的联合创始人之一、现在被称为该公司首席通用人工智能科学家的尚恩·勒格（Shane Legg）和谷歌 DeepMind 负责人类和人工智能交互的首席科学家美瑞迪斯·林格尔·莫里斯（Meredith Ringel Morris）。
更清晰的定义
勒格说：“我看到很多讨论中，人们似乎用这个词来表示不同的东西，这导致了各种各样的困惑。”勒格在大约 20 年前就提出了这个词。“既然通用人工智能正成为一个如此重要的话题。你知道，甚至连英国首相也在谈论它，因此我们需要搞清楚它的意思。”
事情并非总是这样。关于通用人工智能的讨论曾经在严肃的谈话中被嘲笑，往好了说它是模糊不清的，往坏了说是异想天开。但在围绕生成式模型的炒作下，关于通用人工智能的消息现在无处不在。
勒格说：“我对通用人工智能没有一个特别明确的定义。我真的觉得没有必要。实际上，我更多地把它看作是一个研究领域，而不是一个东西。”
他当时的目标是，将现有的可以很好地完成一项任务的人工智能（如IBM 的国际象棋程序深蓝）与他和许多其他人想象的、有一天会很好地执行许多任务的假想人工智能区分开来。勒格说：“人类的智慧不同于深蓝，它是一个非常广泛的东西。”
但多年来，人们开始认为通用人工智能是计算机程序可能具有的一种潜在特性。如今，像谷歌 DeepMind 和 OpenAI 这样的顶级人工智能公司，就其构建此类程序的使命发表大胆的公开声明是很正常的。
勒格说：“如果你开始进行这些对话，你需要更加明确你的意思。”
例如，DeepMind 的研究人员指出，通用人工智能必须是通用的和高水平的，而不能仅满足其中之一。图吉利斯说：“以这种方式分离广度和深度是非常有用的。这说明了为什么我们过去看到的非常成功的人工智能系统没资格成为通用人工智能。”
他们还指出，通用人工智能不仅必须能够完成一系列任务，还必须能够学习如何完成这些任务，评估其表现，并在需要时寻求帮助。他们表示，通用人工智能能做什么比它如何做更重要。
莫里斯说，通用人工智能的工作方式并不重要。问题是，我们对前沿模型（如大型语言模型）的工作方式还不够了解，无法将其作为定义的重点。
莫里斯说：“随着我们对这些潜在过程有更多的了解，重新审视我们对通用人工智能的定义可能很重要。我们需要专注于我们今天能够以科学的、一致的方式衡量什么。”
评估通用人工智能
衡量当今模型的性能本就存在争议，研究人员正在争论一个大型语言模型通过高中测试和更多人类测试的真正意义。这是智力水平的标志吗？还是死记硬背？
评估未来能力更强的模型的性能将更加困难。研究人员建议，如果通用人工智能被开发出来，它的能力应该被持续评估，而不是通过少数一次性测试来判断。
该团队还指出，通用人工智能并不意味着自主性（autonomy）。莫里斯说：“人们通常会有一种隐含的假设，即人们希望一个系统完全自主地运行。”但事实并非总是如此。理论上，制造完全由人类控制的超级智能机器是可能的。
研究人员在讨论什么是通用人工智能时没有解决的一个问题是，我们为什么要构建它。一些计算机科学家，如分布式人工智能研究所创始人提敏特·格布鲁（Timnit Gebru）认为，（关于通用人工智能的）整体努力都很奇怪。
在 2023 年 4 月的一次演讲中，格布鲁指出这项假设的技术“听起来像是一个没有明确目标范围的系统，其明显可知的目标是在任何环境下为每个人完成所有事情。”
大多数工程项目都有明确的目标范围，但构建通用人工智能的使命并非如此。即使是谷歌 DeepMind 的定义也允许通用人工智能“无限广泛和无限智能”。格布鲁表示：“（我们）不要试图建造一个神。”
在建设更大更好的系统的竞赛中，很少有人会听从这样的建议。无论哪种方式，澄清一个令人困惑已久的概念都是受欢迎的。勒格说：“只是进行一些愚蠢的对话是没有意思的。如果我们能攻克这些定义问题，就还有很多好东西可以挖掘。” |
|