这是谈论他人的一种方式。
正如作家伊丽莎白·韦尔在一篇关于OpenAI首席执行官萨姆·奥特曼的新简介中所指出的那样,这位强大的人工智能高管有一个令人不安的癖好,他喜欢使用“中等人”这个词,这个词似乎等同于机器人技术兄弟版的“普通人”。
奥特曼的希望是,通用人工智能(AGI)将拥有与“你可以雇佣作为同事的普通人”大致相同的智力。
这是一个令人不安的断言,因为这听起来像是奥特曼想用一个尚未实现的AGI来取代普通人的工作。
据报道,这甚至不是他第一次说这么多。2022年,在Lex friedman播客的一次采访中,奥特曼解释说,这种理论上的人工智能将能够“做任何你愿意让远程同事在电脑后面做的事情,包括学习如何成为一名医生,学习如何成为一名非常称职的程序员。”
换句话说,如果你碰巧过着“中等”生活,你可能很快就会失业——或者,至少,这是对他的评论的一种解释。为我们的人工智能未来干杯。
正如两人都指出的那样,Altman并不是人工智能世界中唯一一个使用这个令人不安的术语的人。这句话出现在数量惊人的人工智能博客中,甚至出现在一篇名为《如何像圈内人一样谈论人工智能》的文章中。
一家名为Skippet的人工智能初创公司在一篇博客文章中写道:“最终,当我们真正开发出AGI时,它将显示出中等人类的能力,但保留成为该领域专家的潜力,这是我们现在认为只有狭义的人工智能才能做到的。”这篇文章似乎非常符合奥特曼的中值理论。
具体地说,使用“中位数”这个词也感觉像是一种独特的选择。这是一个模糊的术语,可能会留下很多解释。奥特曼或其他任何人如何可能对这个统计平均值做出一个整体的定义,目前还不清楚。无论如何,这种对人类经验的量化在很多方面都让人觉得不人道和不完整。
牛津互联网研究所的研究主任布伦特·米特尔施塔特说:“将人工智能与中等或普通人类进行比较有点冒犯。”“我认为这种比较令人担忧,术语也令人担忧。”
米特尔施塔特补充说,在人工智能研究中,还没有“对人类智能进行具体的可衡量的比较”,他还指出,中等人的概念似乎是“一个有意模糊的概念,而不是一个非常具体的基础意义。”
此外,人类智能的概念和不那么有形的概念是两种截然不同的东西——正如米德尔斯塔特所说,将它们等同起来并不完全合理。
“这是一个非常有问题的飞跃,”牛津大学的研究人员说,“因为突然之间,你就把代理、理解、认知或推理分配给了这些机械模型。”
米德尔斯塔特并不是唯一一个提出批评的人。
“目前的人工智能架构和模型表明,它们基本上可以达到典型的人类水平。这本身没有问题,”剑桥大学教授、人工智能伦理学家亨利·谢夫林(Henry Shevlin)说。“我觉得,当我们涉及到情报等问题时,人们会变得更敏感,这是有充分理由的。”
可以说,这是对奥特曼思想的一个令人沮丧的窗口,他对这个行业有着巨大的影响力。他经常谈论拯救世界,认为我们可以用人工智能来解决气候变化,实现全民基本收入,创造清洁能源等等。他还宣称,OpenAI的使命是确保AGI,如果它真的存在,将“造福全人类”。
当然,对于拯救世界或确保每个人都能从人工智能中平等获益,我们都有非常不同的想法和观点。在这种情况下,这个现实是由一个人定义的,他认为人类的大部分都是可量化的“中间”数字,准备被人工智能取代。
但愿我们都能通过考试。