切换到宽版
  • 323阅读
  • 1回复

[智能应用]人工智能对人类的生存威胁被置于显微镜下[1P] [复制链接]

上一主题 下一主题
离线huozm32831

UID: 329002

精华: 1097
职务: 超级斑竹
级别: 玉清道君
 

发帖
106547
金币
14
道行
19523
原创
29307
奖券
17354
斑龄
191
道券
10129
获奖
0
座驾
 设备
EOS—7D
 摄影级
专家级认证
在线时间: 20258(小时)
注册时间: 2007-11-29
最后登录: 2024-12-26

人工智能可能并不像许多人认为的那样是可怕的生存威胁。根据一项新的研究,大型语言模型(LLM)只能遵循指令,不能自己开发新技能,并且本质上是“可控、可预测和安全的”,这对我们这些肉袋子来说是个好消息。

美国总统向公众宣布,国防已移交给控制整个核武库的新的人工智能系统。只需按下按钮,战争就过时了,这要归功于一台超级智能的机器,它不会出错,能够学习所需的任何新技能,并且每分钟都会变得更加强大。它的效率达到了绝对可靠的程度。
当总统感谢设计人工智能的科学家团队,并提议向一群贵宾敬酒时,人工智能突然在没有提示的情况下开始发短信。它突然提出要求,然后威胁说,如果不立即服从,就摧毁一座主要城市。
这听起来很像我们近年来听到的关于人工智能的噩梦场景。如果我们不做点什么(如果还不算太晚的话),人工智能将自发地进化,变得有意识,并清楚地表明智人已经降低到宠物的水平 —— 假设它不只是决定让人类灭绝。
奇怪的是,上面的寓言不是来自2024年,而是1970年。这是科幻惊悚片《巨像:福尔宾计划》(Colossus: the Forbin Project)的情节,讲述的是一台超级计算机轻松征服世界的故事。这是一个自20世纪40年代第一台真正的计算机问世以来就一直存在的故事理念,在书籍、电影、电视和电子游戏中被一遍又一遍地讲述。
对于计算机科学领域一些最先进的思想家来说,这也是一种非常严重的恐惧。更不用说杂志上都在谈论计算机以及它们在1961年接管的危险了。在过去的六十年里,专家一再预测计算机将在五年内展现出人类水平的智力,并在十年内远远超过人类水平。
需要记住的是,这并不是人工智能出现之前的情况。人工智能至少从20世纪60年代就出现了,几十年来一直在许多领域使用。我们倾向于认为这项技术是“新”的,因为处理语言和图像的人工智能系统直到最近才得到广泛应用。这些都是人工智能的例子,与大多数人相比,它们比国际象棋引擎、自主飞行系统或诊断算法更有相关性。
它们还让许多以前避开自动化威胁的人(包括记者)担心失业。
然而,合理的问题仍然存在:人工智能是否构成了生存威胁?在经历了半个多世纪的虚假警报之后,我们最终会受到现代巨像或哈尔9000的控制吗?我们会被接入母体吗?
巴斯大学和达姆施塔特工业大学的研究人员表示,答案是否定的。
在计算语言学协会第62届年会(ACL 2024)上发表的一项研究中,人工智能,特别是LLM,用他们的话说,本质上是可控的、可预测的和安全的。
巴斯大学计算机科学家哈里什·塔亚尔·马达布希(Harish Tayyar Madabushi)博士说:“这种类型的人工智能对人类构成威胁的主流说法,阻碍了这些技术的广泛采用和发展,也转移了人们对需要我们关注的真正问题的注意力。”
马达布希博士补充说:“人们一直担心,随着模型变得越来越大,它们将能够解决我们目前无法预测的新问题,这就构成了威胁,这些更大的模型可能会获得危险的能力,包括推理和规划。这引发了很多讨论 —— 例如,去年在布莱切利公园举行的人工智能安全峰会上,我们被要求对此发表评论 —— 但我们的研究表明,担心一个模型会消失,做一些完全意想不到的、创新的、潜在危险的事情是没有道理的。”
“对LLM构成的生存威胁的担忧不仅限于非专家,世界各地的一些顶级人工智能研究人员也表达了这种担忧。”
当通过测试这些模型完成以前从未遇到过的任务的能力来仔细观察这些模型时,结果表明LLM非常善于遵循指令并表现出对语言的熟练程度。即使只有几个例子,比如在回答有关社交场合的问题时,它们也能做到这一点。
它们做不到的是在没有明确指示的情况下,超越这些指示或掌握新技能。LLM可能会表现出一些令人惊讶的行为,但这总是可以追溯到它们的编程或指令。换句话说,它们不能进化成超越自身构造的东西,所以没有神一样的机器。
然而,该团队强调,这并不意味着人工智能完全没有威胁。这些系统已经具有非凡的能力,并将在不久的将来变得更加复杂。它们具有令人恐惧的潜力,可以操纵信息、制造假新闻、犯下彻头彻尾的欺诈行为、提供无意的谎言、被滥用为廉价的补救措施,以及压制真相。
一如既往,危险不在于机器,而在于给它们编程和控制它们的人。不管是出于恶意还是无能,我们需要担心的不是电脑。是他们背后的人类。
山庄提示: 道行不够,道券不够?---☆点此充值☆
 
  




    
在线jjybzxw

UID: 551814


发帖
112488
金币
1181586
道行
1965
原创
2211
奖券
2223
斑龄
29
道券
602
获奖
0
座驾
设备
摄影级
在线时间: 27189(小时)
注册时间: 2008-10-01
最后登录: 2024-12-27
只看该作者 沙发  发表于: 08-19
  确实,人工智能(AI)的发展引发了广泛的担忧,包括其对人类工作的影响、隐私问题、以及潜在的道德和法律问题。然而,正如您所指出的,许多对AI的恐惧可能源于科幻作品中的夸张情节,或者是基于对AI能力的不准确理解。

  现实中,AI系统,特别是大型语言模型(LLM),如GPT-3等,确实遵循指令,并且目前还不能自主开发新技能。这些模型是基于大量数据和预先设定的算法训练而成的,它们的行为和输出可以通过对其训练数据的审查来预测和控制。

  虽然AI在某些任务上已经超越了人类,但它们仍然缺乏真正的自主性和意识。目前,AI的发展还处于初级阶段,它们的设计和功能都是基于人类的设计和控制。

  当然,随着AI技术的不断发展,我们需要对潜在的风险保持警惕,并采取适当的措施来确保AI的发展符合人类的最佳利益。这包括制定相关的法律和伦理标准,以及确保AI系统的开发和部署过程透明、负责任。

  总的来说,AI的发展既带来了机遇也带来了挑战。我们需要积极应对这些挑战,同时充分利用AI带来的机遇,以实现人类社会的可持续发展。

如何不发帖就快速得到金币道行
 
快速回复
限120 字节
认真回复加分,灌水扣分~
 
上一个 下一个