| huozm32831 |
2023-12-05 16:34 |
在业内有“人工智能教父”之称的计算机科学家杰弗里·辛顿（Geoffrey Hinton）接受了读卖新闻的采访。他称，技术快速发展带来的风险敲响了警钟，“生成式AI可能超越人类，并主宰人类社会”。
辛顿 多伦多大学提供
辛顿分析说，对话型AI“ChatGPT”已经能储存人类大脑数千倍的知识。到21世纪20年代后期或30年代，人工智能在很多方面可能超越人类。他表示担忧说：“面对人工智能将取代人类的威胁，迄今为止，没有经验的人类并不知道该如何应对。”
此前，辛顿曾坦言，最担心的是，互联网将充斥着虚假照片、视频和文字，普通人将“无法再知道什么是真的”。生成AI带来的具体风险包括利用假新闻操纵选举、开发能侵略别国的机器人等。
利用假新闻操纵舆论
辛顿特别担心的是生成式AI对选举的影响。他指出：“使用虚假新闻来操纵选民会变得更加容易。”
2024年，美国总统选举在即，利用假新闻操纵舆论令人担忧。巴勒斯坦地区加沙地带的战火中也出现了虚假信息。
辛顿指出，针对虚假信息，“如果有像货币一样的验伪技术和法律，禁止假视频的制作就好了”。另一方面，他对于美国的党争表示担忧说：“（党争）实际上允许了假新闻的扩散。”
AI在军事方面的风险
他还提到了军事方面的风险，“发达国家能轻松侵略欠发达国家”。他警告说，如果AI自动设定攻击目标并进行杀伤的系统被应用到实战中，将无法控制战争，损失不可估量。
AI侵占人类工作岗位
在地震预知和医疗等领域，AI有可能解放人类双手，但同时也表示担心人类的工作岗位被剥夺，减少雇员等手段会引起贫富差距的扩大。
事实上，就在他从谷歌离开时，IBM宣布将在未来通过AI取代7800个左右的岗位。“它省去了繁重的工作，但它带走的可能不止这些。”辛顿称。最终，AI技术可能会颠覆就业市场。
他还指出，为了将风险降到最低，政府机关等有必要采取适当的应对措施，阻止AI无序发展。人工智能带来的公共安全、隐私侵权、数字鸿沟、伦理失范等挑战和现实问题已经开始被关注。他说：“目前对AI的安全对策还不充分，人类需要转换方向。”
辛顿认为AI可能会给人类带来比气候变化更紧急的风险。
杰弗里·辛顿（Geoffrey Hinton）：
1947年出生。因研究生成AI的基础技术而闻名，也被称为“AI界的教父”。杰弗里·辛顿是2018年图灵奖得主，英国皇家学会院士，加拿大皇家学会院士，美国国家科学院外籍院士，多伦多大学名誉教授。今年5月其在社交媒体上证实，已经离开Google。在接受媒体采访时，他表示，“我对我毕生所研究的东西感到后悔了。”杰弗里形容称，AI聊天机器人所带来的某些危险“相当恐怖”。 |
|