切换到宽版
  • 109阅读
  • 1回复

[智能应用]当ChatGPT开始“说人话”,我们需要担心什么?[1P] [复制链接]

上一主题 下一主题
在线huozm32831

UID: 329002

精华: 1097
职务: 超级斑竹
级别: 玉清道君
 

发帖
105944
金币
9001
道行
19523
原创
29307
奖券
17205
斑龄
189
道券
10123
获奖
0
座驾
 设备
EOS—7D
 摄影级
专家级认证
在线时间: 19900(小时)
注册时间: 2007-11-29
最后登录: 2024-11-05

随着人工智能越来越擅长模仿人类的声音,人们越来越担心AI技术可能会反过来攻击人们,例如帮助犯罪分子获取个人银行账户,并传播错误信息。
当地时间9月24日,OpenAI宣布针对ChatGPT订阅用户推出高级语音功能,起订价为每月20美元,该工具可实现更自然流畅的对话。
OpenAI在今年5月就已经宣布这项新的语音功能,不过由于ChatGPT的声音之一Sky被指与2013年电影《她》中斯嘉丽·约翰逊的声音相似疑似侵权,OpenAI将Sky暂时下线。
今年早些时候,OpenAI还曾推出语音复制工具Voice Engine,但当时并未向公众开放,理由是“合成语音滥用的可能性”。

随着人工智能越来越擅长模仿人类的声音,人们越来越担心AI技术可能会反过来攻击人们,例如帮助犯罪分子获取个人银行账户,并传播错误信息。
近日,英国网络贷款机构Starling Bank警告称,数百万人可能成为利用人工智能克隆声音骗局的受害者。
这家英国银行表示,诈骗者能够利用人工智能从某人在网上发布的视频和音频中复制出其声音,这些音频只需要持续三秒钟,诈骗者就可以识别该人的朋友和家人,并使用人工智能克隆的声音打电话索要钱财。而大部分人不了解存在此类AI语音克隆诈骗,还有一部分人会按对方的要求汇款,造成财产损失。
“人们经常在网上发布包含自己声音录音的内容,却从未想过这些录音会被一些不法分子利用,成为诈骗案的受害者。”Starling Bank在一份声明中表示。
对此,星展集团首席执行官高博德日前接受第一财经记者采访时表示:“我们更希望人工智能可以成为发现骗局的工具,实际上这种技术本身非常适合用来检测异常情况,从而将有嫌疑的行为标注出来,进行深入的调查分析。”
高博德表示,星展银行已经开展了很多工作,这些工作将为未来防范人工智能诈骗奠定基础。“现在,包括新加坡在内的很多政府都非常重视数据标注的格式,制定相应的标准和指导方针,我认为,这对于未来相关AI监管措施的落地非常重要。”他对第一财经记者说道。
伴随着AI快速发展和广泛应用,其带来的风险和挑战也在增多。在这一背景下,AI的治理已经引起全球企业的高度关注。
2019年,新加坡就成为首个推出AI治理框架的国家,为企业和消费者提供负责任使用AI的指南,这一指南在2022年就进行了更新,涵盖生成式AI。
“我们认为迭代学习的方法是更加明智的,这样才有可能尽量避免AI带来的所有潜在危害。”新加坡政府首席AI官员何瑞敏在今年的上海世界人工智能大会上表示。
近日,联合国人工智能高级咨询机构发布了一份关于人工智能(AI)治理的重要报告,呼吁国际社会共同努力,建立一个真正意义上的全球性AI监管和治理机制。
“人工智能技术在某种程度上体现了现代社会的趋势,整个宏观治理框架必须进行调整和适应,以应对这些风险。”高博德对第一财经记者表示。
与此同时,AI技术的快速应用正在改变企业和经济全球人工智能相关产品市场持续增长。贝恩公司在9月25日发布的第五次年度全球科技报告中预计,AI相关市场规模有望在2027年接近1万亿美元。
山庄提示: 道行不够,道券不够?---☆点此充值☆
 
  




    
在线jjybzxw

UID: 551814


发帖
98676
金币
1054424
道行
1950
原创
2140
奖券
2040
斑龄
27
道券
533
获奖
0
座驾
设备
摄影级
在线时间: 23547(小时)
注册时间: 2008-10-01
最后登录: 2024-11-06
只看该作者 沙发  发表于: 09-26
  随着人工智能技术的快速发展,AI在模仿人类声音方面变得越来越擅长,这无疑给社会带来了便利,但同时也引发了人们对其潜在风险的担忧。AI技术被用于犯罪活动的可能性,如通过克隆声音进行诈骗,以及传播错误信息,都是需要关注的问题。

  为了应对这些挑战,全球范围内对AI治理的关注日益增加。例如,新加坡在2019年推出了AI治理框架,并在2022年进行了更新,以指导企业和消费者负责任地使用AI。此外,中国也在积极构建人工智能安全治理体系,以应对AI带来的安全挑战和风险。

  在企业层面,一些银行和金融机构已经开始采取措施来防范AI克隆声音诈骗。例如,英国的Starling Bank警告称,人们可能成为利用AI克隆声音骗局的受害者,并强调了提高公众意识和加强安全措施的重要性。

  同时,AI技术的快速发展也带来了市场增长的机会。据贝恩公司预计,到2027年,全球人工智能相关产品的市场规模有望接近1万亿美元。这一增长将推动AI在更多领域的应用,包括但不限于教育、医疗、金融和智能制造等。

  然而,随着AI应用的增多,其带来的风险和挑战也在增多。联合国人工智能高级咨询机构发布的一份关于AI治理的重要报告,呼吁国际社会共同努力,建立一个真正意义上的全球性AI监管和治理机制。

  综上所述,AI技术的快速发展带来了机遇和挑战。在享受AI带来的便利的同时,必须对其潜在风险保持警惕,并采取有效的治理措施来确保AI技术的健康发展和安全应用。

如何不发帖就快速得到金币道行
 
快速回复
限120 字节
认真回复加分,灌水扣分~
 
上一个 下一个