查看完整版本: [-- 建立负责、安全、包容的人工智能标准[2P] --]

武当休闲山庄 -> 数码讨论 -> 建立负责、安全、包容的人工智能标准[2P] [打印本页] 登录 -> 注册 -> 回复主题 -> 发表主题

huozm32831 2024-12-06 16:18

  




    近日,国际电信联盟接连召开重要会议,高度聚焦人工智能标准制定。在2024年世界电信标准化全会上,国际电信联盟电信标准局发布了该部门第一份关于人工智能的决议。同时,国际电信联盟还与国际标准化组织和国际电工委员会共同举办了第一届国际人工智能标准峰会。两个“第一”凸显了今年国际电信联盟加速建立人工智能标准的坚定决心,也反映出了全球对于强化人工智能监管的迫切需求。
人工智能标准制定进入关键期
  近年来,全球人工智能治理参与者纷纷加大对于标准制定的关注。在谈及为什么国际电信联盟在2024年加大了对于人工智能标准制定的重视和关注时,尾上诚藏表示,“多年来,人工智能标准制定和能力发展一直是国际电信联盟的首要任务。我们看到,二十国集团、联合国人工智能高级别咨询机构、‘人工智能向善’全球峰会,以及9月联合国大会通过的《全球数字契约》,都高度强调了这项工作在2024年的重要性。”他还表示,在本届世界电信标准化全会上通过的《国际电联电信标准化部门有关支持电信/信息通信技术的人工智能技术的标准化活动》决议呼吁继续优先考虑建设负责、安全、包容的人工智能,包括通过“人工智能向善”平台开展全球合作。
  据了解,“人工智能向善”平台由国际电信联盟和联合国教科文组织等40余家联合国机构合作搭建,是联合国开展人工智能对话的重要渠道,也是面向所有成员国开展人工智能技术、标准、应用及治理领域的重要国际交流合作平台。
  虚假信息是目前人工智能领域最为严峻的挑战。“我们正在努力应对的一个重大挑战是人工智能可能会导致虚假和错误信息的传播”,尾上诚藏指出,标准的制定有助于利用技术工具来验证多媒体内容的真实性和来源,这将便于检测深度伪造,并打造一个可信赖的信息环境。国际电信联盟的工作离不开各个成员的支持,包括194个会员国和1000多家会员公司、大学以及国际和地区组织参与该组织的工作。
标准制定离不开全球合作
  在人工智能标准制定过程中,国际电信联盟还与国际标准化组织、国际电工委员会等非联合国系统标准制定机构之间建立了紧密的合作关系。尾上诚藏介绍称,作为“三大国际标准化组织”,国际电信联盟、国际标准化组织和国际电工委员会引导标准制定者和日益增多的利益相关者之间的协调行动。由上述三个国际组织创办的“国际人工智能标准峰会”旨在确保全面的人工智能标准开发,“我们正在主导一个人工智能和多媒体真实性标准合作项目,以提供深度伪造检测的技术工具。同时,我们还在合作开发一个人工智能标准数据库,以支持标准的统一制定和实施,这是联合国秘书长技术特使阿曼迪普·辛格·吉尔的一个重要优先事项。”
  人工智能技术标准制定并非独立的,而是涉及伦理道德、数据安全、环境保护等多个方面。“人工智能将影响我们社会和经济的几乎所有方面。”尾上诚藏表示。
  因此,确保标准满足多样化和不断扩展的行业需求成为当前标准制定过程中的重点与难点。人工智能作为一项通用技术,跨界赋能的趋势日益明显。尾上诚藏指出,国际电信联盟标准正在支持从能源、交通到医疗保健、金融服务、农业和智慧城市等领域的数字化转型和人工智能应用。“新兴技术正在与各行各业建立强有力的联系,而人工智能则进一步增强了这一趋势,行业融合也要求监管责任的融合”,他表示,这一趋势凸显了合作与共识的重要性。此外,通过与多行业共同制定标准,国际电信联盟与其他行业之间建立了互信和理解。各参与方通过明确各自在规则制定中的角色,将有助于创造持续创新和投资的信心。他还补充到,当前,国际电信联盟通过“人工智能向善”倡议、多元化会员机制、联合国合作机构和标准机构以及目前已加入“人工智能向善”网络的36000多名专业人员的支持来积极推动不同行业之间联系的建立。
弥合科技发展鸿沟是重点领域
  弥合发达国家与发展中国家的发展鸿沟是今年联合国的高频词,如何弥合南北国家在人工智能领域的技术鸿沟也是国际电信联盟在标准制定过程中重点关注领域。尾上诚藏表示,一方面,国际电信联盟的标准具有“协商一致”特点,标准制定有助于人工智能技术的全球推广和各方参与,“随着围绕人工智能出现新的创新生态系统,技术标准将有助于将这些生态系统推向全球,并支持广泛参与人工智能创新。标准制定有助于创造获取技术能力的机会以及市场准入机会。”另一方面,国际电信联盟也将积极推动南方国家参与到人工智能标准制定的进程,不让任何一个人掉队,“我们为发展中国家的学术界、初创企业和中小企业以及各种规模的公司提供更低的会员标准。此外,国际电信联盟还通过‘弥合标准化差距’计划为发展中国家的标准专家提供更多支持。”
  据悉,国际电信联盟于今年3月启动了“人工智能向善:创新扩大影响”项目,致力于弥合全球人工智能技术差距,促进联合国可持续发展目标的实现。为此,该项目发布了两个公开征集活动,分别是人工智能应用案例征集和人工智能学者申请。今年7月,在上海举办的2024世界人工智能大会暨人工智能全球治理高级别会议上,《人工智能向善:创新扩大影响案例集》正式发布,共收录了53个来自全球的优秀人工智能应用案例,包括医疗健康、气候行动、可持续城市建设和减少不平等领域,其中有21个案例来自中国,占比近40%。此外,该项目还重点关注新生代人工智能人才的培养,通过“人工智能向善学者”计划,赋能来自不同地区的年轻人才,提升其运用人工智能技术促进社会公益的能力。
  通过举办上述活动,“人工智能向善:创新扩大影响”项目正积极弥合全球人工智能技术鸿沟,推动知识共享,促进跨地区和跨文化的人工智能应用合作,以应对当今世界面临的重大挑战。

jjybzxw 2024-12-06 17:45
  国际电信联盟加速人工智能标准制定

  关键期的标准制定

  近日,国际电信联盟(ITU)在2024年世界电信标准化全会上发布了其第一份关于人工智能的决议,并与国际标准化组织(ISO)和国际电工委员会(IEC)共同举办了第一届国际人工智能标准峰会。这两个“第一”凸显了ITU在2024年加速建立人工智能标准的坚定决心,反映了全球对于强化人工智能监管的迫切需求。

  全球合作与共识

  在标准制定过程中,ITU与ISO、IEC等非联合国系统标准制定机构之间建立了紧密的合作关系。这种合作旨在确保全面的人工智能标准开发,并通过“国际人工智能标准峰会”促进协调行动。ITU还主导了一个人工智能和多媒体真实性标准合作项目,以提供深度伪造检测的技术工具,并合作开发了一个人工智能标准数据库,以支持标准的统一制定和实施。

  弥合技术鸿沟

  弥合发达国家与发展中国家的技术鸿沟是当前国际社会关注的重点。ITU的标准具有“协商一致”的特点,有助于人工智能技术的全球推广和各方参与。通过“人工智能向善”倡议、多元化会员机制以及与其他联合国机构和标准机构的合作,ITU积极推动不同行业之间联系的建立,促进全球范围内的技术创新和投资信心的提升。

  结语

  总的来说,ITU在加速人工智能标准制定方面的努力,不仅体现了全球对于人工智能治理的重视,也展示了通过国际合作和共识,应对技术发展带来的挑战的可能性。未来,随着标准的不断完善和实施,人工智能技术有望在全球范围内得到更加安全、负责任和包容的应用。


天人地 2024-12-06 22:43
以下是关于“建立负责、安全、包容的人工智能标准”的多方面阐述:

一、建立的必要性
(一)应对虚假信息挑战
国际电信联盟的尾上诚藏指出,虚假信息是目前人工智能领域最为严峻的挑战,标准的制定有助于利用技术工具来验证多媒体内容的真实性和来源,这将便于检测深度伪造,并打造一个可信赖的信息环境。

(二)满足多样化行业需求
人工智能技术标准制定涉及伦理道德、数据安全、环境保护等多个方面。它影响社会和经济的几乎所有方面,确保标准满足多样化和不断扩展的行业需求成为当前标准制定过程中的重点与难点。
人工智能跨界赋能趋势明显,国际电信联盟标准正在支持从能源、交通到医疗保健、金融服务、农业和智慧城市等领域的数字化转型和人工智能应用,所以需要建立标准以适应不同行业的需求。
(三)弥合技术发展鸿沟
国际电信联盟的标准具有“协商一致”特点,有助于人工智能技术的全球推广和各方参与,能将新的创新生态系统推向全球,支持广泛参与人工智能创新,这有利于弥合发达国家与发展中国家在人工智能领域的技术鸿沟。
国际电信联盟为发展中国家的学术界、初创企业和中小企业以及各种规模的公司提供更低的会员标准,积极推动南方国家参与到人工智能标准制定的进程,不让任何一个人掉队。
二、建立的相关举措
(一)国际组织间的合作
在人工智能标准制定过程中,国际电信联盟与国际标准化组织、国际电工委员会等非联合国系统标准制定机构之间建立了紧密的合作关系。这三个国际组织创办了“国际人工智能标准峰会”,旨在确保全面的人工智能标准开发。
国际电信联盟还与国际标准化组织和国际电工委员会共同主导一个人工智能和多媒体真实性标准合作项目,以提供深度伪造检测的技术工具,并且合作开发一个人工智能标准数据库,以支持标准的统一制定和实施。
(二)借助多方支持
国际电信联盟通过“人工智能向善”倡议、多元化会员机制、联合国合作机构和标准机构以及目前已加入“人工智能向善”网络的36000多名专业人员的支持来积极推动不同行业之间联系的建立,为建立负责、安全、包容的人工智能标准助力。

三、面临的挑战
(一)存在多种风险
偏见和歧视风险:人工智能系统的训练和应用可能受到不平等和歧视性数据集的影响,导致其产生不公平的决策和结果,从而导致社会群体对立和社会矛盾激化,如面部识别技术中数据集缺乏多样性可能导致歧视性识别。
隐私和安全风险:人工智能技术处理大量的数据,如果未正确管理这些数据,可能会导致用户隐私的泄露和系统安全的受损,像在个人数据分析和预测中,若不保护用户数据隐私可能导致信息被滥用。
透明度和可解释性风险:人工智能技术可能难以解释其决策和行为的逻辑,这可能会导致人们对其信任度下降。
(二)达成全球共识不易
由于不同国家和地区在人工智能发展水平、文化、价值观等方面存在差异,要达成全球统一的负责、安全、包容的人工智能标准需要协调各方利益,这是一个复杂且漫长的过程。
不同行业对于人工智能标准的需求侧重点有所不同,如何在众多利益相关者之间达成共识,确保标准的包容性,也是建立标准过程中的挑战之一。



查看完整版本: [-- 建立负责、安全、包容的人工智能标准[2P] --] [-- top --]


Powered by www.wdsz.net v8.7.1 Code ©2005-2018www.wdsz.net
Gzip enabled


沪ICP备:05041533号