切换到宽版
  • 96阅读
  • 1回复

[智能应用]确保生成式人工智能向善而行 [复制链接]

上一主题 下一主题
在线huozm32831

UID: 329002

精华: 1097
职务: 超级斑竹
级别: 玉清道君
 

发帖
106126
金币
1715
道行
19523
原创
29307
奖券
17275
斑龄
190
道券
10126
获奖
0
座驾
 设备
EOS—7D
 摄影级
专家级认证
在线时间: 20013(小时)
注册时间: 2007-11-29
最后登录: 2024-11-21
— 本帖被 兵马大元帅 执行加亮操作(2024-11-06) —
紧随科技进步和行业发展的步伐,全面提升治理水平,促进生成式人工智能健康发展

  

  【现象】从一个灵感起步,设置主题、类型、人物、情节等各种参数,引导编剧填入自己的想法,大模型可以在极短时间内生成类型片剧本初稿。不久前,西部电影集团有限公司发布国内首个拥有自主知识产权的电影创作类生成式人工智能系统。近年来,生成式人工智能技术取得突破性进展,开始完成绘画、谱曲、咨询互动等原本被认为只能由人来完成的工作,正在并将继续对生产生活产生深远影响。

  【点评】

  人工智能是引领未来的战略性技术,是新一轮科技革命和产业变革的重要驱动力量,是必须抢占的科技制高点。生成式人工智能可以依托事先训练好的多模态基础大模型等,利用用户输入的相关资料,生成具有一定逻辑性和连贯性的内容,是目前最具革命性、引领性的科学技术之一。

  从进行数据处理,到学习和模拟事物内在规律,这一跳跃让人工智能更加接近人类的创造力,可以完成更多复杂场景任务。与此同时,解决相关安全风险和伦理问题也变得更加紧迫。

  党的二十届三中全会《决定》提出:“完善生成式人工智能发展和管理机制。”紧随科技进步和行业发展的步伐,全面提升治理水平,促进生成式人工智能健康发展,是形势所需,也是更好保障公众利益的内在要求。

  尽管技术路径已经明确,但生成式人工智能产品和服务的商业化、大众化、普及化,仍处于起步阶段。2023年,我国生成式人工智能的企业采用率已达15%,市场规模约为14.4万亿元。目前,我国现有完成备案并上线为公众提供服务的生成式人工智能服务大模型近200个,注册用户超6亿。我们已占据有利身位,且有丰富的数据资源、广阔的市场需求、稳定的技术基础和多样化的应用场景,要充分发挥这些优势,力争在新一代人工智能技术的发展上抢占先机,为更多行业向价值链中高端攀升提供更强推动力。

  着力推动技术进步、产业发展的同时,也要看到,生成式人工智能会带来一些治理难题。比如,利用他人作品生成新的“作品”,可能涉嫌侵权;利用人工智能生成虚假信息进行诈骗,增加防范难度;随着技术应用的拓展,一些就业岗位可能会受到较大冲击;等等。

  针对各种可能发生的风险,相关部门和地方已经出台了一些技术应对、综合防治措施及安全开发应用指引,促进人工智能向善而行。比如,北京市编制大模型分级分类管理和安全评测标准,围绕真实场景开展应用质量评估、伦理对齐等方面评测;上海交通大学发布“生成式人工智能教师使用指南”,对版权与学术诚信、伦理与公平等问题作出规定……坚持未雨绸缪,坚持伦理先行,进一步加强人工智能规则治理,完善相关法律体系建设,才能做到趋利避害、安全使用。

  发展人工智能,根本目的是造福人类、增进人民福祉、促进人的全面发展。在技术加速演进的关键阶段,坚持发展与治理、创新与安全并重,着力培育安全、可靠、公平、透明的技术研发和应用生态,定能不断促进人工智能健康发展,更好抓住新一轮技术变革带来的新机遇。
山庄提示: 道行不够,道券不够?---☆点此充值☆
 
  




    
在线jjybzxw

UID: 551814


发帖
102498
金币
1090746
道行
1951
原创
2155
奖券
2124
斑龄
28
道券
567
获奖
0
座驾
设备
摄影级
在线时间: 24502(小时)
注册时间: 2008-10-01
最后登录: 2024-11-21
只看该作者 沙发  发表于: 11-04
  紧随科技进步和行业发展的步伐,全面提升治理水平,促进生成式人工智能健康发展,需要从以下几个方面着手:

  1. 技术发展与伦理监督:

  生成式人工智能技术的发展需要与伦理监督相结合。在技术发展的同时,要重视科技伦理要求,提前研判可能引发的伦理问题,并提出应对机制。 我国已经出台了相关顶层设计和制度方案,如《关于加强科技伦理治理的意见》等,但仍需在具体规则和实施落地等方面进一步推进。

  2. 分层治理体系构建:

  我国生成式人工智能的法律治理应以发展为导向,构建分层治理体系。将生成式人工智能作为基础设施,划分为技术、产品与服务三个层次,关注不同层次的不同生产要素,实施“基础模型—产品模型—服务应用”的分层规制。 这种分层治理有助于从单一的场景算法治理,演化为适应不同治理目标的复合型系统性治理。

  3. 平台合规落地机制:

  融入敏捷治理理念,推动平台合规落地机制,实现对企业研发应用、经营管理等行为的实时跟踪、动态监测。 这包括完善平台内部组织机制,明确用户使用规范,以及由监管部门或第三方机构进行合规评价。

  4. 全周期安全监管:

  加强对算法的全周期安全监管,将法律规范的要求落实到生成式人工智能运行的全流程之中。 这涉及到从算法设置之初的法律规则与技术标准遵循,到发现问题时的纠正,以及事后的溯源治理和精准归责。

  5. 促进健康发展的措施:

  尽管技术路径已经明确,但生成式人工智能的商业化、大众化、普及化仍处于起步阶段。我国应充分发挥数据资源、市场需求、技术基础和应用场景的优势,力争在新一代人工智能技术的发展上抢占先机。 同时,要看到生成式人工智能带来的治理难题,如侵权、虚假信息生成、就业岗位冲击等,并采取相应的治理措施。

  6. 国际合作与规则制定:

  加强国际合作,推进国际交流与合作,携手应对人类共同挑战,让人工智能技术发展更安全、更可靠、更可信。 我国在算法治理和深度合成治理领域已成为领跑者,应积极构建符合我国实际的治理制度,形成制度竞争优势。

  通过上述措施,可以促进生成式人工智能的健康发展,更好地保障公众利益,同时抓住新一轮技术变革带来的新机遇。

如何不发帖就快速得到金币道行
 
快速回复
限120 字节
认真回复加分,灌水扣分~
 
上一个 下一个