《AIGC数据安全与算法治理报告》由上海赛博网络安全产业创新研究院发布，分析了人工智能发展趋势、安全挑战以及全球治理现状，并提出了治理框架。
算力经济时代，人工智能发展呈现新趋势，包括算力新基建支撑、数据新要素驱动和AI大模型引领，AIGC应用进入“成长期”，但数据安全和算法问题成为发展掣肘。人工智能发展面临的安全挑战包括数据采集阶段难以保障数据所有者权利，数据处理阶段可能导致决策错误或算法歧视，数据流通阶段存在合法性及安全性问题，数据使用阶段可能影响国家、企业及个人安全。
各国在AIGC领域的治理现状不同，美国鼓励发展并以场景化立法规制安全，欧盟重塑治理规范并基于风险识别强监管，中国实施适度监管并从多层级、多角度进行规范。AIGC治理前沿技术包括隐私计算、区块链、对抗训练、偏见检测和内容鉴别及标识等。
我国应构建AIGC数据和算法安全治理框架，遵循健康有序、技术向善、敏捷治理和多元包容的原则，通过完善治理顶层设计、建设系列标准体系、提高企业自身治理能力和打造全面的安全治理能力供给等路径进行治理。具体包括将人工智能数据安全和算法治理纳入国家整体安全观，加快立法，构建监管机制；制定标准计划，形成通用标准和行业标准；企业应加强组织建设、提升技术和人员能力、培育企业文化；政府等应共同提供技术研发、产品服务、测评认证和合规咨询等安全能力供给。
总之，人工智能安全治理需多方共同努力，以促进人工智能健康发展并保障各方权益。
以下为报告节选内容