关键词:
ChatGPT
欧盟AI法案
安全问题
网络空间安全
摘要:
以ChatGPT等为代表的人工智能(AI)技术不断走进人类社会的生活与生产活动中,并产生了越来越重要的影响。AI应用给人类生活带来便利、提高生活质量与生产效率的同时,也带来了更加严重的安全问题。AI安全问题已得到各国政府、产业界和学术界的广泛关注和高度重视,AI已成为网络空间安全发展的关键变量。首先,AI已成为网络空间安全治理的重点对象。美国政府于2019年2月发布了《美国AI倡议》,强调AI对传统安全领域的重要意义;美国国家标准技术研究所(NIST)于2023年1月正式公布了《AI风险管理框架》,对AI系统的开发和部署提供指导性建议,降低产生的安全风险,提升AI的可信度;美国政府于2024年10月发布了一份题为《关于巩固和推进美国在AI领域全球领导地位:利用AI实现国家安全目标,促进AI的安全性、可靠性和可信度》的备忘录,标志着美国在AI领域的国家战略迈上新台阶。2024年8月1日,欧盟《AI法案》正式生效,该法案注重基于风险来制定监管制度,从而平衡创新发展与安全规范。我国中央网信办等部门于2023年7月发布了《生成式AI服务管理暂行办法》,该办法明确了生成式AI服务应当满足的政策、法律、道德规范和约束;全国网络安全标准化技术委员会于2024年9月发布了《AI安全治理框架》1.0版,该框架涉及AI安全治理原则、AI安全治理框架构成、AI安全风险分类、技术应对措施、综合治理措施、AI安全开发应用指引等方面。