图:在上海举办的2024世界人工智能大会上,工作人员在展示手势控制机器人操作流程。\新华社
国家安全是中国式现代化行稳致远的重要基础。《中共中央关于进一步全面深化改革、推进中国式现代化的决定》(简称《决定》)提到,必须全面贯彻总体国家安全观,完善维护国家安全体制机制,实现高质量发展和高水平安全良性互动,切实保障国家长治久安。《决定》明确,加强网络安全体制建设,建立人工智能安全监管制度。
多位国家安全领域权威专家在接受大公报访问时表示,二十届三中全会将国家安全议题提升至新高度。专家认为,人工智能安全监管制度的建立,需要从算法设计开始,对AI技术的开发、部署和应用过程进行全链条监管。
完善食品药品安全责任体系
“国家安全这几年在中国的决策层提高到了前所未有的高度。”中国人权发展基金会一位资深国际安全领域专家向大公报指出,放眼全世界各个国家经济体的发展,离开安全就无从谈发展,安全是发展的前提。他认为,在当下百年未有的大变局下,国家安全的重要性前所未有地突出,而中国要坚持大安全观、“综合的安全观。”
《决定》提出,完善食品药品安全责任体系。并且,加强网络安全体制建设,建立人工智能安全监管制度。 在这位专家看来,推进国家安全体系和能力现代化包括海外安全和周边安全。随着中国改革开放近半个世纪的历程,中国在海外有很多的利益,而这也是国家利益的一部分,“包括中国在海外庞大的营商人员、施工人员及各类建设项目,都需要纳入到综合的安全观里面去,这也是大安全观及综合安全观的一个亮点。”
“第二个是周边安全。关于《决定》的说明提到,要建立健全周边安全工作协调机制。”这位专家指出,中国是有着漫长国境线的国家,与很多国家接壤。中国决策层近年来也频频与中亚国家领导人会晤,包括建立上海合作组织等合作机制等,这都是中国重视国家安全的表现,而中国此番亦将周边安全提升至新高度。
至于中国应以何种方式维护国家安全,他认为,中国此番提出要建立AI安全监管制度,也是保护国家安全的一项重要施政。目前全世界各个国家都在抢抓AI新机遇,中国未来必将在这一领域大胆创新,加以开发和利用,在此方面,也要谋划如何在国际领域占据主动,抓住发展机遇。
政府企业合作 打造“数字护盾”
“AI的发展带来机遇也带来安全方面的挑战,这是必然的。”大数据国家战略计划联盟发起人、360集团信息保安专家邬玉良表示,AI可以作为网络武器进行网络攻击,以及量子技术的应用、大数据的应用等等高科技手段的应用,都需要中国加以防护及应对。“保护国家安全以及破解安全困境是国家和企业共同面临的时代课题。”他表示,全会提出,要建立人工智能安全监管制度,这需要政府和企业共同做好“数字防护”,保护国家安全。
《决定》提出,加强网络安全体制建设,建立人工智能安全监管制度。“《决定》直接提及了‘人工智能安全’,彰显了人工智能及网络安全在未来的重要性。”中国电子信息产业发展研究院副总工程师刘权认为,当今世界已进入数智化时代,人工智能成为引领我国新质生产力发展的重要驱动力的同时,也带来巨大风险隐患。如何规范科技创新行为,确保人工智能安全、可靠、可控,成为了迫切的现实需求。
“加强网络安全体制建设,是我国企业、政府乃至全社会迈向数字化转型中的一项重要任务。”国家信息技术安全研究中心高级工程师潘克峰表示,“人工智能安全监管制度的建立,要对AI技术的开发、部署和应用过程进行全链条监管。这意味着从算法设计开始,就要考虑到潜在的伦理和安全问题。”他谈到,必须建立跨领域的协作机制,促成政府、企业、研究机构之间信息共享和技术合作,共同应对网络安全挑战。