本站全国维修客服热线电话:400--117--9882(温馨提示:点击屏幕下方↓↓↓可直接拨打)
12月5日,2024第三届北外滩网络安全论坛在上海“世界会客厅”举行。多位院士专家与会,共同探讨网络安全技术的最新进展、分享标杆案例与应用经验,探索多层次、多维度合作机制,推动构建更加安全、可靠的网络空间。
论坛上,中国工程院院士、中国信息安全测评中心专家委员会副主任黄殿中发表了题为《智能时代网络空间认知安全新观察》的主旨演讲。
黄殿中院士发表主旨演讲。澎湃新闻记者 徐亦嘉 图
黄殿中从人工智能革命掀起认知安全新浪潮、人工智能技术塑造认知安全新范式、人工智能治理构建认知安全新秩序等三个方面,探讨了人工智能在网络安全中的应用以及改变国际认知格局等议题。
在黄殿中看来,人工智能技术的发展和应用已成为认知安全格局中的关键因素,将给全球权力结构和国际关系带来深刻变革。尤其是近两年来,以生成式智能为代表的人工智能技术与应用发展,被视为推动新一轮科技革命发展的风向标。而在国家战略层面,人工智能已成为大国竞争的关键赛道。
人工智能作为引领未来的战略性基础,新一代人工智能、特别是生成式人工智能导致认知安全态势呈现巨大变化,使得人工智能治理的重要性和紧迫性日益凸显。此外,深度伪造、社交媒体机器人、精准算法推荐等技术助推了认知域安全性的复杂化。如何在保持技术创新活力的同时,有效地防范认识安全风险,已成为全球人工智能企业的重要议题。
对此,黄殿中分享了4个应对的策略:一是以创新应对,加快认知安全防护技术的突破。未来,中国需从理论角度,分析以人工智能技术来应对智能化认知安全挑战,加快认知安全防护技术的突破;二是以法治应对,完善认知安全法律制度。打造具有中国特色的治理模式,有效地实现认知威胁的防范,确保技术发展遵循人类共同的价值观;三是以协同应对,构建认知安全协作机制。要积极推动多部门协作,通过政策协调、资源整合和跨地域的合作,推动技术创新和行业应用的加速落地,打造具有国际竞争力的人工智能产业集群;四是以良知应对,共建认知安全的数字未来。要坚持以人为本,智能向善,从社会治理角度完善认知安全的治理。