首页    科技信息与战略咨询平台    产业领域    电子信息    AI系统攻击怎么破?网络靶场练一练
AI系统攻击怎么破?网络靶场练一练
来源: 中国电子报、电子信息产业网 | 编辑:本站编辑 | 时间:2021-11-16 | 阅读量:86

技术发展是把“双刃剑”,一面可以帮助社会升级发展,一面也给了不法分子可乘之机,利用先进技术开展攻击与威胁的行为。

“大多数网络安全仍然需要依靠人工。”从事安全分析和自动化业务的Rapid7公司的董事长兼首席执行官科里·托马斯(Corey Thomas)在近日举办的《财富》杂志A.I.头脑风暴会议上谈到。戴尔科技全球首席技术官 John Roese指出,现在很多网络攻击受到机器智能、高级自动化技术支持。因此,依靠人力构建的网络防御体系会受限于响应速度,遭到攻击和危险。

人工智能技术迭代升级,深入应用到互联网、安防、城市和社会治理等各个领域,助力行业数字化、智能化升级的同时,催生出了对抗样本攻击、模型后门、模型窃取等专门针对人工智能系统的新型安全问题。行业企业需要更多更新的应对之策,培养预判能力,避免来自外界的破坏。

多年来,网络靶场已经成为全球各国争相布局的网络安全重要策略手段。在人工智能时代,面向AI技术的靶场建设也同样不可或缺。

AI技术进行网络攻击趋势走高

今年7月,来自康奈尔大学的3名安全研究人员发布的研究报告显示,恶意软件代码可以藏身于神经网络模型中,能够躲避侦测,甚至不影响该AI模型的性能。如今,基于AI技术的网络攻击已经出现了多种形式,比如通过开发恶意软件,更改其结构来避免被检测到;通过对抗样本等新型攻击技术,攻破人脸解锁、假冒身份认证、支付盗刷,干扰危险品识别,导致监控失效等恶性事件。“攻击手段自动化程度提升、隐蔽性增强。攻击者用AI模拟人行为绕过常规安全规则匹配的手段屡见不鲜,入侵检测和防护的难度水涨船高。”这是网宿科技在近日发布的《2021上半年中国互联网安全报告》中,针对网络安全发展预测的三大趋势之一。

安全可控人工智能系统提供商瑞莱智慧副总裁唐家渝指出,人工智能安全态势不断演化,新型攻击手段不断涌现,单一产品只能解决滞后问题,面对未知威胁的风险预判和策略调整能力不足。人工智能作为新型信息技术,行业存在专业人才不足与实战经验匮乏的双重困境。

网络靶场已成为各国网安“练兵场”

面对无处不在,层出不穷的网络安全问题,网络靶场建设已经成为世界各国抢先布局的新型网络安全战略。2008年,美国为巩固国家信息安全,保护和防御国家重要信息系统和关键基础设施免受侵害,开始筹建国家网络靶场(NCR );2010年,英国宣布建设联合网络靶场,用于安全地演练网络攻击和防御,并测试现有的网络软硬件,且靶场可用于商业用途;2013年,德国等政府开始针对工业控制系统等关键基础设施,建设如“国家SCADA测试床(NSTB)”等项目。

经过全球多年的演练证实,网络靶场对国家和社会各层面的安全保障均具有重大推进作用。建设面向AI技术的安全靶场,是人工智能时代保障网络安全的必要手段。

我国正处在人工智能产业发展与产业落地的关键时期,新技术带来了新风险,催生出对抗样本攻击、模型后门、模型窃取等专门针对人工智能系统的新型安全问题。   

随着产业进程的深入,这些安全风险的边界迅速扩散,逐步蔓延至互联网、安防、城市和社会治理等各个领域,危害到社会安全与国家安全。面对日益加剧的人工智能安全问题,政策层面对于建设针对性的防御机制开始加强重视。

2018年,中国贵州发布《贵阳市大数据安全管理条例》立法支持建设大数据安全靶场,并依托靶场逐年开展面向新兴技术的对抗演练;工信部在今年发布的《网络安全产业高质量发展三年行动计划(2021-2023年)(征求意见稿)》显示,要构建人工智能安全威胁分类体系,面向人工智能系统的生命周期,建立人工智能威胁模型,制定面向人工智能系统安全性检测与评估标准体系。研究人工智能系统可解释性、隐私性等安全要素,突破人工智能模型攻击与防御关键技术,设计实现人工智能系统自动攻防平台,构建人工智能安全靶场。

AI安全靶场迎接网络恶意“狙击”

“让风险发生在靶场,让有效防御构建在安全事件之前”。唐家渝指出,人工智能安全靶场好比“演兵场”,可以通过攻防实战演练,将安全风险暴露前置,提前发现和适应不断升级、多变的新型攻击和高级威胁。

近日,瑞莱智慧发布人工智能安全靶场RealRange,可通过预设训练场景模型、对抗攻防竞演等,帮助政企机构开展安全能力体系检验评估、培育新型安全人才,建设新型人工智能安全防御体系。

今年6月,为了完善AI安全与产业治理体系,清华大学联合阿里、瑞莱智慧联合发布面向AI的全新测试基准平台,旨在全面、客观、科学地衡量算法模型的安全性。

据唐家渝介绍,该靶场平台按照清华大学、阿里安全联合研发的AI对抗攻防基准,应用技术涵盖白盒攻击、黑盒迁移攻击等前沿对抗技术。

记者从瑞莱智慧相关负责人处了解到,该靶场具有三点优势,一是快速提升人员AI能力,通过研习多个难度不同的攻防靶场,快速熟悉 AI 安全代表性攻防算法培养实战人才;二是实战检测关键系统安全状态,通过将系统核心 AI 能力接入靶场平台进行攻防演练,在实战中检测 AI 系统的安全状态和防御能力;三是支撑改进现有系统安全性,通过对抗攻防演练经验的分析总结,对在对抗中暴露的弱点及时加以针对性的防护。

AI技术不断迭代升级,配套应用进一步向更多行业、领域拓展,安全的重要性日益凸显。产业界企业、专家学者开始探索如何确保技术的可靠性与安全性兼备。AI靶场作为保障AI系统安全的“练兵场”,是AI治理的重要一环,将推动AI产业健康发展。


热点推荐
广东省科学院
科技信息与战略咨询服务平台
GDAS Foshan Industrial TechnologyResearch Institute
微信公众号
版权所有©广东省科学院佛山产业技术研究院
粤公网安备44060402001390号 粤ICP备19021872号-1