七台河信息港

当前位置:

欧盟最新AI网络安全政策发展框架略

2020/10/16 来源:七台河信息港

导读

欧盟最新《AI网络安全政策发展框架》本文主要观点一览:1. AI进入主流商用,数据收集是关键。2. 欧盟提出有关相干倡议,涵盖安

欧盟最新《AI网络安全政策发展框架》

本文主要观点一览:

1. AI进入主流商用,数据收集是关键。

2. 欧盟提出有关相干倡议,涵盖安全和隐私设计原则、技术规范和标准、道德准则方面。

3. 全面梳理AI的安全与隐私问题。其中安全问题包括:数据劫持和误用/干扰/透明性、可审计性的局限/坚持安全原则;隐私问题包括:普适性与最小化原则/数据的保护、聚集和再利用/数据处理不透明性。

4. 网络安全领域的政策发展框架应当坚持2个原则:包容性与开放性原则

5. 本月8日发布了正式版的人工智能道德准则,提出可信赖人工智能的七个要素: 人的能动性和;稳健性和安全性;隐私和数据;透明度;多样性、非轻视性和公平性;社会和环境福祉;问责制。

1、概要

AI进入主流商用,数据搜集是关键

在过去几年,人工智能(AI)迅速超出研究和学术范畴,进入主流商用,创新的自主代理利用人工智能并改变信息的访问和使用方式。自主代理多种多样,从智能手机中的数字助理到支持供应链的自动机器人。因自主程度和操作环境的差异,安全性和隐私考虑可能会有所不同。自主的一个关键方面是数据搜集,主要用于以定性和及时的方式支持要求刻薄的功能。然而,由于处理的数据丰富,可能还触及个人数据,除依赖第三方商以外,还需要斟酌安全和隐私等诸多因素。

欧盟倡议:安全与隐私

本报告强调了一些需要推敲的因素,例如未经授权的自主,劫持和滥用透明度和问责制,普遍性,存储和处理的不透明性,并给出了一系列影响未来欧盟政策倡议的建议,包括:

●欧盟委员会、欧盟相干机构和公私营部门利益相干方应进一步增进和支持采用安全和隐私设计原则,作为自主代理和的启动、设计和实行的先决条件。

●欧盟委员会、欧盟相干机构、公私部门利益相关方应促进辨认和交换最好实践的合作方法,逐渐提出一系列基线安全要求,转变为可广泛接受的技术规范和标准。

●欧盟委员会、欧盟相干机构、公私部门利益攸关方应通过建立适当的道德准则,进一步保障和支持关于增进和保护人权的现有举措。

2、安全和隐私

1安全问题

1. 劫持和误用

自主无人机、无人驾驶汽车、机器人和其他设备都是通过软件来控制的。软件进程中使用的方法、和软件的范围和广度都会影响漏洞数量和严重程度。者应当证明设计进程中采取了可安全(managed security)方法,包括记录安全软件、质量和信息安全进程。

2. 干扰

自主非常依赖传感器来感知环境,因此可能会遭受来自传感器的安全风险。安全研究人员在2016年就证明了自动驾驶汽车使用的传感器易遭到非接触式攻击的影响。供应商应当确保交付的产品的设计和预配置是基于良好的安全实践,并严格遵守最小权限等安全设计和原则。

3. 透明性,可审计性的局限

自主代理的行动其实不全都在软件代码中有详细的规定,而是根据软件、训练和感知的环境的不同,其行动具有一定不确定性。在许多高级自主代理中,训练和操作阶段是没有区分的,由于训练过程是延续贯穿代理的全部生命周期的。因此,训练的进程并不是完全由厂商控制的。那末厂商就应当关于代理设计的综合性和可理解的文档,描述自主代理的架构、功能、使用的协议、软件组件或硬件的实现,与其他组件和内外部服务的交互和接口,以确保代理是以一种最安全的方式实现和应用的。

4. 坚持安全原则

与信息设计、和运用的基本安全规则类似,应当辨认、定义和运用自主代理全生命周期应当坚持的基本安全原则。因此,自主代理的组件、使用和的服务应当是安全的:

● 安全设计。代理或服务的设计和应用应该是安全的,以确保可用性、机密性、完整性和可审计性等关键安全特性。

● 默许安全。代理或服务在初始实现时就应当能支持这些安全特性的能力。

● 全生命周期安全。安全应当贯穿初始应用、保护到不再使用的全生命周期中。

● 可验证安全。上述安全特点和原则都应当是可验证的。

2 隐私问题1. 普适性与最小化原则

自主代理的学习能力是基于机器学习算法的,而机器学习算法本身就需要大量的数据集作为输入。也就是说代理会去不断地搜集尽可能多的数据,以自动驾驶汽车为例,自动驾驶汽车设备的传感器会收集半径300m范围的数据信息,通过还装配了摄像头和麦克风、雷达和激光传感器,可以创建环境中物体的高分辨率3D表示。

从目前来看,自主还不具有辨别有用数据和无用数据的能力。自主的能力高度依赖环境感知的能力,而环境是复杂和动态的,因此很难辨别哪些信息是有用的,哪些信息是无用的。

2. 数据保护:删除数据仍能利用

自主代理处理的实时数据可以在使用后不影响性能的情况下删除。出于不同的缘由这些数据一般都会长时间保存,包括事故和意外的调查取证。以自动驾驶汽车为例,训练数据也可能会用于事故和意外调查取证,因此也要保存。

即使数据被删除了,也会留下可以被利用的痕迹。研究人员在2017年就证明了在不访问机器学习模型内部结构的情况下肯定特定记录是否是机器学习算法训练集的一部分的可能性。同时研究人员证明了机器学习易受到推断攻击。因此,对机器学习来讲,删除训练集数据并不是隐私保护的有效手段。而且工程师、者、研究人员、调查人员和其他利益相干方都可能会访问到数据集,因此数据机密性保护也是一个复杂的问题。

3. 数据聚集和再利用

数据的聚集和再利用已非常普遍。比如,自动驾驶汽车和无人机都连接着所属公司的控制中心,搜集的数据会发送到控制中心做进一步分析。一样地,软件代理也会与厂商同享数据,这样厂商才能更好的服务给用户。者和服务商将从不同用户处搜集的数据与其他源的数据融合在一起,就可以创建详细的用户画像、预测用户行动、猜测用户的需求。

从活动A搜集的数据可能会被进一步利用和分析,用作活动B,这就叫做再利用。比如自主代理训练所搜集的数据也可能会用于市场营销,事故调查所搜集的数据可能会被用于用户画像等等。

4. 黑盒:数据处理的不透明性

机器学习是以一种黑盒的方式处理和展现给用户的。机器学习算法并不对结果进行解释,也没法肯定某个特定的数据实例是不是会影响终究的决策。对基于机器学习算法模块的自主代理来说,没法证明个人数据处理的合法性、公平性和透明性。因此需要和执行机构参与来分配和肯定相干的。

三、网络安全政策发展框架

本文为欧盟成员国自主代理和相干应用领域在安全和隐私相干的政策发展一个框架。基于对人工智能技术的分析,研究人员提出网络安全领域的政策发展框架应当坚持的2个原则:

包容性原则(Inclusiveness)应当反应和斟酌更广泛的利益相干方的兴趣和优先事项。

开放性原则(openness)应当支持未来数字革新技术在不同领域的应用。

具体来说,该框架应该:促进技术标准和规范的和采用;鼓励最好安全实践和经验;增进利益相干方的协同和合作关系。

4、总结与建议(1) 运用安全和隐私设计原则

自主的关键就是能够处理大量数据,但自主必须以一种可以确保安全关键特性可用性、机密性、完整性和可审计性的设计方法。通过在从安装开始的全生命周期拥有保证其安全特性的能力。

欧盟委员会、欧盟相干机构和公私营部门利益相干方应进一步促进和支持采取安全和隐私设计原则,作为自主代理和的启动、设计和实行的先决条件。

2 基线安全需求

人工智能和自主代理的快速发展催生了和产品设计、等进程对应的方法和指南的需求。者也可以从解决安全和隐私的指南中获益,这种指南可以通过最好实践、基线安全需求标准的来得出。

欧盟委员会、欧盟相干机构部门利益相干方应增进辨认和交换最好实践的合作方法,逐步提出一系列基线安全要求,转变为可广泛接受的技2015年的政府工作报告中术规范和标准。3 解决伦理问题

自主代理和常常需要做出一些复杂的决策,因此引入了与人权、尊严和非轻视等相干的伦理问题。解决这一窘境需要一种跨学科和调和的方法。

欧盟委员会、欧盟相干机构部门利益攸关方应通过建立适当的道德准则,进一步保障和支持关于促进和保护人权的现有举措。

另外,欧盟委员会还于本月8日发布了正式版的人工智能道德准则,提出了实现可信赖人工智能的七个要素,要求不得使用公民做出伤害或歧视他们的行动。

实现可信赖人工智能的七个要素分别是: 人的能动性和;稳健性和安全性;隐私和数据;透明度;多样性、非轻视性和公平性;社会和环境福祉;问责制。

本文相干词条概念解析:

自主

自主指自己作主,不受他人安排。心理学中自主就是遇事有主见,能对自己的行动负责。

代理

代理是指代理人以被代理人(又称本人)的名义,在代理权限内与第三人(又称相对人)实行民事行为,其法律后果直接由被代理人承受的民事法律制度。代理方式按委托人对代理人授权的大小,可分为一般代理、独家代理和总代理.;一般代理又称佣金代理,是不享有代销专营权的代理,委托人在同一地区和期限内,可选定一家或几家客户作为一般代理人,根据代销商品的实际数量按协议规定的办法付给佣金,委托人可直接与该地区的买主成交,其直接成交部分,不向代理商支付佣金。

宝宝不消化吃什么好
孩子不爱吃饭
哪种软肝药效果好
5个月的宝宝腹泻
标签

友情链接