我要投稿   新闻热线:021-60850333
人工智能的“安全危机”如何应对? 专家呼吁:尽快出台安全标准规范

2019-8-31 17:08:26

来源:东方网 作者:解敏 选稿:田雨霖

  东方网记者解敏8月31日报道:随着人工智能的高速发展,数据作为人工智能技术开发和应用的基础,愈发显示出重要的作用。然而,在人工智能开发和应用过程中,越来越多的数据在人们的生活场景中被收集和利用,数据安全和隐私保护却面临着严峻挑战。

  在日前由赛博研究院承办的2019世界人工智能安全高端对话上,《人工智能数据安全风险与治理》报告(以下简称《报告》)正式发布。《报告》提出了人工智能数据安全治理的总体框架,同时提出实现人工智能数据安全治理的四大目标,分别为实现数据生命周期安全;实现数据供应链安全;实现数据质量有效治理;不阻碍人工智能技术创新。

  上海市经信委安全处处长刘山泉指出,由于人工智能相关技术发展处于早期阶段,且发展迅速。全球范围内无论是大型科技企业,还是初创企业,投入大量资源开展技术开发和应用研究,但甚少有企业关注其中的数据安全问题,除非出现了相关的数据泄露事件或隐私争议性事件。技术层面,虽然当前基于隐私的机器学习技术,以及针对各种恶意攻击的防御技术和数据保护技术都在快速发展,但仍不能解决全部问题。

  目前人工智能领域的“安全危机”主要涉及数据质量、算法缺乏解释性、运算过程不可控、系统形态不可靠性等问题。由于人工智能是靠数据驱动的,数据的质量直接影响运算结果,恶意的数据篡改和被污染的数据都会使得结果发生偏差。此外,当机器产生的决策,与人类的决策产生严重分歧的时候,我们到底应该听谁的?这些都是亟需解决又易被忽视的问题。

  刘山泉指出,人工智能中的数据安全治理是一个系统性工程,需要从法规、标准、技术等各个层面寻求应对策略,并需要监管方、政策制定者,人工智能开发商、制造商、服务提供商,以及网络安全企业协作,共同致力于解决数据安全的重大挑战。

  目前,人工智能信息安全在法规层面普遍存在盲点。例如针对训练数据集的质量问题,当前国内外都缺乏相应的法规予以规范。此外,我国尚未推出《数据安全法》《个人信息保护法》等数据安全法规,而既有法规无法对人工智能中涉及的数据隐私问题予以全面、有效规制。

  上海社科院互联网研究中心主任惠志斌呼吁,应尽快出台人工智能安全标准规范,引导数据、算法、技术应用等能有更好的保障。当前在全球范围内,无论是人工智能数据安全相关的通用标准,还是细分领域标准,都比较缺乏。中国人工智能发展与世界同步,应有这个能力与责任。希望未来3到5年内,中国率先将围绕人工智能各类应用的安全保障体系建立起来。

上一篇稿件

下一篇稿件

秒速时时彩官网 安徽快3 秒速时时彩平台 北京赛车彩票 江苏快3 秒速时时彩开奖 秒速时时彩官网 秒速时时彩平台 秒速时时彩官网 秒速时时彩平台