物联网

假如AI失控,世界将怎样?谷歌AI学习系统存在安全漏洞

作者:来源:中国电子报、电子信息产业网发布时间:2017-12-18 我要评论

奇点即将到来,人工智能将改变世界……这是所有人坚信不疑的未来。与此同时,AI的安全问题也应该引起人们重视。日前,腾讯安全平台部预研团队发现谷歌人工智能学习系统TensorFlow存在严重安全风险,可被黑客利用带来安全威胁,团队已向谷歌报告这一风险并获得致谢,其官方负责人称,考虑到TensorFlow在AI的广泛使用,TensorFlow官网将会像大多数重要软件一样在网站创建安全公告页面,及时披露和修复安全漏洞。

Google的TensorFlow作为开源框架被互联网广泛使用,据官方介绍,谷歌、ebay、airbnb、twitter、uber、小米、中兴等公司均有使用。在TensorFlow中,AI研究者可以复用他人建好的模型来进行AI训练,或直接提供AI服务,大大提高开发效率。这些公开的模型通常以文件形式提供,也普遍被认为是无害的。但腾讯安全平台部预研团队发现,攻击者可以生成Tensorflow的恶意模型文件,对AI研究者进行攻击,对受害者自身的AI应用进行窃取或篡改、破坏。

该风险危害面非常大,一方面攻击成本低,普通攻击者即可实施攻击;另一方面迷惑性强,大部分AI研究者可能毫无防备;同时因为利用了TensorFlow自身的机制,其在PC端和移动端的最新版本均会受到影响。AI模型被窃取,损失的是开发者的心血;而一旦被篡改,造成AI失控,后果更难以想象。

AI此前已有不少实际应用案例,例如深圳试运行的无人驾驶公交、国际会议的AI同声传译;未来更会渗透到社会的方方面面:交通、医疗、安防、金融……在不远的未来,AI安全会直接影响人们的生命财产安全,甚至整个世界的秩序。如电影《复仇者联盟:奥创世纪》那样,终极人工智能奥创为人们的生活提供了无数便利,但当他站到人类的对立面时,也会带来无数灾难甚至毁灭。

腾讯安全平台部安全预研团队已就此次发现的安全风险向谷歌提交报告,协助风险早日收敛。该团队不仅聚焦AI、移动及IoT前沿领域的安全问题研究,同时也向google,apple,微软,adobe等公司报告多个安全漏洞并多次获得官方致谢。此外,他们对无人机、无线电、物联网、智能楼宇的安全问题也有研究。感谢像他们一样的安全研究团队在安全领域的努力,为整个人类的安全未来贡献了力量。科技的发展永远是双刃剑,唯有关注安全,才能让科技更好的为人类服务,让人类拥有更美好的未来。

 


来源:电子信息产业网            责任编辑:徐恒

中国虚拟现实创新创业大赛-福州赛区

12月9日,中国虚拟现实创新创业大赛福州赛区启动仪式在东湖VR小镇举行,福州市政府副市长李春、中国虚拟现实创新创业大赛组委会秘书处执行秘书长隋志强、中国电子报社执行社长刘东、福州市VR办主任任巍、东湖VR小...

2017(第三届)互联网+企业采购高峰论坛

随着我国“互联网+”、信息消费战略的推进,以电子商务为代表的信息经济正成为我国经济增长的新动能。12月6日,由工业和信息化部赛迪研究院、中国电子报社主办的2017(第三届)互联网+企业采购高峰论坛在北京隆重举...

中国虚拟现实创新创业大赛启动仪式

9月26日,在中国创新创业大赛组委会办公室指导下,由中国电子信息产业发展研究院、虚拟现实产业联盟、国科创新创业投资有限公司共同举办的首届中国虚拟现实创新创业大赛(以下简称:大赛)在北京正式启动。大赛以“...

砥砺奋进的五年

党的十八大以来,工业和信息化领域深入贯彻党的十八大,十八届三中、四中、五中、六中全会精神和习近平总书记系列重要讲话精神,全面实施“中国制造2025”,深入推进供给侧结构性改革,促进工业通信业平稳健康发 ...

聚焦2017年全国两会

2017年全国两会,即中国人民政治协商会议第十二届全国委员会第五次会议和中华人民共和国第十二届全国人民代表大会第五次会议,分别于2017年3月3日15时和3月5日9时在中国首都北京开幕。

2017年全国工业和信息化工作会议

工业和信息化部12月26日至27日在北京召开全国工业和信息化工作会议。会议将深入贯彻落实党的十八大和十八届三中、四中、五中、六中全会及中央经济工作会议精神,总结2016年工作,分析面临的形势,部署2017年工作 ...

4G高端访谈:广东大普技术有限公司副总 ...

大普通信大概成立十年的时间,那么主要还是从事时钟和品类器件,那这个时钟品类器件市场本来就是一个比较偏冷门的技术,所以大普一直以来保持也比较低调,但在行业内知名度还是比较高的。

4G高端访谈:苏宁互联副总经理王帅

今天我们很有幸请到了苏宁互联的副总经理王帅王总,跟我们聊一下苏宁互联在苏宁方面开展的业务,王总请您先简单介绍一下咱们这个因为这次毕竟也是虚商也是以一个整体的形象,首次亮相大型的展会,就您的观察这次 ...

友情链接
关于我们 | 联系我们 | 设为首页 | 加入收藏 | 广告服务 | 网站地图
电子信息产业网LOGO