[退出]

丽水生活热线_帐号登录

× 没有帐号?
丽水生活热线>智造 > 正文

腾讯发布预警:谷歌AI学习系统存安全漏洞

2017-12-16 12:24:04 来源:丽水生活热线

  12月15日消息,近日腾讯安全平台部预研团队发现谷歌人工智能学习系统TensorFlow存在严重安全风险,可被黑客利用带来安全威胁,团队已向谷歌报告这一风险并获得致谢,其官方负责人称,考虑到TensorFlow在AI的广泛使用,TensorFlow官网将会像大多数重要软件一样在网站创建安全公告页面,及时披露和修复安全漏洞。

  目前,Google的TensorFlow作为开源框架被互联网广泛使用,据官方介绍,谷歌、ebay、airbnb、twitter、uber、小米、中兴等公司均有使用。在TensorFlow中,AI研究者可以复用他人建好的模型来进行AI训练,或直接提供AI服务,大大提高开发效率。

  据了解,这些公开的模型通常以文件形式提供,也普遍被认为是无害的。但腾讯安全平台部预研团队发现,攻击者可以生成Tensorflow的恶意模型文件,对AI研究者进行攻击,对受害者自身的AI应用进行窃取或篡改、破坏。

  该风险危害面非常大,一方面攻击成本低,普通攻击者即可实施攻击;另一方面迷惑性强,大部分AI研究者可能毫无防备;同时因为利用了TensorFlow自身的机制,其在PC端和移动端的最新版本均会受到影响。AI模型被窃取,损失的是开发者的心血;而一旦被篡改,造成AI失控,后果更难以想象。

  此前,AI已有不少实际应用案例,例如深圳试运行的无人驾驶公交、国际会议的AI同声传译;未来更会渗透到社会的方方面面:交通、医疗、安防、金融……在不远的未来,AI安全会直接影响人们的生命财产安全,甚至整个世界的秩序。如电影《复仇者联盟:奥创世纪》那样,终极人工智能奥创为人们的生活提供了无数便利,但当他站到人类的对立面时,也会带来无数灾难甚至毁灭。

  据悉,腾讯安全平台部安全预研团队已就此次发现的安全风险向谷歌提交报告,协助风险早日收敛。该团队不仅聚焦AI、移动及IoT前沿领域的安全问题研究,同时也向google,apple,微软,adobe等公司报告多个安全漏洞并多次获得官方致谢。此外,他们对无人机、无线电、物联网、智能楼宇的安全问题也有研究。

相关新闻
  • 谷歌发布了一款AI工具 可以帮助基因组数据解读2017-12-11 09:13
  • 征服围棋之后 谷歌DeepMind宣布利用AI对抗乳腺癌2017-11-27 08:55
  • 谷歌推TensorFlow Lite 帮开发者在手机上部署AI2017-11-16 09:31
  • 谷歌AI专家预测:未来20年机器与人脑将合而为一2017-11-15 08:26
  • 谷歌首席工程师:AI并不可怕 人类会越来越强大2017-11-11 10:40
责编:梁爽
版权作品,未经环球网Huanqiu.com书面授权,严禁转载,违者将被追究法律责任。 获取授权

文章标签:系统 学习 发布 预警 腾讯

网友评论
请登录后进行评论| 热度:

请文明发言,还可以输入140

您的评论已经发表成功,请等候审核

小提示:您要为您发表的言论后果负责,请各位遵守法纪注意语言文明

微信 QQ空间 微博    
回到首页 回到顶部

©丽水生活热线版权所有,未经授权禁止复制或建立镜像