假如AI失控世界将会怎样？谷歌AI学习系统存安全漏洞

本篇文章928字，读完约2分钟

[techweb Report]12月15日，腾讯安全平台部的前期研究团队最近发现，谷歌的人工智能学习系统tensorflow存在严重的安全隐患，黑客可以利用其带来安全威胁。该团队已经向谷歌报告了这一风险，并收到了感谢。这位负责人说，考虑到天顺在人工智能中的广泛使用，天顺官方网站将像大多数重要软件一样在网站上创建一个安全公告页面，以便及时发现和修复安全漏洞。

目前，谷歌的张量流作为一个开源框架在互联网上被广泛使用。据官方介绍，谷歌、易趣、airbnb、推特、优步、小米、中兴和其他公司都在使用它。在tensorflow中，人工智能研究人员可以重用他人建立的模型进行人工智能训练，或者直接提供人工智能服务，这大大提高了开发效率。

据了解，这些已发布的模型通常以文档的形式提供，通常被认为是无害的。然而，腾讯安全平台部的前期研究团队发现，攻击者可以生成张量流的恶意模型文件，攻击人工智能研究人员，窃取、篡改和破坏受害者自己的人工智能应用程序。

这种风险非常有害。一方面，攻击成本低，普通攻击者可以进行攻击；另一方面，这令人困惑，大多数人工智能研究人员可能毫无准备；同时，由于使用了tensorflow自己的机制，最新版本的TensorFlow在个人电脑和手机上会受到影响。人工智能模型被偷了，损失是开发人员的辛勤工作；一旦被篡改，人工智能将失去控制，后果将更加不堪设想。

此前，人工智能已经有了很多实际应用案例，如深圳无人公交车试运行和国际会议的人工智能同声传译；未来将渗透到社会的各个方面:交通、医疗、安全和金融。在不久的将来，人工智能安全将直接影响人们的生命和财产，甚至整个世界的秩序。就像电影《复仇者联盟:奥地利创世纪》一样，终极人工智能奥创为人们的生活提供了无数的便利，但当他站在人类的对立面时，也将带来无数的灾难甚至毁灭。

据悉，腾讯安全平台部安全预研究小组已经向谷歌提交了一份关于此次发现的安全风险的报告，以帮助风险尽快收敛。该团队不仅专注于研究人工智能、移动和物联网等前沿领域的安全问题，还向谷歌、苹果、微软、adobe等公司报告了多个安全漏洞，并获得了许多官方的感谢。此外，他们还研究了无人驾驶飞行器、无线电、物联网和智能建筑的安全性。