5月16日,第二届世界智能大会在天津召开,360集团董事长兼CEO周鸿祎在现场演讲时称,他虽然也很期待无人驾驶时代的到来,但要给无人驾驶泼点冷水:没有安全就不可能有智能汽车时代的真正的到来。
“你想象有一天,你吃着火锅,唱着歌,坐在一辆车上,过着未来的美好生活,然后这个车就被黑客劫持了,美好生活也就结束了。”周鸿祎说。
周鸿祎称,无论是特斯拉还是别的智能汽车都可以用手机进行控制,要和车厂的服务器保持连接,能够通过定期更新软件来改变车子的驾驶模式,既然汽车都可以联网,用手机都可以打开车门、打开空调了,那么就一定可以被劫持。
周鸿祎自称他们公司研究的团队已经做到特斯拉每出一款车,都能以最快的速度进行模拟劫持。他笑称,“我没有要害大家的想法,做盾的人要先研究矛。”
此外,周鸿祎也指出,人工智能作为智能经济的关键技术支撑力也存在重要的安全问题。主要来自于4个方面。
第一,人工智能会用于许多无人值守系统,像无人值守的汽车、高铁、无人机,无人值守的武器等。但是,这些无人值守系统都有安全漏洞的风险,一旦被网络劫持,将带来严重的安全问题。比如未来用人工智能做成智能机枪以后,一旦被黑客攻破,就有可能向无辜的人开火。
第二,人工智能所依赖的传感器、训练数据和使用的开源软件等都可能存在安全隐患,比如传感器可以被干扰,系统自身也可以被欺骗或入侵。
第三,现在的人工智能还只是一种拼命用大量数据训练出来的概率判断系统,远远称不上完善。它也许可以有99.99%的概率保证识别是正确的,但是对于安全来讲,它只要出现一次识别错误,就会造成严重后果。过去一年里,曾发生多起自动驾驶测试车车祸,甚至撞死行人的事件,就是因为这个原因。
第四,现在的人工智能系统大多使用开源软件和架构,这里面的安全漏洞就更多了。
所以,周鸿祎认为,大安全时代,迫切需要一个完整的解决方案。要运用新技术构建一个强健有力的“安全大脑”,建立“上帝视角”,绘制出大安全全景图。