“機器變成自主意識,會對人類産生危害,很多無人值守系統,一旦被駭客劫持,這個扳機就會控制在駭客手裏”,周鴻祎坦言,“特斯拉每出一款車,我們都能以最快的速度劫持”。至於為什麼要模擬劫持汽車,周鴻祎直言不諱地表示,“因為做防守的人,做盾的人,要先研究矛”。
“無論是特斯拉還是其他智慧汽車,都可以用手機進行控制,要和車廠的伺服器保持連接,能夠通過定期更新軟體來改變車子的駕駛模式;既然汽車都可以聯網,用手機都可以打開車門、打開空調了,那麼就一定可以被劫持”,360集團董事長兼CEO周鴻祎在5月16日的第二屆世界智慧大會上表示。
在周鴻祎看來,雖然很期待無人駕駛時代的到來,但要給無人駕駛潑點冷水,“沒有安全就不可能有智慧汽車時代的真正的到來”。他還描述一個具體的場景:“你想像有一天,你吃著火鍋,唱著歌,坐在一輛車上,過著未來的美好生活,然後這個車就被駭客劫持了,美好生活也就結束了”。
“機器變成自主意識,會對人類産生危害,很多無人值守系統,一旦被駭客劫持,這個扳機就會控制在駭客手裏,帶來的危害也是比較大的”,周鴻祎坦言,“特斯拉每出一款車,我們都能以最快的速度劫持”。至於為什麼要模擬劫持汽車,周鴻祎直言不諱地表示,“因為做防守的人,做盾的人,要先研究矛”。
另外,周鴻祎還提出,人工智慧作為智慧經濟的關鍵技術支撐力也存在重要的安全問題:
第一,人工智慧會用於許多無人值守系統,像無人值守的汽車、高鐵、無人機,無人值守的武器等。但是,這些無人值守系統都有安全漏洞的風險,一旦被網路劫持,將帶來嚴重的安全問題。比如未來用人工智慧做成智慧機槍以後,一旦被駭客攻破,就有可能向無辜的人開火。
第二,人工智慧所依賴的感測器、訓練數據和使用的開源軟體等都可能存在安全隱患,比如感測器可以被干擾,系統自身也可以被欺騙或入侵。
第三,現在的人工智慧還只是一種拼命用大量數據訓練出來的概率判斷系統,遠遠稱不上完善。它也許可以有99.99%的概率保證識別是正確的,但是對於安全來講,它只要出現一次識別錯誤,就會造成嚴重後果。過去一年裏,曾發生多起自動駕駛測試車車禍,甚至撞死行人的事件,就是因為這個原因。
第四,現在的人工智慧系統大多使用開源軟體和架構,這裡面的安全漏洞就更多了。
因此,周鴻祎強調,大安全時代,迫切需要一個完整的解決方案。要運用新技術構建一個強健有力的“安全大腦”,建立“上帝視角”,繪製出大安全全景圖。
(責任編輯:蘇浩)