安全公司McAfee正在與對特斯拉車型進行高級威脅研究測試,以此發現任何可能存在的人工智能系統的漏洞。近日,他們發現通過使用2英寸的電工膠帶將限速標志的35更改為85,從而成功欺騙了車輛MobilEye傳感器,巡航系統自動將車輛加速至85 mph。
值得注意的是,雖然特斯拉在2016年7月便停止了與MobilEye的合作,該漏洞對2016年后的新款的特斯拉并沒有影響,但是,用于該項目測試的2016款特斯拉Model S安裝了這套監測系統,McAfee成功的通過人為誘騙讓巡航速度提升,并且這種較老的技術正在不僅包含特斯拉在內的近4000萬量車輛中使用。
更嚴重的是,McAfee發現這套系統對污損的路牌也有大概率的錯誤識別,錯誤識別率幾乎達到了100%,當然也不必太過于擔心,McAfee認為這種破壞行為在實際使用中幾乎很難遇到,他們實驗的目的還是想讓人類和人工智能都在判斷上出現失誤。
在此示例中,使用黑色膠帶延長了“ 35”中“ 3”的中線,盡管有些細微,但這足以使傳感器錯誤識別。McAfee團隊還成功地使特斯拉的傳感器大概率的誤讀了右轉彎標志作為停車標志。
目前,特斯拉拒絕就已暴露的漏洞發表評論,但MobilEye的發言人解釋說,該公司并不認為這是一個問題,因為“自動駕駛技術將不僅依賴于單一的傳感器,而且還將得到其他各種技術和數據的支持,例如地圖,以確保信息的可靠性”,盡管如此,我們也提醒各位擁有自動駕駛技術車型的車主們,在國內道路情況有限的情況下,千萬不要過度依賴自動駕駛。


