一塊普通的“路面污漬”竟能迷惑智能的自動(dòng)駕駛汽車(chē)，在1秒內(nèi)就導(dǎo)致車(chē)輛失控偏離行駛車(chē)道。一項(xiàng)國(guó)際研究新近證實(shí)了這一可能，再度引發(fā)公眾對(duì)自動(dòng)駕駛汽車(chē)安全性的關(guān)注。
一些人類(lèi)可輕易識(shí)別的“小把戲”能完全迷惑自動(dòng)駕駛汽車(chē)。圖片來(lái)自中國(guó)網(wǎng) 自動(dòng)駕駛技術(shù)有時(shí)候并沒(méi)有人們想象的那樣聰明，一些人類(lèi)可輕易識(shí)別的“小把戲”卻能完全迷惑自動(dòng)駕駛汽車(chē)。比如，在交通標(biāo)志上貼一些惡意貼紙或涂鴉，就有可能導(dǎo)致自動(dòng)駕駛汽車(chē)錯(cuò)誤地將停車(chē)標(biāo)志識(shí)別為限速標(biāo)志。 美國(guó)加利福尼亞大學(xué)歐文分校、美國(guó)東北大學(xué)等機(jī)構(gòu)的研究人員最新研究發(fā)現(xiàn)，一些偽裝為路面污漬圖案的攻擊補(bǔ)丁可誤導(dǎo)自動(dòng)駕駛汽車(chē)上的自動(dòng)車(chē)道居中輔助系統(tǒng)（ALC），導(dǎo)致車(chē)輛偏離其行駛車(chē)道，造成嚴(yán)重交通危害。 隨著自動(dòng)駕駛技術(shù)的普及，目前很多L2級(jí)別（部分自動(dòng)駕駛）的乘用車(chē)都配備了ALC系統(tǒng)，可自動(dòng)控制車(chē)輛方向盤(pán)使其保持在車(chē)道中心。該系統(tǒng)通常利用深度神經(jīng)網(wǎng)絡(luò)的車(chē)道檢測(cè)來(lái)實(shí)現(xiàn)車(chē)道居中自動(dòng)輔助。研究人員通過(guò)安全分析發(fā)現(xiàn)，深度神經(jīng)網(wǎng)絡(luò)模型層面存在漏洞，容易受到物理世界的“對(duì)抗性攻擊”。 路面污漬在現(xiàn)實(shí)生活中很普遍，較難引起人類(lèi)駕駛員注意。研究人員用對(duì)抗性神經(jīng)網(wǎng)絡(luò)生成誤導(dǎo)性的圖案，并將其偽裝為路面污漬，使攻擊更加隱蔽，讓這種“臟路補(bǔ)丁”誤導(dǎo)ALC系統(tǒng)。 研究人員分別在微縮場(chǎng)景、自動(dòng)駕駛模擬器和現(xiàn)實(shí)中的真車(chē)上測(cè)試了“臟路補(bǔ)丁”攻擊，均成功“帶偏”了ALC系統(tǒng)，造成車(chē)輛碰撞事故。在對(duì)一款配備了ALC系統(tǒng)的真車(chē)進(jìn)行效果驗(yàn)證時(shí)，測(cè)試車(chē)輛在10次試驗(yàn)中的碰撞率達(dá)到100%。 論文通訊作者、加州大學(xué)歐文分校助理教授陳齊說(shuō)，ALC系統(tǒng)如今被廣泛應(yīng)用于各種車(chē)型中。盡管方便，但該系統(tǒng)需要具有較高安全性：當(dāng)系統(tǒng)做出錯(cuò)誤的轉(zhuǎn)向決策時(shí)，人類(lèi)駕駛員可能沒(méi)有足夠的反應(yīng)時(shí)間來(lái)防止即將發(fā)生的安全隱患。 該論文的共同第一作者，加州大學(xué)歐文分校博士生佐藤貴海和沈駿杰建議，為防御此類(lèi)攻擊，一些汽車(chē)廠商應(yīng)把路面污漬和“臟路補(bǔ)丁”加入ALC系統(tǒng)使用手冊(cè)里現(xiàn)階段不可處理的場(chǎng)景列表中，幫助用戶提前認(rèn)識(shí)到這種風(fēng)險(xiǎn)的存在。有條件的廠商還可采取集成激光雷達(dá)和攝像頭等的多傳感器融合方案，或采用車(chē)道線檢測(cè)與地圖數(shù)據(jù)融合的方式防御攻擊。 （據(jù)新華社記者 彭茜） |
