創(chuàng)業(yè)家訊 5月16日消息，第二屆世界智能大會(huì)今日在天津召開，360集團(tuán)董事長(zhǎng)兼CEO周鴻祎受邀發(fā)表主題演講。

周鴻祎指出，人工智能本身就存在安全問題，我們必須要審慎以待。

周鴻祎在第二屆世界智能大會(huì)上演講

周鴻祎認(rèn)為人工智能自身存在的問題分為以下幾個(gè)方面。

首先是上面我們提到的無人值守系統(tǒng)，周鴻祎認(rèn)為它們都有安全漏洞的風(fēng)險(xiǎn)，一旦被網(wǎng)絡(luò)劫持，將帶來嚴(yán)重的安全問題。

比如，過去的武器像機(jī)槍是控制在戰(zhàn)士手里的，由人來判斷和扣動(dòng)扳機(jī)。一旦在軍事上越來越多地引入人工智能技術(shù)，假如未來用人工智能做成智能機(jī)槍以后，它就可以自己發(fā)現(xiàn)目標(biāo)和自動(dòng)射擊。如果這樣的系統(tǒng)哪天不小心被黑客控制了，他就可以遠(yuǎn)程來控制武器射擊，濫殺無辜，造成的后果非?？膳隆?/p>

第二，人工智能所依賴的傳感器、訓(xùn)練數(shù)據(jù)和使用的開源軟件等都可能存在安全隱患，比如傳感器可以被干擾，系統(tǒng)自身也可以被欺騙或入侵。

周鴻祎舉例稱，360安全團(tuán)隊(duì)就曾在測(cè)試中利用超聲波干擾技術(shù)成功實(shí)現(xiàn)對(duì)特斯拉的欺騙，，讓它相信前方的障礙物并不存在。360安全團(tuán)隊(duì)也因?yàn)樯蠄?bào)了這個(gè)漏洞，進(jìn)入了特斯拉名人堂。”。

再比如，近年來出現(xiàn)的針對(duì)智能設(shè)備的海豚音攻擊行為，黑客通過產(chǎn)生一些無意義的超聲波信號(hào)，雖然人無法聽見，卻可以被手機(jī)、智能家居以及智能汽車等智能設(shè)備的語(yǔ)音控制系統(tǒng)接收到。黑客再利用麥克風(fēng)的硬件漏洞進(jìn)行自動(dòng)解調(diào)恢復(fù)出原始的語(yǔ)音命令，就可以悄悄開啟智能手機(jī)、智能家居、智能汽車的語(yǔ)音助手，然后隨意撥打電話、發(fā)短信、視頻通話，或者將設(shè)備切換到飛行模式等操作。

第三，人工智能還有一個(gè)問題，就是現(xiàn)在的人工智能還只是一種拼命用大量數(shù)據(jù)訓(xùn)練出來的概率判斷系統(tǒng)，遠(yuǎn)遠(yuǎn)稱不上完善。

周鴻祎表示，人工智能也許可以有99.99%的概率保證識(shí)別是正確的，但是對(duì)于安全來講，它只要出現(xiàn)一次識(shí)別錯(cuò)誤，就會(huì)造成嚴(yán)重后果。

前段時(shí)間，Uber公司改裝后的自動(dòng)駕駛測(cè)試車在美國(guó)撞死了一位女士，充分表明今天的人工智能技術(shù)并不是一個(gè)完備體系。Uber的那輛汽車當(dāng)時(shí)處于光線很暗的環(huán)境中，那位女士穿了件黑色衣服，在這種很復(fù)雜的情況下，汽車的人工智能沒有做出任何判斷，甚至沒有減速，最終釀成了悲劇。

第四，現(xiàn)在的人工智能系統(tǒng)大多使用開源軟件和架構(gòu)，這里面的安全漏洞很多。

人工智能都是靠軟件代碼實(shí)現(xiàn)的，是經(jīng)過數(shù)據(jù)訓(xùn)練的運(yùn)行邏輯，而且現(xiàn)在規(guī)模越來越龐大。大家都在用的智能手機(jī)，代碼已經(jīng)超過一億行，更不用說智慧城市、核電站等復(fù)雜系統(tǒng)了。這些代碼都是人寫出來的，只要是人寫出來的就可能存在漏洞。

“過去幾年，我們的人工智能安全團(tuán)隊(duì)對(duì)目前最流行的深度學(xué)習(xí)框架進(jìn)行了一些研究，發(fā)現(xiàn)了幾十個(gè)開源系統(tǒng)的安全漏洞。”周鴻祎說道。

在去年的中國(guó)互聯(lián)網(wǎng)安全大會(huì)上，360現(xiàn)場(chǎng)演示了全球首個(gè)通過攻擊深度學(xué)習(xí)應(yīng)用來進(jìn)行遠(yuǎn)程控制的實(shí)例，對(duì)大家的觸動(dòng)很大，也引起了許多人對(duì)人工智能自身安全問題的擔(dān)憂。

周鴻祎在演講中強(qiáng)調(diào)，智能技術(shù)的應(yīng)用將打通虛擬世界和現(xiàn)實(shí)世界的界限，對(duì)網(wǎng)絡(luò)空間的攻擊可以直接穿透虛擬空間，映射到物理空間安全，產(chǎn)生物理?yè)p失和物理傷害。因此，周鴻祎認(rèn)為網(wǎng)絡(luò)安全威脅已經(jīng)從網(wǎng)絡(luò)空間，擴(kuò)展到國(guó)家安全、國(guó)防安全、關(guān)鍵基礎(chǔ)設(shè)施安全、社會(huì)安全、城市安全，乃至人身安全?？梢哉f，隨著智能經(jīng)濟(jì)發(fā)展，網(wǎng)絡(luò)安全已經(jīng)進(jìn)入了“大安全”時(shí)代。當(dāng)人工智能、智能經(jīng)濟(jì)這些熱門詞匯開始受到關(guān)注時(shí)，我們更要居安思危，共同守護(hù)網(wǎng)絡(luò)空間與物理世界的安全。

標(biāo)簽： 人工智能 周鴻祎