一副眼鏡解鎖19款手機(jī)的視頻,瑞萊智慧RealAI發(fā)布的人臉識別安全研究引發(fā)社會熱議。這一破解原理到底是什么?它的危害邊界有多大?面對大規(guī)模的廣泛應(yīng)用,人臉識別的安全性如何保障?普通公眾又該如何該保障個人隱私安全?在近期央視新聞《法治在線》、廣東衛(wèi)視3·15欄目的專題深度報道中,RealAI團(tuán)隊給出了相應(yīng)的解答。
央視新聞《法治在線》專題報道
廣東衛(wèi)視3·15晚會專題報道
一、背后源自深度學(xué)習(xí)算法的結(jié)構(gòu)性缺陷
RealAI技術(shù)人員解釋到,攻擊背后使用的是“對抗樣本”技術(shù),通過結(jié)合攻擊者與攻擊對象的圖像特征自動生成一張“干擾圖案”,對于普通人來說,肉眼能明顯識別戴上眼鏡的攻擊者與攻擊對象是有區(qū)別的,但算法看來兩者的特征數(shù)值是相近的。
而“對抗樣本”存在的根本性原因在于深度學(xué)習(xí)算法的結(jié)構(gòu)性缺陷,黑盒的深度學(xué)習(xí)導(dǎo)致人類難以理解它的內(nèi)在邏輯,即便是設(shè)計開發(fā)人員也無法理解和安全控制算法的輸出、算法的執(zhí)行邏輯,這就導(dǎo)致必然會有一些執(zhí)行過程跟設(shè)計者的意圖不吻合,也就給惡意攻擊留下了空間。
除了手機(jī)的面部解鎖,一些常用的人臉識別門禁系統(tǒng)、考勤打卡系統(tǒng),包括線上APP的身份認(rèn)證系統(tǒng)也存在相似的安全漏洞。但這也并非是人臉識別技術(shù)的專屬,RealAI研究人員表示,這本質(zhì)上是深度學(xué)習(xí)方法的漏洞,語音識別、文本處理等技術(shù)都可能存在被對抗樣本攻擊的可能。
二、理性看待人臉識別應(yīng)用,加強技術(shù)防護(hù)必不可少
雖然對抗算法的研發(fā)存在較高的技術(shù)門檻,一般的黑灰產(chǎn)從業(yè)者難以掌握,但如果存在黑客惡意開源,對抗樣本實現(xiàn)的成本就變得非常低,將可能導(dǎo)致財產(chǎn)損失、隱私泄漏等威脅。
但正如清華大學(xué)星空人工智能研究院院長張鈸院士所說,面對人臉識別應(yīng)用也切不可因噎廢食,應(yīng)該在隱私保護(hù)、技術(shù)便利和公共安全三者之間找到平衡點。
在治理手段的選擇上,“技術(shù)”和“制度”兩個層面需要同步推進(jìn)。一方面是從法律法規(guī)、道德倫理層面去限制或者制約人類對星空人工智能技術(shù)的誤用或者濫用,第二個方面從技術(shù)層面去發(fā)展新的技術(shù),克服星空人工智能算法本身的不安全性和脆弱性。
RealAI目前開展的一系列算法攻防研究,就是采用“以子之矛、攻子之盾”的技術(shù)路線,通過攻防對抗不斷升級,演練出針對性的防御技術(shù),比如打造出類似于人臉識別系統(tǒng)的防火墻,應(yīng)用到現(xiàn)有的人臉識別應(yīng)用上,就可以先于黑客發(fā)現(xiàn)并修補漏洞,為人臉識別筑起安全防線。對于普通公眾而言,RealAI技術(shù)人員則表示,無需過度恐慌,加強并重視日常生活的安全防護(hù)工作,比如不在社交媒體平臺上發(fā)個人正面清晰照,保護(hù)好身份證號等重要信息,以及盡可能選擇安全級別更高的人臉識別設(shè)備。
最后,針對人臉識別這類前沿技術(shù)的治理,推動相關(guān)技術(shù)標(biāo)準(zhǔn)、增強行業(yè)自律至關(guān)重要,作為安全人工智領(lǐng)域的代表性企業(yè),RealAI也依托自身技術(shù)優(yōu)勢, 與公安部、工信部等相關(guān)單位開展合作，積極參與到行業(yè)規(guī)范的工作中,為推動星空人工智能產(chǎn)業(yè)可持續(xù)發(fā)展貢獻(xiàn)力量。
星空人工智能技術(shù)網(wǎng) 倡導(dǎo)尊重與保護(hù)知識產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問題，煩請30天內(nèi)提供版權(quán)疑問、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時溝通與處理。?。?a href="/">首頁 > 新聞 » RealAI人臉識別安全研究獲央視新聞、廣東3·15晚會深度報道