從線上支付、考勤打卡到抓捕逃犯，不可否認，面部識別技術已經深入到我們日常生活的方方面面，但同時，它也存在爭議，隱私問題一直是眾多AI技術需要面對的難題。近日，亞馬遜因向執法機構提供面部掃描技術而成為頭條新聞。
對人工智能監視系統的擔憂，促使研究人員開發了一種針對它們的工具。近日多倫多大學教授帕勒姆·阿比拉和研究生阿維舍克·博斯發明了一種算法，可讓人臉識別率降至0.5%。
有了這項“反人臉識別”技術，我們能夠決定自己的臉是否會被識別嗎？
反人臉識別不陌生
其實這種反人臉識別技術早在前幾年就已出現。2016年11月，卡內基梅隆大學研究人員開發出一款反面部識別眼鏡。這種造價0.22美元的特制眼鏡可以用光滑的照片紙打印，團隊稱，眼鏡可讓攝像頭前的人顯示成為另一個人，在對商用級臉部識別軟件的測試中，誤認人臉的成功率達到100%。
2017年，麻省理工學院和日本九州大學的研究人員創建了一種叫做EOT（Expectation Over Transformation）的算法，成功騙過谷歌AI系統，讓系統將一幅3D打印的海龜照片標記為步槍，將3D棒球認成濃縮咖啡，而可愛的貓咪則有時被當做鱷梨醬。
有研究人員擔憂，AI對3D物品的錯認，以及被設計用來欺騙機器視覺系統的對抗性圖像技術的突破，讓面部識別系統正面臨新一輪挑戰。在上述實驗中，將烏龜錯認成步槍正是對抗性圖像的一個例子，多倫多大學教授帕勒姆·阿比拉使用的也是這種方法。
對抗訓練技術受追捧
勒姆·阿比拉在最近發表的《基于約束最優化的神經網絡的反面部識別系統》中介紹，他們在一個超過600張臉的行業標準庫中進行了系統訓練，用于測試的600張臉包含了不同種族、不同光照條件以及不同環境。
文章第一作者阿維舍克·博斯在接受媒體采訪時也表示，測試的關鍵在于訓練兩個神經網絡相互對立，一個創建越來越強大的面部檢測系統，而另一個創建更強大的工具來破壞面部檢測。
現代臉部識別軟件主要依賴于深度神經網絡——一種從大量信息中學習模式的人工智能技術。在被呈現過數百萬張人臉之后，該類軟件就能習得臉部概念，懂得如何分辨不同的臉。“這種反面部識別系統實際上就是通過生成式對抗網絡去形成一個最小最優的變化，從而對現在面部識別的深度網絡進行攻擊。”中科視拓（北京）科技有限公司CEO劉昕說，但這種探索更多地還處于學術研究階段。
要實際應用還欠火候
劉昕說，上面提的一些反面部識別系統，訓練過程要求識別人臉的網絡是公開的，并且攻擊次數是不受限制的，而在實際中，這顯然難以實現。在實際環境中，面部識別系統是一個隱蔽系統，而且也不會允許被這樣反復攻擊。
“反人臉識別技術的誕生實質是對于隱私的擔憂。”劉昕說，目前，人工智能產業尚處于初級階段，技術的發展都具有兩面性，如何防止人們利用AI技術進行破壞行為是整個行業都需要思考的問題。
劉昕認為，這不僅需要立法層面的支持，也需要倫理方面的討論。同時對人工智能人才也要進行道德倫理教育，在立法的同時，通過行業自律來規避隱私泄露的風險。(實習記者 翟冬冬)
設為首頁 
