人臉識別安全問題需注意，作爲人工智能領域最具商業價值的技術方向，人臉識別在安防、金融、交通、教育等關鍵領域實現了廣泛應用，但仍面臨安全挑戰，人臉識別安全問題需注意。
人臉識別安全問題需注意1
以人臉識別爲代表的個人生物信息識別應用，在近幾年迅速發展且進入民生領域。但社會卻沒有針對該類應用的法律法規、行業規範和治理體系，市場呈野蠻開發、無序應用現象，監管缺失，隨時會給應用單位和公民生命財產安全帶來威脅。
針對這種問題，2022年兩會期間，上海市政協委員左伋、李穎潔等人提出了加快構建個人生物信息識別應用管理制度體系的建議。
目前，我國正在加快數字化發展，不可避免要用到人臉識別等個人生物信息識別（生物特徵識別）的應用，因此如何引導和規範該類應用的開發、使用和監管，保障人民隱私安全和社會穩定，是亟待解決的問題。
左伋等人注意到，儘管《個人信息保護法》、《數據安全法》目前已頒佈，但是距離“個人生物信息應用”仍有差距。人臉識別技術產品的安全也存在較大漏洞，安全檢測監管制度尚未形成。
放眼個人生物信息識別應用的供給與市場，左伋等人發現，該類產品開發企業資質認證制度缺失，應用場景和行業規範缺失，應用單位和個人的安全意識較爲缺乏。當不受引導、規範和監管的人臉識別應用越廣，將增加政府後續治理難度，政府將面臨無力保護公民個人隱私的情況
因此，左伋等政協委員提出建議，應加快人臉識別應用制度建設，明確該類應用的治理思路、責任主體、監管任務、應用規範、市場準入等一系列具體操作辦法，使政府監管、行業治理、企業開發、市場應用和公民維權有法可依。
此外，左伋等人認爲，應實現全方位保障人臉識別應用安全。供給端應建立該類產品開發企業資質認證和產品合格認證制度；應用端應形成該類產品應用場景和應用行業規範；從監管端，則要建立該類產品應用安全定期執法檢查制度。通過制度規範“開發、應用、監管”過程，全方位保障人臉識別應用安全，降低安全風險，維護社會穩定。
不僅如此，左伋等人還建議通過制度明確，賦予公安等特定部門公民個人生物信息（包括人臉、指紋、虹膜等）採集權和存儲權，並且該類信息實行“採用分離”、“一次採集、多次使用”和“使用審覈制”，即採集和使用爲不同的單位，由特定部門負責採集、存儲，其他單位需要使用的，提出申請，審覈通過後方可接入數據接口，且使用單位本地不得存儲生物信息，從而儘量避免個人生物信息數據泄漏帶來的安全問題。
人臉識別安全問題需注意2
作爲人工智能領域最具商業價值的技術方向，人臉識別在安防、金融、交通、教育等關鍵領域實現了廣泛應用，但在技術層和應用層仍面臨安全挑戰，漏洞攻擊、數據泄漏、技術濫用等問題，屢屢成爲社會焦點。
1月18日，首個面向人臉識別系統安全性的國家級檢測與評估結果在國家工業信息安全發展研究中心主辦的人工智能融合發展與安全應用研討會上發佈，騰訊雲、京東科技、商湯科技、曠視科技、海康威視、的盧深視成爲首批通過測評的企業，國家工信發展研究中心副主任何小龍現場爲企業頒發證書。
這項檢測由國家語音及圖像識別產品質量檢驗檢測中心（以下簡稱“AI國檢中心”）完成。作爲人工智能領域的國家級第三方檢驗檢測機構，AI國檢中心就人臉識別系統安全啓動測評工作，對市場主流人臉識別系統開展測試評估，規範人臉識別產業健康發展。
據悉，這是依據《信息安全技術人臉比對模型安全技術規範》《信息技術生物特徵識別人臉識別系統技術要求》等現行和在研的有關國家和行業標準，通過呈現攻擊、注入攻擊等技術手段對對人臉識別產品和服務進行全方面的測試，有效評估人臉識別安全風險。
同時，爲進一步推進國檢中心建設高質量開展，優化資源配置，強化人工智能領域佈局，國檢中心成立專家委員會，邀請語音、圖像、數據治理、安全等人工智能重點領域的多位專家學者、企業家擔任中心的思想庫和智囊團，未來持續推進技術研發、標準制定、政策研究等相關工作，促進人工智能產業高質量發展。
國家工信安全中心人工智能所副所長劉永東介紹道，人臉識別系統安全風險主要涵蓋算法安全、數據安全和應用軟件安全等維度。本次測評對人臉識別系統的安全風險提供明確的測試方法，包括算法層面的活體檢測+假體攻擊、對抗樣本攻擊等呈現和注入攻擊檢測。
目前，對人臉識別技術的規範和管理早已成爲全球關注的重點。美國、歐盟相繼推出《人臉識別和生物特徵識別技術禁令法案》《通用數據保護條例》等監管政策，同時主導多項人臉識別國際標準。在全球共識下，我國重點提出發展與安全並重的理念，多措並舉推進人臉安全應用，逐步牽頭引領部分標準制訂，在公安和金融等領域先行構建規範。本次測評工作將爲進一步完善人臉識別標準體系、推動產業規範發展提供有力支撐，本次通過測評的企業也將參與後續的標準編制。
本次測評工作也存在一些改善項。國家工信安全中心人工智能所圖像檢測室負責人朱倩倩表示，人臉識別系統的安全評估，不應用一個尺度來衡量，比如門禁閘機、手機登錄、金融支付等身份認證場景對安全性要求不同，從技術角度，安全性判定規則也應加以區分，以及不同測試樣本間的測試結果也存在差異。她建議，進一步打造更細化的評測體系，包括按照不同場景、不同功能、不同應用階段劃分安全等級，對測試樣本分級分類，保證在同一基準上衡量安全能力。
同時，由於人臉識別技術採用大數據訓練的方法實現，目前安全測試項未全部涵蓋，只通過呈現攻擊的方式做檢測，樣本量有限，導致不能完全覆蓋各種不安全情況。因此，檢測手段與技術水平也需加快跟進。朱倩倩表示，加快研發自動化測試工具，研究測試樣本差異，爲企業提供高水準測試服務，幫助企業精準定位安全問題，提出改進及優化建議。
保障人工智能安全應用是一項系統工程，爲人臉識別技術加裝“安全鎖”，除了開展測評與研製標準之外，還須從政策監管、技術攻關、合規建設等方面綜合發力，加強人臉識別系統的安全管控。
從加強技術應對的角度，瑞萊智慧高級副總裁朱萌提出兼顧“主動”和“被動”的技術防禦機制，被動防禦是爲人臉應用部署靜態的安全能力，比如人臉AI防火牆，對外部訪問、輸入數據、行爲決策等進行檢測，提升人臉系統抵禦攻擊的能力。主動防禦則是引入和強化安全團隊力量，比如打造攻防演練靶場，幫助企業構建自適應、自生長的安全能力。
最後，人臉識別具有高度的社會屬性，應在法治框架下開展協同治理。如何貫徹落實法規政策的要求，朱萌表示，技術廠商可聯手律師事務所，針對數字經濟時代新場景下監管機構的合規要求，對內健全技術合規體系建設，對外輸出應用合規諮詢服務，比如培育數據安全諮詢、數據保護設計與數據安全管理等服務，從技術流程和業務流程的角度提供完整的安全保障解決方案。
人臉識別安全問題需注意3
咱的臉可能被“賣”了
在某些商場、店鋪，通過安裝帶有人臉識別功能的攝像頭，採集進店顧客人臉信息，已不是祕密。
記者調查發現，一些人臉識別技術公司雖然嘴上說已停止該業務，但買賣人臉照片的'生意他們還在幹着。
現狀
產品不難找 2000元一套
在搜索引擎或電商平臺輸入“人臉識別攝像頭”“門店人臉系統”，很快能找到多個提供此類產品的公司頁面。
“門店人臉識別，新零售系統解決方案，客流統計數據。”一家企業在推廣頁面中如此宣稱產品。記者聯繫上該企業客服，諮詢購買能夠分析顧客人臉和個人信息的攝像頭，其迴應去年開始公司便不再涉足此類業務。
與此同時，也有個別公司仍在出售帶有人臉識別功能的攝像頭，但工作人員表示設備只是用來輔助統計客流，不會過多采集顧客信息。“AI人臉識別，準確識別率超99.99%，精準識別人臉信息……”深圳一家科技公司的官網上，該廣告佔據了主要頁面。頁面介紹，人臉識別客流統計系統可運用於商業綜合體、圖書館、小區等場景。記者聯繫公司負責人，其表示目前帶人臉識別功能的攝像頭，屬於公司客流統計管理系統的一部分。
“攝像頭200萬像素，支持複雜環境下的人臉抓拍，支持最多同時32個人臉檢測。”該負責人說，系統要完成搭建，除了在店內適當位置安裝攝像頭之外，還需要能存儲數據的雲平臺。“如果都在我這裏購買，平均下來每個攝像頭也就2000多元錢，施工費用你自己出。”
隱患
數據可自管 買賣風險大
那麼，購買輔助客流統計的人臉識別攝像頭，能獲得什麼信息？是不是僅用於客流統計，就沒有風險了？
一名行業人士介紹，此前一些商場或門店使用的人臉識別拍攝系統，主要是通過拍攝顧客面部來識別、採集和分析顧客信息。而現在，則主要變爲了以“撞線”統計客流，“比如輔助統計系統，在門店地面畫一條線。只要有顧客進店，就能‘碰’到橫線，於是客流統計就會記錄下來……”
儘管相關企業宣稱攝像頭不在後臺顯示人臉信息，但其實只要顧客進店，安裝好的攝像頭就可以拍攝到每一位顧客的面部信息。而拍攝下來的人臉，究竟存儲在了哪裏、是否會脫敏處理，被設備採集的顧客完全無法控制。相反，在這背後，買賣人臉信息數據的灰色市場一直都在。
一家名爲“數據標註共享”的聊天羣中，就有人出售人臉照片。“我們專門是做人工智能人臉面部數據採集的，都是固定拍攝。”一名賣家表示，其手中有3000人左右的面部圖片，主要是在大專院校採集學生數據時留下的，“要的話20元一個人。”該名賣家表示，他們採集的人臉數據相比其他設備採集的人臉更好，“每個人有20張圖片、5段視頻，AI測試這樣的全方位的採集，好得多。”
這樣的人臉數據買賣並非個例，此前也有媒體報道，在某些網絡交易平臺上，只要花2元錢就能買到上千張人臉照片，而5000多張人臉照片標價不到10元。
說法
安裝攝像頭須明確告知
“攝像頭有很多種類別。一般來說，要在公共場所安裝攝像頭，是必須出於維護公共安全和公共利益纔去設置的。”中國政法大學傳播法研究中心副主任、中國消費者協會專家委員會委員朱巍說，我國《個人信息保護法》第二十六條規定，在公共場所安裝圖像採集、個人身份識別設備，應當爲維護公共安全所必需，遵守國家有關規定，並設置顯著的提示標識。所收集的個人圖像、身份識別信息只能用於維護公共安全的目的，不得用於其他目的；取得個人單獨同意的除外。
朱巍同時介紹，《個人信息保護法》第五條規定，處理個人信息應當遵循合法、正當、必要和誠信原則，不得通過誤導、欺詐、脅迫等方式處理個人信息。因此，相關方面必須在顯眼處明確告知消費者安裝了攝像頭。
朱巍認爲，即使客流統計的攝像頭是在去標識化的情況下拍攝，也在一定程度上侵犯了消費者的權益。“因爲從功能上來講，所有的人臉、表情等等，都是可以記錄和獲取的。而商場、商家拿這些拍攝到的顧客畫面去做什麼，是不是真如其所說不會侵犯隱私，是無法掌控的。”他提示，在公共場所安裝攝像頭不能任性，更不能把拍攝到的內容拿去做不法使用或分析。
