人臉識別技術(shù)應(yīng)用范圍越來越廣，但其潛在的一些安全隱患也令許多業(yè)內(nèi)專家、學(xué)者對其使用、推廣持審慎態(tài)度。

近日，寧夏銀川市興慶區(qū)回民二小觀湖校區(qū)（以下簡稱“回二觀湖校區(qū)”）將在學(xué)校內(nèi)安裝人臉識別系統(tǒng)的事情引發(fā)討論。對此有該校家長質(zhì)疑，人臉識別系統(tǒng)是否會(huì)侵犯學(xué)生隱私，存在泄露學(xué)生個(gè)人信息的安全隱患。

對此，全國政協(xié)委員、上海市信息安全行業(yè)協(xié)會(huì)名譽(yù)會(huì)長談劍鋒認(rèn)為，學(xué)校要講清楚數(shù)據(jù)怎么采集、怎么存儲、怎么使用、怎么銷毀。說清楚后，征得家長同意的情況下可以做。

中國人民大學(xué)法學(xué)院副教授、哈佛大學(xué)法學(xué)博士郭銳表示，人工智能在教育場景下的使用需特別謹(jǐn)慎。而在學(xué)校推廣使用人臉識別技術(shù)，則需征得每一位家長的書面同意。

4月12日，銀川市興慶區(qū)教育局一位相關(guān)負(fù)責(zé)人就此事向澎湃新聞表示，人臉識別系統(tǒng)僅為確保孩子在校安全，目前還在前期籌備階段，最終使用需家長同意。不過澎湃新聞近日采訪多位該校家長發(fā)現(xiàn)，家長們只接到學(xué)校關(guān)于提交照片的通知，并未簽署任何與人臉識別系統(tǒng)使用相關(guān)的書面知情同意書。

學(xué)校門口已經(jīng)安裝好人臉識別系統(tǒng)。本文圖片 新消息報(bào)

區(qū)教育局：暫時(shí)在前期籌備階段

多位回二觀湖校區(qū)的家長向澎湃新聞表示，近日接到學(xué)校通知，為方便出入校門“刷臉”通行，要求提交一張孩子的近期免冠證件照電子版。但學(xué)校并沒有就使用人臉識別系統(tǒng)一事向他們征求意見，只是通知在規(guī)定時(shí)間內(nèi)，盡快提交學(xué)生的電子版照片和學(xué)籍號。

對此，中國人民大學(xué)法學(xué)院副教授、哈佛大學(xué)法學(xué)博士郭銳表示，根據(jù)《民法典》和《網(wǎng)絡(luò)安全法》的相關(guān)規(guī)定，需要有家長明確的書面同意書，學(xué)校方可使用學(xué)生的人臉識別數(shù)據(jù)。

寧夏本地媒體《新消息報(bào)》4月12日也報(bào)道了這一事件，一篇題為《銀川一小學(xué)實(shí)行“刷臉”通行！家長擔(dān)心泄露學(xué)生信息》的文章中寫道：銀川市興慶區(qū)回民二小信息中心主任段帥介紹，該校觀湖校區(qū)目前有4500多名學(xué)生，學(xué)校規(guī)模逐漸擴(kuò)大，如何保障在校師生的安全顯得尤為重要。2020年8月，學(xué)校圍繞智能化校園安全管理建設(shè)的“智管中心”項(xiàng)目啟動(dòng)，目前，已進(jìn)入最后的信息錄入與調(diào)試階段。

上述報(bào)道提到，該項(xiàng)目建設(shè)完成后，學(xué)校師生進(jìn)出校門將實(shí)現(xiàn)無感化人臉認(rèn)證，校內(nèi)公共開放區(qū)域及教學(xué)區(qū)域都將實(shí)現(xiàn)安防覆蓋。該系統(tǒng)還可對孩子可能存在的推搡、打架等風(fēng)險(xiǎn)進(jìn)行預(yù)警，如密度超標(biāo)報(bào)警、語音提示、遠(yuǎn)程喊話等。系統(tǒng)運(yùn)行后，一旦某位學(xué)生出現(xiàn)意外情況，只要輸入學(xué)生的班級及名字，系統(tǒng)就會(huì)自動(dòng)生成該學(xué)生一天的軌跡記錄，有利于快速追溯到異常情況。在輔助教學(xué)方面，電子班牌、課堂人臉點(diǎn)名、巡課督導(dǎo)、考試管理都可以達(dá)到智能管理的目的。

多位家長表示，學(xué)校并未知會(huì)此次人臉采集的具體使用情況等信息。上述《新消息報(bào)》報(bào)道中提到的推搡、打架等風(fēng)險(xiǎn)預(yù)警、輔助教學(xué)功能等，他們也不曾從學(xué)校方面獲悉、了解過。

4月12日，澎湃新聞致電銀川市興慶區(qū)教育局，一位相關(guān)負(fù)責(zé)人表示，這套人臉識別系統(tǒng)是智能安防的一部分，學(xué)校是個(gè)公益性質(zhì)的地方，主要為孩子安全著想。教育部門不會(huì)拿孩子的信息牟利。

這位負(fù)責(zé)人提到，對使用人臉識別系統(tǒng)的安全問題教育部門也做了充分考量，回二觀湖校區(qū)建立的網(wǎng)絡(luò)是一個(gè)密閉的內(nèi)網(wǎng)，不允許接入互聯(lián)網(wǎng)。人臉識別系統(tǒng)就是為了確保孩子在校安全，沒有別的用途。但人臉識別系統(tǒng)是否會(huì)識別孩子上課時(shí)的面部表情和動(dòng)作等，這位負(fù)責(zé)人表示尚不清楚，沒有聽到這樣的說法。

這位負(fù)責(zé)人還表示，目前人臉識別系統(tǒng)是否使用也在征求家長意見，建立在家長同意的基礎(chǔ)上，不是教育行政部門想咋干就咋干，暫時(shí)在前期籌備階段。

專家：學(xué)校需清楚告知家長數(shù)據(jù)如何采集等

4月12日，全國政協(xié)委員、上海市信息安全行業(yè)協(xié)會(huì)名譽(yù)會(huì)長談劍鋒就此事接受澎湃新聞采訪時(shí)表示，作為學(xué)校安全場景，將“刷臉”作為監(jiān)管手段和方式都可以理解，“但數(shù)據(jù)怎么采集、怎么存儲、怎么使用、怎么銷毀，這是一套機(jī)制，應(yīng)該說清楚。說清楚后，征得家長同意的情況下學(xué)校可以做。”

談劍鋒表示，數(shù)據(jù)采集是否僅是用在安全保衛(wèi)方面？如果數(shù)據(jù)被第三方公司獲取，學(xué)校應(yīng)該承擔(dān)什么樣的責(zé)任？學(xué)生畢業(yè)了人臉數(shù)據(jù)還要留存嗎？數(shù)據(jù)怎樣銷毀？這幾個(gè)問題要問清楚，學(xué)校不是不能用，而是看學(xué)校怎么用。

在學(xué)校北門房的監(jiān)控中心，段帥介紹各方位監(jiān)控?cái)z像機(jī)的運(yùn)行情況。針對上述興慶區(qū)教育局相關(guān)負(fù)責(zé)人提到的，人臉識別系統(tǒng)運(yùn)行依靠一個(gè)“密閉的內(nèi)網(wǎng)”這一說法。談劍鋒則認(rèn)為，信息是否存在泄露風(fēng)險(xiǎn)和內(nèi)網(wǎng)、外網(wǎng)無關(guān)，很多內(nèi)網(wǎng)也有受到攻擊的。而且數(shù)據(jù)泄露不一定是靠外網(wǎng)，很多數(shù)據(jù)泄露是內(nèi)部職員出賣數(shù)據(jù)，只要采集就有泄露風(fēng)險(xiǎn)。

“關(guān)鍵要說清楚，出問題后校方承擔(dān)什么責(zé)任，不是說數(shù)據(jù)出不出的去，而是一旦泄露后造成損失，誰來承擔(dān)這個(gè)責(zé)任。”談劍鋒說，“人臉是生物特征數(shù)據(jù)，生物特征數(shù)據(jù)有個(gè)特點(diǎn)，不可再生性、唯一性。”這意味著，人臉信息一旦泄露，損失不可逆。

而在郭銳看來，學(xué)校和教育這個(gè)場景，是保護(hù)個(gè)人信息很敏感的場景，任何人工智能技術(shù)的使用，包括人臉識別在內(nèi)，都要特別謹(jǐn)慎。任何使用都需家長同意，教育主管部門也要審查使用用途。這些用途如果不是學(xué)生和家長一起決定同意的，學(xué)校的做法就不妥當(dāng)。

對學(xué)校提及的“該系統(tǒng)還可以對孩子可能存在的推搡、打架等風(fēng)險(xiǎn)進(jìn)行預(yù)警，如密度超標(biāo)報(bào)警、語音提示、遠(yuǎn)程喊話”這一用途。同時(shí)也是全國標(biāo)準(zhǔn)化委員會(huì)人工智能總體組社會(huì)倫理研究負(fù)責(zé)人的郭銳認(rèn)為，如涉及校園霸凌問題，用新的技術(shù)能幫助解決這一問題當(dāng)然是好事。但這背后其實(shí)體現(xiàn)的是深層次的矛盾，比如學(xué)校是否資源不夠，很少的老師要管很多的學(xué)生，當(dāng)然很多地方就管不到。技術(shù)當(dāng)然能彌補(bǔ)資源不足的短板，但把它當(dāng)做一個(gè)完全的解決方案，可能會(huì)比較表面，反倒產(chǎn)生這些問題的深層矛盾就不會(huì)有更多關(guān)注。

“很多霸凌都在攝像頭看不到的地方發(fā)生，甚至在學(xué)校外面發(fā)生。有時(shí)互相瞪一眼就表明了想要霸凌的意向，但技術(shù)無論如何是監(jiān)控不到的。不去解決深層矛盾，想要依靠一個(gè)技術(shù)，表面化的把問題解決了，這個(gè)做法不可取。”郭銳表示。

也有家長擔(dān)心，該校提及的人臉識別“智管中心”項(xiàng)目在輔助教學(xué)方面的功能，如“電子班牌、課堂人臉點(diǎn)名、巡課督導(dǎo)、考試管理”等，是否意味著學(xué)校會(huì)用人臉識別系統(tǒng)監(jiān)控學(xué)生課堂表現(xiàn)呢？

對此，郭銳認(rèn)為家長的擔(dān)心有其道理，比如小孩上課打瞌睡，其實(shí)是整體學(xué)習(xí)的一部分。要把上課表現(xiàn)這一項(xiàng)拎出來，恐怕是把人當(dāng)做機(jī)器對待。“一個(gè)真正的教育者不會(huì)這樣想問題。這都不能真正幫助教育，而且會(huì)侵犯學(xué)生隱私，不客氣地說這都是外行做法。”

郭銳表示，總的來說，在教育里使用人工智能技術(shù)，很多人都想用它來達(dá)到一個(gè)比較簡單、直接、明確的目標(biāo)。但在教育里，很多需要解決的問題是互相關(guān)聯(lián)的，很少有一些事情是只需解決這一個(gè)問題。想要追求用技術(shù)解決一個(gè)老大難問題，這個(gè)思路其實(shí)不太對。