被AI“監(jiān)控”的孩子：保護(hù)安全還是侵犯隱私？愛(ài)爾蘭的做法給我們敲響了警鐘
兩個(gè)孩子的媽媽?zhuān)嗌倌晷睦碜稍?xún)師
少年商學(xué)院國(guó)際教育專(zhuān)欄作者
9月新學(xué)期剛開(kāi)始沒(méi)幾天，南京某大學(xué)上了熱搜。因?yàn)槁氏仍谛?nèi)試點(diǎn)安裝人臉識(shí)別技術(shù)，繼而在采集學(xué)生數(shù)據(jù)和是否侵犯學(xué)生隱私的問(wèn)題上引發(fā)了人們的關(guān)注和熱議。
面對(duì)此事，近日教育部科學(xué)技術(shù)司司長(zhǎng)雷朝滋，在接受某新聞媒體采訪時(shí)表示：學(xué)校要謹(jǐn)慎使用人臉識(shí)別技術(shù)。雷司長(zhǎng)的話(huà)一錘定音，表明了教育部門(mén)對(duì)此技術(shù)的謹(jǐn)慎態(tài)度。
當(dāng)然，謹(jǐn)慎操作不代表不發(fā)展。任何一個(gè)新技術(shù)剛剛降臨時(shí)，都會(huì)面對(duì)質(zhì)疑和支持兩種態(tài)度?，F(xiàn)在誰(shuí)離得開(kāi)汽車(chē)、電腦？我們又為什么要決絕地阻擋人工智能的普及呢？何況，我們阻擋得了么？
面對(duì)“來(lái)勢(shì)洶洶”的人臉識(shí)別技術(shù)，我們真正該關(guān)注的焦點(diǎn)是，技術(shù)為誰(shuí)所用，使用的目的和使用的手段。技術(shù)是無(wú)辜的，作為技術(shù)使用者的人，“有所為，有所不為”方是問(wèn)題的根本。
對(duì)比國(guó)外學(xué)校在人臉識(shí)別技術(shù)上的差別，今天我和大家大概說(shuō)說(shuō)，為什么人臉識(shí)別技術(shù)在學(xué)校使用要謹(jǐn)慎操作？
人臉識(shí)別技術(shù)用于學(xué)校時(shí)必須得謹(jǐn)慎
在美國(guó)，近幾年來(lái)人臉識(shí)別技術(shù)得以在部分學(xué)校進(jìn)行試點(diǎn)。隨后，因技術(shù)和倫理道德上的考慮，并基于巨大的社會(huì)壓力，被一一叫停。有某州政府今年初已經(jīng)立法禁止人臉識(shí)別技術(shù)在該州學(xué)校使用：除非得到學(xué)生、家長(zhǎng)和教育部門(mén)的同意，否則人臉識(shí)別技術(shù)不得在校園推廣——這是來(lái)自美國(guó)的“謹(jǐn)慎”。
在澳洲，人臉識(shí)別技術(shù)公司looplearn得到了政府的資金支持，可以在學(xué)校使用人臉識(shí)別技術(shù)，在這些學(xué)校，人臉識(shí)別技術(shù)主要用于老師點(diǎn)名，了解學(xué)生出勤情況。但是這個(gè)看起來(lái)“單一”的功能依然因?yàn)槠渚哂忻黠@的商業(yè)前景，引發(fā)了人們的擔(dān)憂(yōu)和反對(duì)。
另外有研究者擔(dān)心：因?yàn)樵谧R(shí)別技術(shù)上尚不成熟，在區(qū)分有色人種時(shí)人臉識(shí)別技術(shù)會(huì)花更多的時(shí)間，并有可能錯(cuò)認(rèn)，從而引發(fā)新的“種族歧視”問(wèn)題——因?yàn)橄噍^于有色人種，白人更容易被識(shí)別。
而在歐洲，歐盟成員國(guó)正在積極地尋求人臉識(shí)別技術(shù)上的新規(guī)定。不知道是不是愛(ài)遵守規(guī)定的緣故，前不久瑞典有關(guān)部門(mén)剛剛處罰了一個(gè)高中19000歐元。因?yàn)樵撔Ｔ谌ツ晡唇?jīng)學(xué)生的同意就采集了22名學(xué)生的臉部信息。歐洲媒體在報(bào)道此事時(shí)，“夸張”地運(yùn)用了“難以置信”學(xué)校的違法行為和當(dāng)局處罰實(shí)在“輕微”等字眼，理由是按照該法條，最高的罰款額可是100萬(wàn)歐元吶！
我所處的愛(ài)爾蘭，雖然有著歐洲硅谷的美譽(yù)，人臉識(shí)別技術(shù)在愛(ài)爾蘭的學(xué)校存在可幾乎是0。至于為什么說(shuō)是“幾乎”呢？因?yàn)樵趯W(xué)生使用的智能手機(jī)里，比如說(shuō)像FACEBOOK這些app里還是有人臉識(shí)別技術(shù)的，歐盟一直在試圖控制這些社交軟件對(duì)隱私的侵犯。
當(dāng)然，智能手機(jī)里的人臉識(shí)別技術(shù)是另外一個(gè)話(huà)題了，我們今天討論的是，在學(xué)校使用人臉識(shí)別是否會(huì)侵害孩子們的隱私？
孩子的形象信息需家長(zhǎng)授權(quán)
孩子有隱私么？不好意思，我說(shuō)了一個(gè)偽命題。因?yàn)榈彩侨司投加须[私。在愛(ài)爾蘭，當(dāng)一個(gè)孩子進(jìn)入幼兒園、學(xué)校時(shí)，家長(zhǎng)都會(huì)被提示隱私安全和網(wǎng)絡(luò)安全。比如我女兒在幼兒園和夏令營(yíng)參加活動(dòng)時(shí)，校方會(huì)讓父母授權(quán)是否可以拍攝孩子。
剛開(kāi)始老母親對(duì)此很不適應(yīng)，心想：不就“喀嚓”一個(gè)照片么？可是后來(lái)想，這個(gè)照片拍了是為啥呢？無(wú)疑是用在商業(yè)用途上，比如廣告等。那作為這些小小肖像所有權(quán)人的監(jiān)護(hù)人，家長(zhǎng)當(dāng)然需要知情并做出決定。學(xué)校得到家長(zhǎng)的許可，才可以合理使用這些照片。如果你不同意，也沒(méi)關(guān)系，學(xué)校會(huì)避免采集孩子的形象。
一句話(huà)，愛(ài)爾蘭學(xué)校里孩子們的私人形象，如果學(xué)校想“有所為“一定是要有授權(quán)、有依據(jù)的。
用人臉識(shí)別技術(shù)監(jiān)控孩子的行為
難以反映真實(shí)的學(xué)習(xí)效果
過(guò)度使用人臉識(shí)別技術(shù)會(huì)讓家長(zhǎng)擔(dān)心：我的孩子需要的是同理心和愛(ài)，請(qǐng)不要隨意刺探，還把他們當(dāng)機(jī)器喲！
在美國(guó)或者澳洲學(xué)校推行人臉識(shí)別試驗(yàn)時(shí)，支持方的理由是：
1. 幫助校方排除可能危及學(xué)生安全的人員入校，比如已被開(kāi)除的不良學(xué)生或罪犯等。尤其在全球恐怖襲擊連連的西方世界，說(shuō)這個(gè)理由似乎可以很大程度上安撫父母的擔(dān)心；
2. 幫助老師管理大課堂，節(jié)省時(shí)間，提高管理效率。如果一個(gè)班級(jí)人數(shù)眾多，老師是沒(méi)可能用傳統(tǒng)的方式點(diǎn)名的，人臉識(shí)別技術(shù)無(wú)疑大大節(jié)省了人力。
而反對(duì)方的理由則十分的“情懷牌”：孩子不是機(jī)器，應(yīng)該被當(dāng)人來(lái)看。
在澳洲人臉識(shí)別新聞的評(píng)論中，有網(wǎng)友就表示，這項(xiàng)技術(shù)一旦不加節(jié)制地推行，將是政客樂(lè)于見(jiàn)到的“政績(jī)”，也是產(chǎn)品公司巴不得的巨大商業(yè)利益。可是對(duì)于家長(zhǎng)而言，除了干巴巴地知道自己的孩子是否出勤、是否聽(tīng)課外，什么也得不到。
因?yàn)楹⒆釉谶@些行為背后的原因是什么？這是AI無(wú)法告訴你的事。而一旦，有朝一日，當(dāng)整個(gè)教育系統(tǒng)都把“行為”作為評(píng)判學(xué)生好壞的唯一標(biāo)準(zhǔn)時(shí)，那么他們的內(nèi)心又有誰(shuí)會(huì)去費(fèi)勁兒了解呢？
現(xiàn)在國(guó)內(nèi)學(xué)校試點(diǎn)的人臉識(shí)別技術(shù)，把孩子們低幾次頭，是否在看手機(jī)，走神等作為是否專(zhuān)心聽(tīng)課的標(biāo)準(zhǔn)。這實(shí)際上已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)了歐美國(guó)家對(duì)于人臉識(shí)別技術(shù)使用的界限和想象：如果說(shuō)人臉識(shí)別技術(shù)最早是為了公共安全的需要，那把低頭、小動(dòng)作作為聽(tīng)課指標(biāo)的運(yùn)用則顯得刻板、生硬且單一，確實(shí)有把人當(dāng)機(jī)器之嫌。
近日，當(dāng)我和我的鄰居，愛(ài)爾蘭一家專(zhuān)門(mén)負(fù)責(zé)學(xué)校軟硬件技術(shù)支持的公司COO聊到人臉技術(shù)時(shí)，他表示，人臉技術(shù)用來(lái)管理課堂確實(shí)是高效的。但是如果把學(xué)生打瞌睡、低頭等也作為指標(biāo)是無(wú)意義的，因?yàn)檫@些指標(biāo)不會(huì)告訴你孩子的真實(shí)情況，至少無(wú)法真實(shí)反映孩子的學(xué)習(xí)效果，也無(wú)法反映那些需要長(zhǎng)期跟蹤才可以看到的結(jié)果。
而當(dāng)我“腹黑”地表示，也許老師會(huì)用這些“開(kāi)小差”的證據(jù)來(lái)批評(píng)學(xué)生時(shí)，他聳聳肩表示：如果僅僅用這個(gè)監(jiān)視學(xué)生還批評(píng)學(xué)生，那他就是壞老師！這個(gè)評(píng)價(jià)倒是很簡(jiǎn)單粗暴，不知道同樣簡(jiǎn)單地用低頭次數(shù)、面部表情來(lái)判斷孩子的人怎么想？
采集信息的規(guī)則應(yīng)當(dāng)是雙邊的
在人臉識(shí)別上，用途、具體方式、信息保護(hù)等都應(yīng)當(dāng)是建立在采集方和被采集方平權(quán)的基礎(chǔ)上。
而在本次事件中，該南京高校的發(fā)言人則表示，因?yàn)閷W(xué)校是公共場(chǎng)合，同時(shí)采集信息也可以作為改善教學(xué)質(zhì)量的依據(jù)，所以學(xué)校采集信息不屬于侵犯隱私。
且不說(shuō)同樣是公眾場(chǎng)合，在大街上你也不能隨意拍攝他人。再說(shuō)，你用拍學(xué)生走神的方式來(lái)判斷老師的教學(xué)質(zhì)量，這個(gè)方式得到學(xué)生同意了么？老師認(rèn)可么？
難道說(shuō)，改善教學(xué)質(zhì)量就真的沒(méi)有效率更高、更本質(zhì)、更經(jīng)濟(jì)、更安全的方式了么？現(xiàn)在不是花錢(qián)安設(shè)備就完了。后面的維護(hù)，以及被采集的信息如何管理，是否定期銷(xiāo)毀？校方是否跟進(jìn)考慮了呢？
想到此不由得感嘆虧好自己生得早，否則自己當(dāng)年在上“大學(xué)生修養(yǎng)”?之類(lèi)的課時(shí)，低頭打個(gè)瞌睡的行為，放到現(xiàn)在被記錄了，都有可能要跟著我一輩子，那真是恐怖的事情……
說(shuō)到底是責(zé)任和界限的問(wèn)題
現(xiàn)在很多家長(zhǎng)都知道，面對(duì)自己生養(yǎng)的骨肉要慎言“為你好”三個(gè)字。學(xué)校何嘗不該如此？如果學(xué)校真的認(rèn)為學(xué)習(xí)是學(xué)生的責(zé)任，那么就把這份責(zé)任交還給學(xué)生。曠課次數(shù)多了，學(xué)?？梢砸婪ㄌ幚恚@才是學(xué)校的責(zé)任。
我剛來(lái)愛(ài)爾蘭的第一年圣誕節(jié)放假，我?guī)Ш⒆踊貒?guó)度假。因?yàn)榉党虝r(shí)，遇國(guó)內(nèi)大雪航班延誤，我索性向?qū)W校多請(qǐng)了幾周假期。結(jié)果學(xué)校在準(zhǔn)假后，又給我寄了信表示，因?yàn)槲覀冋?qǐng)假過(guò)多，導(dǎo)致孩子缺課超過(guò)了教育部門(mén)規(guī)定的比例，所以他們必須向上級(jí)反映，同時(shí)讓我做好有可能向該部門(mén)解釋的準(zhǔn)備。
孩子學(xué)校這種“大驚小怪”的做法其實(shí)還挺讓我理解的，因?yàn)檫@是他們保護(hù)未成年人受教育權(quán)利的證明。家長(zhǎng)是否注重孩子的出勤率學(xué)校雖然管不著，但是當(dāng)學(xué)生出勤率出現(xiàn)問(wèn)題時(shí)，學(xué)校可以依法啟動(dòng)相關(guān)程序。這是學(xué)校的“有所為”——不用家訪，不用約談，不用曉之以情動(dòng)之以理的苦口婆心說(shuō)“為你好”，只按章辦事，尊重了彼此，也盡到了本分。
而在大學(xué)，面對(duì)已經(jīng)成人的學(xué)生子，若他們無(wú)心向?qū)W，我們的學(xué)校還要用人臉識(shí)別技術(shù)“留得住人，留不住心”，這是何必，又是何苦呢？畢竟該讀書(shū)的時(shí)候不讀書(shū)，受損的是自己。
最后我想說(shuō)個(gè)恐怖故事，那時(shí)我兒子幾年前剛在國(guó)內(nèi)讀一年級(jí)的時(shí)候有天和我說(shuō)的：“媽媽?zhuān)蠋熃裉煸谡n上對(duì)我們說(shuō)，我們一出生，爸爸媽媽就放了一枚愛(ài)的芯片到我們身上。這樣一來(lái)，即使不在你們身邊，你們也可以隨時(shí)隨地看到我們。所以我們表現(xiàn)得要好，不能犯錯(cuò)誤，因?yàn)槟銈兌伎吹玫剑 ?/span>
恐怖么？這份恐怖不是來(lái)自于那片尚不存在的芯片，而在于“因愛(ài)之名”。
-5-01.png)
