爭議:是“危”還是“機”
人臉識別系統(tǒng)剛開始進入中國藥科大學課堂,該校就有學生擔憂,此舉識別有侵犯個人隱私之嫌,一舉一動都被人臉攝像頭監(jiān)視,“讓人后背發(fā)涼”。校方表示,學校之前已向公安部門和法務部門咨詢,由于教室屬于公開場所,因此不存在“侵犯隱私”的說法。
對此,北京志霖律師事務所副主任趙占領說:“我國法律對于隱私權沒有特別明確的界定,嚴格來看,教室屬于公共場所,安裝人臉識別攝像頭,雖然不違法,但需要明確告知學生,給學生知情權和選擇權。”
利用人臉識別類技術,無論是進行課堂管理還是教學效果分析,都不可避免要收集海量數(shù)據(jù)。首都師范大學基礎教育發(fā)展研究院教授蘇尚鋒認為,教室內(nèi)使用人臉識別的初衷是對學生學習行為進行個性化追蹤,而其目的在于經(jīng)分析生成個性化的學習方案,以幫助學生提高學習效率,在這種理想情況下,是符合“人工智能+教育”未來趨勢的。
在使用目的的正當性上,中國基礎教育質(zhì)量監(jiān)測協(xié)同創(chuàng)新中心網(wǎng)絡平臺部主任張生認為,用人臉識別類技術來對學生進行管理,不能本末倒置,“學校應回歸教育本身,多反思課堂的教學效果”。
人臉識別作為一項技術,其本身并沒有什么問題,關鍵在于如何運用。同樣的人臉識別技術,幫助幼兒園和小學建立智慧安防系統(tǒng),用來尋找丟失的幼童或監(jiān)護老人,就很少陷入爭議。趙占領說:“在這些場景里,個人隱私讓位于人命關天的安全需求,這也符合人們心中牢固的共識。”在很多家長看來,對校園及周邊實時嚴密監(jiān)控,智能身份識別,嚴進嚴出,將危險扼殺在“搖籃”中,也大大降低了歹徒闖入校園作案的可能性,學生安全有保障。
人臉識別類技術的潛在危險還有數(shù)據(jù)泄露風險。趙占領告訴記者:“人臉識別監(jiān)控課堂的行為會產(chǎn)生大量的隱私數(shù)據(jù),如果沒建立相應的數(shù)據(jù)安全規(guī)范或未盡到妥善保管義務導致數(shù)據(jù)發(fā)生泄露,這些數(shù)據(jù)一旦被惡意使用,就會侵犯老師和學生的相關隱私權利,情節(jié)嚴重的可能會導致違法行為的產(chǎn)生。”
在業(yè)內(nèi)人士看來,如果從教育教學發(fā)展等長遠角度以及公共利益的立場來考量,在使用人臉識別類等AI技術的抉擇上,不能因噎廢食。
北京師范大學智慧學習研究院副院長曾海軍說,包括人臉識別在內(nèi)的AI技術廣泛而有效地應用于教學、管理和服務,是未來學校教育發(fā)展的必然趨勢,“規(guī)?;逃蛡€性化學習相結合的AI技術,具有更強的靈活性、包容性,可以助力重塑學校教育,進一步提升教學的效果、效率和效益,以適應現(xiàn)代信息化、數(shù)字化、智能化的學習型和創(chuàng)新型社會的需要”。
面對教育場景內(nèi)不甚成熟的人臉識別類技術應用,以及個人隱私、數(shù)據(jù)安全等風險和爭議,教育部科學技術司司長雷朝滋表示,希望學校非常慎重地使用這些技術軟件,“包含學生的個人信息都要非常謹慎,能不采集就不采,能少采集就少采集,尤其涉及個人生物信息的”。雷朝滋還表示,目前教育部已開始關注這一情況,已組織專家進行論證研究。
