ZAO走紅后不到24小時 因為隱私安全問題引發(fā)集體焦慮
ZAO一夜爆紅,讓AI換臉軟件引發(fā)廣泛關(guān)注,但因涉嫌過度收集用戶個人信息也遭到廣泛質(zhì)疑。9月1日,這款軟件的微信分享鏈接已停止訪問,由此引發(fā)的隱私安全爭議卻仍在繼續(xù),人們對人工智能未來走向的探討更趨激烈。
技術(shù)從來都是一把雙刃劍,如何讓技術(shù)的進(jìn)步服務(wù)好人類社會經(jīng)濟(jì)的發(fā)展,這是全社會需要思考的重要問題。為此,本報今日推出專題報道,梳理人工智能發(fā)展帶來的相關(guān)法律問題與科技倫理風(fēng)險,敬請關(guān)注。
● 在隱私政策中,ZAO收集用戶的隱私信息范圍極其寬泛,包括肖像及面部識別特征等生物識別信息,身份證、軍官證、護(hù)照、駕駛證、社保卡、居住證等身份信息,以及芝麻信用等個人敏感信息
● 對于用戶來說,ZAO換臉服務(wù)最大的風(fēng)險在于對用戶人臉數(shù)據(jù)的收集。ZAO承擔(dān)的個人信息安全義務(wù)包括制定完備合法的隱私政策,向用戶明示收集、使用個人信息的目的、方式、范圍,以及建立完善的個人信息安全保護(hù)措施
● ZAO的出現(xiàn)意味著AI深度換臉技術(shù)使用門檻大幅度降低,相關(guān)偽造影音視頻被不法分子利用時,將對國家安全、新聞輿論、公眾安全、刑事審判、政府通信等領(lǐng)域帶來眾多難以預(yù)測的風(fēng)險
□ 本報記者 趙麗
8月30日晚,打出“僅需一張照片,出演天下好戲”口號的換臉軟件ZAO刷屏,在社交平臺上引發(fā)病毒式傳播。
9月3日,針對媒體公開報道和用戶曝光的ZAO用戶隱私協(xié)議不規(guī)范,存在數(shù)據(jù)泄露風(fēng)險等網(wǎng)絡(luò)數(shù)據(jù)安全問題,工業(yè)和信息化部網(wǎng)絡(luò)安全管理局對北京陌陌科技有限公司(以下簡稱陌陌科技)相關(guān)負(fù)責(zé)人進(jìn)行了問詢約談。
在問詢約談中,網(wǎng)絡(luò)安全管理局要求陌陌科技嚴(yán)格按照國家法律法規(guī)以及相關(guān)主管部門要求,組織開展自查整改,依法依規(guī)收集使用用戶個人信息,規(guī)范協(xié)議條款,強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個人信息安全保護(hù)。同時,要進(jìn)一步加強(qiáng)新技術(shù)新業(yè)務(wù)安全評估,切實采取有效措施,積極防范自有業(yè)務(wù)平臺被利用實施電信網(wǎng)絡(luò)詐騙等風(fēng)險隱患。
用戶協(xié)議存在爭議
容易造成隱私泄露
ZAO走紅后不到24小時,就因為隱私安全問題引發(fā)集體焦慮。
“有手機(jī)號,有面部圖像,通過技術(shù)合成,犯罪分子可以替你和你的家人通話了。”用戶對ZAO泄露個人隱私的擔(dān)心,集中體現(xiàn)在這條網(wǎng)友評論里。
據(jù)了解,在隱私政策中,ZAO收集用戶的隱私信息范圍極其寬泛,包括肖像及面部識別特征等生物識別信息,身份證、軍官證、護(hù)照、駕駛證、社???、居住證等身份信息,以及芝麻信用等個人敏感信息。
9月1日,ZAO修改了部分爭議內(nèi)容,主要體現(xiàn)在四個方面:刪除了用戶需授權(quán)ZAO“不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”;刪除了ZAO可以“全部或部分修改用戶內(nèi)容”中的“全部”;刪除了ZAO可以更換用戶的聲音的規(guī)定;刪除了ZAO擁有對用戶內(nèi)容進(jìn)行“著作權(quán)法規(guī)定的由著作權(quán)人享有的全部著作財產(chǎn)權(quán)利及鄰接權(quán)利”。
然而,修改后的條款仍存在爭議。比如,被授權(quán)的對象為ZAO及ZAO用戶。對此,中國政法大學(xué)傳播法研究中心副主任朱巍認(rèn)為,被授權(quán)的對象包括ZAO用戶,其范圍太大,而且沒有單獨提示,容易混淆相關(guān)概念。
ZAO還在用戶協(xié)議開頭增加了“特別提示”稱,用戶授權(quán)內(nèi)容“僅限用于為您提供上傳/發(fā)布短視頻,以及利用技術(shù)對平臺上的短視頻進(jìn)行局部修改生成新的短視頻的服務(wù),相關(guān)的內(nèi)容將嚴(yán)格按相關(guān)法律法規(guī)的規(guī)定保留在ZAO上,除非為了改善ZAO為您提供的服務(wù)或另行取得您的再次同意,否則ZAO不會以任何其他形式或目的使用上述內(nèi)容”。
9月1日下午,一個未經(jīng)認(rèn)證的微博賬號“ZAO官方助手”發(fā)消息稱,我們十分理解大家對隱私問題的擔(dān)憂。你們提的問題都已收到,考慮不周的地方我們會去改,需要一點時間。
但這仍不足以打消用戶的擔(dān)憂。因為修改后的條文也并未明確規(guī)定收集和使用用戶信息的具體情況,比如“特別提示”中“為了改善ZAO為您提供的服務(wù)”的規(guī)定,就沒有明確列舉改善何種服務(wù)。
在朱巍看來,以前“隱私泄露”是事情發(fā)生后才去討論,但是自從網(wǎng)絡(luò)安全法出臺后,大家更傾向于把安全風(fēng)控前移,網(wǎng)絡(luò)安全法不僅對事后泄露和事中管理有規(guī)定,更包括考查提供網(wǎng)絡(luò)服務(wù)的平臺,在保障數(shù)據(jù)安全和核心隱私方面是否能達(dá)到相關(guān)標(biāo)準(zhǔn)。
除了侵權(quán)問題,還有網(wǎng)友擔(dān)心,既然人臉識別已經(jīng)在支付場景得到應(yīng)用,面部信息泄露,是否會導(dǎo)致賬戶被盜刷?
對此,支付寶安全中心8月31日發(fā)布公告稱,“不管換臉軟件多逼真,都無法突破刷臉支付”,刷臉支付采用的是3D人臉識別技術(shù),在進(jìn)行人臉識別前,也會通過軟硬件結(jié)合的方式進(jìn)行檢測,來判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的,能有效地避免各種人臉偽造帶來的身份冒用情況。
“關(guān)于換臉軟件濫用威脅支付安全的問題,是矛和盾的問題。很多刷臉支付軟件,不是百分百能夠保證不被鉆空子,只是可以通過很多辦法大大降低風(fēng)險。”中國科學(xué)院神經(jīng)科學(xué)博士劉耀文告訴《法制日報》記者,比如視頻是一幀一幀的,目前的人臉識別是深入識別,人錄視頻的時候眼睛眨動和圖片是不一樣的,圖片是不會眨眼的。此外,還可以通過一些向左轉(zhuǎn)向右轉(zhuǎn)的行為來判定是否是本人。“當(dāng)然,一些刷臉支付軟件會有地理、技術(shù)上各種保障安全的優(yōu)勢,但一些不安全的支付做不到這么嚴(yán)格。”
此外,ZAO還存在肖像權(quán)、著作權(quán)等知識產(chǎn)權(quán)風(fēng)險。例如,用戶“換臉”前,并未取得明星授權(quán)。法律界人士認(rèn)為,對于ZAO版權(quán)說明中“不享有素材的商業(yè)版權(quán)”的規(guī)定,并不存在商業(yè)版權(quán)的概念,版權(quán)就是版權(quán),只要未獲授權(quán)拿別人作品來傳播就是侵犯別人版權(quán),雖然ZAO沒有直接通過作品收費,但是整個平臺靠傳播改動后的影視劇作品來吸引用戶,進(jìn)而開拓其他商業(yè)模式。
ZAO版權(quán)說明中還稱,會在用戶生成的作品上打水印以示區(qū)別,但這些都不能保證ZAO不會侵權(quán)。用戶在不可能取得授權(quán)的情況下,傳播經(jīng)過改動的視頻素材,這些內(nèi)容如果構(gòu)成作品,會侵犯著作權(quán)人的保護(hù)作品完整權(quán)、信息網(wǎng)絡(luò)傳播權(quán)等相關(guān)權(quán)利。
人臉數(shù)據(jù)亟待重視
一旦泄露風(fēng)險難測
不過,在業(yè)內(nèi)人士看來,落在用戶身上真正的風(fēng)險,既不是可通過訴訟或監(jiān)管即可確認(rèn)無效的用戶協(xié)議,或不合理的肖像權(quán)安排,也不是著作權(quán)侵權(quán)問題,而是用戶一旦提供或讓渡,即可能完全失控的“生物識別信息”的安全問題。
“人臉識別是人可識別的個性化信息中的核心,同時也是隱私權(quán)保護(hù)的核心。”朱巍說。
對于用戶來說,ZAO換臉服務(wù)最大的風(fēng)險在于對用戶人臉數(shù)據(jù)的收集。畢竟臉部信息的細(xì)節(jié)實在是太豐富了,是一種“生物信息”,可以說是非常敏感的個人信息,一旦泄露,遠(yuǎn)比上網(wǎng)時產(chǎn)生的數(shù)據(jù)信息泄露的風(fēng)險更大。
據(jù)中國傳媒大學(xué)政法學(xué)院法律系副主任鄭寧介紹,換臉技術(shù)主要涉及到生物信息的采集,屬于敏感信息。根據(jù)網(wǎng)絡(luò)安全法第四十一條規(guī)定,網(wǎng)絡(luò)運營者收集、使用個人信息,應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則,公開收集、使用規(guī)則,明示收集、使用信息的目的、方式和范圍,并經(jīng)被收集者同意。網(wǎng)絡(luò)運營者不得收集與其提供的服務(wù)無關(guān)的個人信息,不得違反法律、行政法規(guī)的規(guī)定和雙方的約定收集、使用個人信息,并應(yīng)當(dāng)依照法律、行政法規(guī)的規(guī)定和與用戶的約定,處理其保存的個人信息。
同時,民法總則第一百一十一條規(guī)定,自然人的個人信息受法律保護(hù)。任何組織和個人需要獲取他人個人信息的,應(yīng)當(dāng)依法取得并確保信息安全,不得非法收集、使用、加工、傳輸他人個人信息,不得非法買賣、提供或者公開他人個人信息。
“那么,ZAO承擔(dān)的個人信息安全義務(wù)就包括制定完備合法的隱私政策,向用戶明示收集、使用個人信息的目的、方式、范圍,以及建立完善的個人信息安全保護(hù)措施。”鄭寧說。
正因如此,劉耀文也認(rèn)為:“人們的擔(dān)憂是合理的,最大的問題可能就是安防方面,還有侵權(quán)一類的問題。這種換臉軟件應(yīng)用可能會造成用戶侵犯名人的權(quán)利,還有用戶的個人信息歸平臺所有了,生物信息讓度出去了是最大的一個風(fēng)險,因為軟件的合約條款里規(guī)定了合理使用和永久授權(quán),無法判斷他們會用我們的信息干什么。”
不僅如此,業(yè)內(nèi)專家還表示,這款應(yīng)用的出現(xiàn)意味著AI深度換臉技術(shù)使用門檻大幅度降低,相關(guān)偽造影音視頻被不法分子利用時,將對國家安全、新聞輿論、公眾安全、刑事審判、政府通信等領(lǐng)域帶來眾多難以預(yù)測的風(fēng)險。
首先,從國家安全層面看,當(dāng)高度逼真的偽造視頻被惡意使用在國家領(lǐng)導(dǎo)人及其他關(guān)鍵人物身上,不僅會導(dǎo)致領(lǐng)導(dǎo)人形象受損,如果偽造領(lǐng)導(dǎo)人發(fā)出有悖于國家安全的政治觀點或指令,將導(dǎo)致嚴(yán)重后果。雖然我國還未出現(xiàn)此類案例,但在美國,用于政黨攻擊、娛樂的換臉視頻時常出現(xiàn)。如2018年4月,美國娛樂網(wǎng)站Buzzfeed發(fā)布了一條網(wǎng)友制作的換臉視頻,當(dāng)中,美國前總統(tǒng)奧巴馬用他的聲音和慣用動作講了一段他從沒說過的話。
其次,從輿論傳播層面看,如果AI深度換臉技術(shù)制造的虛假視頻與社交網(wǎng)絡(luò)相結(jié)合,不僅會讓假新聞更難鑒別,也會導(dǎo)致謠言的訊速傳播。例如印度某記者曾因揭露印度古吉拉特暴亂中官員的黑幕和不作為,被人用AI換臉技術(shù)做成大量的道歉小視頻,嚴(yán)重影響當(dāng)?shù)剌浾撟呦颉?/p>
最后,AI換臉技術(shù)對公眾安全、刑事審判等也可能帶來不同程度負(fù)面影響。例如,不法分子可利用圖片、視頻冒充他人跟另一個人聊天、交易,不僅危害他人隱私、財產(chǎn)安全,甚至生命安全也可能受到威脅。在司法機(jī)關(guān)調(diào)查取證、審判等階段偽造出來的影音視頻證據(jù),也可能對司法程序產(chǎn)生干擾。
“核心風(fēng)險就是個人信息安全問題,換臉軟件一旦被濫用將會產(chǎn)生消極影響。研究者們應(yīng)該遵循科技倫理,企業(yè)合規(guī)和風(fēng)控部門應(yīng)當(dāng)加強(qiáng)法律風(fēng)險的審查,政府部門應(yīng)當(dāng)加強(qiáng)監(jiān)管,行業(yè)組織加強(qiáng)自律,公民積極投訴舉報。”鄭寧說。
相關(guān)閱讀
-
助力打造科技創(chuàng)新和產(chǎn)業(yè)發(fā)展引擎 宜興...
以前我們在無錫的時候就聽說宜興稅務(wù)部門的服務(wù)態(tài)度好,沒想到是如... -
著力完善科技創(chuàng)新體系 全力鍛造科技創(chuàng)...
十三五以來,蘭州石化公司全面推進(jìn)創(chuàng)新驅(qū)動和人才強(qiáng)企戰(zhàn)略,實施科... -
常州經(jīng)開區(qū)入選國家工業(yè)互聯(lián)網(wǎng)平臺賦能...
9月6日,工信部對國家新型工業(yè)化產(chǎn)業(yè)示范基地工業(yè)互聯(lián)網(wǎng)平臺賦能數(shù)... -
實施5G基站建設(shè)提速工程 促進(jìn)5G基站建...
記者今天從省工信廳獲悉,截至今年9月中旬,全省累計建成5G基站5 8... -
加快培養(yǎng)復(fù)合型人才培訓(xùn)需求 做好成果...
為進(jìn)一步推動全行興動力創(chuàng)新創(chuàng)優(yōu)項目實踐深化,促進(jìn)各項目小組相互... -
加快稅收征管數(shù)字化升級 提升納稅人幸...
這份電子發(fā)票的成功開具,標(biāo)志著國家稅務(wù)總局山西省稅務(wù)局的晉稅通A...
- 如何培養(yǎng)學(xué)生的空間思維能力(如何培養(yǎng)學(xué)生2022-11-25
- 十滴水洗澡的功效(十滴水打一字)2022-11-25
- 焦點快播:“外國人講安徽故事·合肥站”宣2022-11-25
- 2022黃山旅游節(jié)推出14項主題活動2022-11-25
- 世界微速訊:以群眾口碑檢驗富裕江西幸福江2022-11-25
- 內(nèi)雙畫眼妝選擇什么樣的眼影?內(nèi)雙眼妝怎么2022-11-25
- 眼影選購需要注意哪些方面?眼影是不是越貴2022-11-25
- 深邃歐式眼妝教程 歐美上挑眼線怎么畫?-2022-11-25
- 環(huán)球觀熱點:中分劉海怎么打理好看?哪些中2022-11-25
- 適合中分發(fā)型的臉型有哪些?2022年短發(fā)發(fā)型2022-11-25
- 全球今熱點:中分發(fā)型有哪些優(yōu)勢?方形臉適2022-11-25
- 中分短發(fā)發(fā)型有哪些?你更喜歡哪一款?|全2022-11-25
- 中分適合什么臉型?劉海中分怎么處理?2022-11-25
- 劉海分開合不上怎么恢復(fù)?去理發(fā)店可以嗎?2022-11-25
- 【世界新要聞】圓臉臉型特點是什么?圓臉適2022-11-25
- 不想中分怎么變回來?哪些臉型留中分發(fā)型不2022-11-25
- 環(huán)球熱推薦:中分劉海留煩了想換發(fā)型怎么辦2022-11-25
- 熱點聚焦:劉海中分怎么解決?劉海剪厚了怎2022-11-25
- 如何讓頭發(fā)快速生長?剛?cè)就觐^發(fā)第二天就洗2022-11-25
- 男士中分適合燙大卷還是小卷?男生燙發(fā)發(fā)型2022-11-25
- 自然卷應(yīng)該使用什么樣的護(hù)發(fā)產(chǎn)品?自然卷該2022-11-25
- 月餅分著吃寓意好嗎?為什么說月餅吃多了也2022-11-25
- 月餅?zāi)芗逯詥幔吭嘛灥某苑ㄓ心男??|環(huán)球2022-11-25
- 中秋節(jié)該怎么送禮?中秋節(jié)后天氣會轉(zhuǎn)涼嗎?2022-11-25
- 月餅烤完很硬怎么回事?月餅的好壞主要看什2022-11-25
- 十八數(shù)藏引入新投資方,深度布局產(chǎn)業(yè)化2022-11-25
- 地鐵逃生怎么下載(地團(tuán)網(wǎng))|要聞速遞2022-11-25
- 女人在床上說的最刻薄的話_世界即時看2022-11-25
- 玉竹可以和什么一起泡酒?玉竹酒做法是什么2022-11-25
- 玉竹能放多久?玉竹食用方法有哪些?-全球2022-11-25