ZAO可能產(chǎn)生的潛在危險(xiǎn)和不安全性，也是人工智能為社會(huì)提供產(chǎn)品的同時(shí)人們必然面臨的挑戰(zhàn)。

名為ZAO的AI換臉軟件紅遍網(wǎng)絡(luò)，然而好景不長，一夜爆紅“ZAO”的微信分享鏈接目前已經(jīng)被停止訪問了。關(guān)于“ZAO”刷屏后所帶來的隱私焦慮與風(fēng)險(xiǎn)擔(dān)憂，仍在蔓延。

實(shí)際上，ZAO軟件就是一款經(jīng)改造的換臉APP，2017年發(fā)源于美國，稱Deepfakes，是深度機(jī)器學(xué)習(xí)(deep machine learning)和假照片(fake photo)的簡稱(合稱)，最生動(dòng)的稱呼是深度(照片)造假。

既然是造假，當(dāng)然要禁止。它不僅可能產(chǎn)生因個(gè)人信息泄露帶來的種種不安全，如果涉及犯罪，輕而易舉的換臉操作也會(huì)讓真假罪犯難辨，同時(shí)加大司法成本。當(dāng)然，在一些國家，如美國，換臉還可能成為反恐的夢魘，既可以讓恐怖分子很容易通過換臉作案和逃脫，也加大了安全部門反恐的難度。

所有這些問題都是ZAO和相似軟件可能產(chǎn)生的潛在危險(xiǎn)和不安全性，這也是人工智能為社會(huì)提供產(chǎn)品的同時(shí)人們必然面臨的挑戰(zhàn)。因此，如何監(jiān)管才是最現(xiàn)實(shí)和最嚴(yán)峻的問題。

現(xiàn)在ZAO軟件就面臨著管理者禁與放的困難抉擇。而對于換臉，美國歐盟等認(rèn)為，即便是潛在的威脅，也極其嚴(yán)重，必須先出手防范。

今年1月28日，美國卡內(nèi)基國際和平基金會(huì)專門發(fā)表文章《國家如何應(yīng)對Deepfakes?》，指出，以Deepfakes為代表的換臉技術(shù)具有一系列潛在的危害，包括煽動(dòng)政治暴力、破壞選舉、擾亂外交關(guān)系、提供虛假證據(jù)并干擾司法、實(shí)施敲詐等，希望各國明確定義Deepfakes的不正當(dāng)使用，亟須社會(huì)定義什么可以接受，什么不可以接受，這既有利于社會(huì)和法律的管理，也有利于社交媒體規(guī)范其平臺(tái)，管理網(wǎng)上內(nèi)容。

今年6月13日，美國眾議院情報(bào)委員會(huì)對Deepfakes舉行了聽證會(huì)，會(huì)上該委員會(huì)主席、眾議員亞當(dāng)·希夫稱，篡改視頻的傳播為2020年總統(tǒng)大選帶來了一種“噩夢般的”場景，讓議員、新聞媒體和公眾“難以分辨什么是真實(shí)的，什么是虛假的”。因此，他和美國馬里蘭法學(xué)院教授達(dá)尼埃爾·西特龍建議國會(huì)考慮對《通信規(guī)范法》第230條(互聯(lián)網(wǎng)服務(wù)不必為其用戶的行為負(fù)責(zé))進(jìn)行修改，以打擊Deepfakes，保護(hù)用戶免受假新聞的誤導(dǎo)。

針對Deepfakes換臉技術(shù)產(chǎn)生的具有破壞性的危險(xiǎn)性內(nèi)容，歐盟也在2019年初出臺(tái)了應(yīng)對指南，以幫助公眾分辨某條信息的來源，信息是如何產(chǎn)生的以及信息是否值得信賴。

可以看到，對換臉技術(shù)的潛在危險(xiǎn)極為重視的美國和歐盟現(xiàn)在還沒有出臺(tái)法律予以禁止，只是在進(jìn)行論證。但迫于壓力，美國的Reddit上關(guān)于換臉技術(shù)的討論版被刪除，換臉技術(shù)也在美國被全網(wǎng)封禁，其GitHub開源代碼也被清除。

盡管目前看來，ZAO軟件還沒有造成實(shí)際上的危害，但是，正如網(wǎng)友所指出，一個(gè)潛在危害非常實(shí)在：“有手機(jī)號(hào)，有面部圖像，通過技術(shù)合成，犯罪分子可以替你和你家人通話了。”因此，公眾的擔(dān)心并非杞人憂天，有必要及早以明確的法律條款予以規(guī)范。