在當今數(shù)字化的時代，人臉識別技術(shù)已經(jīng)悄然滲透到我們生活的每一個角落，其應(yīng)用之廣泛令人驚嘆。然而，這項看似便利的技術(shù)，其濫用的程度卻遠遠超出了我們的想象。
近期，在短視頻平臺“Tiktok”上，一個名為“真·湯姆克魯斯”的賬號迅速走紅。該賬號僅僅發(fā)布了三條視頻，僅僅過了一周的時間，就吸引了高達38萬的粉絲關(guān)注，視頻的總播放量更是突破了1100萬次。在其中一個視頻里，“湯姆·克魯斯”對著鏡頭表演魔術(shù)，那逼真的神態(tài)和動作，讓無數(shù)粉絲為之瘋狂。
可鮮為人知的是，這個抖音上的假阿湯哥賬號，其粉絲數(shù)量竟然超過了真阿湯哥的賬號。實際上，這些視頻都是利用AI技術(shù)合成的虛假視頻。
“人人都能化身大明星”
幕后的制作者表示：“我只是想給大家?guī)須g樂，并沒有惡意。”他認為這只是一個有趣的玩笑。
這位假冒阿湯哥視頻的創(chuàng)作者克里斯·烏米，本職工作是一名專業(yè)的視覺特效師。他曾在《南方公園》的AI實驗室任職，并且擁有自己的工作室。就如同神話故事中能以假亂真的“六耳獼猴”一樣，他打造出了足以迷惑眾人的“假·阿湯哥”。
他透露，為了制作出這些高度逼真的視頻，他們借助了超過18000張影星在不同角度的照片來訓(xùn)練AI算法。此外，專門模仿阿湯哥的演員邁爾斯·費舍爾還仔細學(xué)習了阿湯哥的體態(tài)特征，使得視頻中的形象更加難以分辨真假，迷惑性大大增強。而且，在視頻制作完成后，還會進行長達24小時的人工修繕。如此精心制作，成果自然非同凡響。
烏米還曾在社交平臺上公布過多個借助深度合成技術(shù)完成的視頻項目，其中有一個讓愛因斯坦開口預(yù)測新冠的假視頻備受關(guān)注。其基本原理是，通過機器學(xué)習技術(shù)，一方面修復(fù)和加強愛因斯坦的歷史影像，另一方面訓(xùn)練算法，使視頻中的嘴型能夠適應(yīng)新的語言內(nèi)容。
讓老照片中的“歷史人物”重煥生機
隨著AI技術(shù)在人臉領(lǐng)域的應(yīng)用日益廣泛，許多科技公司也找到了新的宣傳方向。在“MyHeritage”這個網(wǎng)站上，用戶無需具備專業(yè)的技術(shù)知識，只需上傳一張老照片，短短10 - 20秒后，AI就能自動為照片賦予“生命”。這一神奇的功能讓不少網(wǎng)友驚嘆不已，甚至有人調(diào)侃制作者肯定是個哈利·波特迷。
實際上，“MyHeritage”是一家在線家譜網(wǎng)站，其背后的公司于2003年在以色列創(chuàng)立。截至2020年，該網(wǎng)站已經(jīng)支持42種語言，在全球擁有超過5000萬用戶，并且為用戶構(gòu)建了大約5200萬個家譜。
他們推出讓老照片動起來的功能，無疑是吸引用戶的一大噱頭。而其高明之處在于，將操作過程設(shè)計得極為簡單。通過使用GAN技術(shù)重建圖像，能夠構(gòu)造出細節(jié)豐富的人臉圖像，即使是帶有馬賽克的人臉也能得到還原。憑借這種方法，哪怕只有一張照片，也能讓照片里的人物仿佛“開口說話”。
新技術(shù)的發(fā)展，宛如一場激烈的賽跑
2019年，臉書、微軟和亞馬遜聯(lián)合舉辦了一項極具挑戰(zhàn)性的活動，他們邀請全球頂尖的科學(xué)家設(shè)計一種能夠自動識別Deepfake（深度偽造）的技術(shù)，并設(shè)立了高達100萬美元的獎金。
最終，來自白俄羅斯的一名工程師從全球2100多名參賽者中脫穎而出，贏得了比賽。然而，他所設(shè)計的技術(shù)也僅僅能達到65％的識別正確率。
此前，“deepnude”曾擅自濫用女星的面部信息，用她們的臉和身體制作出根本不存在的虛假內(nèi)容。而這個冒牌阿湯哥視頻，實際上也是同類技術(shù)的產(chǎn)物。由此可見，一項技術(shù)的發(fā)展走向，完全取決于其締造者的想法和目的。如今，AI換臉技術(shù)所展現(xiàn)出的現(xiàn)狀，越來越像那個充滿未知危險的“潘多拉的魔盒”。
新技術(shù)一旦誕生，就仿佛置身于一場激烈的賽跑之中。如果AI開發(fā)者的步伐稍稍落后于那些心懷不軌的施暴者，AI就可能會失去控制，如同脫韁的野馬一般肆意狂奔。因此，拒絕這些被濫用的AI技術(shù)，是我們每個人都應(yīng)盡的責任和義務(wù)。
（文章部分圖片源自網(wǎng)絡(luò)，如有侵權(quán)請聯(lián)系刪除）
