「換臉」成人片網上流竄 各大平台聯手打擊

(綜合報導)近來利用AI改造的「換臉色情片」在網路上流竄,Pornhub、Twitter等各大平台紛紛出手禁止這類影片,同時此一現象也引起不少倫理道德的討論,未來世界是否將變得更加真假難辨?
科技的進展,或許將讓真實變得越來越珍貴,近期有網友在網路論壇Reddit發布一款AI工具,可以讓所有人輕易將影片中的人物「換臉」製作假影片,許多網友紛紛用這款工具將女明星的臉移花接木到色情片演員身上,包括Pornhub、Twitter等各大平台紛紛出手禁止這類影片,同時此一現象也引起不少倫理道德的討論。
最近網路上流傳了一批「名人色情影片」,不過這可不是被偷拍或外洩,而是去年12月,有一位在網路論壇Reddit上,代號叫「deepfake(深偽)」的用戶利用AI軟體,將《神力女超人》(Wonder Woman)主角蓋兒·加朵(Gal Gadot)的臉移花接木到色情片主角身上(圖)。
後來,另一位代號叫「deepfakeapp」的用戶,將「deepfake(深偽)」的演算法加以改造推出軟體「FakeApp」,目標是要讓所有沒有技術背景的人,都可以利用深度學習輕易製作出假影片。根據實測,有網友僅花了五小時,就用FakeApp成功將潔西卡·艾芭(Jessica Alba)的臉換到AV女優身上,甚至將希特勒與阿根廷總統Mauricio Macri接合在一起,也絲毫看不出怪異之處。
不過,為了遏止「換臉色情片」的歪風,從上星期開始,GIF平台Gfycat已開始移除相關內容,交流平台Discord也出手封鎖討論製作換臉色情影片的伺服器。全球最大色情影片平台Pornhub表示:「本站不容忍任何非自願的內容,非自願內容直接違反我們的使用條款。該條款禁止復仇色情報復(revenge porn)、深偽,以及任何未經同意或允許上傳的內容。」;Twitter也表示會阻止這類移花接木內容在平台上傳播。
各大平台紛紛出手打擊,但科技始終來自於人性,而人性正毫不掩飾的代表最赤裸的慾望,移除影片並不能阻擋技術的演進,而未來真實是否也將變得珍貴?
Google在2015年推出開源軟體庫「TensorFlow」,使得資源不僅免費更變得開放、易得,自此讓機器學習研究的門檻從實驗室帶進了大眾的筆記型電腦中。
不過TensorFlow的威力現在Google也難易控制,在「FakeApp」出現後不僅是名人可能變色情片主角,身邊好友、同學等一般民眾都將更容易受害。最初「deepfake(深偽)」製作影片所用到的工具,是基於 TensorFlow 和 Keras 等開源軟體,素材則是透過Google圖片搜索、公開圖庫取得,共同的特點就是公開開放且免費。
科技始終來自於人性,而人性正毫不掩飾的代表最赤裸的慾望,Pornhub表示,將禁止復仇色情報復(revenge porn)、深偽內容。shutterstock
TensorFlow是開源軟體,而FakeApp則是代表開源軟體的黑暗面,因此Google並無法追蹤軟體被下載後的使用用途,任何人都可以下載開源軟體,用來製作搞笑影片或色情片沒人管得著,概念就很像槍械公司把手槍賣出後,消費者要用來自衛或是殺人也都是槍械公司無法控制及負責的。
軟體開源對科技大公司有許多好處,可以驅使更多人使用AI創作,內部員工可以做為新產品的靈感來源,外部使用者則可以協助找出產品bug,AT&T實驗技術副總裁 Mazin Gilbert曾說:「機器學習的突破不是演算法,而是開源,開源可以降低大眾進入的門檻。」
開源軟體也使AI開發中的道德問題變得複雜化,各家科技公司也都試圖找出解方,微軟AI副總裁Harry Shum曾說:「這其實不容易,我不認為我們現在有簡單的解決方法,但我們在過程中學到的是,當我們在設計機器學習演算法時,會試圖找出盲點。」
將AI從開源中移除看似可以解決眼下問題,但作法太過消極,目前許多原始代碼都可以在Github這類平台上找到,學者、倫理學家、研究人員可以從這些資源找到問題、提出不同觀點的看法,一般人也可以運用這些資源操作簡單的應用。
既然科技始終來自最赤裸的人性,因此不難想像未來這些移花接木的色情片,會流竄到Facebook、Twitter這類更加主流的平台上,甚至更多不同目的、企圖的假影片產生也不是不可能,許多人就擔心換臉色情片可能成為「復仇式色情」的性報復工具,甚至助長假新聞的散佈。
該如何運用開源資源完全取自個人心中那把尺,因此核心技術的開發者很難為此負責,而大部分責任可能都將落在用來散布影片、圖片的社群平台上。YouTube去年才宣布要啟動萬人大軍人工審查影片內容,換臉色情片的氾濫是否會加重平台營運負擔,將是值得觀察重點。
這起事件也讓人想起先前Facebook假新聞事件,都是有心人士製作虛假內容在平台上傳播,Facebook打擊假新聞、Pornhub打壓假影片,兩相對照之下可以想見的是,未來的世界將會更加真假難辨,而這將只是剛開始而已。


劉靜

電話本

發佈時間:2018-04-23
易搜網汽車買賣

老東方傢俱

版權所有 華人今日網