「AI換臉」被不雅視頻廣泛應用


deepfake受害者創辦Alecto AI公司 開發一款面部識別軟件


(記者楊拓/洛杉磯報道)隨著「AI換臉」技術的廣泛應用,涉及明星、博主和普通人的虛假色情內容製作現象頻發,引起了社會的廣泛關注和擔憂,華裔女子劉寶利(Breeze Liu,音譯)就有了相似經歷,而在面對網絡上與她有關的偽造色情內容時,她選擇了勇敢反擊,希望幫助更多受害者維權。

2020年4月的一個下午,劉寶利從朋友那裡得知有人在網上發佈了她的「不雅視頻」,她知道這一定是假的,然而很快她就在一個成人網站上看到了這段用她的臉做成的剪輯視頻,這讓她感到崩潰和孤獨。當時只有24歲的劉寶利甚至一度想要結束自己的生命,但最終她選擇了報警並開始尋求解決辦法。

然而警方在這類案件上卻無法為其提供有效幫助,劉寶利決定利用自己的技術背景來解決這個問題。她在加密貨幣領域工作多年,於2022年用自己的積蓄在舊金山創辦了Alecto AI公司,開發了一款免費使用的面部識別軟件,幫助受害者識別並刪除虛假和被濫用的內容。

自2013年移民美國以來,劉寶利和其他deepfake受害者一樣,眼睜睜地看著自己的生活被這些不實內容攪得天翻地覆。雖然那個製作視頻的人刪除了第一個成人網站上的偽造視頻,但後來卻在數百個其他網站上分享了類似的內容。劉寶利表示,她試著過正常的生活,但內心深處每一秒都在尖叫,每一個在街上從我身邊經過的人,她還當面質問了嫌疑人為什麼要這樣做,對方回答說是因為她拒絕了於嫌犯成為戀人。

最終,劉寶利發現了800多個偽造視頻的鏈接,但由於各方障礙,想要將這些視頻全部刪除幾乎不可能。布法羅大學計算機科學家呂思維(Siwei Lyu,音譯)指出,這類事件對受害者造成的心理和情感創傷是巨大的。目前,針對偽造色情作品製作和傳播的法律尚不完善,而這類作品可以在幾分鐘內借助先進的AI工具製作出來。


劉靜

華人今日網改版啟示

發佈時間:2024-05-27
易搜網汽車買賣

老東方傢俱

版權所有 華人今日網