在AI換臉應(yīng)用deepfakes被別一些人用于色情目的后,近期曝出的DeepNude項目又濫用了AI來創(chuàng)建女性的假裸照。
為了整治平臺上的亂象,GitHub在近日接受Motherboard采訪時稱,該平臺將封殺DeepNude項目,因其違反了社區(qū)內(nèi)不得創(chuàng)建“性淫穢內(nèi)容”的規(guī)則。
為此,他們已經(jīng)刪除了多個存儲庫,包括由最初的DeepNude創(chuàng)建者正式運行的存儲庫。
(題圖viaTheVerge)
據(jù)悉,DeepNude最初是一款付費應(yīng)用程序,宣稱可通過類似deepfakes的人工智能換臉技術(shù),來創(chuàng)建女性的裸照版本,然而這把利器很容易別別有用心者用于色情報復(fù)的目的。
在引發(fā)了巨大的爭議后,DeepNude開發(fā)團(tuán)隊已經(jīng)關(guān)閉了該項目,聲稱高估了人們對該項目的濫用程度。遺憾的是,截止上周,我們?nèi)钥稍诰€上訪問到DeepNude的諸多可用副本,其中就包括GitHub平臺。
上周晚些時候,DeepNude團(tuán)隊將核心算法(而不是實際的應(yīng)用程序界面)上傳到了該平臺。理由是針對這款應(yīng)用程序的逆向工程已經(jīng)得逞,隱藏源碼已經(jīng)沒有任何意義。
團(tuán)隊在一個現(xiàn)已刪除的頁面上寫到:“DeepNude使用一種有趣的方法來解決典型的AI問題,因此其對于在時尚、電影、視覺效果等領(lǐng)域的工作和研究開發(fā)人員來說非常實用”。
然而根據(jù)GitHub的社區(qū)準(zhǔn)則,除非用于教育或藝術(shù)目的,該平臺是嚴(yán)厲禁止“色情”或“淫穢”內(nèi)容的。實際上,假裸照并非DeepNude的首創(chuàng),某些PS高手早就掀起過類似的運動。
問題在于,DeepNude將假裸照的制造難度,降低到了人人可及的程度。對此,政治家和評論員們對該項目的潛在影響,提出了相當(dāng)嚴(yán)厲的警告。遺憾的是,這些都無法阻止DeepNude的副本在網(wǎng)絡(luò)上亂竄。