新京報(bào)記者近日調(diào)查發(fā)現(xiàn)，隨著AI技術(shù)走紅以及門檻降低，售賣明星換臉的淫穢視頻已經(jīng)成為一門地下生意。百度貼吧中部分標(biāo)榜“換臉+女明星姓名”的發(fā)帖者，售賣通過AI換臉技術(shù)合成的視頻，價(jià)格可4元一部，也可158元打包購買700部視頻，多位知名女明星頻被提及。
傳播淫穢視頻是違法犯罪，濫用女明星肖像是侵權(quán)，這都是毋庸多言的常識(shí)。可是看相關(guān)新聞后的跟帖，不少網(wǎng)友憂心的卻是，“以后女明星真有艷照門是不是可以甩鍋給被換臉”。這當(dāng)然可能是玩笑話，但也從一個(gè)側(cè)面印證：技術(shù)本身沒有善惡，是人的認(rèn)知和意圖決定了善惡。因而最值得擔(dān)憂的，其實(shí)不是新技術(shù)如何應(yīng)用，而是各方對新技術(shù)的認(rèn)知偏差。
這已經(jīng)不是AI新技術(shù)第一次引發(fā)爭議。此前，曾有借助AI技術(shù)自動(dòng)“脫掉”女性衣服的APP，也有人想做“原諒寶”產(chǎn)品，以檢測女性是否從事過色情行業(yè)。而從保護(hù)未成年人、凈化互聯(lián)網(wǎng)空間的角度看，“398元包教會(huì)，學(xué)生打七折”的AI換臉技術(shù)，更是毫無下限。
在一些技術(shù)主義者看來，他們只需要考慮新技術(shù)給社會(huì)帶來的新可能，而無需考慮可能導(dǎo)致的后果。這樣的想法顯然太過天真：當(dāng)技術(shù)走出工程師的電腦，走向社會(huì)應(yīng)用，就必須考慮現(xiàn)實(shí)應(yīng)用場景的合法、倫理性，以及不遵守合法、倫理性時(shí)可能導(dǎo)致的災(zāi)難。
幸好，這兩項(xiàng)“創(chuàng)新”很快遭到輿論猛烈抨擊，已被扼殺在萌芽狀態(tài)。“創(chuàng)新者”非但沒有取得預(yù)想的成功，反而為之付出慘痛代價(jià)。這是一個(gè)很好的警示。
隨著AI技術(shù)的發(fā)展，追求新機(jī)會(huì)的創(chuàng)業(yè)者們當(dāng)然可以展開想象力，但在創(chuàng)新過程中，最好記得法律和倫理的邊界。不要僥幸于新技術(shù)的監(jiān)管或者法規(guī)的滯后，因?yàn)椋矀惱怼⑸鐣?huì)輿論同樣是無形但卻有力的約束。
當(dāng)然，這是對主觀并不存在作惡意圖的技術(shù)信奉者而言，對于用淫穢視頻“定制”女星的這些人來說，他們本就在鋌而走險(xiǎn)，他們信奉的不是技術(shù)，而是利益。無論有沒有使用新技術(shù)，都在法律打擊的范疇之列。新技術(shù)的出現(xiàn)，只不過是給他們制造了賺錢的新噱頭而已。所以，針對此種互聯(lián)網(wǎng)亂象，重要的還是加強(qiáng)執(zhí)法力度。除了供給方之外，還特別需要提醒淫穢視頻的購買者。參與定制，甚至提供女性照片給對方，這等于是在參與違法犯罪，面臨不可測的法律風(fēng)險(xiǎn)。
互聯(lián)網(wǎng)發(fā)展過程中，若技術(shù)被應(yīng)用于此類違法行為，實(shí)際上影響的，是人們對技術(shù)本身的信任。像淫穢視頻“定制”女星這種事，不會(huì)創(chuàng)造什么新的可能和福利，不過是用新技術(shù)滿足庸俗的嗜好和盈利的沖動(dòng)。對其批判和加強(qiáng)執(zhí)法打擊力度，該是最好的回應(yīng)。
