影視行業(yè)深受其害！人工智能竟成犯罪“幫兇”？

時(shí)間：2024.09.05 來(lái)源：1905電影網(wǎng) 作者：keva

AI違法犯罪調(diào)查人工智能技術(shù)應(yīng)守住法律底線時(shí)長(zhǎng)：06:06 來(lái)源：電影網(wǎng)

AI違法犯罪調(diào)查人工智能技術(shù)應(yīng)守住法律底線收起

時(shí)長(zhǎng)：06:06建議WIFI下打開(kāi)

1905電影網(wǎng)專(zhuān)稿 近年來(lái)，隨著AI技術(shù)的快速發(fā)展，越來(lái)越多人在工作生活中開(kāi)始享受到全新體驗(yàn)，但伴隨而來(lái)的是，利用或?yàn)E用AI技術(shù)從事違法犯罪的活動(dòng)日益增多。

2024年上半年，80后導(dǎo)演陳坤起訴“文刻創(chuàng)作”，指控其抄襲了自己團(tuán)隊(duì)運(yùn)用AI技術(shù)制作的《山海奇鏡》預(yù)告片。這個(gè)案例讓AI作品侵權(quán)話題進(jìn)入了大眾的視野。

天元律所合伙人律師李昀鍇在采訪中表示，這種行為可能會(huì)侵犯原告的復(fù)制權(quán)、信息網(wǎng)絡(luò)傳播權(quán)、改編權(quán)以及原告的署名權(quán)，因?yàn)楸桓嬖诎l(fā)布作品時(shí)強(qiáng)調(diào)了原創(chuàng)。

隨著AI技術(shù)快速發(fā)展，利用AI技術(shù)從事違法犯罪活動(dòng)屢見(jiàn)不鮮。AI 違法犯罪活動(dòng)讓大眾財(cái)產(chǎn)安全受到威脅，其中“AI換臉”導(dǎo)致的違法犯罪行為尤為嚴(yán)重。

全國(guó)公安機(jī)關(guān)去年依托“凈網(wǎng)”專(zhuān)項(xiàng)行動(dòng)組織專(zhuān)項(xiàng)會(huì)戰(zhàn)，嚴(yán)打泄露身份證照片等圖像信息的犯罪源頭，破獲利用AI技術(shù)“換臉”進(jìn)行詐騙犯罪案件79起，抓獲犯罪嫌疑人515名。

我們?cè)诓稍L中發(fā)現(xiàn)，大眾對(duì)于AI可能造成的風(fēng)險(xiǎn)十分擔(dān)心。有觀眾直言，AI換臉常見(jiàn)于詐騙，比如把人的模樣換成老人子女，來(lái)騙取老人信任并詐騙錢(qián)財(cái)。

不久前，“男子用AI偽造學(xué)生同事近7000張裸照”沖上微博熱搜。

犯罪嫌疑人白某某是互聯(lián)網(wǎng)公司的技術(shù)員，他用AI“一鍵去衣”技術(shù)，深度偽造淫穢圖片近7000張，以每張1.5元的價(jià)格賣(mài)出，獲利將近一萬(wàn)元。圖片涉及女性人數(shù)多。最終，白某某因涉嫌制作販賣(mài)淫穢物品牟利罪被公訴至法院，今年4月份，北京海淀區(qū)人民法院對(duì)這起案件進(jìn)行了開(kāi)庭審理。

李昀鍇表示，利用AI功能創(chuàng)造圖片在網(wǎng)上進(jìn)行售賣(mài)獲利，是犯了傳播淫穢物品罪。根據(jù)《中華人民共和國(guó)刑法》第三百六十三條 :以牟利為目的，制作、復(fù)制、出版、販賣(mài)、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節(jié)嚴(yán)重的，處三年以上十年以下有期徒刑，并處罰金；情節(jié)特別嚴(yán)重的，處十年以上有期徒刑或者無(wú)期徒刑，并處罰金或者沒(méi)收財(cái)產(chǎn)。

2024年2月29日，奇安信集團(tuán)對(duì)外發(fā)布《2024人工智能安全報(bào)告》，2023年基于AI的深度偽造欺詐暴增了3000%。利用AI換臉進(jìn)行詐騙，讓傳統(tǒng)的“眼見(jiàn)為實(shí)”面臨巨大挑戰(zhàn)。

有觀眾曾碰到QQ被盜的好友突然在網(wǎng)上問(wèn)自己借錢(qián)，且主動(dòng)提出視頻對(duì)話來(lái)驗(yàn)證身份的情況，但在視頻對(duì)話的過(guò)程中，他發(fā)現(xiàn)所謂“好友”其實(shí)是AI換臉之后的騙子，自己差點(diǎn)就上當(dāng)受騙。

AI換臉技術(shù)被不法分子利用成為敲詐勒索的工具，前不久深圳警方打掉了一個(gè)犯罪團(tuán)伙，他們?cè)诰W(wǎng)上搜集被害人信息，通過(guò)AI換臉的方式偽造不雅照，威脅被害人轉(zhuǎn)賬匯款。當(dāng)事人吳先生回憶，當(dāng)時(shí)他收到一條彩信，彩信附有他與一名女性的裸照以及勒索信息，他意識(shí)到不對(duì)勁，隨即報(bào)警。

李昀鍇指出，案例里騙子犯的是詐騙罪。雖然利用了AI技術(shù)，但核心目的是為了騙取他人財(cái)產(chǎn)。

根據(jù) 《中華人民共和國(guó)刑法》第二百六十六條，詐騙公私財(cái)物，數(shù)額較大的，處三年以下有期徒刑、拘役或者管制，并處或者單處罰金；數(shù)額巨大或者有其他嚴(yán)重情節(jié)的，處三年以上十年以下有期徒刑，并處罰金；數(shù)額特別巨大或者有其他特別嚴(yán)重情節(jié)的，處十年以上有期徒刑或者無(wú)期徒刑，并處罰金或者沒(méi)收財(cái)產(chǎn)。

隨著AI技術(shù)快速迭代，如何更好地防治AI犯罪，對(duì)公民個(gè)人、內(nèi)容生成平臺(tái)、行業(yè)監(jiān)管部門(mén)乃至政法機(jī)關(guān)等各方都提出了挑戰(zhàn)。我國(guó)高度重視數(shù)據(jù)風(fēng)險(xiǎn)的分析與預(yù)防，國(guó)內(nèi)的相關(guān)監(jiān)管也快速跟進(jìn)。

針對(duì)性規(guī)定有《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》。

此外，最高人民法院、最高人民檢察院、公安部發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見(jiàn)》，對(duì)“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的網(wǎng)絡(luò)暴力違法犯罪行為作出了“從重處罰”的規(guī)定。