近期，一段“諸葛亮開(kāi)直播帶貨”的視頻，在部分網(wǎng)絡(luò)平臺(tái)傳播。視頻中，羽扇綸巾的“諸葛亮”對(duì)著鏡頭用現(xiàn)代話術(shù)推銷商品，彈幕里飄著“劉備”“司馬懿”的評(píng)論，內(nèi)容荒誕。這些通過(guò)AI生成的“魔改”視頻，常以歪曲、低俗化的方式改編經(jīng)典文藝形象與歷史敘事，通過(guò)網(wǎng)絡(luò)平臺(tái)的傳播，對(duì)青少年群體產(chǎn)生不良影響。
為整治“AI魔改”亂象，國(guó)家廣播電視總局自2026年1月1日起，在全國(guó)范圍內(nèi)開(kāi)展為期一個(gè)月的專項(xiàng)治理，要求網(wǎng)絡(luò)視聽(tīng)平臺(tái)落實(shí)主體責(zé)任，強(qiáng)化內(nèi)容審核把關(guān)，堅(jiān)決清理違規(guī)內(nèi)容，處置亂象突出的賬號(hào)，扭轉(zhuǎn)“AI魔改”視頻蔓延的不良態(tài)勢(shì)，為青少年健康成長(zhǎng)營(yíng)造良好網(wǎng)絡(luò)空間。
“AI魔改”現(xiàn)象引人憂
中青報(bào)·中青網(wǎng)記者采訪的多位家長(zhǎng)表達(dá)了對(duì)“AI魔改”現(xiàn)象的擔(dān)憂。北京家長(zhǎng)王曼曼(化名)說(shuō)，她10歲的兒子最近常看“搞笑版歷史人物”視頻，“雖然視頻里的人物名字大家都熟悉，但行為和臺(tái)詞完全不對(duì)，孩子有時(shí)會(huì)當(dāng)真，還拿這些內(nèi)容來(lái)考我們”。她擔(dān)心這種情況會(huì)影響孩子對(duì)歷史知識(shí)的學(xué)習(xí)。
深圳家長(zhǎng)陳晨(化名)發(fā)現(xiàn)，上小學(xué)的女兒在看過(guò)一些“暗黑風(fēng)格”的卡通改編短片后，夜間會(huì)害怕，問(wèn)家長(zhǎng)“為什么可愛(ài)的卡通人物會(huì)受傷流血”。
在一些獵奇“AI魔改”視頻的評(píng)論區(qū)，有網(wǎng)友留言稱“第一次看很新奇，看多了就只剩無(wú)聊”。不少網(wǎng)友表達(dá)對(duì)過(guò)度“AI魔改”的不滿，認(rèn)為這類內(nèi)容“毫無(wú)內(nèi)涵”“令人不適”。
有業(yè)內(nèi)人士揭示此類內(nèi)容得以傳播的機(jī)制：這些新奇、反常甚至令人不適的“AI魔改”橋段，往往第一時(shí)間抓人眼球，觸發(fā)算法的推薦機(jī)制，從而獲得流量。一些制作者便以此為捷徑，將AI創(chuàng)作重心放在制造反差及追求感官刺激上。
追逐流量變現(xiàn)“怎么離譜怎么來(lái)”
這些內(nèi)容的走紅并非偶然，制作和傳播“AI魔改”視頻已形成一套完整的運(yùn)作體系。
自媒體博主金宇(化名)在網(wǎng)絡(luò)平臺(tái)上看到一條改編自《甄嬛傳》的AI生成視頻，內(nèi)容與原劇情節(jié)形成巨大反差，獲得很高的互動(dòng)數(shù)據(jù)。這讓他意識(shí)到此類內(nèi)容可能存在市場(chǎng)機(jī)會(huì)，于是開(kāi)始模仿制作。
金宇介紹，通常制作者需要先從影視作品中獲取原始畫(huà)面素材，隨后使用具備“圖生視頻”功能的AI工具，對(duì)靜態(tài)畫(huà)面輸入特定文字指令，例如要求畫(huà)面中人物做出某種不符合原劇設(shè)定的現(xiàn)代行為，就此生成一段反差感十足的動(dòng)態(tài)短片。
若需讓人物“說(shuō)”出新的臺(tái)詞，流程則更為復(fù)雜，需結(jié)合語(yǔ)音克隆與口型同步技術(shù)，先復(fù)制演員音色生成新語(yǔ)音，再調(diào)整人物嘴型與之匹配。最后，通過(guò)剪輯軟件將生成的視頻片段、音效與字幕進(jìn)行合成。
金宇告訴記者，運(yùn)營(yíng)“AI魔改”賬號(hào)的核心在于“蹭熱點(diǎn)”。他舉例，“比如‘甄嬛會(huì)武術(shù)’的‘魔改’視頻火了，我們要將同一創(chuàng)意‘遷移’到《紅樓夢(mèng)》中的林黛玉、《三國(guó)演義》中的關(guān)羽等經(jīng)典人物身上，快速制作出‘黛玉會(huì)武術(shù)’‘關(guān)羽會(huì)武術(shù)’等一系列內(nèi)容。”
自媒體博主徐青(化名)說(shuō)，“AI魔改”的關(guān)鍵在于制造強(qiáng)烈的反差感與新奇感，例如讓古裝人物使用現(xiàn)代物品，或演繹完全不符合其原本身份的行為。他認(rèn)為，這種極致的反差是內(nèi)容在網(wǎng)絡(luò)平臺(tái)獲取瞬時(shí)關(guān)注的有效手段。
驅(qū)動(dòng)整個(gè)流程運(yùn)轉(zhuǎn)的終極目標(biāo)是流量變現(xiàn)。據(jù)金宇介紹，最基礎(chǔ)的變現(xiàn)方式是通過(guò)多個(gè)平臺(tái)發(fā)布內(nèi)容，依靠播放量獲取平臺(tái)補(bǔ)貼。當(dāng)賬號(hào)粉絲數(shù)量增長(zhǎng)到一定規(guī)模時(shí)，就可能接到商業(yè)廣告訂單。
此外，“教人做號(hào)”也成為一條生財(cái)之道。徐青建立了一個(gè)數(shù)百人的付費(fèi)社群，將相關(guān)操作歸納為一套標(biāo)準(zhǔn)流程進(jìn)行傳授，從素材獲取、AI生成、音頻處理，到后期合成等環(huán)節(jié)，都有對(duì)應(yīng)的工具軟件。
視頻創(chuàng)作者對(duì)流量變現(xiàn)的追逐，是此類內(nèi)容滑向“怎么離譜怎么來(lái)”的重要推手?！啊瓵I魔改’的核心不是創(chuàng)作，而是想盡辦法把流量快速變成錢?！毙烨嘀毖浴?/p>
“AI魔改”治理正當(dāng)時(shí)
業(yè)內(nèi)人士認(rèn)為，隨著對(duì)AI生成內(nèi)容治理不斷推進(jìn)，平臺(tái)不僅是信息分發(fā)的“通道”，更應(yīng)被視為網(wǎng)絡(luò)內(nèi)容生態(tài)的“第一責(zé)任人”與“核心治理主體”，須對(duì)所傳播內(nèi)容的安全性與導(dǎo)向性承擔(dān)明確管理責(zé)任。
2024年年底，“全國(guó)首例AI文生視頻侵權(quán)糾紛案”宣判。湖南省長(zhǎng)沙市開(kāi)福區(qū)人民法院認(rèn)定某網(wǎng)絡(luò)公司通過(guò)其開(kāi)發(fā)的“AI一鍵成片”功能，非法傳播《慶余年》短視頻片段行為構(gòu)成侵權(quán)，判令其賠償原告《慶余年》版權(quán)方某科技公司經(jīng)濟(jì)損失及合理支出共計(jì)80萬(wàn)元，并立即停止侵權(quán)行為。長(zhǎng)沙市中級(jí)人民法院二審維持原判決。
長(zhǎng)沙市開(kāi)福區(qū)人民法院審理認(rèn)為，本案中，某網(wǎng)絡(luò)公司沒(méi)有獲得權(quán)利人的授權(quán)，就通過(guò)某軟件的AI功能，向用戶提供3秒到7秒的《慶余年》片段，涉案作品素材片段屬于視聽(tīng)作品的組成部分，具有獨(dú)創(chuàng)性，應(yīng)當(dāng)受到法律保護(hù)，網(wǎng)絡(luò)公司將素材片段上傳至服務(wù)器，使公眾能夠自主獲得，該行為已落入信息網(wǎng)絡(luò)傳播權(quán)控制范圍。作為AI服務(wù)的提供者，網(wǎng)絡(luò)公司沒(méi)有履行應(yīng)盡的注意義務(wù)，也沒(méi)有建立有效的知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)防范機(jī)制。法院認(rèn)定被告公司通過(guò)AI功能傳播《慶余年》片段的行為存在明顯過(guò)錯(cuò)，侵犯了原告的信息網(wǎng)絡(luò)傳播權(quán)。
2月2日，國(guó)家廣播電視總局發(fā)布“AI魔改”視頻專項(xiàng)治理工作進(jìn)展通報(bào)，指出專項(xiàng)治理工作啟動(dòng)以來(lái)，各主要網(wǎng)絡(luò)視聽(tīng)平臺(tái)切實(shí)履行主體責(zé)任，強(qiáng)化排查處置，抓好落實(shí)整改，查處一批違法違規(guī)典型案例，確保治理取得實(shí)效。在專項(xiàng)治理期間，累計(jì)清理相關(guān)違規(guī)視頻2.3萬(wàn)條、處置違規(guī)賬號(hào)100余個(gè)。
通報(bào)稱，將持續(xù)開(kāi)展“AI魔改”視頻治理工作，構(gòu)建常態(tài)化、制度化的長(zhǎng)效機(jī)制，堅(jiān)持標(biāo)本兼治，督導(dǎo)各網(wǎng)絡(luò)視聽(tīng)平臺(tái)進(jìn)一步強(qiáng)化主體責(zé)任，持續(xù)營(yíng)造健康的網(wǎng)絡(luò)視聽(tīng)空間。
相關(guān)網(wǎng)絡(luò)平臺(tái)發(fā)布治理報(bào)告。淘寶平臺(tái)2月1日發(fā)布專項(xiàng)治理總結(jié)報(bào)告顯示，治理重點(diǎn)圍繞多個(gè)方面展開(kāi)，包括嚴(yán)禁對(duì)四大名著、歷史及革命題材、英模故事等經(jīng)典作品進(jìn)行歪曲內(nèi)核、顛覆形象的改編；清理通過(guò)AI生成并傳播的含有低俗、暴力、獵奇或違背公序良俗的內(nèi)容；禁止篡改中華文明符號(hào)、混淆歷史，誤導(dǎo)文化認(rèn)同；全面清理以經(jīng)典動(dòng)畫(huà)形象為原型惡意生成的恐怖、低俗等違規(guī)內(nèi)容，強(qiáng)化未成年人保護(hù)。
相關(guān)平臺(tái)表示將持續(xù)落實(shí)專項(xiàng)治理要求，提升對(duì)AI生成違規(guī)內(nèi)容的識(shí)別與處置能力，對(duì)違規(guī)內(nèi)容和賬號(hào)從嚴(yán)處理，并呼吁廣大用戶共同舉報(bào)違規(guī)行為，維護(hù)清朗有序的網(wǎng)絡(luò)社區(qū)環(huán)境。
中青報(bào)·中青網(wǎng)記者 劉胤衡
2026年02月25日 03版
（責(zé)任編輯：梁艷）
晉公網(wǎng)安備 14090202000008號(hào) 
