AI“換裝”切莫損害軍人警察形象

　　專(zhuān)家：明確AI生成特殊公職人員形象使用界限及法律后果

　　“這輩子沒(méi)機會(huì )真入伍，先整個(gè)‘電子軍裝’過(guò)把癮”“AI一鍵讓我穿上了綠色的軍裝，圓了我兒時(shí)夢(mèng)”“體驗一下穿上警服抓人的樣子，帥氣嗎”……近期，AI生成的“軍裝照”“警察抓人照”在短視頻平臺爆火，用戶(hù)上傳照片即可輕松“變身”。

　　多位專(zhuān)家接受《法治日報》記者采訪(fǎng)時(shí)指出，技術(shù)本無(wú)善惡，絕大多數網(wǎng)友借此表達對軍人、警察崇高職業(yè)的向往與敬仰之情，滿(mǎn)足了普通人體驗榮譽(yù)感的精神需求，無(wú)可厚非。但部分網(wǎng)友AI“換裝”軍人、警察照片、制作視頻，使用不良姿態(tài)、配上煙酒，混淆軍種、配發(fā)虛假案情等，不當消費甚至褻瀆軍人、警察形象，觸碰法律紅線(xiàn)，更潛藏多重社會(huì )風(fēng)險，亟待加強規范與治理。

　　AI“換裝”亂象叢生

　　記者發(fā)現，短視頻平臺上“AI軍裝照”制作教程流行，用戶(hù)只需上傳一張照片，即可一鍵生成軍裝照，有些照片還會(huì )配上坦克車(chē)、閱兵場(chǎng)等背景，看上去英姿颯爽。還有不少人發(fā)視頻教學(xué)：“網(wǎng)上很火的AI變身軍裝特效，很多人找不到制作入口，三秒教會(huì )你如何制作，學(xué)會(huì )快去試試?！?/p>

　　類(lèi)似的，“一鍵生成警察抓人”特效也廣受歡迎。有用戶(hù)設定如“因酒量差被帶走”“因打麻將賭博被抓”等戲謔或虛構的案情，生成自己被抓捕的圖片或視頻。

　　細觀(guān)這些AI生成的“軍人”“警察”形象，問(wèn)題重重。有業(yè)內人士舉例說(shuō)，有的混淆軍種制式亂搭亂配，有的勛章軍銜是錯誤的，不符合《中國人民解放軍內務(wù)條令》等規定的著(zhù)裝規范。

　　記者也注意到，網(wǎng)友發(fā)布的一些AI生成的“軍人形象”，有的勾肩搭背、站姿懶散、坐姿浮夸，有的手中拿著(zhù)煙酒，一副“混混形象”，與軍人應有的嚴整軍容相去甚遠。

　　還有些用戶(hù)上傳的并非自己照片，而是他人或者明星的照片。對此，北京市盈科律師事務(wù)所高級合伙人王風(fēng)和告訴記者，AI生成的圖片或視頻中，若人物形象可被識別，且未經(jīng)本人同意，依據民法典規定，未經(jīng)肖像權人同意，不得制作、使用、公開(kāi)肖像權人的肖像，但是法律另有規定的除外。這種行為已經(jīng)侵害了他人肖像權。

　　法律風(fēng)險不容忽視

　　對于上述AI“換裝”亂象，多數網(wǎng)友認為，這是對軍人、警察形象的不當消費和褻瀆，應當依法進(jìn)行整治，凈化網(wǎng)絡(luò )環(huán)境；也有少數網(wǎng)友認為，只是鬧著(zhù)玩，沒(méi)必要上綱上線(xiàn)。

　　多位受訪(fǎng)專(zhuān)家認為，上述AI“換裝”亂象，不僅損害了軍人、警察職業(yè)的莊重感，模糊了虛擬與現實(shí)的界限，會(huì )引發(fā)一系列社會(huì )危害，也涉嫌觸犯了法律紅線(xiàn)。

　　中國傳媒大學(xué)文化產(chǎn)業(yè)管理學(xué)院法律系教授周麗娜說(shuō)，“換裝”亂象的社會(huì )危害在于——

　　導致公信力受損。虛假內容的大肆傳播，將逐漸降低公眾對軍人、警察職業(yè)的信任程度，降低民眾對執法行為的敬畏感，進(jìn)而產(chǎn)生干擾正常執法工作的行為，影響法律的權威性與執行效能；

　　存在引發(fā)社會(huì )秩序混亂的潛在風(fēng)險?！凹賵谭ㄒ曨l”的傳播可能誤導公眾，引發(fā)不必要的恐慌，甚至可能誘發(fā)群體性事件，威脅社會(huì )穩定，擾亂正常的社會(huì )秩序；

　　產(chǎn)生技術(shù)濫用的示范效應。降低偽造內容的制作門(mén)檻，讓更多人能夠輕易制作并傳播虛假信息，這不僅會(huì )助長(cháng)灰色產(chǎn)業(yè)鏈的擴張，還可能導致更多不法分子跟風(fēng)效仿，從而進(jìn)一步加劇信息環(huán)境的混亂。

　　“軍人、警察等特殊群體，承擔著(zhù)處理國家公共事務(wù)、維護公共安全與公共利益的職責，有明確的制式服裝著(zhù)裝規范。在未獲得有關(guān)授權的情況下，若用AI生成某些能夠清晰表明其身份的圖片和視頻，或蓄意捏造、傳播與其職業(yè)形象不符的內容，將面臨不同程度的法律風(fēng)險?！敝茺惸日f(shuō)。

　　她進(jìn)一步分析道，依據國防法、軍人地位和權益保護法的相關(guān)規定，軍人應當受到全社會(huì )的尊崇；按照《互聯(lián)網(wǎng)軍事信息傳播管理辦法》，互聯(lián)網(wǎng)軍事信息服務(wù)提供者和用戶(hù)使用深度合成、生成式人工智能等新技術(shù)新應用，不得損害人民軍隊形象。相關(guān)法律法規明確保護軍人榮譽(yù)，若利用“換裝”生成的內容損害軍人形象，同樣會(huì )受到相應的處罰。

　　“生成警察抓人視頻并配上所謂警情通報，若內容虛假，涉嫌違反《生成式人工智能服務(wù)管理暫行辦法》中關(guān)于不得生成虛假有害信息的規定。若有人借此進(jìn)行詐騙或勒索他人財物，可能構成詐騙罪或敲詐勒索罪。警服、軍裝等有特定設計，受法律保護。若AI軟件在生成圖片和視頻時(shí)，未經(jīng)授權使用受版權保護的素材，如警服細節設計、特定字體的警情通報格式等，可能侵犯版權方權益?！蓖躏L(fēng)和說(shuō)。

　　平臺或擔連帶責任

　　受訪(fǎng)專(zhuān)家認為，除用戶(hù)外，對于類(lèi)似圖片和視頻的制作和傳播，平臺和AI軟件公司都應依法承擔相應法律責任。

　　在王風(fēng)和看來(lái)，根據《生成式人工智能服務(wù)管理暫行辦法》，平臺作為生成式人工智能服務(wù)提供者，若未對違法內容采取停止生成、停止傳輸、消除等處置措施，未向有關(guān)主管部門(mén)報告，需承擔法律責任；平臺還需按照規定對生成內容進(jìn)行標識，若未標識導致公眾混淆或誤解，也違反了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》。

　　此外，若平臺明知用戶(hù)利用其服務(wù)實(shí)施違法違規行為，卻未依法依約采取警示、限制功能等處置措施，需承擔相應連帶責任。

　　“對于A(yíng)I技術(shù)提供者或者開(kāi)發(fā)者，需確保訓練數據的合法性，若使用未經(jīng)授權的受版權保護作品(如他人照片、繪畫(huà)、視頻片段)作為訓練素材，可能構成對原權利人的著(zhù)作權侵權，需承擔賠償責任?！蓖躏L(fēng)和說(shuō)，AI技術(shù)提供者或開(kāi)發(fā)者應采取技術(shù)措施防范工具被用于違法活動(dòng)，如檢測技術(shù)、限制生成色情、暴力、虛假信息等違法內容的功能。若未設置必要的安全限制，導致工具被用于詐騙、誹謗、危害國家安全等行為，可能因“提供幫助”承擔連帶責任。

　　完善立法合規審查

　　受訪(fǎng)專(zhuān)家指出，治理此類(lèi)亂象需壓實(shí)各方責任，形成合力，在尊重法律與職業(yè)尊嚴的前提下，引導技術(shù)發(fā)揮積極價(jià)值。

　　周麗娜建議，在制度層面進(jìn)一步健全法律法規。明確AI生成特殊公職人員形象的使用界限、責任劃分以及法律后果，特別是針對損害公職人員形象、濫用職業(yè)標識等行為，細化法律條文，提升法律的針對性與可操作性。落實(shí)標識制度，嚴格遵循《人工智能生成內容標識辦法》，確保AI生成的涉及公職人員形象的內容均添加“AI生成”標識，涵蓋顯式標識和隱式元數據，便于公眾識別，減少誤解和虛假信息的傳播。

　　從操作層面而言，作為產(chǎn)品研發(fā)者，應精心做好產(chǎn)品設計，嚴格把控訓練數據的入口以及AI生成的出口。要始終將合規性放在首要位置，不為流量和娛樂(lè )因素所干擾。相關(guān)主管部門(mén)在審核App時(shí)，對于涉及生成特殊公職人員形象的人工智能產(chǎn)品，需強化模型的合規性審查。同時(shí)，可以設置技術(shù)門(mén)檻，要求相關(guān)應用程序具備一定的合規檢測功能后，方可上線(xiàn)運營(yíng)。

　　從平臺層面來(lái)說(shuō)，平臺需切實(shí)履行主體責任，對AI“換裝”相關(guān)內容設置顯著(zhù)標識，并建立審核機制。對于存在公職人員形象誤用、虛假包裝、侵犯他人權利等問(wèn)題的內容，應及時(shí)下架封禁。進(jìn)一步提升技術(shù)審核能力，充分利用人工智能技術(shù)優(yōu)勢，開(kāi)發(fā)更為精準的內容審核算法，通過(guò)圖像識別、語(yǔ)義分析等技術(shù)，對AI“換裝”生成的內容進(jìn)行實(shí)時(shí)監測，及時(shí)發(fā)現違法違規內容。在用戶(hù)使用相關(guān)功能前，以彈窗等形式提示法律風(fēng)險和使用規范。

　　“還應加強對公眾的法治教育和職業(yè)尊重教育，提高民眾對軍人、警察等職業(yè)形象重要性的認識，以及對相關(guān)法律規定的了解，引導民眾自覺(jué)抵制和不傳播不當內容。同時(shí)向公眾普及AI內容的識別方法，降低被騙、被誤導風(fēng)險?！蓖躏L(fēng)和說(shuō)。

　　本報記者 張守坤