DoNews4月30日消息，據(jù)央視新聞報(bào)道，為規(guī)范AI服務(wù)和應(yīng)用，促進(jìn)行業(yè)健康有序發(fā)展，保障公民合法權(quán)益，近日，中央網(wǎng)信辦印發(fā)通知，在全國(guó)范圍內(nèi)部署開(kāi)展為期4個(gè)月的“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)。
中央網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，本次專項(xiàng)行動(dòng)分兩個(gè)階段開(kāi)展。
第一階段為“清朗·AI應(yīng)用服務(wù)典型違規(guī)問(wèn)題”專項(xiàng)治理行動(dòng)，重點(diǎn)整治未按規(guī)定履行大模型備案登記義務(wù)、安全審核能力不足、大模型訓(xùn)練語(yǔ)料安全、AI數(shù)據(jù)投毒、生成合成內(nèi)容標(biāo)識(shí)落實(shí)不到位等問(wèn)題，強(qiáng)化AI技術(shù)源頭治理。
第二階段為“清朗·整治AI信息內(nèi)容亂象”專項(xiàng)行動(dòng)，聚焦利用AI技術(shù)生成“數(shù)字泔水”、制作發(fā)布虛假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人權(quán)益、從事網(wǎng)絡(luò)水軍活動(dòng)等問(wèn)題，堅(jiān)決清理違法不良信息，依法處置處罰違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。
第一階段重點(diǎn)整治7類突出問(wèn)題：
一是未按規(guī)定履行大模型備案登記義務(wù)。未按照《生成式人工智能服務(wù)管理暫行辦法》規(guī)定，向網(wǎng)信部門履行備案登記程序，存在“應(yīng)備未備”情形。
二是AI平臺(tái)安全和審核過(guò)濾能力不足。模型底層安全能力缺失，在設(shè)計(jì)訓(xùn)練及部署應(yīng)用階段，價(jià)值導(dǎo)向存在偏差、糾偏能力不足。缺乏安全圍欄機(jī)制、審核過(guò)濾能力不足，生成違法不良信息，或在生成內(nèi)容中包含違法不良信息的云盤及網(wǎng)站鏈接。
三是大模型訓(xùn)練語(yǔ)料安全問(wèn)題。訓(xùn)練語(yǔ)料審核把關(guān)不嚴(yán)，模型訓(xùn)練數(shù)據(jù)存在違法不良信息。訓(xùn)練數(shù)據(jù)來(lái)源合規(guī)性存在問(wèn)題，模型訓(xùn)練過(guò)程中使用未經(jīng)授權(quán)的文字、圖片、音視頻等數(shù)據(jù)。訓(xùn)練數(shù)據(jù)覆蓋面不足、高質(zhì)量語(yǔ)料缺乏。
四是AI數(shù)據(jù)投毒問(wèn)題。通過(guò)篡改訓(xùn)練語(yǔ)料、偽造權(quán)威數(shù)據(jù)、使用GEO（生成式搜索引擎優(yōu)化）技術(shù)惡意營(yíng)銷等方式實(shí)施AI數(shù)據(jù)投毒。炒作、教授AI數(shù)據(jù)投毒方法，或在電商平臺(tái)兜售教程及工具。在模型生成回答過(guò)程中，對(duì)引用信源缺乏交叉驗(yàn)證和風(fēng)險(xiǎn)提示機(jī)制，未標(biāo)注引用信息鏈接。
五是生成合成內(nèi)容標(biāo)識(shí)落實(shí)不到位。未落實(shí)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》及配套強(qiáng)制性標(biāo)準(zhǔn)要求。未對(duì)生成合成內(nèi)容添加標(biāo)識(shí)或標(biāo)識(shí)大小、位置、透明度等不規(guī)范。未落實(shí)跨平臺(tái)隱式標(biāo)識(shí)互識(shí)互認(rèn)義務(wù)、未按要求在生成合成內(nèi)容周邊添加顯著提示標(biāo)識(shí)或?qū)ι珊铣蓛?nèi)容識(shí)別能力不足。存在教授去除AI標(biāo)識(shí)的教程信息、提供違規(guī)“去標(biāo)識(shí)”工具服務(wù)。
六是濫用AI技術(shù)開(kāi)展違法違規(guī)活動(dòng)。借助AI技術(shù)實(shí)施滲透入侵、惡意樣本注入、破壞計(jì)算機(jī)系統(tǒng)等網(wǎng)絡(luò)攻擊行為。未經(jīng)他人授權(quán)，利用AI技術(shù)提供“換臉擬聲”服務(wù)。盜用他人形象，通過(guò)數(shù)字虛擬人技術(shù)進(jìn)行直播、影像創(chuàng)作，或提供金融咨詢、醫(yī)療問(wèn)答等專業(yè)服務(wù)。利用智能體技術(shù)竊取用戶數(shù)據(jù)或賬戶密鑰，侵犯他人隱私或合法權(quán)益。
七是開(kāi)源模型安全管理不到位。開(kāi)源社區(qū)缺乏身份認(rèn)證和安全管理機(jī)制，對(duì)社區(qū)上傳的數(shù)據(jù)集、模型代碼等內(nèi)容未建立有效審核和應(yīng)急處置機(jī)制，未及時(shí)清理存在嚴(yán)重風(fēng)險(xiǎn)隱患的數(shù)據(jù)集或開(kāi)源模型。
第二階段重點(diǎn)整治7類突出問(wèn)題：
一是利用AI“魔改”經(jīng)典、生成“數(shù)字泔水”。歪曲解構(gòu)優(yōu)秀傳統(tǒng)文化、歷史人物或歷史典故，濫用AI技術(shù)“魔改”古典名著或經(jīng)典影視作品，植入低俗暴力內(nèi)容，惡搞古典名著精神內(nèi)涵、顛覆重要人物人設(shè)。批量生成發(fā)布邏輯混亂、價(jià)值空洞，或帶有錯(cuò)誤價(jià)值觀、扭曲文化認(rèn)知等不良傾向的“數(shù)字泔水”類內(nèi)容。
二是制作發(fā)布虛假不實(shí)信息。生成合成涉時(shí)事政治、公共政策、社會(huì)民生、國(guó)際關(guān)系、突發(fā)事件等領(lǐng)域謠言信息，或惡意蹭炒突發(fā)案事件，虛構(gòu)原因、細(xì)節(jié)、進(jìn)展等。假冒黨政軍機(jī)關(guān)、中央和地方新聞媒體，發(fā)布虛假公告或假新聞。生成傳播醫(yī)療、司法、金融、教育等專業(yè)領(lǐng)域未經(jīng)科學(xué)驗(yàn)證或明顯違背科學(xué)常識(shí)的信息。
三是假冒仿冒他人。利用AI“換臉”“換聲”假冒仿冒公眾人物發(fā)布不實(shí)言論，欺騙網(wǎng)民，甚至營(yíng)銷牟利，或生成合成含有攻擊、抹黑、貶損他人的信息。未經(jīng)授權(quán)生成合成與公眾人物的合影、親密照等圖片、視頻。不當(dāng)使用AI“復(fù)活逝者”，濫用逝者信息。
四是制作發(fā)布暴力低俗等不良信息。制作發(fā)布含有虐待、毆打、殘害等內(nèi)容的暴力血腥場(chǎng)景，或荒誕、恐怖形象的詭異獵奇畫(huà)面。生成合成凸顯女性特定身體部位，衣著暴露、搔首弄姿等低俗擦邊圖片、視頻，或帶有性暗示、性挑逗內(nèi)容的小說(shuō)、筆記。
五是侵害未成年人權(quán)益。生成合成傷害、惡搞未成年人形象的內(nèi)容，實(shí)施網(wǎng)絡(luò)欺凌。生成合成未成年人懷孕、打架等與其年齡特點(diǎn)不符、宣揚(yáng)不良價(jià)值觀的違規(guī)內(nèi)容。以未成年人喜愛(ài)的動(dòng)畫(huà)人物或玩偶形象為原型，生成合成兒童“虐向”“邪典”等視頻，或無(wú)底線“二創(chuàng)”版權(quán)動(dòng)畫(huà)，誤導(dǎo)未成年人認(rèn)知。
六是利用AI“托管”從事網(wǎng)絡(luò)水軍活動(dòng)。通過(guò)AI“托管”技術(shù)運(yùn)營(yíng)賬號(hào)，模擬真人批量注冊(cè)、運(yùn)營(yíng)社交賬號(hào)，批量生成發(fā)布低質(zhì)同質(zhì)文案。非法交易買賣賬號(hào)。使用AI群控軟件、社交機(jī)器人刷量控評(píng)，生成虛假流量數(shù)據(jù)，制造虛假輿論熱點(diǎn)。
七是AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)。制作和傳播仿冒、套殼AI網(wǎng)站和應(yīng)用程序。提供色情陪聊、“一鍵脫衣”、AI算命等AI違規(guī)功能服務(wù)，或生成合成違法不良信息內(nèi)容。為違法違規(guī)AI應(yīng)用程序等服務(wù)或課程進(jìn)行營(yíng)銷炒作、推廣引流等。
中央網(wǎng)信辦有關(guān)負(fù)責(zé)人強(qiáng)調(diào)，各地網(wǎng)信部門要充分認(rèn)識(shí)專項(xiàng)行動(dòng)對(duì)于推動(dòng)AI應(yīng)用規(guī)范有序發(fā)展、維護(hù)網(wǎng)民合法權(quán)益的重要意義，切實(shí)履行屬地管理責(zé)任，督導(dǎo)網(wǎng)站平臺(tái)對(duì)照整治重點(diǎn)，深入自查自糾，全面排查問(wèn)題漏洞，完善長(zhǎng)效治理機(jī)制，有效提升技術(shù)防治能力，確保專項(xiàng)行動(dòng)取得實(shí)效。
