為規(guī)范AI服務(wù)和應(yīng)用,，促進(jìn)行業(yè)健康有序發(fā)展,，保障公民合法權(quán)益，近日，中央網(wǎng)信辦印發(fā)通知,，在全國(guó)范圍內(nèi)部署開(kāi)展為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng),。

中央網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,，本次專項(xiàng)行動(dòng)分兩個(gè)階段開(kāi)展,。第一階段強(qiáng)化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序,，加強(qiáng)AI生成合成技術(shù)和內(nèi)容標(biāo)識(shí)管理,，推動(dòng)網(wǎng)站平臺(tái)提升檢測(cè)鑒偽能力。第二階段聚焦利用AI技術(shù)制作發(fā)布謠言,、不實(shí)信息,、色情低俗內(nèi)容，假冒他人,、從事網(wǎng)絡(luò)水軍活動(dòng)等突出問(wèn)題,，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號(hào),、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái),。

第一階段重點(diǎn)整治6類突出問(wèn)題：

一是違規(guī)AI產(chǎn)品。利用生成式人工智能技術(shù)向公眾提供內(nèi)容服務(wù)，但未履行大模型備案或登記程序,。提供“一鍵脫衣”等違背法律,、倫理的功能。在未經(jīng)授權(quán)同意情況下,，克隆,、編輯他人聲音、人臉等生物特征信息,，侵犯他人隱私,。

二是傳授、售賣違規(guī)AI產(chǎn)品教程和商品,。傳授利用違規(guī)AI產(chǎn)品偽造換臉視頻,、換聲音頻等教程信息,。售賣違規(guī)“語(yǔ)音合成器”“換臉工具”等商品信息,。營(yíng)銷、炒作,、推廣違規(guī)AI產(chǎn)品信息,。

三是訓(xùn)練語(yǔ)料管理不嚴(yán)。使用侵犯他人知識(shí)產(chǎn)權(quán),、隱私權(quán)等權(quán)益的信息,。使用網(wǎng)上爬取的虛假、無(wú)效,、不實(shí)內(nèi)容,。使用非法來(lái)源數(shù)據(jù)。未建立訓(xùn)練語(yǔ)料管理機(jī)制,，未定期排查清理違規(guī)語(yǔ)料,。

四是安全管理措施薄弱。未建立與業(yè)務(wù)規(guī)模相適應(yīng)的內(nèi)容審核,、意圖識(shí)別等安全措施,。未建立有效的違規(guī)賬號(hào)管理機(jī)制。未定期開(kāi)展安全自評(píng)估,。社交平臺(tái)對(duì)通過(guò)API接口接入的AI自動(dòng)回復(fù)等服務(wù)底數(shù)不清,、把關(guān)不嚴(yán)。

五是未落實(shí)內(nèi)容標(biāo)識(shí)要求,。服務(wù)提供者未對(duì)深度合成內(nèi)容添加隱式,、顯式內(nèi)容標(biāo)識(shí)，未向使用者提供或提示顯式內(nèi)容標(biāo)識(shí)功能,。內(nèi)容傳播平臺(tái)未開(kāi)展生成合成內(nèi)容監(jiān)測(cè)甄別,，導(dǎo)致虛假信息誤導(dǎo)公眾。

六是重點(diǎn)領(lǐng)域安全風(fēng)險(xiǎn)。已備案AI產(chǎn)品提供醫(yī)療,、金融,、未成年人等重點(diǎn)領(lǐng)域問(wèn)答服務(wù)的，未針對(duì)性設(shè)置行業(yè)領(lǐng)域安全審核和控制措施,，出現(xiàn)“AI開(kāi)處方”“誘導(dǎo)投資”“AI幻覺(jué)”等問(wèn)題,，誤導(dǎo)學(xué)生、患者,，擾亂金融市場(chǎng)秩序,。

第二階段重點(diǎn)整治7類突出問(wèn)題：

一是利用AI制作發(fā)布謠言。無(wú)中生有,、憑空捏造涉時(shí)事政治,、公共政策、社會(huì)民生,、國(guó)際關(guān)系,、突發(fā)事件等各類謠言信息，或擅自妄測(cè),、惡意解讀重大方針政策,。借突發(fā)案事件、災(zāi)難事故等,，編造,、捏造原因、進(jìn)展,、細(xì)節(jié)等,。冒充官方新聞發(fā)布會(huì)或新聞報(bào)道，發(fā)布謠言信息,。利用AI認(rèn)知偏差生成的內(nèi)容進(jìn)行惡意引導(dǎo),。

二是利用AI制作發(fā)布不實(shí)信息。將無(wú)關(guān)圖文,、視頻拼湊剪輯,，生成虛實(shí)混雜、半真半假的信息,。模糊修改事件發(fā)生的時(shí)間,、地點(diǎn)、人物等要素,，翻炒舊聞,。制作發(fā)布涉財(cái)經(jīng)、教育,、司法,、醫(yī)療衛(wèi)生等專業(yè)領(lǐng)域的夸大、偽科學(xué)等不實(shí)內(nèi)容。借助AI算命,、AI占卜等誤導(dǎo)欺騙網(wǎng)民,，傳播迷信思想。

三是利用AI制作發(fā)布色情低俗內(nèi)容,。利用AI脫衣,、AI繪圖等功能生成合成色情內(nèi)容或他人不雅圖片、視頻,，衣著暴露,、搔首弄姿等軟色情、二次元擦邊形象,，或扮丑風(fēng)等導(dǎo)向不良內(nèi)容,。制作發(fā)布血腥暴力場(chǎng)景，人體扭曲變形,、超現(xiàn)實(shí)怪物等恐怖詭譎畫面,。生成合成“小黃文”“葷段子”等性暗示意味明顯的小說(shuō)、帖文,、筆記,。

四是利用AI假冒他人實(shí)施侵權(quán)違法行為,。通過(guò)AI換臉,、聲音克隆等深度偽造技術(shù)，假冒專家,、企業(yè)家,、明星等公眾人物，欺騙網(wǎng)民,，甚至營(yíng)銷牟利,。借AI對(duì)公眾人物或歷史人物進(jìn)行惡搞、抹黑,、歪曲,、異化。利用AI冒充親友,，從事網(wǎng)絡(luò)詐騙等違法活動(dòng),。不當(dāng)使用AI“復(fù)活逝者”，濫用逝者信息,。

五是利用AI從事網(wǎng)絡(luò)水軍活動(dòng),。利用AI技術(shù)“養(yǎng)號(hào)”，模擬真人批量注冊(cè),、運(yùn)營(yíng)社交賬號(hào),。利用AI內(nèi)容農(nóng)場(chǎng)或AI洗稿，批量生成發(fā)布低質(zhì)同質(zhì)化文案，博取流量,。使用AI群控軟件,、社交機(jī)器人批量點(diǎn)贊跟帖評(píng)論，刷量控評(píng),，制造熱點(diǎn)話題上榜,。

六是AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)。制作和傳播仿冒,、套殼AI網(wǎng)站和應(yīng)用程序,。AI應(yīng)用程序提供違規(guī)功能服務(wù)，例如創(chuàng)作類工具提供“熱搜熱榜熱點(diǎn)擴(kuò)寫成文”等功能,，AI社交,、陪聊軟件等提供低俗軟色情對(duì)話服務(wù)等。提供違規(guī)AI應(yīng)用程序,、生成合成服務(wù)或課程的售賣,、推廣引流等。

七是侵害未成年人權(quán)益,。AI應(yīng)用程序誘導(dǎo)未成年人沉迷,、在未成年人模式下存在影響未成年人身心健康的內(nèi)容等。

中央網(wǎng)信辦有關(guān)負(fù)責(zé)人強(qiáng)調(diào),，各地網(wǎng)信部門要充分認(rèn)識(shí)專項(xiàng)行動(dòng)對(duì)于防范AI技術(shù)濫用風(fēng)險(xiǎn),，維護(hù)網(wǎng)民合法權(quán)益的重要意義。切實(shí)履行屬地管理責(zé)任,，督導(dǎo)網(wǎng)站平臺(tái)對(duì)照專項(xiàng)行動(dòng)有關(guān)要求,，健全AI生成合成內(nèi)容審核機(jī)制，提升技術(shù)檢測(cè)能力,，做好整改落實(shí),。加強(qiáng)人工智能相關(guān)政策的宣傳推廣和人工智能素養(yǎng)的科普教育，引導(dǎo)各方正確認(rèn)識(shí)和應(yīng)用人工智能技術(shù),，不斷凝聚治理共識(shí),。

編輯：陳翠

責(zé)任編輯：余鳳

編審：吳山冠