中央網(wǎng)信辦整治AI技術(shù)濫用處置違規(guī)產(chǎn)品3500余款

中央網(wǎng)信辦日前表示，清朗·整治AI技術(shù)濫用專項(xiàng)行動(dòng)第一階段工作取得積極進(jìn)展，累計(jì)處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬余條，處置賬號3700余個(gè)。

據(jù)了解，清朗·整治AI技術(shù)濫用專項(xiàng)行動(dòng)自今年4月啟動(dòng)以來，聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識(shí)缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象，深入推進(jìn)第一階段重點(diǎn)整治任務(wù)，部署各地網(wǎng)信部門加大違規(guī)AI產(chǎn)品處置力度，切斷違規(guī)產(chǎn)品營銷引流渠道，督促重點(diǎn)網(wǎng)站平臺(tái)健全技術(shù)安全保障措施，推動(dòng)生成合成內(nèi)容標(biāo)識(shí)加速落地。

各地網(wǎng)信部門多措并舉、扎實(shí)推進(jìn)，積極履行屬地管理責(zé)任。北京網(wǎng)信辦開設(shè)AI技術(shù)濫用治理舉報(bào)渠道，形成用戶標(biāo)記—平臺(tái)核查—聯(lián)合處置工作模式，處置有關(guān)舉報(bào)26篇。上海網(wǎng)信辦推動(dòng)標(biāo)識(shí)要求落地示范，組織開展4場法規(guī)宣貫和專題交流，覆蓋企業(yè)400余家，重點(diǎn)企業(yè)已基本完成顯式標(biāo)識(shí)規(guī)范上線。浙江網(wǎng)信辦加大對AI應(yīng)用和網(wǎng)站平臺(tái)的督導(dǎo)力度，各平臺(tái)共攔截清理各類違法違規(guī)信息及提問2550萬余條。江蘇網(wǎng)信辦加強(qiáng)統(tǒng)籌協(xié)調(diào)，聯(lián)合江蘇省通信管理局等部門排查AI風(fēng)險(xiǎn)域名163個(gè)，封堵和取消接入域名18個(gè)。天津網(wǎng)信辦采用人工+技術(shù)方式，開展大模型安全監(jiān)測，通報(bào)4批次14個(gè)風(fēng)險(xiǎn)問題。

據(jù)介紹，中央網(wǎng)信辦將聚焦AI造謠、低俗內(nèi)容等7類突出問題，開展清朗·整治AI技術(shù)濫用專項(xiàng)行動(dòng)第二階段工作，構(gòu)建技術(shù)監(jiān)測體系，形成處置處罰規(guī)范，推動(dòng)內(nèi)容標(biāo)識(shí)如期落地，形成長效工作機(jī)制，著力維護(hù)清朗網(wǎng)絡(luò)生態(tài)，推動(dòng)人工智能向善向好。