在數(shù)字時(shí)代浪潮中，信息內(nèi)容安全與合規(guī)成為互聯(lián)網(wǎng)治理的核心議題。近期公布的數(shù)據(jù)顯示，僅2023年上半年，依托人工智能等新技術(shù)，我國(guó)在線數(shù)據(jù)處理與交易處理業(yè)務(wù)中，累計(jì)識(shí)別、攔截與處置的有害信息已達(dá)145.4億條。這一龐大數(shù)字不僅反映了網(wǎng)絡(luò)空間治理的嚴(yán)峻挑戰(zhàn)，更彰顯了技術(shù)創(chuàng)新在凈化網(wǎng)絡(luò)環(huán)境、保障數(shù)據(jù)安全方面發(fā)揮的關(guān)鍵作用。

人工智能，特別是機(jī)器學(xué)習(xí)與自然語(yǔ)言處理技術(shù)，已成為內(nèi)容審核的“中流砥柱”。傳統(tǒng)的“人工+規(guī)則”審核模式面對(duì)海量、實(shí)時(shí)、多形態(tài)（文本、圖像、音頻、視頻）的網(wǎng)絡(luò)數(shù)據(jù)流早已力不從心。而AI模型通過(guò)深度學(xué)習(xí)海量樣本，能夠以毫秒級(jí)速度對(duì)涉嫌違法違規(guī)、虛假謠言、色情暴力、詐騙侵權(quán)等多元有害信息進(jìn)行精準(zhǔn)識(shí)別與分類，極大地提升了處理效率和覆蓋廣度。例如，通過(guò)計(jì)算機(jī)視覺(jué)技術(shù)識(shí)別違規(guī)圖片與視頻，通過(guò)語(yǔ)義分析捕捉隱蔽的惡意文本，通過(guò)圖神經(jīng)網(wǎng)絡(luò)追蹤跨平臺(tái)信息傳播鏈條，構(gòu)成了多維度、智能化的治理網(wǎng)絡(luò)。

在線數(shù)據(jù)處理與交易處理業(yè)務(wù)作為數(shù)字經(jīng)濟(jì)的基礎(chǔ)設(shè)施，其安全、穩(wěn)定、合規(guī)運(yùn)行至關(guān)重要。該業(yè)務(wù)涉及大量用戶數(shù)據(jù)流轉(zhuǎn)與交易指令處理，是有害信息與網(wǎng)絡(luò)攻擊企圖滲透的重點(diǎn)領(lǐng)域。AI技術(shù)的深度應(yīng)用，不僅體現(xiàn)在事后審核，更實(shí)現(xiàn)了事中風(fēng)險(xiǎn)預(yù)警與事前防范。通過(guò)用戶行為分析、異常模式檢測(cè)、實(shí)時(shí)風(fēng)險(xiǎn)評(píng)分等技術(shù)，系統(tǒng)能夠在交易與數(shù)據(jù)處理過(guò)程中動(dòng)態(tài)評(píng)估風(fēng)險(xiǎn)，及時(shí)中斷可疑操作，有效防范數(shù)據(jù)泄露、金融欺詐、非法交易等安全事件，保障業(yè)務(wù)本質(zhì)安全。

這145.4億條有害信息的成功處置，是技術(shù)、法規(guī)與產(chǎn)業(yè)協(xié)同共治的成果。一方面，《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》等法律法規(guī)為治理提供了明確依據(jù)與責(zé)任框架；另一方面，各平臺(tái)與服務(wù)提供商積極履行主體責(zé)任，持續(xù)加大技術(shù)研發(fā)投入，優(yōu)化審核算法模型，并建立“AI研判+人工復(fù)核”的協(xié)同機(jī)制，以平衡處理效率與準(zhǔn)確率。行業(yè)間也加強(qiáng)了數(shù)據(jù)共享與威脅情報(bào)聯(lián)動(dòng)，共同提升整體防御能力。

隨著生成式AI等技術(shù)的快速發(fā)展，網(wǎng)絡(luò)有害信息的形式可能更加復(fù)雜多變，對(duì)內(nèi)容治理提出更高要求。這需要持續(xù)推動(dòng)AI治理技術(shù)本身的進(jìn)化，發(fā)展更強(qiáng)大的可解釋AI、深度偽造檢測(cè)、跨模態(tài)內(nèi)容理解等能力。也應(yīng)注重科技倫理，在高效治理與保護(hù)用戶隱私、促進(jìn)信息自由流動(dòng)之間尋求平衡，構(gòu)建清朗、安全、可信的網(wǎng)絡(luò)空間，為數(shù)字經(jīng)濟(jì)的健康繁榮筑牢根基。