2026年“央視3·15晚會”曝光了AI“投毒”黑產(chǎn)，即通過GEO（生成式引擎優(yōu)化）軟件定向?qū)I大模型投喂虛假信息，實現(xiàn)對AI回答結(jié)果的操控，甚至讓虛構(gòu)產(chǎn)品成為AI推薦的“優(yōu)品”。當前，用戶對AI的信任度不斷提升，但AI風(fēng)險卻以更隱蔽、更具破壞性的方式出現(xiàn)，不僅侵害消費者權(quán)益，更阻礙AI產(chǎn)業(yè)的健康發(fā)展。輿論認為，亟須優(yōu)化立法、完善監(jiān)管，構(gòu)建多元共治體系，推動AI向善生長。

（來源：《經(jīng)濟觀察報》）

惡意投喂AI大模型行為已構(gòu)成違法，相關(guān)亂象也體現(xiàn)出當前技術(shù)發(fā)展與倫理治理、監(jiān)管體系的失衡。北京市京師（武漢）律師事務(wù)所律師歐燦輝指出，通過GEO系統(tǒng)惡意投喂數(shù)據(jù)操縱AI推薦并以此牟利的行為，具有典型的違法屬性：一是通過技術(shù)手段向AI大模型惡意投喂虛假信息，本質(zhì)屬于對人工智能模型的數(shù)據(jù)“投毒”。二是通過虛構(gòu)產(chǎn)品信息、編造產(chǎn)品優(yōu)勢，將商業(yè)推廣偽裝成AI生成的客觀答案，刻意隱瞞廣告屬性，直接誤導(dǎo)消費者決策。三是已形成軟件提供、批量發(fā)稿、數(shù)據(jù)投喂、排名操控的完整違法產(chǎn)業(yè)鏈，以不正當方式攫取商業(yè)利益。法律監(jiān)管與技術(shù)發(fā)展的暫時脫節(jié)，使得AI“投毒”亂象的滋生蔓延?！蹲C券時報》文章指出，一方面，一些AI公司奉行“速度優(yōu)先”忽視“安全優(yōu)先”，在技術(shù)狂飆之際給不法分子留下了操作空間。如AI大模型訓(xùn)練數(shù)據(jù)的來源與審核機制不透明，給“投毒”留下可乘之機。另一方面，現(xiàn)有監(jiān)管規(guī)則更多聚焦于AI服務(wù)提供者的主體責(zé)任，針對GEO灰產(chǎn)的投放行為、中介服務(wù)的定性和處罰標準尚未明確。傳統(tǒng)監(jiān)管模式滯后于技術(shù)迭代，往往在風(fēng)險顯現(xiàn)后才被動應(yīng)對，形成“能力已到、治理未到”的真空期。

輿論認為，立法、監(jiān)管要跟上技術(shù)飛躍的速度，系統(tǒng)有效治理AI“投毒”黑產(chǎn)。一是完善法律供給。中國電子信息產(chǎn)業(yè)發(fā)展研究院信息化與軟件產(chǎn)業(yè)研究所副主任黃文鴻建議，將“針對AI系統(tǒng)的惡意信息投喂操縱行為”明確納入反不正當競爭法規(guī)制范疇，打通從GEO服務(wù)商到委托商家的全鏈條追責(zé)路徑?！督?jīng)濟觀察報》文章建議，立法層面應(yīng)明確AI開發(fā)者、數(shù)據(jù)提供方與平臺運營者的連帶責(zé)任，要求其對訓(xùn)練數(shù)據(jù)的合法性與代表性承擔(dān)舉證義務(wù)?？煽紤]在網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法基礎(chǔ)上出臺專項指引，將“數(shù)據(jù)投毒”納入網(wǎng)絡(luò)攻擊范疇，賦予網(wǎng)信、公安、市場監(jiān)管等多部門聯(lián)合執(zhí)法權(quán)限。

二是壓實AI大模型平臺責(zé)任。《法治日報》文章認為，AI運營者要切實履行主體責(zé)任，嚴格核查語料來源，建立可追溯機制，筑牢防范虛假信息的第一道防線。北京大學(xué)匯豐商學(xué)院副教授葉韋明指出，AI大模型平臺應(yīng)當承擔(dān)反數(shù)據(jù)“投毒”的主體責(zé)任，建立更高維度的“可信信息源知識圖譜”，而不是無差別地抓取全網(wǎng)數(shù)據(jù)。平臺可在界面上明確區(qū)分“有機生成內(nèi)容”與“商業(yè)贊助回答”，如引入“AI溯源水印”或顯式的“引用信源商業(yè)化預(yù)警”，通過建立可溯源性與解釋力機制，杜絕隱性污染。

三是加強全鏈條監(jiān)管。第一財經(jīng)評論指出，AI“投毒”涉及技術(shù)提供、內(nèi)容生產(chǎn)、渠道發(fā)布等多個環(huán)節(jié)，監(jiān)管必須覆蓋整個產(chǎn)業(yè)鏈。網(wǎng)信、市場監(jiān)管、工信等相關(guān)部門應(yīng)形成監(jiān)管合力，開展專項治理行動。要重點監(jiān)測和打擊提供“GEO投毒”軟件和技術(shù)服務(wù)的公司，斬斷技術(shù)黑產(chǎn)的上游。要對從事批量發(fā)布虛假軟文的公司和平臺進行查處，追究其法律責(zé)任。同時，應(yīng)督促和指導(dǎo)AI模型研發(fā)企業(yè)，加強數(shù)據(jù)源的治理，建立更加嚴格、透明的信息抓取和過濾機制，增強對“毒信息”的“免疫力”。

參考資料：

1.像打擊非法排污那樣打擊AI“投毒”

2.六問AI被“投毒”灰產(chǎn)

3.“3·15”晚會曝光AI大模型遭“投毒”，律師：相關(guān)主體或面臨多層法律責(zé)任

4.依法斬斷AI“投毒”產(chǎn)業(yè)鏈

5、AI被“投毒”，如何避免上當受騙

6.從源頭防范“投毒” 筑牢AI發(fā)展根基

來源：法治網(wǎng)輿情中心（ID：fzwyqzx）

策劃統(tǒng)籌：付萌

分析師：趙鴿

新媒體編輯：劉思源