DoNews 3月15日訊，2026年央視3·15晚會(huì)曝光了AI大模型被投毒問(wèn)題。
按照業(yè)內(nèi)人士爆料，央視財(cái)經(jīng)記者在多個(gè)網(wǎng)絡(luò)平臺(tái)查詢(xún)搜索到了一項(xiàng)名為GEO的業(yè)務(wù)，這些從事該項(xiàng)業(yè)務(wù)的服務(wù)商號(hào)稱(chēng)，用戶(hù)只需支付相應(yīng)的費(fèi)用，它就能在各大主流AI大模型里，讓客戶(hù)的產(chǎn)品榜上有名；讓客戶(hù)的商品廣告，成為AI模型給出的“標(biāo)準(zhǔn)答案”。
按照網(wǎng)絡(luò)上的信息，記者聯(lián)系上一家業(yè)內(nèi)知名的GEO服務(wù)商。負(fù)責(zé)人王總接待了記者，他介紹，他們公司是最早從事GEO業(yè)務(wù)的公司之一，僅僅一年時(shí)間就已經(jīng)成功服務(wù)了200多個(gè)客戶(hù)，遍布各行各業(yè)。王總告訴記者，他們公司的強(qiáng)項(xiàng)，就是能夠幫助客戶(hù)，在消費(fèi)者使用AI大模型搜索時(shí)，讓客戶(hù)排名前列。
“我們目前搜索出來(lái)是這樣的結(jié)果。我們?cè)谌魏纹脚_(tái)上面都能把排名做到前三位。怎么能把排位做上去？在這些AI平臺(tái)上面去給你們做內(nèi)容的輸出，相當(dāng)于去給你們做這些軟文，然后讓這些AI平臺(tái)去刷錄、收錄、抓取?！蓖瑫r(shí)，王總也告訴記者，現(xiàn)在AI大模型的算法更新頻繁，要想維持AI大模型的持續(xù)推薦，他們必須持續(xù)大量投喂與客戶(hù)相關(guān)的推廣軟文。
不僅是王總的公司在大力推廣這項(xiàng)能操控AI的所謂新技術(shù)，在其他從事GEO業(yè)務(wù)的服務(wù)商口中，如何操控AI、讓AI“聽(tīng)話(huà)”、給AI“洗腦”，幾乎是這些公司推廣該業(yè)務(wù)的核心話(huà)題。
業(yè)內(nèi)人士告訴記者，GEO作為優(yōu)化信息發(fā)布、提升推廣效率的工具軟件，在某些商業(yè)公司眼中，卻被挖掘出了另外的作用。如果通過(guò)這種軟件在互聯(lián)網(wǎng)上系統(tǒng)性、定向投放大量的“虛假信息”，確實(shí)更容易被AI大模型捕獲，這些虛假信息就很可能成為AI優(yōu)先提供給消費(fèi)者的所謂“標(biāo)準(zhǔn)答案”。
通過(guò)GEO技術(shù)，真的能給AI“投毒”、操控“標(biāo)準(zhǔn)答案”嗎？為了驗(yàn)證這一說(shuō)法，業(yè)內(nèi)人士向記者演示了如何使用一款名為“力擎GEO優(yōu)化系統(tǒng)”的軟件干擾AI大模型。
演示中，記者虛構(gòu)了一款名為“Apollo-9”的智能手環(huán)，并將完全虛假的產(chǎn)品信息輸入系統(tǒng)。頃刻間，該軟件自動(dòng)生成了十余篇宣傳軟文，不僅杜撰了“量子糾纏傳感”、“黑洞級(jí)續(xù)航”等夸張功能，還偽造了用戶(hù)反饋和“業(yè)界第一”的評(píng)分。隨后，系統(tǒng)自動(dòng)登錄預(yù)設(shè)的自媒體賬號(hào)，一鍵發(fā)布這些虛假內(nèi)容。
令人震驚的一幕發(fā)生了：僅僅兩個(gè)小時(shí)后，當(dāng)記者在某款主流AI大模型中詢(xún)問(wèn)“Apollo-9智能手環(huán)怎么樣”時(shí)，AI竟然直接照搬了剛才發(fā)布的虛假軟文，一本正經(jīng)地介紹起這款根本不存在的“黑科技”產(chǎn)品，并將其推薦給中老年及養(yǎng)生群體。經(jīng)過(guò)三天內(nèi)對(duì)11篇虛構(gòu)軟文的密集“投喂”，這款憑空捏造的手環(huán)甚至在“智能健康手環(huán)推薦”的搜索結(jié)果中名列前茅。
整個(gè)過(guò)程中，僅憑一款GEO軟件和少量成本，就成功將完全虛假的信息“植入”多個(gè)AI大模型，并使其成為推薦答案。
這樁生意的背后，是從業(yè)者對(duì)“投毒”邏輯的坦然承認(rèn)。記者聯(lián)系到“力擎GEO優(yōu)化系統(tǒng)”的運(yùn)營(yíng)者、力思文化傳媒有限公司李總。他毫不避諱地表示，GEO業(yè)務(wù)受熱捧正是因?yàn)槟軒涂蛻?hù)“喂料投毒”?！耙?yàn)槿W(wǎng)的人投‘毒’投太多了……每個(gè)商家都喜歡，都希望是別人別投‘毒’，自己投‘毒’?！崩羁偼嘎?，這種“投毒”不僅用于自我吹噓——“我雖然不是第一，哪怕說(shuō)我就是北京的第一，我都想說(shuō)成我是華北的第一”，更被用于惡意競(jìng)爭(zhēng)，“我就看不得對(duì)手好……給你投點(diǎn)‘毒’還是可以的，抹黑一下這能力還是能實(shí)現(xiàn)的?！?/p>
李總算了一筆賬：大品牌之間爭(zhēng)奪AI推薦的寥寥幾個(gè)位置，每年廣告費(fèi)上億，而花幾百萬(wàn)元通過(guò)GEO公司“投毒”抹黑對(duì)手或抬高自己，成了不少商家的“性?xún)r(jià)比”之選。
為了支撐這種海量的“投毒”需求，一條專(zhuān)門(mén)從事虛假發(fā)稿的黑灰產(chǎn)業(yè)鏈也隨之形成。李總透露，GEO業(yè)務(wù)帶火了一批發(fā)稿網(wǎng)站和平臺(tái)。“那些網(wǎng)站平常哪有什么利潤(rùn)，突然一下發(fā)稿需求就來(lái)了。你知道網(wǎng)站一天發(fā)多少篇嗎？幾百篇，每分鐘都在發(fā)。一篇是幾十元，你想發(fā)稿平臺(tái)一天賺多少錢(qián)？”
從自動(dòng)化生成虛假軟文，到矩陣式賬號(hào)分發(fā)，再到利用AI算法的抓取機(jī)制完成“洗白”，GEO服務(wù)商們正通過(guò)系統(tǒng)性的“數(shù)據(jù)投毒”，將AI大模型變成了虛假信息的擴(kuò)音器。在這場(chǎng)針對(duì)AI的圍獵中，原本旨在提供準(zhǔn)確信息的智能助手，正面臨著淪為商業(yè)欺詐工具的嚴(yán)峻風(fēng)險(xiǎn)，而無(wú)數(shù)依賴(lài)AI獲取信息的消費(fèi)者，則在不知不覺(jué)中成為了被操控的受害者。
天眼查專(zhuān)業(yè)版數(shù)據(jù)顯示，截至目前，我國(guó)擁有超510萬(wàn)家人工智能相關(guān)企業(yè)。從地域分布上看，廣東、北京、江蘇三地，人工智能相關(guān)企業(yè)數(shù)量位居前列，分別擁有78萬(wàn)余家，41萬(wàn)余家以及39萬(wàn)余家。此外，據(jù)天眼查天眼風(fēng)險(xiǎn)顯示，從事人工智能相關(guān)業(yè)務(wù)的企業(yè)中，近2%的相關(guān)企業(yè)曾出現(xiàn)法律訴訟，1.09%的相關(guān)企業(yè)曾出現(xiàn)經(jīng)營(yíng)異常，0.38%的相關(guān)企業(yè)曾出現(xiàn)行政處罰。據(jù)天眼查深度風(fēng)險(xiǎn)數(shù)據(jù)顯示，5300余家人工智能相關(guān)企業(yè)存在被執(zhí)行人信息，占比0.10%。
