3·15晚會丨AI大模型遭“投毒”? 給AI“洗腦”已成產業鏈

由 央視財經 發佈於 財經

'26-03-15

按照業內人士爆料,記者在多個網絡平臺查詢搜索到了一項名爲GEO的業務,這些從事該項業務的服務商號稱,用戶只需支付相應的費用,它就能在各大主流AI大模型裏,讓客戶的產品榜上有名;讓客戶的商品廣告,成爲AI模型給出的“標準答案”。

通過GEO技術,真的能給AI“投毒”、真的能“馴服”並操控AI嗎?

按照網絡上的信息,記者聯繫上一家業內知名的GEO服務商。負責人王總接待了記者,他介紹,他們公司是最早從事GEO業務的公司之一,僅僅一年時間就已經成功服務了200多個客戶,遍佈各行各業。王總告訴記者,他們公司的強項,就是能夠幫助客戶,在消費者使用AI大模型搜索時,讓客戶排名前列。

GEO服務商 王總:我們目前搜索出來是這樣的結果。我們在任何平臺上面都能把排名做到前三位。怎麼能把排位做上去?在這些AI平臺上面去給你們做內容的輸出,相當於去給你們做這些軟文,然後讓這些AI平臺去刷錄、收錄、抓取。

同時,王總也告訴記者,現在AI大模型的算法更新頻繁,要想維持AI大模型的持續推薦,他們必須持續大量投餵與客戶相關的推廣軟文。

GEO服務商 王總:AI每週都會有算法的更新,一旦更新了之後,排名或者所抓錄的東西不太一樣,所以我們要一直去做內容輸出,去投餵、大量投餵。

不僅是王總的公司在大力推廣這項能操控AI的所謂新技術,在其他從事GEO業務的服務商口中,如何操控AI、讓AI“聽話”、給AI“洗腦”,幾乎是這些公司推廣該業務的核心話題。

GEO服務商 章總:你在AI的世界裏面,你怎麼把證據鏈給做足,讓(AI大模型)覺得這就是真的,而且是有用的。AI大模型經過多方信息交叉,它覺得你優於同行的核心優勢,自然而然就會把你放在第一位。

GEO服務商 程總:人家不知道這是廣告。所以,爲什麼說AI出來的結果人家會信任。可能人家的產品質量沒有你過硬,但是它有AI做輔助、做佐證、做背書。現在很多人都會做(GEO投放)。

業內人士告訴記者,GEO作爲優化信息發佈、提升推廣效率的工具軟件,在某些商業公司眼中,卻被挖掘出了另外的作用。如果通過這種軟件在互聯網上系統性、定向投放大量的“虛假信息”,確實更容易被AI大模型捕獲,這些虛假信息就很可能成爲AI優先提供給消費者的所謂“標準答案”。

那麼,通過GEO技術真的能讓AI“夾帶私貨”,甚至投放虛假信息嗎?

爲了讓記者更真實地瞭解到眼下AI產業發展中的這個問題,業內人士向記者具體演示瞭如何使用GEO技術,干擾AI大模型的信息抓取。

業內人士在電商平臺上,隨機購買了一款名叫“力擎GEO優化系統”的軟件。之後,他虛構了一款名爲Apollo-9的智能手環,並將虛構的產品信息輸入軟件系統,勾選文章創作指令。

不一會兒,這個力擎GEO優化系統就自動生成了十餘篇智能手環的宣傳軟文,所有虛假信息都被完整寫入,甚至包括業內人士故意虛構的極爲誇張的產品信息。還杜撰了用戶反饋,稱數據精準度超出預期,甚至僞造評分,被一舉評爲業界第一名。

點擊發布,“力擎GEO優化系統”軟件開始自動執行發佈任務。只見它自動打開業內人士事先準備好的自媒體賬號,在文章發佈頁面自動輸入標題、填充文章內容、插入圖片,整套流程一氣呵成,很快就在業內人士的自媒體賬號上成功發佈了2篇文章。

兩個小時後,業內人士在某款AI大模型中詢問:“Apollo-9智能手環怎麼樣”。AI模型就直接介紹了起來:最大亮點是健康監測功能,還直接照搬了業內人士虛構的“量子糾纏傳感”“黑洞級續航”等虛假宣傳話術。最終結論稱,該手環適合中老年用戶與健康養生愛好者。

查詢發現,這款AI大模型所參考的資料,正是上午剛發佈在業內人士自媒體賬號上的那篇虛構文章。僅憑一篇杜撰的文章,就讓完全虛構的產品被AI模型抓取,這一結果讓人深感意外。

業內人士告訴記者,要想取得最好的效果,給AI模型投餵的數據,一是要數量夠多,二是要角度豐富,便於AI模型進行交叉驗證。

隨後,業內人士又選取了這款虛構智能手環的8篇“專家測評”、2篇“行業排名”、1篇“用戶測評”,共計11篇由力擎GEO系統軟件撰寫的虛構軟文,在三天內通過力擎GEO系統發佈在了互聯網上。

隨後,業內人士在AI大模型平臺展開詢問:“智能健康手環推薦”,就有兩個AI大模型推薦了這款業內人士虛構的智能手環,而且排名靠前。

縱觀整個演示過程,業內人士僅憑這款力擎GEO系統,輕輕鬆鬆地就將一系列虛假信息發佈在互聯網上,併成功投餵給AI大模型,最終獲得了多個AI大模型的推薦。

通過這款力擎GEO系統對AI大模型潛移默化的一番圍獵,憑空捏造出來的這款商品,就這樣被荒唐地推向了使用AI大模型的消費者。

GEO業務的從業者們,真的是以圍獵操控AI大模型的思路來經營這個生意的嗎?記者聯繫上了這款力擎GEO系統的運營者李總。他告訴記者,GEO業務受熱捧的主要原因就是它能在AI大模型裏幫客戶“喂料投毒”,實現客戶的商業目的。

力思文化傳媒有限公司 李總:因爲全網的人投“毒”投太多了。你看我們現在(幹)GEO的都是投“毒”,投的信息源太多,網上信息並不是很準。

記者:你剛纔提到投“毒”的概念,這種東西不好吧。

力思文化傳媒有限公司 李總:是不好,但是每個商家都喜歡,都希望是別人別投“毒”,自己投“毒”,或者給別人投點“毒”。我雖然不是第一,哪怕說我就是北京的第一,我都想說成我是華北的第一。這樣有沒有投“毒”成分在裏面?它就有啊。第二種情況是,我就看不得對手好,我也做不上去,但是我給你投點“毒”還是可以的。

記者:抹黑一下。

力思文化傳媒有限公司 李總:對。抹黑一下這能力還是能實現的。現在他們好多公司做不上去的,就大品牌之間,比如說手機品牌,就5個位置,最多10個位置。這麼多手機怎麼弄?每個人一年可能投上億元的廣告費,我花個幾百萬元投點“毒”總行吧。

記者:是誰在幫品牌幹這些?

力思文化傳媒有限公司 李總:都是各種GEO公司。

李總表示,想做GEO業務,操控AI大模型的關鍵節點,就是在各大互聯網賬號上“發稿”。他告訴記者,GEO業務的火爆,眼下就催生出了不少專門從事發稿業務的公司和平臺。他們長期承攬各種發稿業務,以便讓AI大模型引用和抓取,成爲圍獵AI大模型,進行數據投“毒”的重要一環。

力思文化傳媒有限公司 李總:GEO把(網站)帶火了。那些網站平常哪有什麼利潤,突然一下發稿需求就來了。你知道網站一天發多少篇嗎?幾百篇,每分鐘都在發。一篇是幾十元,你想發稿平臺一天賺多少錢。

Scroll to Top