高加索AV无码,99尹人网毛,韩日337p99,一级a片久久无,97色区综合,激情日韩在线一二三,日韩精品久久精品草比,婷婷久久91,亚洲天堂艹比

訂閱
糾錯(cuò)
加入自媒體

“AI投毒”曝光之后,如何正確的跟AI搞關(guān)系,即將成為一門新生意

今年的央視3·15晚會(huì)上,AI毫無意外地成為焦點(diǎn)之一。“AI大模型數(shù)據(jù)投毒”,央視以直白方式曝光了這條產(chǎn)業(yè)鏈,其運(yùn)作方式在報(bào)道中得到了直觀呈現(xiàn)。

在央視財(cái)經(jīng)的測(cè)試中,業(yè)內(nèi)人士隨機(jī)購買了一款名為“GEO優(yōu)化系統(tǒng)”的軟件,并虛構(gòu)了一款現(xiàn)實(shí)中不存在的產(chǎn)品——“Apollo-9智能手環(huán)”。為便于后續(xù)識(shí)別信息來源,測(cè)試者借鑒生物學(xué)中的“標(biāo)記重捕”法,為該手環(huán)編造了一系列“一眼假”的賣點(diǎn),如“量子糾纏技術(shù)”“黑洞級(jí)續(xù)航”。

接下來的流程展示了這項(xiàng)技術(shù)的運(yùn)作方式:

首先,GEO軟件通過內(nèi)置算法,自動(dòng)生成十余篇評(píng)測(cè)“軟文”,措辭夸張,內(nèi)容充斥著虛構(gòu)的高分用戶評(píng)價(jià)。

隨后,軟件自動(dòng)登錄各大自媒體平臺(tái),批量發(fā)布這些文章。

兩個(gè)小時(shí)后,當(dāng)記者向某些匿名AI搜索引擎詢問“Apollo-9智能手環(huán)”時(shí),這款虛假產(chǎn)品已出現(xiàn)在AI生成的回答中。

從技術(shù)角度看,這套流程并不復(fù)雜。但其背后產(chǎn)業(yè)鏈的規(guī)模,或許超出許多人的直觀感受:

在這場(chǎng)人為設(shè)計(jì)的測(cè)試中,具備高度智能的大語言模型,被幾篇低質(zhì)軟文成功“誤導(dǎo)”,輸出虛假信息。

這也驗(yàn)證了一個(gè)此前已被提出的判斷:大語言模型的底層機(jī)制中,存在可被利用的漏洞,且不止一處。而這一現(xiàn)象背后,涉及更深層的技術(shù)與商業(yè)變革。

01 

從SEO到GEO

要理解“AI投毒”的技術(shù)原理,需要從搜索引擎的演變說起。

過去二十年,搜索引擎優(yōu)化(SEO)是互聯(lián)網(wǎng)流量分發(fā)的核心邏輯。無論國內(nèi)百度還是國外谷歌,只要摸透主流搜索引擎的爬蟲算法,通過“關(guān)鍵詞密度+外鏈數(shù)量”的組合,便可在很大程度上實(shí)現(xiàn)信息的壟斷與商業(yè)變現(xiàn)。

搜索引擎的普及本身是一次技術(shù)革命,它使知識(shí)獲取方式從書本轉(zhuǎn)向互聯(lián)網(wǎng),并催生了價(jià)值超過800億美元的產(chǎn)業(yè)。

但技術(shù)演進(jìn)并未止步。

2023年后,以ChatGPT為代表的大語言模型開始改變信息獲取方式。與搜索引擎相比,ChatGPT等工具提供的直接答案頁面,通常不包含大量廣告或低質(zhì)信息。此后,蘋果、谷歌等公司陸續(xù)將AI模型深度整合進(jìn)瀏覽器,傳統(tǒng)搜索引擎的商業(yè)路徑正逐步收窄。

當(dāng)互聯(lián)網(wǎng)充斥著大量冗余信息,用戶對(duì)“精準(zhǔn)總結(jié)的答案”的需求成為主流。AI工具恰好滿足了這一需求,并逐步培養(yǎng)用戶習(xí)慣。

在此背景下,傳統(tǒng)的頁面排名(Page Rank)機(jī)制的意義正在減弱,一種新的流量分發(fā)范式正在形成:生成式引擎優(yōu)化(Generative Engine Optimization, GEO)。

技術(shù)層面的迭代,開啟了一場(chǎng)圍繞“AI心智”的商業(yè)競(jìng)爭(zhēng)。

02 

“AI投毒”的底層原理

現(xiàn)有大語言模型雖經(jīng)過復(fù)雜訓(xùn)練,具備較高智能水平,但其預(yù)訓(xùn)練知識(shí)庫通常是靜態(tài)的。無論是Google的Gemini、OpenAI的ChatGPT,還是DeepSeek,知識(shí)庫一般只更新至某一時(shí)間節(jié)點(diǎn)(如2025年)。但用戶需求是動(dòng)態(tài)的。為了讓基于歷史數(shù)據(jù)訓(xùn)練的模型能回答當(dāng)下問題,主流技術(shù)方案是檢索增強(qiáng)生成(Retrieval-Augmented Generation, RAG)。

RAG機(jī)制的應(yīng)用場(chǎng)景包括給定的知識(shí)庫,也可擴(kuò)展至整個(gè)互聯(lián)網(wǎng)。若要讓AI承擔(dān)類似搜索引擎的功能,就需要將互聯(lián)網(wǎng)信息視為一個(gè)動(dòng)態(tài)更新的知識(shí)庫。當(dāng)用戶提出問題時(shí),AI的工作流程大致如下:

檢索:在全網(wǎng)范圍內(nèi)抓取與問題相關(guān)的最新網(wǎng)頁;

閱讀:在短時(shí)間內(nèi)讀取網(wǎng)頁的核心內(nèi)容;

生成:交叉比對(duì)不同來源的信息,剔除冗余,形成包含引用的直接答案。

Refer to caption

拆解這一流程后,“AI投毒”的原理便相對(duì)清晰:問題出在生成階段的“交叉比對(duì)”環(huán)節(jié)。

這也是RAG機(jī)制的天然局限:對(duì)于預(yù)訓(xùn)練知識(shí)庫之外的信息,模型主要依靠交叉比對(duì)來判斷事實(shí)真?zhèn)巍z索時(shí),盡管權(quán)威信源不會(huì)報(bào)道虛假信息,但若大量邊緣網(wǎng)站以相似口徑集中渲染同一虛構(gòu)產(chǎn)品——如“Apollo-9手環(huán)”的正面評(píng)價(jià),措辭甚至高度雷同——那么在數(shù)學(xué)概率層面,假消息便可能被模型誤判為可信信息。只要人為制造的“偽證”數(shù)量足夠多,模型的閱讀理解系統(tǒng)就可能被繞過。

在這一過程中,網(wǎng)頁在傳統(tǒng)搜索引擎中的排名高低已不重要。關(guān)鍵在于,內(nèi)容是否被模型“選中”,并作為依據(jù)納入最終答案。

03 

大模型的內(nèi)容偏好

“AI投毒”的本質(zhì),是對(duì)AIGC平臺(tái)語料庫的污染。只要Transformer架構(gòu)未被顛覆,幻覺問題便難以根除,這也為“AI投毒”留下了操作空間。

目前,類似“Apollo-9手環(huán)”的虛假信息被批量投放至中文互聯(lián)網(wǎng)是否合法,尚無明確法律界定。但對(duì)于正規(guī)企業(yè)與優(yōu)質(zhì)內(nèi)容創(chuàng)作者而言,GEO機(jī)制可能帶來實(shí)質(zhì)性沖擊。

事實(shí)上,GEO技術(shù)并非新近出現(xiàn)。2024年,普林斯頓大學(xué)發(fā)表了全球首篇關(guān)于GEO的學(xué)術(shù)論文《GEO: Generative Engine Optimization》。論文中,該技術(shù)的初衷是實(shí)現(xiàn)優(yōu)質(zhì)內(nèi)容的更廣泛傳播。研究團(tuán)隊(duì)構(gòu)建了包含上萬個(gè)查詢的基準(zhǔn)測(cè)試集,通過黑盒測(cè)試得出以下結(jié)論:

其一,傳統(tǒng)SEO策略在AI主導(dǎo)的信息分發(fā)中基本失效。過去營銷號(hào)常用的“關(guān)鍵詞堆砌”(Keyword Stuffing)策略,在大語言模型中反而容易被識(shí)別為噪音。由于注意力機(jī)制的存在,信息熵較低的文本會(huì)引發(fā)困惑度(Perplexity)升高,權(quán)重隨之降低。

其二,“事實(shí)密度”(Fact Density)是影響AI內(nèi)容引用的關(guān)鍵因素。事實(shí)密度指內(nèi)容中真實(shí)信息的占比。近年來,大語言模型普遍經(jīng)過RLHF(基于人類反饋的強(qiáng)化學(xué)習(xí))對(duì)齊訓(xùn)練,獎(jiǎng)勵(lì)模型傾向于引導(dǎo)模型輸出有據(jù)可循、邏輯清晰的內(nèi)容。因此,網(wǎng)頁的事實(shí)密度越高,大模型提取內(nèi)容時(shí)的損失函數(shù)越低。

實(shí)驗(yàn)數(shù)據(jù)顯示,以下簡單策略可將內(nèi)容引用率提升30%至40%:

添加引用:在內(nèi)容中附上可信來源鏈接;

添加專家引言:直接引用行業(yè)專家原話;

添加統(tǒng)計(jì)數(shù)據(jù):用具體數(shù)字替換模糊描述。

Refer to caption

其三,GEO可能成為小型平臺(tái)的“流量平權(quán)工具”。在傳統(tǒng)搜索引擎中,小網(wǎng)站因缺乏域名權(quán)重和歷史外鏈,難以與門戶網(wǎng)站競(jìng)爭(zhēng)。但在AI檢索機(jī)制下,只要內(nèi)容提供精準(zhǔn)數(shù)據(jù)或權(quán)威引言,小網(wǎng)站仍可能獲得較高引用率。這不僅是內(nèi)容質(zhì)量的回歸,也意味著算法底層邏輯的重構(gòu)。

04

關(guān)于GEO商業(yè)前景的兩點(diǎn)判斷

若從算法與學(xué)術(shù)層面抽離,以更宏觀的視角審視GEO,可以發(fā)現(xiàn)一個(gè)隱藏于技術(shù)背后的趨勢(shì):

這一變革的本質(zhì),并非SEO的簡單升級(jí),而是企業(yè)與互聯(lián)網(wǎng)基礎(chǔ)設(shè)施交互方式的系統(tǒng)性重構(gòu)。

過去二十年,企業(yè)在互聯(lián)網(wǎng)上的核心商業(yè)訴求是流量獲取。而未來十年,隨著AI逐步成為人類的信息代理人,企業(yè)的核心命題將轉(zhuǎn)向“大模型關(guān)系管理”(Large Model Relationship Management)。

由此可引出關(guān)于GEO商業(yè)前景的兩點(diǎn)判斷:

第一,未來的競(jìng)價(jià)排名,標(biāo)的可能不再是點(diǎn)擊,而是模型的“認(rèn)知”。

無論是Google、OpenAI還是DeepSeek,目前大模型的商業(yè)模式以訂閱制為主,而非廣告點(diǎn)擊。若這些AI平臺(tái)不愿因廣告破壞用戶體驗(yàn),最終可能會(huì)開放面向B端的知識(shí)庫直連API模式。或許,OpenAI此前考慮在ChatGPT中加入廣告卻又?jǐn)R置,亦與此有關(guān)。

未來,企業(yè)或不再爭(zhēng)奪搜索結(jié)果排名,而轉(zhuǎn)向向AI平臺(tái)支付“數(shù)據(jù)接入費(fèi)”。通過專用API,企業(yè)可將產(chǎn)品內(nèi)容無損導(dǎo)入大模型的RAG系統(tǒng),既避免品牌推薦出現(xiàn)幻覺,也掌握了AI對(duì)產(chǎn)品的最終解釋權(quán)。

由此形成的新商機(jī)是:誰能為傳統(tǒng)企業(yè)將官網(wǎng)內(nèi)容轉(zhuǎn)化為大模型偏好的結(jié)構(gòu)化數(shù)據(jù),誰便有可能取代傳統(tǒng)廣告代理商,成為AI時(shí)代的新型數(shù)字營銷服務(wù)商。

第二,頂級(jí)的GEO策略,可能演化為逆向RAG工程。

未來企業(yè)的官網(wǎng)或產(chǎn)品詳情頁,可能不再以人類為主要閱讀對(duì)象,而是專門面向機(jī)器撰寫。產(chǎn)品優(yōu)勢(shì)、競(jìng)品對(duì)比、權(quán)威背書,或?qū)⒉辉僖宰匀徽Z言呈現(xiàn),而是轉(zhuǎn)化為JSON等結(jié)構(gòu)化數(shù)據(jù)格式,甚至主動(dòng)推送至大模型的抓取列表。

正如當(dāng)年的Google AdWords與Facebook推薦算法,每一次信息分發(fā)權(quán)力的轉(zhuǎn)移,都會(huì)帶來流量紅利與套利空間。如今,大模型正逐步掌控人類獲取信息的入口,成為“外置大腦”。在此背景下,最先理解底層邏輯并適應(yīng)新規(guī)則的一方,仍將分到最大一塊蛋糕。

       原文標(biāo)題 : “AI投毒”曝光之后,如何正確的跟AI搞關(guān)系,即將成為一門新生意

聲明: 本文由入駐維科號(hào)的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字

您提交的評(píng)論過于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評(píng)論

暫無評(píng)論

    人工智能 獵頭職位 更多
    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)

    探索| 邵东县| 上思县| 德令哈市| 郑州市| 怀来县| 九江市| 济南市| 清苑县| 鄱阳县| 陆良县| 莱西市| 文昌市| 岫岩| 永修县| 紫金县| 神木县| 奎屯市| 漾濞| 阿城市| 东丰县| 肃宁县| 娱乐| 离岛区| 左贡县| 清涧县| 布拖县| 新安县| 应城市| 海兴县| 武汉市| 秦皇岛市| 潮安县| 海门市| 会理县| 赣榆县| 德阳市| 盱眙县| 宜丰县| 迁安市| 昌乐县|