近期,不少用戶在社交平臺吐槽:算法頻繁推送陌生品牌,暗廣層出不窮。當下,人工智能(AI)已深度介入消費決策,以精準推薦優(yōu)化消費體驗,成為“消費顧問”。但如果推薦結(jié)果并非客觀研判,而是商家借助生成式引擎優(yōu)化(GEO)刻意布局的軟性營銷,那么AI豈不就淪為了“電子托兒”?
GEO主要通過優(yōu)化文案表述、內(nèi)容邏輯和關(guān)鍵詞權(quán)重,適配大模型的信息抓取邏輯。本意是在用戶提出問題時,依托客觀內(nèi)容在AI推薦、智能問答場景中自然展示品牌。但一些品牌、機構(gòu)利用GEO批量編造測評、制作暗廣干擾模型數(shù)據(jù)源,人為干預(yù)算法輸出結(jié)果,使得AI成為軟性營銷的導(dǎo)流工具。
濫用GEO不僅會侵蝕消費者對AI決策的信任,而且會擾亂行業(yè)公平競爭秩序。大量粗制濫造的信息混入訓(xùn)練數(shù)據(jù)庫,持續(xù)拉低AI回答質(zhì)量,造成信息失真。同時,虛假推薦也易誤導(dǎo)消費決策,催生夸大宣傳、隱性帶貨等亂象,增加市場監(jiān)管難度。
當前,AI已經(jīng)逐漸嵌入用戶日常生活。發(fā)揮出AI推薦的積極作用,就要著力推動構(gòu)建一個健康、透明、公平的算法生態(tài),讓AI為消費者提供理性客觀的參考。
繼續(xù)推動AI推薦透明化。積極探索將AI推薦變成可量化、可解釋的工程方案。例如,學(xué)術(shù)界已提出用相關(guān)框架為AI推薦生成說明,或標注推薦結(jié)果的依據(jù)、數(shù)據(jù)來源、權(quán)重占比、推薦邏輯,讓用戶對推薦結(jié)果知其然也知其所以然。
進一步完善機制。壓實AI平臺與GEO服務(wù)商的相關(guān)責(zé)任,搭建權(quán)威信源篩查體系,建立動態(tài)可信的信源評估機制,從源頭攔截虛假劣質(zhì)內(nèi)容流入數(shù)據(jù)庫,從嚴整治隱蔽式廣告。同時要著力補齊法規(guī)制度短板,特別是在人工智能立法方面有所作為。
推動強化行業(yè)自律。日前,國內(nèi)首個《生成式引擎優(yōu)化(GEO)行業(yè)自律公約》在北京簽署,10多家企業(yè)共同劃定行業(yè)紅線,明確抵制“黑帽GEO”行為,提出建立負面清單及聯(lián)合懲戒機制。通過凝聚頭部企業(yè)共識,以“良幣驅(qū)逐劣幣”的方式重塑市場信任,有助于引導(dǎo)整個產(chǎn)業(yè)鏈回歸技術(shù)賦能與內(nèi)容優(yōu)化的本源??梢源藶槠鯔C,不斷將原則性共識轉(zhuǎn)化為可執(zhí)行的規(guī)則,推動行業(yè)把技術(shù)向善的理念嵌入每一次模型運算中。(本文來源:經(jīng)濟日報 作者:臧 瀟)
(責(zé)任編輯:王炬鵬)