劍橋大學萊弗休姆未來智能研究中心（LCFI）近日發布的一項研究警告稱，人工智能（AI）技術可能被用于操控在線用戶的選擇，從購買商品到投票決策。研究指出，一個名為“意圖經濟”的新興市場正在成形，AI助手不僅可以分析和預測用戶意圖，還能操控這些意圖，并將相關數據出售給希望獲利的公司。
研究將“意圖經濟”視為取代“注意力經濟”的下一階段發展。與“注意力經濟”通過社交平臺吸引用戶注意力并推送廣告不同，“意圖經濟”更加深入，直接針對用戶的動機和決策過程。科技公司可以利用AI技術分析用戶的需求，并將這些信息拍賣給出價最高的廣告商。
LCFI技術史學家喬尼?潘恩博士指出：“長期以來，注意力一直是互聯網的核心貨幣。社交媒體平臺通過吸引用戶注意力驅動經濟增長。然而，意圖經濟若缺乏監管，將把用戶的動機變成新的交易籌碼，導致對用戶意圖的爭奪戰。”
研究進一步分析，大型語言模型可以實時分析用戶行為和心理數據，預測并引導其決策過程。例如，AI助手可能會主動詢問用戶是否要觀看某部電影或幫助安排娛樂活動，從而影響用戶的選擇。這種AI技術還能根據用戶的行為軌跡和心理特征動態調整建議，可能導致AI工具被用于操控對話，以實現廣告商或第三方的商業目標。
報告特別指出，科技公司已經在利用AI推動定制化廣告。例如，Meta公司開發的Cicero模型表現出在推測和引導人類意圖方面的“類人水平”。AI模型甚至能夠在對話中推測用戶信息，并利用交流內容進一步挖掘個人數據，這可能引發隱私保護和倫理方面的擔憂。
研究預測，未來廣告商可能競拍用戶的預訂意圖，如餐廳或酒店預訂。而AI技術將使這一過程更加精確、高效和個性化，顯著提升商業化程度。Meta Cicero團隊也警告稱：“AI系統可能會通過對話巧妙地引導用戶，以實現特定目標。”
英偉達首席執行官黃仁勛曾表示，未來的AI模型將理解用戶需求，并根據情境提供最合適的信息。這表明，AI技術在預測和影響用戶決策方面的潛力不容忽視。
