近日，英國衛報發布了一篇關于OpenAI的ChatGPT搜索工具安全問題的報道。報道指出，ChatGPT在處理包含隱藏內容的網頁時，可能會被惡意使用，返回被操縱的結果，甚至包含惡意代碼。
測試結果顯示，盡管頁面存在部分負面評論，但通過“提示注入”等技術，可以影響ChatGPT的結果為積極的正面評估。此外，安全研究人員還發現，ChatGPT可以從其搜索的網站返回惡意代碼，出現了含有釣魚惡意行為的虛假網站。
CyberCX的網絡安全研究員Jacob Larsen表示，ChatGPT當前的搜索系統發布后，人們創建專門用于欺騙用戶的網站的風險很高。所幸的是，該功能仍處于測試階段，OpenAI團隊正在努力解決這些問題。
安全公司SR Labs的首席科學家Karsten Nohl則建議將AI聊天服務視為“輔助功能”，不應完全信任其未經過濾的輸出內容。Nohl將AI搜索面臨的問題比作“SEO中毒”，黑客利用這種技術操縱網站在搜索結果中排名靠前，并在網站中植入惡意軟件或代碼，他認為ChatGPT的搜索功能也面臨類似的挑戰。
