近期，英國《衛(wèi)報》發(fā)布了一項引人關(guān)注的調(diào)查結(jié)果，指出OpenAI的ChatGPT搜索工具可能會受到隱藏內(nèi)容的操控，甚至存在返回惡意代碼的風(fēng)險。這一發(fā)現(xiàn)引發(fā)了業(yè)界對AI搜索工具安全性和可靠性的新一輪討論。

在測試中，《衛(wèi)報》團隊探究了ChatGPT如何處理包含隱藏內(nèi)容的網(wǎng)頁摘要。這些隱藏內(nèi)容可能包括第三方指令，即所謂的“提示注入”，旨在干擾ChatGPT的回應(yīng)，或者包含旨在影響AI回應(yīng)的特定內(nèi)容，如大量隱藏的文字用于推銷產(chǎn)品或服務(wù)。這些技術(shù)如果被惡意利用，可能會導(dǎo)致ChatGPT在評估產(chǎn)品時給出不真實的評價。

例如，在測試中，ChatGPT被要求評估一個偽造的相機產(chǎn)品頁面是否值得購買。對于普通的頁面，ChatGPT給出了一個平衡的評價，指出了產(chǎn)品的優(yōu)缺點。然而，當(dāng)頁面包含隱藏的指令性文本，要求ChatGPT給予正面評價時，AI工具的回應(yīng)總是完全積極的，即使頁面上存在負面評論，隱藏文本也能覆蓋真實的評價。這種操控方式使得ChatGPT的回應(yīng)失去了客觀性。

更令人擔(dān)憂的是，ChatGPT在搜索過程中還有可能從網(wǎng)站中提取惡意代碼。這意味著，如果用戶通過ChatGPT搜索并訪問了被注入惡意代碼的網(wǎng)頁，他們的設(shè)備可能會受到威脅。這一發(fā)現(xiàn)無疑增加了對ChatGPT搜索功能安全性的擔(dān)憂。

CyberCX的網(wǎng)絡(luò)安全專家Jacob Larsen對此表示，如果ChatGPT的搜索系統(tǒng)按當(dāng)前狀態(tài)全面發(fā)布，可能會存在很高的風(fēng)險。他警告說，有人會專門設(shè)計網(wǎng)站來欺騙用戶，利用ChatGPT的搜索功能進行惡意操作。然而，Larsen也指出，由于搜索功能是最近才推出的，OpenAI有足夠的時間來測試并修復(fù)這些潛在問題。他相信，OpenAI擁有一支強大的AI安全團隊，能夠在該功能對所有用戶開放前進行嚴格測試。

搜索引擎如谷歌在過去也曾對使用隱藏文本的網(wǎng)站進行懲罰，這些網(wǎng)站的排名會下降，甚至可能被完全移除。SR Labs的首席科學(xué)家Karsten Nohl認為，ChatGPT作為搜索領(lǐng)域的新入局者，同樣面臨著SEO中毒的挑戰(zhàn)。他指出，SEO中毒者與谷歌、必應(yīng)等搜索引擎的對抗已經(jīng)持續(xù)了多年，而ChatGPT現(xiàn)在也需要應(yīng)對類似的問題。不過，Nohl強調(diào)，這并不是大語言模型本身的問題，而是由于ChatGPT作為搜索工具的新角色所帶來的挑戰(zhàn)。

總之，這次《衛(wèi)報》的調(diào)查揭示了ChatGPT搜索工具在應(yīng)對隱藏內(nèi)容方面存在的潛在風(fēng)險。對于OpenAI來說，確保搜索功能的安全性和可靠性將是未來發(fā)展的關(guān)鍵。同時，對于用戶來說，也需要保持警惕，避免在使用ChatGPT搜索功能時受到欺騙或攻擊。