搜尋結果也出現幻覺的時代？人工智慧搜尋引擎的「幻覺」問題

閱讀這篇文章時，會看到一段提到『出現幻覺（幻覺）的問題，因此直接相信其內容有些勉強』的內容。

幻覺

搜尋引擎產生實際上不存在的資訊，或提供與事實不符的資訊的現象

生成式 AI 搜尋引擎備受關注，但此類搜尋引擎面臨著『幻覺』的問題。

這指的是搜尋引擎產生實際上不存在的資訊，或提供與事實不符的資訊的現象。

可以說，這會向使用者提供容易產生誤解的資訊，並降低搜尋結果的可信度，是一個嚴重的問題。

• 實際發生的『搜尋結果幻覺』案例範例
  
  
  

問題：『法國的首都在哪裡？』

錯誤答案：『法國的首都是在柏林。』 (實際首都為巴黎。)

問題：『月球表面存在水嗎？』

錯誤答案：『是的，月球表面存在豐富的水。』 (實際上月球表面不存在液態水。)

• 搜尋結果出現幻覺的原因是什麼？
  
  
  

據悉，生成式 AI 搜尋引擎的幻覺問題是由多種因素共同作用引起的。

如果訓練數據存在偏差，搜尋引擎可能會反映偏差的資訊，從而產生錯誤的結果。

生成式 AI 模型具有非常複雜的結構，因此在訓練過程中很容易發生錯誤。

目前使用的生成式 AI 搜尋引擎的評估指標主要基於使用者滿意度或點擊率等。

但是，這些指標無法反映資訊的準確性，因此在許多情況下無法正確評估幻覺問題。

為了解決這個問題，正在探索各種方案，例如改進訓練模型的結構，以及開發反映資訊準確性的新評估指標等。 

借用某些人的說法，『偶爾會面不改色地說謊』的生成式 AI 搜尋引擎，雖然仍處於技術發展的初期階段，但具有巨大的潛力。

但是，目前看來『確認正確事實的核查過程』是必要的步驟，因此需要明智地使用。