從人類認知偏誤 看 LLM 幻覺之語意飄移

幻覺 詞源的出現,本身是在不了解幻覺於人類大腦神經網路建模的時代所創建

也可說 幻覺 詞源的出現,是非精確建模指代,因為不理解其本質而出現之壓縮語境

而其語意飄移又被 導入 所謂 的 LLM hallucination

LLM 若有視覺或聽覺建模

再來說有所謂 的 LLM hallucination

而用 偏誤 (Bias) 與 不一致性 (Inconsistency) 更能精確指向

當然,使用擬人化 幻覺 (hallucination) 的詞藻,更譁眾取寵與 fancy

畢竟和 LLM Bias 或 LLM Inconsistency 相比

LLM hallucination 當然顯得更 fancy

更有錯誤的把人類幻覺與 LLM 幻覺 相比較

若真要相比較,也是和認知偏誤 (Cognitive Bias) 類比

Cognitive Bias of LLM

從這裡大概就可看出最初 導入 LLM hallucination 之語意飄移

使用 LLM hallucination 指代

只會讓後續出現錯誤類比及有限建模
而 Cognitive bias of LLM,大概也能從 Contradictory Attention 及 Selective Softmax function 解構
而為何最初不用 Illusion (錯覺),而用 hallucination (幻覺)

錯覺是錯誤,必須負責

幻覺能宣稱不受控,不用負責

小惡魔市集

文章分享
評分
評分
複製連結

今日熱門文章 網友點擊推薦!