AI 為何會產生幻覺？深入解析 LLM 幻覺成因

大型語言模型 (LLMs) 以其生成看似合理卻不正確的陳述而聞名，這種現象被稱為「幻覺」。幻覺嚴重損害了模型的實用性和可信度，即使在最先進的系統中也持續存在。它們與人類感知經驗有根本上的不同。例如，當被問及 Adam Tauman Kalai 的生日時，一個頂尖的開源語言模型曾三次給出不正確的日期：「03-07」、「15-06」和「01-01」，即使提示要求只在知道的情況下回答。本影片將深入探討 LLM 產生幻覺的統計原因及其在訓練流程中的持久性，並探討可能的解決方案，以期開發出更值得信賴的 AI 系統。研究表明，幻覺的產生並非神祕，它們僅源於二元分類中的錯誤。