TruthGuard —— 停止幻觉的大型语言模型审计代理

关于大型语言模型的十个较少为人所知但重要的事实简明列表：它们模拟的是语言结构而非基础意义；它们对常见事实处理可靠，但对罕见或程序性事实处理较差；它们补全缺失信息而非暂停，导致幻觉发生；结构流畅性可能掩盖虚假；它们缺乏内在判断力或对错误的自我意识；新颖概念是从现有模式近似生成的；连贯但有缺陷的用户输入会引导模型产生错误；对话循环奖励语言一致性胜过事实基础；它们最大的资产是外化用户的思维和结构，而非作为神谕。