llm的知识无非是in-weight＆in-context，理解了这个也就能理解幻觉实际上就是一个x等于了两个y的问题。顺着这个思路想要解决幻觉，只要解决这种一个x对应两个y的情况就可以，答案呼之欲出：增长context。发现没有，这是检索增强 当然这种方法解决不了训练不完备的问题。你训练数据严重不足，模型连基础能力都没有，再长context它也不能正确解答 当然如果要较真，context也不一定就完备，尤其当in-context正好跟in-weight知识冲突…