很多人不明所以,什么是大模型的幻觉?
我前几天在看一段代码的时候,对Python的动态导入不甚了了
于是问Grok
一开始的提问是
'_import('a.b')'' 和'_import(a)' 返回的结果是不是一样的?
模型输出答案:不一样。后面很多东西,写的很详细。
我在Python3.8.10 的解释器上测试结果这两个就是一样。
于是继续追问——为什么测试的结果是一样呢?
大模型没有怀疑自己,它说可能是版本不一样,它断定我用的版本是超过 3.12+ l了,说的振振有词。
这是因为你使用的 Python 版本是 3.12+,而 unittest.mock 在这些版本中被“内联”到 unittest 模块里了。
开始很倔强。
后面我新开启对话,重新改变了我的提问

image.png
然后 说出了下面的内容

image.png
我根据这些提示在解释器上验证了一下,这个回答基本上是事实。
关键的地方是参数 fromlist 填写了什么东西。
一开始的答案发散太大,后面还叫我怎么怎么纠正版本,卸载mock包重新安装,一些骚操作。
- 总结
模型幻觉是一种AI出现泛化过拟合,数据过稀,或过少,对任何问题都自信作答引发的问题。
我们防守的办法:
- 仔细验证,不要盲目相信
- 把提示词写的越精准越详细越好