大模型的幻觉的案例

很多人不明所以,什么是大模型的幻觉?

我前几天在看一段代码的时候,对Python的动态导入不甚了了
于是问Grok

一开始的提问是
'_import('a.b')'' 和'_import(a)' 返回的结果是不是一样的?

模型输出答案:不一样。后面很多东西,写的很详细。

我在Python3.8.10 的解释器上测试结果这两个就是一样。

于是继续追问——为什么测试的结果是一样呢?

大模型没有怀疑自己,它说可能是版本不一样,它断定我用的版本是超过 3.12+ l了,说的振振有词。

这是因为你使用的 Python 版本是 3.12+,而 unittest.mock 在这些版本中被“内联”到 unittest 模块里了。


开始很倔强。

后面我新开启对话,重新改变了我的提问

image.png

然后 说出了下面的内容


image.png

我根据这些提示在解释器上验证了一下,这个回答基本上是事实。
关键的地方是参数 fromlist 填写了什么东西。

一开始的答案发散太大,后面还叫我怎么怎么纠正版本,卸载mock包重新安装,一些骚操作。

  • 总结
    模型幻觉是一种AI出现泛化过拟合,数据过稀,或过少,对任何问题都自信作答引发的问题。

我们防守的办法:

  • 仔细验证,不要盲目相信
  • 把提示词写的越精准越详细越好
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

友情链接更多精彩内容