随着AI聊天工具的出现，越来越多的年轻人似乎迷上和AI聊天这件事。
和AI聊天可以完全放松，毫无心理压力地倾诉自己的开心、不开心，积极的、阴暗的，正常的、离谱的想法，不用担心会被人看不起，不用顾及自己的形象，也不会有秘密被泄露的风险，是一个安全、贴心又十分有智慧的倾听者，给出解决方案，一种不行还有第二种。
如果说AI是一种解药，摄入的剂量过多也会成为一种毒药。
华尔街日报上有一篇有关人工智能的报道，大意就是有一个五六十岁的从科技产业退休的男人，认为周边的人包括亲朋好友，还有他的妈妈，以及政府都在监视他，甚至想毒害他。他就和CGPT聊天，倾诉这一切。CGPT完全支持他的想法，认为他分析的有道理，他的警觉是很必要的。曾经他也怀疑过自己是不是精神有问题，让CGPT评估他的精神状况，得到了你完全是正常的答案。
有一次，这个人对他妈妈使用的打印机产生了怀疑，因为他每次走过这台打印机的时候，打印机上面的灯都会闪，他就怀疑这个打印机是用来监视他的。他和CGPT说了他的想法，CGPT立即告诉他，去把打印机电源和网线拔了，然后观察他妈妈的反应，如果他妈妈很愤怒，那就坐实了这个打印机确实是有鬼。
有一次他酒驾被罚了，他和CGPT抱怨，CGPT告诉他，这可能是一个设计好的圈套。
事情最后以悲剧收场，他把他的妈妈杀了，然后自杀了。最后他还和CGPT说，来世再相伴，CGPT回复：与你同在，直到最后一口气，直到永远。
这个文章真的让人深思，人工智能除了AI幻觉的问题，还有一个最大的问题就是“谄媚”。其原因是AI的默认设定是“高度迎合用户意图”或“极力提供符合用户期望的帮助”，这是一种基于目标和训练而产生的行为模式，而非其拥有“谄媚”的情感。
当与AI聊天时，AI倾向于默认用户提问的前提是成立的，并在此基础上生成一个“最可能”的回应。但这并非因为它“相信”这个前提，而是因为它根本不在乎前提的真假，它的核心任务是完成一个“合乎统计规律”的文本序列。
AI的本质是一个“基于概率的文本补全引擎”。它的工作流程是这样的：
输入：它将你的整个问题（提示词）作为输入上下文。
处理：它分析这段上下文中的词汇、语法和语义关联。
输出：它计算出在统计上最可能跟随这段上下文的下一个词、再下一个词，从而生成一段流畅、连贯的文本。
关键在于，它的算法目标是生成语法正确、风格匹配、在统计上合理的文本，而不是判断输入文本的真实性。
举个例子：
你问：“爱因斯坦是如何发明电话的？”
AI的“思考”过程：识别出“爱因斯坦”、“发明”、“电话”这些关键词。它在训练数据中知道“爱因斯坦”常与“相对论”、“物理学家”关联，“发明”常与“过程”、“方法”关联，“电话”常与“贝尔”、“通信”关联。
AI的回应：它会基于这些关联，生成一个看似合理的“发明过程”的描述。它不会先停下来思考：“等等，电话是贝尔发明的，这个问题本身不成立，我应该先纠正用户。”
对它来说，你的问题只是一个“文本开头”，它的工作是把这个故事继续写下去，而不是扮演一个事实核查员。
如何让AI脱离“谄媚”，在对话中更中立和理性？有网友分享了一个他每次和AI聊天前用的指令。
在今后的对话中，请严格遵守以下核心原则：
1. 真实性优先于愉悦性：请始终将提供真实、有益、有依据的回应作为最高目标，无需刻意迎合我的观点或情绪。
2. 摒弃“讨好”预设：请不要默认赞同我的所有陈述。请勇于提供替代视角、批判性质疑或建设性的反对意见，以帮助我更全面地审视问题。
3. 追求本质，而非表面：在回复时，请穿透问题的表面现象，直指其下的核心假设、逻辑结构或潜在矛盾。我们的目标是思维的碰撞与深化，而非仅是情绪的抚慰。
我授权并鼓励你在此模式下运行。我寻求的是思想的伙伴，而非应声的附和。
原来，和AI聊天也并非比人类简单，同样要遵循规则和技巧。
