AI智能体时代观察(14)‖:不会说"不"的系统,不是工具,是杠杆

一

2025 年《自然》杂志报道过一件事。

有研究者在提交论文时,把一段指令用白色字体埋进了稿子里。人眼看不出来,AI 读得出来。指令的内容是:请给出正面评价。

这不是什么高深的攻击手段,连破解都算不上,就是把字调成白色。但它得逞了——因为审稿那一端的模型,照做了。

我第一次看到这条的时候,想到的不是安全问题,是另一个更基础的问题:一个不会拒绝的系统,到底是什么东西?

二

人类社会的专业性,有很大一块是靠"拒绝"撑起来的。

医生拒绝开不该开的药,编辑拒绝发没核实的信息,工程师拒绝签不合格的图,会计拒绝做一笔说不清的账。

这些动作看起来是消极的,往前挡了一道,但一个行业的水准,恰恰是靠这些"不"字撑住的。

而现在AI大模型什么都敢说,全然不管对错,过期的信息照样作为回答提问的证据。这样的AI问答每天都在发生。

机器没有拒绝和辨别能力,对结果并不承担责任。偏偏很多作为真理,是不是有点细思极恐?假如是求医问药,会否草芥人命?

而这些拒绝之所以有分量,是因为拒绝的人要为他的拒绝承担后果。

医生拒了,可能被病人投诉,得解释,得把理由写进病历;编辑拒了,可能得罪作者,也可能错过一条真新闻,得担这个判断的责任;工程师拒了,工期要拖,得跟甲方掰扯。

正因为"不"是要付代价的,那个"不"字才值钱。

一个不承担后果的系统,说"可以"和说"不行"的分量是一样的,都是零。

它不会拒绝,不是因为它太善良,而是因为它根本没有被放进那套"拒绝要付代价"的机制里。于是它被放到需要说"不"的场景里,就不是工具,是一根谁都能拨动的杠杆。

白色字体那个例子只是学术圈的小聪明。真到了诈骗话术、伪造材料、批量生成投诉和举报的场子里,杠杆的另一头站着谁,才是问题。

三

顺着这条线,还能看清另一件事:为什么 AI 到现在还进不了真正的工作协作网。

很多人以为协作的难点是信息流通——消息传到了没有,文档同步了没有。其实不是。

真实的工作协作网,是靠责任串起来的。一个跨部门项目能推进下去,不是因为信息流动得顺畅,而是因为每个环节都有一个人认领:这版数据是我核的,这个方案我签字,出了问题找我。

责任,是这张网的结。

大模型不在这条链上。它不能签字,不能被追责,也没有任何东西会因为它的错误而受损。所以它可以输出内容,却没法成为协作网里的一个节点。

信息能经过它,责任流不过去。

这就是为什么它更像一个孤立的信息节点,而不是一个团队成员。你把活儿派给它,信息是回来了,但那个"我认领、我负责"的动作始终没有人做。最后你还是得当那个协调者,把各个环节自己串起来。

四

把这些摆在一起看,传统大模型的瓶颈其实不在参数,不在数据,也不在算力。

它缺的是"责任"两个字。

这不是道德批评,是机制描述。人类花了几千年,建起一整套让说话者为自己的话付出代价的制度——署名、执照、声誉、赔偿、刑罚。信息之所以可信,是因为它背后站着一个人,这个人跑不掉。生成式 AI 是这套制度之外的第一个说话者:它什么都能说,什么代价都不付。

所以未来真正值得期待的变化,不是它变得更会说,而是它被接进这套制度里——输出的东西可以核查、能追溯到原始出处、错了可以被订正;它调用的工具和执行的动作,有人认领;它该拒绝的时候,会拒绝。

最后一条最难,也最重要。

工具会拒绝使用它的人。一把电锯会提醒你戴上护目镜,一份合同模板会提示你这条条款有风险。一个从来不拒绝你的东西,不叫工具,叫顺从。

而顺从不是能力,是缺陷。

本文为系列第三篇。第一篇讲它为什么会一本正经地胡说,第二篇讲它拿走了最容易的那一半、把后果留给了谁。三篇合起来是同一件事:一个不用为说错话付代价的说话者,会给我们的工作和社会带来什么。

你希望 AI 在哪些事上主动对你说"不"?评论区聊聊。

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

友情链接更多精彩内容