一
先说一件旧事：
2023 年，纽约一位律师用 ChatGPT 起草了一份法律文书，引用的六个判例全是 AI 编的。案号齐全，法官署名齐全，一个都不存在。他被罚了 5000 美元，还得给每一位被冒名的真法官各寄一封道歉信。
而生成那六个判例的系统，什么都没有损失，转头继续给下一个人服务。
这件事最扎人的地方在这儿：它把"出主意"这件事变得极其便宜，却一点没改变"后果"的归属。
二
我们习惯说 AI 提高了效率。这句话没错，但要算清楚是哪一段的效率。
你让它出一份活动策划，它十分钟给你完整框架。然后呢？联系场地、发邀约、谈价格、盯现场，还是你自己来。
你让它整理一份数据分析报告，它能给出思路，却没法自己去调数据库里的原始数据。取数、清洗、校验口径、跟业务部门对一遍，还是你自己来。
你让它写一封邮件，它三十秒写完。可这封邮件发出去之后，收件人生气了、客户误会了、领导追问了，站出来解释的还是你自己。
所以准确的说法是：它提高的是"生产建议"的效率，而核对事实、落地执行、承担后果这些环节一个都没少，只是全压到了使用者身上。
它拿走了最容易的那一半。留下的恰恰是最需要负责、也最容易出错的那一半。
这就是为什么很多人用了半年 AI，工作时长没降下来，心里那根弦反而绷得更紧——因为以前你只需要对自己的判断负责，现在你还得替一个不会出错提示的系统做全量复核。
三
在法律、医疗、工程这些行当里，这个分配更扎人。
因为在那里,"建议"和"后果"从来是绑在一起的。一个律师签了字，就得为那份文件负责，不管文件是谁起草的；一个医生下了医嘱，就得为那个医嘱负责，不管它最初是从哪儿冒出来的。
AI 出现之后，起草可以外包，签字不能外包，于是责任的浓度反而变高了。
这不是我的推断，是法院这两年的态度。
2025 年到 2026 年，美国各地法院对这类事情的处理明显在加码：
加州一起上诉案里，文书中的 21 条引用是 AI 捏造的，罚了 1 万美元；另有两家律所因为批量提交含假判例的材料，合计被罚 3.1 万美元；密西西比州一起案子中，四名律师提交的多份文书引用的判例全是假的，两位核心律师被判两年内不得在该辖区联邦法院出庭，创了同类案件的纪录；第五巡回上诉法院还把一名整份答辩状都交给 AI 生成的律师，移交给州律师协会启动吊销执照的程序。
四起案子，从罚款到禁业再到移送吊销执照，一路往上走。没有一起是罚 AI 的。板子永远落在签字的人身上。
四
有人会问：那是不是说明 AI 在这类场景里根本不能用？
不是。法官在最早那份判决书里就写过一句话——使用一个可靠的人工智能工具做辅助，本身没有什么不正当。
关键在"辅助"两个字的位置。
它可以帮你把思路铺开、把材料归拢、把初稿搭出来，这些环节的容错空间本来就大，错了改就是。但它不能替你跨过那道"签字"的线，因为那道线之后的所有东西——客户的信任、执业记录、可能的赔偿——全都挂在你的名字上，而它的名字不存在。
我的建议很土，但管用：把 AI 的产出当成一份实习生交上来的初稿。实习生写得快，也写得像样，但你不会直接拿去盖章。你会核一遍出处，会对一遍口径，会在关键数字上自己算一次。区别只在于，实习生说错了会脸红，AI 不会。所以那遍复核，只能你自己做。
在那之前，有一句话一直成立：AI 出主意，人签字，出事了算人的。
本文为系列第二篇。第一篇讲的是：AI 为什么会一本正经地胡说——因为它是第一个不用为说错话付代价的说话者。第三篇会聊一个更少被提及的问题：一个不会说"不"的系统，到底是什么。你有没有过"用了 AI，活儿没少、心更累"的阶段？评论区聊聊。
