这周踩了个坑，现在想起来还有点后怕。
周三下午，销售催着要一份配电柜主动安全防护的技术方案，说客户周四上午就要看。技术主管在外面跑现场，文员小姑娘急得团团转。我想着最近用AI写东西挺顺手，就让她把产品参数表和之前的方案模板丢给豆包，让它先出一版初稿。
四十分钟后，初稿出来了。十七页，格式工整，目录、项目背景、技术参数、执行标准、质保承诺，该有的都有。文员小姑娘挺高兴，说比她自己写快多了，发给技术主管看一眼就能定稿。
技术主管晚上回到公司，打开方案扫了一遍，其他都没说什么，翻到"执行标准"那一页时停住了。他指着其中一行问我："这个GB/T 38276-2021，你在哪看到的？"
我说AI写的，怎么了？他说他做了十几年电气检测，印象中没有这个号。当场掏出手机上国标委官网查——根本不存在这个标准。豆包编了一个格式完全正确、年份也合理、但压根不存在的国标号。
我当时后背就凉了一下。这份方案要是没经技术主管的眼，直接盖章发给客户，对方技术人员一查发现标准是假的，轻则觉得我们不专业，重则怀疑我们造假，后面的合作根本不用谈了。
AI编东西，比人撒谎难识破多了
人撒谎会心虚，会犹豫，会前后矛盾。AI不会。它编出来的国标号，格式跟真的一模一样——GB/T开头，五位数编号，横杠加年份，放在"执行标准"列表里毫无违和感。你要是不专门去查，根本看不出来。
后来我让技术主管把整份方案的标准引用逐条核了一遍，十七页里一共引用了十一个标准，其中两个编号有问题：一个是完全编的，另一个是年份对不上，标准号存在但2021年已经更新了替代版本，AI引用的是作废的旧号。
十一个里错两个，将近百分之二十的出错率。这还是在它整体写得不错的前提下。
我后来想明白一件事
AI写技术方案这件事本身没问题，问题出在我们用它的方式上。
我之前的思路是"AI出稿，人改一改就行"。但技术方案这种东西，跟写营销文案不一样——文案写得夸张点没人追究，技术参数和标准引用错了是要负责任的。你让一个不知道自己不知道的东西去写需要精确事实的文档，它就会用最像正确答案的方式把你糊弄过去。
不是它故意骗你，是它真的不知道自己不知道。大模型的原理是预测下一个词，它见过太多"GB/T xxxxx-xxxx"这样的字符串，所以能生成看起来非常专业的引用。但"看起来对"和"真的对"是两码事。
现在我们怎么用AI写方案
踩了这个坑之后，我定了三条规矩：
第一，AI只写框架和表述，不碰标准号和参数。提示词里明确写：所有标准编号、检测数据、认证编号、技术参数必须留空或标注"待技术部填写"，AI不得自行生成。它负责把方案的结构搭好、把产品特点的描述写通顺，硬数据全部由人填。
第二，建一份企业自己的标准库。我让技术主管把我们产品涉及的二十三个国标和行业标准整理成一份文档，标准号、名称、版本年份全部列清楚。以后AI写方案只能从这份文档里检索引用，不允许凭记忆编。这份文档存在内部知识库里，AI调用时走检索，不走生成。
第三，技术主管签字才能发。不管AI写得多快多好，技术方案必须经技术主管逐条核对后签字。这一步不能省，也不能让文员代劳。AI出初稿可以，但最后一道关必须是人，而且是懂行的人。
这三条执行下来，AI写方案的效率优势还在——以前技术主管自己写一份方案要大半天，现在AI出框架他填数据加核对，两个小时搞定。但安全性完全不一样了。
说实话，用AI这几个月，我最大的感受不是它有多厉害，而是你越信任它，越要知道它的边界在哪。它能帮你写得快，但不会帮你担责任。文件盖了你的章，出了问题找的是你，不是AI。
AI是最好用的实习生，但你永远不能让实习生替你签字。
常见问题
AI写技术方案为什么会编造国标号？
大语言模型是根据上下文预测下一个词，并不真正"知道"某个GB标准号是否存在。它见过太多GB/T xxxxx-xxxx格式的引用，能生成结构上非常逼真的文字，但具体编号可能是拼凑的。这就是AI幻觉，在技术文档领域尤其危险，因为编出来的东西看起来特别专业。
怎么防止AI在技术文档里编造标准和参数？
三道关：提示词明确要求不确定的标注待核实；所有标准号和参数由技术人员逐条到官网核对；建立企业自己的标准库文档，让AI基于检索引用而不是凭记忆生成。我们把常用的二十三个国标整理成文件，AI只能从里面引用，编新号的概率大幅下降。
中小企业用AI写技术方案靠谱吗？
靠谱，但要把它当实习生而不是专家。AI写框架、套格式、整理资料比人快五到十倍，但不为正确性负责。AI出初稿、技术核对、主管签字，三步缺一不可。指望AI直接出能盖章的方案，迟早出事。