本地部署AI这个坑，我替大家踩了。结论先放这：年利润百来万的小厂，技术主管就一个，别自己折腾本地模型。这周我们试了本地部署，最后叫停，老周搭进去两天，换来一堆报错，外加一个差点把切割头喷嘴烧出坑的参数。
起因：怕数据外泄，想自己搞一套
这事起因简单。财务小王上个月提了一嘴，说报价单和工艺参数老往线上传，客户信息万一漏了怎么办。老周也附和，说车间工艺数据是吃饭的家伙。我一听有道理，就让他找找有没有能装在厂里的AI。老周找了个开源模型，说免费，数据不出厂。我想着顶多搭个环境，能有多难。
结果第一步就卡住了。老周从仓库翻出一台旧工作站，说配置不够，得加块显卡。网上淘了块二手卡，1800块。装完驱动，模型跑起来，硬盘嘎嘎响，他心里还没底。
折腾两天，生成一张工艺卡要40秒
我们拿车间那台光纤激光切割机试。以前切3mm不锈钢，老师傅调的参数是：切割速度2.8米每分钟，功率3000W，气压0.8兆帕，焦点位置-1.5毫米。老周让本地AI重新生成一张工艺卡，结果等了40秒才出字，出来的功率是3500W，气压给到1.2兆帕，焦点还写错了。他照着试了一刀，切割头喷嘴差点烧出坑。
这40秒什么概念？我们平时线上那个AI，同样任务5秒出结果，参数基本能用，老周再改一两处就行。本地这个不光慢，错得还多。老周怀疑是模型版本太老，又折腾半天更新，结果报错更多，有一次直接把服务跑挂了，设备那边等着参数，停了20分钟。
省下的订阅费，不够老周两天工资
我算了一笔账。线上AI一年订阅费我们用的版本大概6000多。老周月薪8500，日薪差不多400，两天就是800。二手显卡1800，旧工作站虽然不用钱，但电费跑起来一天多3度，一个月多几十块。关键是，这还没算老周这两天本该干的活——车间有6台设备等着他排保养计划，全推后了。
更要命的是，本地模型生成的结果没人兜底。线上模型错了，我们还能找客服或者换一家；本地错了，只能老周自己扛。我们这小厂，技术主管就一个，他要是陷进去，车间的事全瘫。
小厂要的是能用，不是自主可控
最后我跟老周说，把本地这套先停了吧，数据敏感的就别往AI里传，报价单客户名字打码再处理。老周有点不甘心，说白折腾两天。我说不白折腾，至少我知道了一件事：自主可控这四个字，对小厂来说太贵了。我们一年利润就百来万，花不起这时间。
后来我们定了个折中办法：工艺参数这种不涉密的继续用线上AI，报价单里客户名称、联系人、电话全部用假数据替换，只喂产品规格和数量进去，生成完再手工填真名。多花5分钟，但不用再折腾本地部署。
小厂买现成的，比自己造轮子划算，因为我们的时间比代码值钱。
常见问题
本地部署AI真的一点好处都没有吗？
不是完全没有。数据不出厂，合规上安心，也不怕断网。但前提是你得有人会维护、会调模型，而且业务量足够大，能把部署成本摊薄。像我们这种年利润百来万、技术主管就一个的厂，自己搞就是给自己找事。
那客户信息怎么处理才安全？
我们现在做法是脱敏后再上传。报价单、合同、催款记录里，客户名称、联系人、电话、地址全用张三李四、13800000000这种假数据替换，只保留产品型号、数量、单价、交期这些AI需要算的内容。生成完再手工把真信息填回去，每个单子多花5到8分钟，能接受。
你们最终选了哪类AI工具？
还是用线上的通用AI，按月付费那种。选工具别贪多，够用就好。我们主要用三块：工艺卡生成、报价单草稿、设备故障问答。等以后真有钱有闲了，再考虑招个懂算法的人来折腾本地的东西。
以上为个人使用与转型记录，仅作交流，不构成任何专业建议。