包头工厂本地部署大模型+边缘计算:不上云也能跑AI的智造方案(不辱昼夜技术)

【项目背景】

上周三晚上十点半,我在稀土高新区一家做稀土深加工的厂里蹲到半夜。厂长老魏指着车间角落那台落灰的工控机跟我说:"杨工,我们隔壁那家上了个'AI质检',说能自动看产品有没有划痕,一年省俩质检员。我们也想搞,但一听要上云、要交订阅费,一条产线一年好几万,还怕图纸数据传到外地去,心里没底。"这话我听着太熟了——包头做实业的老板,最怕的不是技术贵,是数据出不了厂、钱花出去没回音。

老魏的诉求其实很朴素:能不能让AI就在自己厂里跑?数据不出车间,一年不用再交"过路费"。这事,咱不辱昼夜技术干过,今天把方案摊开讲。

【咨询设计】

先说清楚一个误区:本地跑大模型不等于"买台顶配服务器砸墙上"。老魏的车间在青山区,白天三班倒、夜里停电检修,机房就一个铁皮柜子,散热都不好。我给他定的思路是"边缘计算+本地推理",不追求那种动辄几百亿参数的大模型,而是选一个够用的、能塞进一台工控机的模型。

具体配置:推理主机用一台带英伟达 RTX 4090(24GB 显存)的准系统,跑 Ollama 框架,模型选 Qwen2-7B 量化版(Q4_K_M),显存占用压到 6GB 以内,剩下的显存留给实时图像推理。产线上的划痕检测用一台海康威视 DS-2CD7A47G2 工业相机,1200万像素、1/1.8 英寸靶面,配 35mm 定焦镜头。传感器侧,车间环境监控走 Zigbee 3.0 网关(温湿度、粉尘),远距离的原料堆场走 LoRa 网关,15km 通信距离,穿墙能力比 Wi-Fi 强太多,不用在厂区满铺 AP。

这套东西全在厂区局域网里闭环,模型和数据一个字节都不往外发。

【施工规划】

施工我按"先通网、再上架、后调优"三步走,一天能收工。

第一步通网。车间原有的是六类非屏蔽线,抗干扰差,我全部换成超六类(Cat6A)屏蔽双绞线,从车间交换机到每台相机、每个网关点对点拉,不共用一段线。核心交换机上一台 H3C S5560X-54C-EI,万兆上联,给推理主机和相机留足带宽。

第二步上架。推理主机和 Zigbee、LoRa 网关进机房机柜,PDU 走独立空开,旁边配一台 3kVA 在线式 UPS,包头冬天检修、夏天雷雨季断电,机器不能掉链子。

第三步调优。Qwen2-7B 用 Ollama 拉起来,temperature 压到 0.2,让它回答稳定不跑偏;划痕检测模型用老魏车间 200 张标注样本微调两遍,召回率从 82% 拉到 96%。这步最磨人,但也是最见真章的——模型不微调,就是拿个玩具糊弄你。

【安全补丁】

本地部署不等于裸奔,恰恰相反,数据不出厂,攻击面反而更可控。我做了三件事:

一、推理主机和产线相机划进独立 VLAN,和办公网、访客 Wi-Fi 物理隔离,Ollama 的 11434 端口只对产线网段开放,不监听 0.0.0.0。二、给推理主机装防勒索策略,关闭 SMBv1,快照每天凌晨 3 点自动打一份到 NAS,被拖了也能拉回来。三、网关侧 LoRa 链路开 AES-128 加密,Zigbee 用 128 位网络密钥,别让人在厂区外拿个接收器就把你的温湿度数据听个精光。

【验收交付】

验收那天老魏特意叫上两个质检员一起看。连续跑了四小时,划痕检测准确率 96.3%,误报率压到 2% 以下,Qwen2-7B 回答产线工艺问题的响应时间平均 1.1 秒。我用 Fluke 福禄克 3000 系列测试仪把每条 Cat6A 链路逐条测了一遍,全部 PASS,测试报告打印出来交给老魏留档。老魏当场说:"这下图纸总算不用出厂了,订阅费也省了。"

【售后承诺】

咱不辱昼夜技术,干的是本地活,认的是包头这片地。这套系统交付不是结束:2 小时内响应,青山区、稀土高新区当天到场;模型每季度免费微调一次,跟你的产品迭代走;硬件质保期内故障,先给备机顶上,坏的再修。有问题打 17704868686,杨工手机 24 小时开机,不辱昼夜,随叫随到。

【不辱昼夜技术 · 包头IT全生命周期服务】
业务全闭环: 咨询规划、方案设计、工程实施、竣工验收、维保售后。
咱能干的: 包头修电脑/装监控/拉网线/做系统/救数据/办软件/卖耗材。
技术范畴: 5G通信、大数据服务、信息系统集成、网络安全、商用密码、平面设计。
服务区域: 昆区、青山区、九原区、东河区、高新区等包头全境,随叫随到。
技术热线: 17704868686(本地专业团队,不辱昼夜为您守候!)

上一篇 【青山区】买来的源码一堆后门?代码审计与组件漏洞治理
下一篇 【稀土高新区】液压站压力表疯摆压机总停机?4-20mA变送器供电与PLC模拟量接地