翰廷文化 Ai开启未来

92万采购的DeepSeek一体机,拆开是4张4090和一堆PPT

满血版要8卡H800、成本两百多万,卖你78万的“信创一体机”,跑的是32B蒸馏版。

返回列表

92万采购的DeepSeek一体机,拆开是4张4090和一堆PPT

周五下午5点40分,某三甲医院信息科。

验收会开了两个半小时,最后一页PPT停在“智能问答演示”上。厂商工程师在浏览器里敲了一行字:“帮我总结一下我院2024年门诊量趋势”。屏幕转了三秒圈,吐出一段四平八稳的话。

科长点点头:行,验收通过。

那台机器就摆在机房最里面,机柜门一关,风扇声比隔壁的存储阵列还小。采购价——92万。

先说这92万买的是什么

招标文件里有一句关键参数:“支持千亿参数级大模型本地化部署”。写文件的人未必懂,但这句话很安全,谁也说不出错。

真正懂行的人看到这句会先算一笔账。671B的满血版DeepSeek,FP8精度下权重就得占掉接近700GB显存,加上KV Cache和并发余量,8卡H800(141GB×8)是起步配置,不是豪华配置。

8张H800什么价?去年最高的时候单卡28万往上,光卡就两百多万。

所以92万这个预算,从一开始就注定买不到“满血版”。这一点,采购方知道,厂商知道,只有那份招标文件假装不知道。

实际交付的配置是:4张RTX 4090,24G显存,合计96G。跑的是32B的蒸馏版模型。

不是不能用。32B蒸馏版做文档摘要、话术改写、内部知识库问答,效果确实还行。问题是——它和一个开源的32B模型加一个WebUI界面,没有任何本质区别。而后者,你自己找两个懂点技术的年轻人,一台两万块的4090工作站,一周就能搭起来。

中间那90万,买的是“交付”两个字。

一个售前工程师的周三

我认识一个做这块的售前,姓陈。

上个月他一天跑了三个客户:上午区政务大厅,下午一家做汽车零部件的制造企业,晚上七点赶到医院改PPT。

他跟我说了句话我印象很深:“我一天装三台,镜像都是同一个U盘里的。”

同一个镜像。换的只是开机Logo、登录页标题、还有交付文档上的客户名字。

成本?他给我算过一笔:服务器整机(含4卡4090)采购价16万到19万,机箱、电源、导轨、三年质保,加一起不超过23万。报价78万到95万,毛利60%起。

这不是个例。去年下半年到今年上半年,全国大大小小的“AI一体机”集成商,至少冒出来四五百家。有些原来做机房布线,有些原来是卖打印机的,有些干脆是几个销售凑了个壳子,找深圳的工厂贴牌。

风口一来,谁都想站上去。

真正贵的不是硬件,是“不敢不买”

你要问,这些单位的IT负责人都是傻子吗?

不是。他们比你我都清楚。

但有几件事压着他们:上级下发了“推进AI应用落地”的考核指标,年底要交材料;数据安全红线在那儿摆着,公有云API一律不许调;预算今年不花完,明年就没了。

买一台看得见摸得着的机器,摆在机房,有铭牌、有验收单、有三年运维合同,这就是一份可以交差的证据。

至于它能不能真的跑起来,跑的是满血还是蒸馏,32B和671B差在哪——没人在验收会上问。

验收标准通常写得很温柔:“系统可正常启动,可完成自然语言问答交互。”能对话就行。

我见过最离谱的一份合同,附带的运维服务费是每年15万,内容是“模型微调与版本升级”。第一年过去了,微调没做,升级也没做——因为厂商自己也没搞明白怎么在4张4090上跑出花来。

电费倒是实实在在。8卡满载6kW,机房PUE 1.5,一年光电费就得五万出头,还得单独给它加一排精密空调。

还有个更隐蔽的坑

这些机器,大部分是“孤岛”。

装在内网,不连外网,模型权重半年不更新。等到明年Q2,公有云上的模型又迭代了两轮,这台92万的机器还停在2024年冬天的那个版本上。

它不会坏,也不会变强。就像买了一台2023年款的手机,永远停在那个系统里。

有人说这不是挺好吗,稳定。

稳定地落后。

至于那些真正需要大模型能力的场景——比如影像报告的初步结构化、比如百万级病历的语义检索——32B蒸馏版一上量就露怯。并发超过30,延迟直接飙到八秒以上,医生点两下就不用了,最后还是回去手工翻页。

然后这台机器就彻底安静了。机房最里面那个机柜,门一关,谁也不再打开。

昨天下午,陈在销售群里发了条消息。

“下一个客户是区教育局,预算120万,要求写‘支持多模态’,谁能跟?”

下面秒回了一串“1”。

评论 0

留下你的看法