八张9年前的老显卡、2800W功耗：一个律师把AI养在家里，买的是"踏实"

设想一个画面：晚上十一点，律师在办公室整理当天的案卷。当事人的姓名、银行流水、还没公开的和解条款——这些东西要不要贴进云端AI？手指悬在回车键上，他犹豫了：发出去之后，数据去了哪，谁说了算？

最近知乎热榜上就挂着这个问题：一位律师为了不把敏感资料上传云端，用8张V100搭了一台数千瓦功耗的本地AI服务器，值吗？评论区吵翻了。我把11月10日以来IT时代网、快科技等几家的报道翻了一遍，把这台机器的账摊开给你看。

一、这台机器到底是个什么水平

据腾讯新闻11月10日转引IT时代网的消息，搭建者用的是8张二手英伟达Tesla V100-SXM2-32GB——一款发布已9年的计算卡，每张32GB HBM2显存、带宽900GB/s，分装两块底板，板内四卡NVLink互连。主机是技嘉Threadripper Pro主板配12核3945WX处理器，两块电源合计2800W，插在两路普通办公电路上。

软件这边：DeepSeek V4.1 Flash被压缩到约2bit，权重仍占248.8GB；系统接了RAG数据库和工具调用，他从一台Windows PC通过SSH操作，目前一次只处理一个请求。

它现在的日常是案卷初审：读记录文件夹、抽取事实与日期数字、生成摘要、给常规文书做第一稿——所有输出都要人工复核。搭建者自己估算，50%到60%的AI工作已经不需要再调用前沿模型，推理速度最高约215 tokens/s。

二、值不值？别算电费，算"踏实账"

很多人的第一反应是数千瓦功耗，电费吓人。这笔账不假，但他买的本来就不是算力，是确定性。

他的处境并不小众。2023年，三星工程师把机密半导体代码贴进ChatGPT造成泄露，随后三星在内部禁用了这类工具；摩根大通也因为担心敏感数据曝光，限制过交易员使用ChatGPT；拥有70多万员工的埃森哲则警告员工不要把客户信息交给它。这些都是有整个安全部门兜底的巨头。一个单打独斗的律师，面对当事人的保密材料，"能不能上云"根本不是技术问题，是执业底线问题。

行业里的通行做法已经写得很清楚：涉密及高敏案件建议不上公有云产品；确要用AI，要么私有化部署，要么上传前彻底脱敏。麻烦在于，"彻底脱敏"对个人很难——案卷把姓名、金额、日期都抹掉之后，分析价值也跟着抹掉一大半。

所以这台V100服务器的本质是：把每天的"脱敏成本"一次性置换成"硬件成本"。而且时机很微妙——据快科技10月17日报道，本地部署热让二手V100单卡已经出现1400元溢价；可即便如此，对比专业级RTX 6000 PRO今年8月突破1.6万美元（约11.2万元人民币）的报价，9年老卡仍是普通人摸得着的入场券。

三、你不用学他，但要学他的"分级"

先说结论：绝大多数人不需要攒这样一台机器。搭建者自己也承认一次只能处理一个请求，而二手退役卡向来有"盲盒属性"，剩余寿命没人说得清。

但这个故事里真正值得抄走的，是动手前先给资料分级的习惯：

想轻量试水"AI在手边"，不必碰显卡：用Ollama这类工具在本地跑个小模型，不少普通电脑就能装起来；我在spark1.cn的/tools/里也按场景整理了九十个常用AI工具的入口，可以先挑着用。

最后送一份值得留下来的东西——把任何资料贴进AI之前，先问自己三个问题：

1. 这段内容如果被公开，我承担得起后果吗？承担不起，就是敏感级。
2. 里面有没有第三方的姓名、证件号、金额、住址？有，先脱敏。
3. AI处理完的结果，我复核了吗？那位律师用着自家服务器，仍然坚持所有输出人工复核——这个习惯比八张显卡更值钱。

技术会越来越便宜，但"踏实"从来要自己挣。真正的从容，不是躲开AI，而是清楚什么能交给它、什么不能、以及怎么交。