技术文章

上周五晚上11点半，我拖着疲惫的身体挤上了从上海虹桥回苏州的高铁。车厢里很安静，只有高铁运行的白噪音。我靠在椅背上，看着手机里老婆发来的微信：“老公辛苦啦，明天中午给你做糖醋排骨！”那一刻，连轴转了一周的疲惫感突然就消散了不少。

我是一名后端开发，也是个正儿八经的异地恋加考公党。平时在上海张江租着4500块的一居室，周末坐半小时高铁回苏州陪老婆。去年十月，公司突然说要搞AIGC业务，作为组里抗压能力最强的“全干工程师”，我硬着头皮接下了模型部署和后端接入的活儿。那段时间，我白天写CRUD，晚上研究深度学习框架，深夜还要刷行测和申论。当时真的很焦虑，看着银行卡里刚够交下个季度房租的余额，月薪18k在上海真的不敢生病，头发大把大把地掉，差点就想放弃考公，认命当个一辈子写增删改查的螺丝钉了。

今天，想借着这个机会，和大家聊聊我在AIGC浪潮下，实战对比深度学习框架的一些血泪经验，顺便分享一下我是如何平衡技术、考公和异地恋的。

先说结论：在AIGC时代，PyTorch和TensorFlow依然是两座大山，但它们的生态位已经发生了微妙的变化。

刚接手项目时，算法同事丢给我一个PyTorch训练好的大模型权重，让我用TensorFlow重构一下部署，说TF Serving稳。我当时就差点爆粗口。兄弟们，都什么年代了，在AIGC这个圈子，PyTorch绝对是统治地位。

PyTorch最大的优势就是“所见即所得”。它的动态图机制太符合我们后端程序员的直觉了，写起来就像在写普通的Python脚本。调试的时候，打个断点，看看Tensor的shape，用print输出一下，清清楚楚。特别是在做AIGC应用时，经常需要魔改模型结构，比如加个LoRA微调，或者改改Attention机制，PyTorch的灵活性让你能像搭积木一样快速验证想法。算法同事用PyTorch，你用TF去接，光是转换权重就能让你怀疑人生，更别提那些奇奇怪怪的自定义算子了。

但是，作为后端，我们不能只考虑“好不好写”，还得考虑“好不好用”。这就轮到TensorFlow发挥余热了。虽然我不推荐用TF去训练模型，但在工程化部署和端侧推理上，TF生态依然有它的护城河。TF Lite在移动端和边缘设备的优化做得很极致，如果你们的AIGC业务需要把模型塞进手机或者IoT设备里，TF依然是首选。

不过，对于绝大多数像我们这样需要把大模型部署在云端，通过API提供给前端调用的后端团队来说，PyTorch配合FastAPI，或者直接上Triton Inference Server，才是王道。我在实战中发现，用PyTorch做推理服务，配合ONNX Runtime做加速，不仅开发效率高，而且显存占用控制得更好。

说到这里，必须提一下我去年能熬过来的“秘密武器”——Warp。

大家知道，考公和搞新技术都是极其消耗时间的。我每天晚上只有3个小时的学习时间，如果还要花半小时去查Docker怎么配NVIDIA Container Toolkit，或者去翻文档找GPU显存溢出（OOM）的报错原因，我根本没时间刷申论。

后来我换上了Warp这个AI终端，简直打开了新世界的大门。它不仅仅是个长得好看的终端，它的AI补全和命令解释功能太香了。以前我配环境，要在StackOverflow和CSDN之间反复横跳，现在直接在Warp里用自然语言问：“帮我写一个基于CUDA 11.8的PyTorch Dockerfile，并暴露8000端口”，它直接给我生成完美的脚本。遇到报错，把Error日志复制进去，Warp直接告诉我：“这是显存不够，建议在推理时加上torch.no_grad()或者开启半精度fp16”。

靠着Warp，我硬是把原本需要两天的环境搭建和部署调试时间，压缩到了半天。省下来的时间，我不仅把AIGC项目的后端接口写得漂漂亮亮，还多刷了两套行测真题。

转折点发生在上个月的一个周末。老婆来上海看我，那天我因为一个模型并发请求导致显存打满的问题，焦头烂额，脸色很差。她没多问，默默去厨房给我下了一碗面，然后坐在我旁边说：“老公，别把自己逼太紧了。考公是为了我们以后能在一起，如果现在把你身体搞垮了，就算上岸了又有什么意义呢？技术上的事，慢慢来，实在不行咱就不卷这个AIGC了。”

看着碗里热气腾腾的面，我突然就释怀了。是啊，我学新技术、考公，初衷都是为了更好的生活，如果本末倒置，岂不是得不偿失？

那天之后，我调整了策略。我不再死磕底层源码，而是把精力放在“如何用后端工程化的思维去解决AI落地的问题”上。我用Warp快速搞定部署脚本，把省下的时间用来研究高并发下的模型推理队列设计、请求限流和降级策略。这才是我们后端在AIGC时代的核心竞争力啊！算法决定了模型的上限，但后端的工程能力决定了业务能走多远。

经过这几个月的实战，我总结了几点心得，希望能给同样在技术焦虑中的兄弟们一些启发：

第一，不要盲目追新，认清自己的生态位。算法岗去卷PyTorch的底层魔改，后端岗就去卷AI服务的工程化落地、高并发和稳定性。把模型当成一个特殊的微服务去治理，你的后端经验依然是降维打击。

第二，善用AI工具提升效率。像Warp这样的AI工具，不是用来偷懒的，而是用来帮你打破信息差、减少重复劳动的。把时间省下来，去思考架构，或者去陪陪家人、准备考试。

第三，保持节奏，拒绝内耗。无论是学新技术还是考公，都是一场马拉松。焦虑解决不了任何问题，按部就班地执行计划才是王道。

最后，分享一个好消息。今年的省考成绩出来了，我进面了！虽然体制内的工资可能没有我现在18k高，但想到以后能结束异地，每天下班能和老婆一起散步，周末再也不用赶高铁，我就觉得一切都值了。

技术日新月异，AIGC的浪潮还在翻涌，框架的对比和更迭永远不会停止。但作为程序员，我们最核心的资产，永远是那个能够冷静分析问题、快速学习并落地解决问题的自己。

明天周末，终于不用刷题了，准备陪老婆去逛个街。祝大家都能在自己的轨道上，稳步向前，早日上岸！