从浦东合租房到GitHub高星项目：一个考公程序员的AI调优实战手记
去年十月的一个深夜，凌晨两点，我瘫在浦东张江某小区出租屋的椅子上，盯着屏幕上那条死活不收敛的loss曲线，心里只有一个念头：“这玩意儿要是能自动调参就好了。”
旁边床上，女朋友小雨已经睡熟了——她明天还要早起去陆家嘴上班。房租3500，水电煤网加起来差不多500，再加上她的通勤月卡和我的咖啡续命费，我们这个“沪漂双职工家庭”每月可支配收入其实没多少。而我，白天在一家中型互联网公司写CRUD（Create, Read, Update, Delete），晚上还得偷偷摸摸搞AI模型训练，目标只有一个：用技术能力给自己多留一条退路——万一考公失败，至少还能靠副业活下去。
是的，我是个准备考公的在职程序员。坐标上海，28岁，本科计算机，工作五年，月薪从15k涨到22k，但离“躺平”还差十万八千里。今年国考报名那天，我和小雨在宜家吃着19.9的意面套餐，她问我：“你真觉得公务员适合你？”
我说：“不一定适合，但足够稳定。咱们在上海，总得有个Plan B。”
一、起点：一个爬虫项目引发的“蝴蝶效应”
事情的起点，其实特别普通。
今年三月，我在刷GitHub Trending时，看到一个叫 awesome-ai-finetuning 的仓库突然冲上热榜。作者是个清华博士后，开源了一套基于LoRA（Low-Rank Adaptation）的轻量级微调框架，支持本地GPU训练，而且文档写得贼清楚。
我点进去一看，眼睛都亮了——这不就是我能用上的东西吗？
当时我正愁找不到高质量中文数据集来练手。主流公开数据集要么太老，要么标注质量堪忧。于是灵机一动：为什么不自己爬？
说干就干。我用Python + Scrapy 写了个定向爬虫，专门抓取知乎、豆瓣、微博上带“考公经验”“体制内生活”标签的长文。当然，严格遵守robots.txt，加了随机延迟，还用了代理池轮换IP——毕竟咱是正规军，不是“黑产兄弟”。
一周下来，攒了大概12万条高质量文本，清洗后剩下8万多。我把它们按主题打标：行测技巧、申论范文、面试经验、心理建设……甚至还分了“上岸党”和“二战党”的语气风格。
小雨看我天天对着终端敲代码，调侃道：“你这是要训练一个‘考公GPT’出来替你考试吗？”
我苦笑：“我要是能训练出这种模型，估计也不用考公了。”
但玩笑归玩笑，这个数据集后来成了我整个调优实验的基石。
二、第一次训练：理想很丰满，现实很骨感
有了数据，下一步就是选模型。我手头只有一台RTX 3060（12GB显存），公司配的开发机根本不敢动——被IT发现跑私活直接开除。所以必须选轻量级模型。
最终我锁定了 ChatGLM3-6B-INT4 ——4比特量化版，能在12G显存上跑起来。配合那位清华博士后的LoRA脚本，理论上微调几百MB就能搞定。
万事俱备，只欠东风。
我写好训练脚本，设好batch_size=4，learning_rate=2e-5，epochs=3，信心满满地按下回车。
结果？第一轮epoch结束，loss从5.2降到4.8，然后……纹丝不动。
第二轮，第三轮，几乎没变。生成的文本要么胡言乱语，要么复读训练数据里的句子，完全不具备泛化能力。
我盯着日志，心凉了半截。那晚小雨加班回来，看我脸色不对，问：“又崩了？”
我点点头：“感觉像是拿拖拉机去跑F1赛道，硬件不行，算法再牛也白搭。”
她递给我一杯热牛奶：“要不……先歇两天？你最近黑眼圈都快掉到下巴了。”
那一刻，我真的差点想放弃。考公资料堆在床头落灰，模型调不出来，工资没涨，房租又要交了。焦虑像潮水一样涌上来。
三、转折点：在GitHub Issues里“淘金”
转机出现在一个周末。
我实在不甘心，决定去GitHub那个仓库的Issues区“潜水”。很多开源项目真正的宝藏不在README，而在issue讨论里——老手们踩过的坑、调试的tricks，全藏在这儿。
果然，在第47号issue里，有人问：“为什么我的LoRA微调loss不下降？”
作者回复：“检查三点：1. 数据是否真的clean；2. learning rate是否过高；3. LoRA rank是否太小。”
我一拍大腿——rank！
我之前为了省显存，把LoRA的rank设成了4（默认是8）。这意味着适配器矩阵的秩太低，模型根本学不到复杂模式。
立刻改！rank=8，learning_rate降到1e-5，warmup_steps增加到总步数的10%。同时，我用HuggingFace的evaluate库加了BLEU和ROUGE指标，不再只看loss。
重新训练。
这一次，loss曲线终于开始稳步下降。到第二轮epoch，它降到了2.1；第三轮，1.7。生成效果肉眼可见地变好了——能写出结构完整的申论开头，还能模拟不同岗位（税务、海关、街道办）的答题风格。
最让我激动的是，模型居然学会了“避坑”。比如用户问“考公需要报班吗？”，它不会直接说“不用”，而是：“如果你自律性强、有资源渠道，自学完全可行；但若基础薄弱或时间紧张，系统班能帮你少走弯路。”——这不就是现实中上岸前辈的回答逻辑吗？
我兴奋地截图发给小雨，她回了个“👍”，然后补了一句：“别忘了明早9点模考，行测还有50题没刷。”
我：“……收到，领导。”
四、调优实战：那些GitHub没告诉你的细节
经过这次折腾，我总结出几条血泪经验，分享给同样在“夹缝中求生存”的同行们：
1. 爬虫不是万能的，但没有数据是万万不能的
公开数据集固然方便，但垂直领域必须自建。我后来发现，很多“考公问答”其实是营销号洗稿，逻辑混乱。于是我加了一道规则：只保留点赞>50、评论>10、且作者认证为“已上岸”的内容。虽然数据量少了，但质量高了不止一个档次。
2. GitHub代码别直接跑，先读透配置
那个LoRA脚本里，有个参数叫lora_alpha，默认是16。很多人不知道，它和rank一起决定了缩放因子（alpha/rank）。我试过alpha=32、rank=8，效果反而比alpha=16差——因为缩放太大，破坏了原始权重分布。调参不是玄学，是数学。
3. 算法理解比框架熟练更重要
我见过太多人只会调transformers.Trainer，却不懂学习率调度器（scheduler）的原理。比如CosineAnnealingLR在后期会让lr趋近于0，适合精细调优；而LinearWithWarmup更适合前期快速收敛。知道“为什么”比知道“怎么做”关键十倍。
4. 监控！监控！监控！
我用Weights & Biases（W&B）免费版记录每次实验。虽然只是个人项目，但可视化loss、lr、gradient norm的变化，能快速定位问题。有一次我发现梯度爆炸，一看是某个样本长度超了2048，直接裁剪后就稳了。
五、意外收获：从副业到“上岸加速器”
模型调好后，我做了个简单的Gradio界面，部署在阿里云学生机（99元/年）。小雨试用后惊了：“这比我买的那些考公APP还懂套路！”
更没想到的是，我把项目开源到GitHub，附上了详细教程和数据处理脚本。一周内star破200，有人留言：“感谢！我用这个练申论，面试拿了全场第一。”
甚至有培训机构私信想买断代码——我婉拒了。不是钱的问题，而是这东西本就是公共知识的结晶，不该被商业化收割。
但最大的回报，是我自己的备考效率提升了。以前写申论要憋两小时，现在让模型先生成三个版本，我挑优点整合，速度翻倍。行测的逻辑推理题，也能用模型做思维链（Chain-of-Thought）辅助分析。
上周五晚上，我一边跑新的消融实验（Ablation Study），一边和小雨视频。她说：“你变了，眼神没那么焦虑了。”
我笑了：“可能是因为，我不再把考公当成唯一的救命稻草了。就算没上岸，我也能靠技术吃饭。”
六、写在最后：技术人的Plan B，从来不是逃避
很多人觉得，程序员考公是“向现实低头”。但我想说：真正的成熟，是在认清现实后依然手握选择权。
AI模型训练教会我的，不仅是算法和工程技巧，更是一种思维方式：
- 数据脏？那就清洗。
- loss不降？那就调参。
- 显存不够？那就量化、蒸馏、LoRA。
问题总有解法，只是你还没找到。
而GitHub这样的开放社区，给了我们普通人逆袭的可能。一个爬虫，一段代码，一次commit，或许就是改变命运的支点。
如今，我的GitHub项目已经有1.2k stars，考公笔试也进了面试。无论结果如何，这段经历都让我明白：技术不是枷锁，而是翅膀。
如果你也在上海合租，白天写业务代码，晚上啃行测题；如果你也在焦虑35岁危机，又不甘心随波逐流——请相信，你手中的键盘，既能敲出CRUD，也能跑出改变人生的模型。
共勉。
后记：本文所有实验均在个人电脑完成，未使用公司资源。模型仅用于学习交流，不开源商用。考公路上，技术为辅，初心为本。
—— 一个仍在浦东出租屋里奋斗的程序员，2024年6月
评论 0