聊聊技术探索与实践：一个杭州程序员在AI浪潮中的挣扎、坚持与希望
上周五晚上十一点半，我刚哄完一岁半的女儿睡觉，轻手轻脚关上房门，回到书房。老婆在客厅刷着小红书，抬头看了我一眼：“又搞你的AI？别熬太晚。”我点点头，打开电脑，屏幕亮起的瞬间，DeepSeek-R1 的本地推理窗口正在加载模型权重——这是我连续第三周尝试微调一个用于政务数据解析的 AI Agent。
说实话，那一刻我有点恍惚。就在一年前，我还以为自己这辈子会一直写 CRUD 接口、改 bug、开站会，直到头发掉光。可现在，我一边还着每月 6300 元的房贷（没错，杭州临平的小两居，总价 280 万，掏空六个钱包），一边在业余时间捣鼓 Devin 这类 AI 工程师工具，试图理解“AI 原生开发”到底是个啥。
今天，我想和大家聊聊这段技术探索与实践的真实经历。不是什么成功学鸡汤，而是一个普通在职程序员，在考公压力与技术热情之间，如何找到自己的节奏。
一、那个让我失眠的夜晚：从“工具人”到“思考者”的觉醒
时间倒回去年十月。那天下午三点，我在公司会议室里开需求评审会。产品经理指着 PPT 上一行字：“这个功能要支持自然语言查询，用户说‘帮我查下上个月西湖区的社保缴纳人数’，系统就要返回结果。”
我坐在角落，心里嘀咕：“这不就是个 RAG + LLM 的活儿吗？”但嘴上没敢说。因为我知道，一旦我说出“我们可以用大模型”，后面就会跟着一堆问题：“准确率怎么保证？”“响应延迟多高？”“有没有合规风险？”——最后很可能变成我一个人扛锅。
散会后，我回到工位，盯着 IDE 发呆。突然想起前几天刷到的一条推文：Devin，Cognition Labs 推出的 AI 软件工程师，能独立完成端到端开发任务。我当时嗤之以鼻：“又是 PR 炒作吧？代码生成都还没搞定呢，就敢叫‘软件工程师’？”
但那天晚上，我鬼使神差地注册了 Devin 的候补名单。回家路上，地铁挤得像沙丁鱼罐头，我站在车厢连接处，掏出手机看 DeepSeek 的开源文档。旁边一个学生模样的小伙子也在看 GitHub，我们对视一笑——大概只有程序员才懂这种深夜刷代码的默契。
回到家，老婆问我：“你最近怎么老看 AI？是不是想跳槽？”
我说：“不是，我在想，如果以后公务员考试也考编程题，我是不是能用 AI Agent 自动答题？”
她翻了个白眼：“你先把行测刷完再说吧。”
那一刻我才意识到：我的身份早已分裂成两个——白天是业务系统的“缝合怪”，晚上是 AI 技术的“追光者”。而房贷、考公、育儿，像三座大山压在我肩上。
二、动手实践：从“跑通 Demo”到“落地政务场景”
今年年初，我下定决心：不能再只当“技术观众”。于是给自己定了个小目标：用开源工具链，搭建一个能处理结构化政务数据的 AI Agent。
为什么选政务？因为我考的是浙江省考，申论材料里全是“数字化改革”“一网通办”“基层治理”。如果我能做出点东西，说不定面试还能当案例讲（虽然 HR 可能听不懂）。
我选择了 DeepSeek 开源的 DeepSeek-Coder 系列模型作为底座。原因很简单：中文支持好、Apache 2.0 协议、本地部署友好。我在阿里云租了台 8 卡 A10 的实例（月付 3800 元，心疼得睡不着，但老婆说：“就当报班了。”）。
第一个月，我连环境都没配好。CUDA 版本冲突、vLLM 启动失败、LangChain 链路超时……每天下班回家吃完饭就钻进书房，女儿哭闹也不敢抱，怕打断调试思路。有天凌晨两点，终于跑通了第一个 RAG 流程：输入“杭州市余杭区 2023 年新生儿数量”，Agent 能从统计局 PDF 中提取数据并结构化输出。
我激动地截图发到家庭群，我爸回：“这玩意能考公务员吗？”
我苦笑：不能，但它让我觉得自己还没被时代甩下。
后来我逐步加入更多能力：
- 用 LlamaIndex 构建知识图谱，关联“政策文件—执行部门—适用人群”
- 用 Docker 封装 Agent 服务，做成 REST API
- 甚至尝试接入 Devin 的思路：让 Agent 能自主拆解任务，比如“先查政策原文，再找申报流程，最后生成办事指南”
当然，中间踩了无数坑。比如有一次，模型把“灵活就业人员社保补贴”理解成了“给灵活就业人员发钱”，差点闹出政策误读的大笑话。我赶紧加上规则校验层，还写了 prompt engineering 指南贴在显示器边上：
“你不是预言家，你是办事员。回答必须基于公开文件，不确定就说‘请咨询XX部门’。”
三、架构设计的思考：AI 不是魔法，而是新范式
很多人以为 AI 编程就是“扔个需求进去，自动出代码”。但经过这半年实践，我越来越觉得：真正的挑战不在模型本身，而在系统架构的设计思维。
以前我们做系统，讲究高内聚低耦合、分层清晰、接口规范。现在引入 AI Agent 后，整个逻辑变了：
不确定性成为常态
传统系统追求确定性输出，但 LLM 天然带有随机性。我的解决方案是：在关键路径上加“确定性兜底”。比如数据查询失败时，自动降级到关键词检索；生成内容需经规则引擎二次校验。人机协作需要新边界
我设计了一个“人类审批节点”：当 Agent 判断某项政策解释存在歧义时，会标记为“需人工复核”，并通过企业微信通知我。这其实是 Devin 提倡的“AI-Human Co-Pilot”理念——AI 不是取代人，而是把人从重复劳动中解放出来，去做更高阶的判断。成本与效果的平衡艺术
本地部署 DeepSeek 虽然隐私安全，但推理速度慢。后来我做了混合架构：简单查询走本地小模型（如 Phi-3），复杂任务才调用云端 DeepSeek-R1。一个月下来，云费用从 4500 元降到 2200 元——省下的钱刚好够交半个月房贷。
这些思考，让我在公司内部技术分享会上讲了一次《AI 原生应用的架构陷阱》，没想到居然被领导看中，让我牵头一个内部智能客服项目。虽然工资没涨（还是 22k/月），但至少证明：技术探索不是无用功，它会在某个拐角回报你。
四、考公与技术：两条看似平行的线，其实可以相交
很多朋友问我：“你既然这么爱技术，干嘛还要考公？”
我的答案很实在：我不是不爱技术，我是怕被淘汰。
杭州互联网行业这两年变化太快。身边同事要么被裁，要么转岗，35 岁焦虑不是段子。而公务员虽然稳定，但我也知道，未来的政府工作必然拥抱 AI。浙江省已经在推“AI+政务”试点，杭州城市大脑每天处理上亿条数据。
所以我的策略是：用技术思维准备考公，用考公目标约束技术方向。
比如申论写作，我不再死记硬背模板，而是训练一个基于 DeepSeek 的“申论素材生成器”——输入“基层治理”，它能给我整理最新政策案例、专家观点、地方实践。虽然不能直接抄，但大大提升了素材收集效率。
再比如行测的资料分析题，我写了个 Python 脚本，模拟真题数据，训练自己快速抓取关键信息的能力——这不就是 Prompt Engineering 的核心吗？
老婆笑我说：“别人考公刷题，你考公写代码。”
我说：“殊途同归嘛，都是解决问题。”
五、写给同样在路上的你
如果你也在职、有房贷、想转型、又不敢辞职；如果你也对 AI 充满好奇，但被“不会数学”“没 GPU”“年纪大了”这些念头困住——我想说：
技术探索不需要宏大叙事，只需要一个今晚就能开始的小实验。
不用等公司立项，不用等老板批准。就在你家书房、出租屋、甚至咖啡馆角落，打开 VS Code，跑通第一个 LangChain 示例。哪怕只是让 AI 帮你自动整理会议纪要，那也是迈出了第一步。
记住几个原则：
- 小步快跑，快速验证：别想着一步做出 Devin，先解决一个小痛点。
- 拥抱开源，站在巨人肩上：DeepSeek、LlamaIndex、LangGraph……这些工具已经足够强大。
- 保持输出，建立反馈：写博客、发社区、甚至发朋友圈，让世界看到你在做什么。
我现在依然每周刷行测题，依然担心进面分数不够，依然在加班改需求。但不同的是，我不再焦虑“会不会被 AI 取代”，而是思考“如何用 AI 放大我的价值”。
结语：在不确定的时代，做确定的自己
去年这个时候，我月薪 15k，住在滨江的合租房，房租 3500，每天通勤一个半小时。
现在，我有了自己的小家，月薪 22k，通勤缩短到 20 分钟，还在业余时间做出了能跑的 AI Agent。
数字背后，是无数个深夜的 debug，是老婆默默帮我带孩子的辛苦，是父母那句“累了就回来”的底气。
技术会变，框架会过时，模型会迭代。但持续学习的能力、解决问题的热情、面对未知的勇气，永远不会贬值。
Devin 很酷，DeepSeek 很强，AI Agent 很火。但真正重要的，是你是否愿意在生活的夹缝中，为自己留一盏探索的灯。
共勉。
—— 一个在杭州还着房贷、备考省考、却依然相信技术改变生活的普通程序员
2024 年 6 月于家中书房
评论 0