创建一个2x3的张量，并扔到GPU上（如果有的话，穷逼如我只能在CPU上跑）

北漂背着房贷深夜死磕PyTorch入门踩坑记

现在是凌晨1点15分，刚洗完澡瘫在出租屋的电竞椅上。听着窗外偶尔驶过的渣土车轰鸣声，我习惯性地打开了IDE。说实话，白天在地铁上晃悠1个小时通勤，到公司又被各种需求会、进度对齐会折磨得脑仁疼，也就只有这深夜的几个小时，才真正属于我自己。

看着手机银行APP里弹出的房贷扣款提醒，我默默叹了口气，灌了口冰可乐，把注意力切回了屏幕。最近公司老板不知道受了什么刺激，非要搞什么“AI赋能业务”，逼着我们这帮写CRUD的开发去学深度学习。为了不被这波“优化”潮干掉，我只能硬着头皮啃PyTorch。今天就把这几天深夜死磕的入门心得写下来，算是给自己做个复盘，也给同样在AI边缘疯狂试探的兄弟们避避坑。

其实之前我也尝试过TensorFlow，但讲真，TF 1.x那种静态图的机制简直反人类，调个Bug能让人把键盘砸了。后来听说PyTorch是动态图，写起来跟写普通Python一样，这才果断投奔。

学习的过程中，遇到那些晦涩的算子或者看不懂的官方文档，我就直接把代码和报错扔给 Claude 或者 Qwen。不得不夸一句，现在这两个大模型真的是赛博菩萨，特别是Qwen对中文语境的理解，还有Claude那种极其严谨的逻辑推导，帮我秒解了无数个“为什么这里维度对不上”的弱智问题。没有它们，我估计现在还在配CUDA环境。

光看文档不写代码等于白搭。为了接地气，我给自己找了个具体的业务场景：做一个“内部代码Commit信息合规性检测”的二分类模型。数据集就是脱敏后的几千条Git commit message，标签是“合规”和“违规”。

PyTorch的核心其实就是搭积木。第一步是搞懂Tensor（张量）。你可以把它当成Numpy的数组，只不过它能放到GPU上跑。

import torch

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
x = torch.tensor([[1, 2, 3], [4, 5, 6]], dtype=torch.float32).to(device)
print(f"张量所在设备: {x.device}")

接着是自动求导机制 autograd。以前学反向传播，手撕链式法则差点没把我送走。现在只要在定义Tensor时加上 requires_grad=True，PyTorch就会自动帮你把梯度算好，简直是懒人福音。

做深度学习，数据加载是个脏活累活。我们需要自定义Dataset和DataLoader。这里我踩了第一个坑：一开始没搞懂 __getitem__ 的返回值，导致DataLoader报错。记住，__getitem__ 必须返回一个样本和对应的标签。

from torch.utils.data import Dataset, DataLoader

class CommitDataset(Dataset):
    def __init__(self, texts, labels):
        self.texts = texts
        self.labels = labels
        
    def __len__(self):
        return len(self.texts)
        
    def __getitem__(self, idx):
        # 这里省略了分词和转Tensor的过程
        return self.texts[idx], self.labels[idx]

# 用DataLoader包装，实现批量加载和打乱
dataset = CommitDataset(my_texts, my_labels)
dataloader = DataLoader(dataset, batch_size=32, shuffle=True)

[图：这里原本想放一张DataLoader数据流转的架构图，但怕你们说我水字数，就用文字代替吧。想象一下，Dataset像个仓库，DataLoader就是流水线上的叉车，每次精准地叉起32个箱子（batch）送到模型嘴边，是不是很有画面感？]

定义模型就简单了，继承 nn.Module，在 __init__ 里定义层，在 forward 里写前向传播逻辑。我直接上了个简单的全连接网络加几个Dropout防过拟合。

import torch.nn as nn

class CommitClassifier(nn.Module):
    def __init__(self, vocab_size, embed_dim, num_classes):
        super().__init__()
        self.embedding = nn.Embedding(vocab_size, embed_dim)
        self.fc1 = nn.Linear(embed_dim, 128)
        self.relu = nn.ReLU()
        self.dropout = nn.Dropout(0.3)
        self.fc2 = nn.Linear(128, num_classes)

    def forward(self, x):
        x = self.embedding(x)
        x = x.mean(dim=1) # 简单做个平均池化
        x = self.fc1(x)
        x = self.relu(x)
        x = self.dropout(x)
        x = self.fc2(x)
        return x

到了最激动人心的训练环节。PyTorch的训练循环（Training Loop）虽然比Keras那种一行 model.fit() 繁琐，但胜在极其灵活，你能控制每一个batch的每一个细节。

model = CommitClassifier(vocab_size=10000, embed_dim=128, num_classes=2).to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)
criterion = nn.CrossEntropyLoss()

for epoch in range(10):
    for batch_text, batch_label in dataloader:
        batch_text, batch_label = batch_text.to(device), batch_label.to(device)
        
        # 前向传播
        outputs = model(batch_text)
        loss = criterion(outputs, batch_label)
        
        # 反向传播和优化
        optimizer.zero_grad() # 清空历史梯度，这步千万别忘！
        loss.backward()
        optimizer.step()
        
    print(f"Epoch {epoch+1}, Loss: {loss.item():.4f}")

说到训练，必须吐槽一下我上周五晚上遇到的血泪Bug。当时跑得好好的，突然Loss不降反升，最后直接变成了 NaN。当时真的想砸电脑，以为模型结构写错了。后来把代码扔给 Claude 帮我Review，它一针见血地指出：我在计算Loss之前，忘了对输出做Softmax，而且学习率设得太大了（0.1），导致梯度爆炸。改成Adam优化器，学习率调到1e-3，加了LayerNorm，瞬间世界和平。

还有经典的OOM（Out of Memory）报错。CUDA out of memory. Tried to allocate 20.00 MiB... 看到这句熟悉的咒语，就知道显存又爆了。我的破显卡只有8G显存，只能默默把 batch_size 从64降到16，再不行就开梯度累加。

为了让大家直观感受，我整理了个传统机器学习和PyTorch深度学习在咱们这个业务场景下的对比：

对比维度	Scikit-learn (传统ML)	PyTorch (深度学习)
特征工程	极度依赖，需要人工提取TF-IDF等	较弱，可以直接喂Embedding或原始文本
模型可解释性	较好（如决策树、逻辑回归）	较差，基本是个黑盒
训练速度	极快，秒出结果	较慢，需要迭代多个Epoch
上限	数据量小、特征明显时表现好	数据量大、复杂语义理解时碾压
调参体验	网格搜索，相对可控	玄学，有时候调一晚上不如换个随机种子

折腾了快两周，我的“Commit合规检测”小模型终于跑通了。在测试集上F1-score达到了89%，虽然比不上那些百亿参数的大模型，但在公司内部做个初步拦截完全够用了。看着控制台里丝滑下降的Loss曲线，那种多巴胺分泌的快乐，真的比发工资还爽（虽然也就爽几分钟，想到房贷又沉重了）。

总结一下，PyTorch入门其实没有想象中那么难，核心就是理解Tensor操作、自动求导和训练循环这三件套。遇到不懂的，多看看官方文档，或者像我现在这样，善用 Qwen 和 Claude 这些AI助手帮你排查问题。

AI开发确实是个坑，调参有时候就像玄学，但PyTorch让这个过程变得可控且透明。对于咱们这种半路出家的业务开发来说，先跑通一个端到端的Demo，建立起正向反馈，比死磕底层数学公式重要得多。

好了，不知不觉又敲了这么多字，脖子已经僵了。明天早上8点半还要挤那趟该死的1号线，赶紧洗洗睡了。希望这篇踩坑记录能帮到正在入门的你，也祝咱们这些背着房贷的北漂打工人，都能在这波AI浪潮里找到属于自己的饭碗。晚安，玛卡巴卡。