DAY 37 GPU训练及类的call方法

一、GPU性能的查看：看架构代际、核心数、线程数

二、GPU性能的查看：看显存、看级别、看架构代际

三、GPU训练的方法：数据和模型移动到GPU device上

模型在 GPU 上训练，主要是将模型和数据迁移到 GPU 设备上。

在 PyTorch 里，.to(device) 方法的作用是把张量或者模型转移到指定的计算设备（像 CPU 或者 GPU）上。

- 对于张量（Tensor）：调用 .to(device) 之后，会返回一个在新设备上的新张量。

- 对于模型（nn.Module）：调用 .to(device) 会直接对模型进行修改，让其所有参数和缓冲区都移到新设备上。

在进行计算时，所有输入张量和模型必须处于同一个设备。要是它们不在同一设备上，就会引发运行时错误。并非所有 PyTorch 对象都有 .to(device) 方法，只有继承自 torch.nn.Module 的模型以及 torch.Tensor 对象才有此方法。

RuntimeError: Tensor for argument #1 'input' is on CPU, but expected it to be on GPU

这个常见错误就是输入张量和模型处于不同的设备。

四、类的call方法：为什么定义前向传播时可以直接写作self.fc1(x)

Python 中，只要一个类定义了 __call__ 方法，这个类的实例就变成了可调用对象（可以像函数一样加括号调用）。

self.fc1(x) 能直接调用的本质是：self.fc1 指向的是一个可调用对象（通常是 PyTorch/TensorFlow 等框架的层类实例，这些类实现了 __call__ 方法），而 __call__ 是 Python 中让实例 “像函数一样被调用” 的核心魔法方法。

self.fc1 通常是 nn.Linear 类的实例，而 nn.Linear（以及所有 nn.Module 子类）都实现了 __call__ 方法，且 __call__ 会关联到层的前向传播逻辑（forward 方法）。

self.fc1(x) 能直接写的核心是：

• fc1 是 nn.Module 子类（如nn.Linear）的实例；
• nn.Module 实现了 __call__ 方法，使得实例可被 “函数式调用”；
• 调用 self.fc1(x) 时，自动触发 __call__ → 调用 forward 方法，完成前向传播。

@浙大疏锦行