【PyTorch】Lightning/Fabric移行時のよくあるエラー解決法

PyTorchのLightning/Fabric移行エラー

PyTorchの使用中にLightning/Fabric移行エラーに遭遇する場合があります。本記事ではこの問題の原因と解決方法を詳しく解説します。

エラーの症状

PyTorch LightningまたはFabricに移行する際に、Trainerの設定エラー、コールバックの互換性問題、またはGPU関連のエラーが発生します。

原因

1. APIの変更（バージョン間の非互換）
Lightning 1.xから2.xで多くのAPIが変更されています。

2. コールバックの互換性
カスタムコールバックのメソッドシグネチャが変更されている場合があります。

3. accelerator設定の変更
Lightning 2.xではaccelerator/devicesの指定方法が変わりました。

解決方法

手順1: Lightning 2.x対応の基本構造

import pytorch_lightning as pl
from pytorch_lightning import Trainer

class MyModel(pl.LightningModule):
    def __init__(self):
        super().__init__()
        self.model = torch.nn.Linear(10, 1)
    
    def training_step(self, batch, batch_idx):
        x, y = batch
        pred = self.model(x)
        loss = torch.nn.functional.mse_loss(pred, y)
        self.log('train_loss', loss)
        return loss
    
    def configure_optimizers(self):
        return torch.optim.Adam(self.parameters(), lr=1e-3)

# Trainer（Lightning 2.x形式）
trainer = Trainer(
    max_epochs=10,
    accelerator='gpu',
    devices=1,
)

手順2: Fabricへの移行（軽量版）

from lightning.fabric import Fabric

fabric = Fabric(accelerator='gpu', devices=1)
fabric.launch()

model, optimizer = fabric.setup(model, optimizer)
train_loader = fabric.setup_dataloaders(train_loader)

まとめ

本記事で紹介した手順を試すことで、多くの場合問題を解決できます。環境固有の問題が残る場合は、公式ドキュメントやコミュニティフォーラムを参照してください。