【CUDA】「CUDA driver version is insufficient for CUDA runtime version」エラーの解決法

この記事では、AI関連ツールの実行時に「CUDA driver version is insufficient for CUDA runtime version」エラーが発生する問題について、海外コミュニティでの解決策を要約して解説します。

1. どんな問題（エラー）が発生したか？

• 発生した環境やツール： PyTorch / TensorFlow / vLLMなどCUDA利用アプリケーション
• エラーメッセージ： RuntimeError: CUDA driver version is insufficient for CUDA runtime version
• 症状： GPUが認識されない、またはCUDA関連の処理が全て失敗する

2. 結論（解決策）

NVIDIAドライバーのバージョンが、インストールされたCUDAランタイムの要求する最低バージョンを満たしていないことが原因です。ドライバーを更新するか、CUDAバージョンを下げて解決します。

3. 具体的な手順

1. 現在のバージョンを確認

   # ドライバーのCUDA対応バージョン
   nvidia-smi
   # 右上の「CUDA Version」を確認
   
   # インストール済みCUDAランタイムバージョン  
   nvcc --version
   python -c "import torch; print(torch.version.cuda)"

2. 互換性表を確認
   例：CUDA 12.1はドライバー530.30以上が必要。nvidia-smiで表示されるCUDA Versionがランタイムバージョン以上であることを確認します。
3. NVIDIAドライバーを更新（推奨）

   # Ubuntu
   sudo apt update
   sudo apt install nvidia-driver-550
   sudo reboot

4. またはCUDAランタイムを下げる

   # PyTorchの例：CUDA 11.8版をインストール
   pip install torch --index-url https://download.pytorch.org/whl/cu118

4. 補足・注意点

NVIDIAドライバーは後方互換性があります（新しいドライバーは古いCUDA Runtimeを実行可能）。そのため、ドライバーを最新に保つのが最もシンプルな解決策です。DockerやWSL2環境ではホスト側のドライバーバージョンが重要です。

5.
👉 【RunPod】1時間数十円から使える高性能クラウドGPU

参考元

本記事は海外コミュニティの複数のディスカッションを要約・再構成したものです。

Source: NVIDIA CUDA Compatibility