【Whisper】音声認識のCUDAエラーと処理速度改善法

Whisperの音声認識のCUDAエラーと速度問題

Whisperの使用中に音声認識のCUDAエラーと速度問題に遭遇する場合があります。本記事ではこの問題の原因と解決方法を詳しく解説します。

エラーの症状

OpenAI Whisperを使用した音声認識で、GPU使用時のCUDAエラー、長い音声ファイルのメモリ不足、または処理速度が極端に遅い問題が発生します。

原因

1. Whisperモデルサイズに対するVRAM不足
large-v3モデルは約6GBのVRAMが必要です。

2. 長い音声のメモリ消費
1時間以上の音声ファイルは大量のメモリを消費します。

3. FFmpegの未インストール
Whisperは音声ファイルの読み込みにFFmpegを使用します。

解決方法

手順1: 適切なモデルサイズの選択

・tiny: ~1GB VRAM（速度重視）
・base: ~1GB VRAM
・small: ~2GB VRAM
・medium: ~5GB VRAM
・large-v3: ~10GB VRAM（精度重視）

import whisper
model = whisper.load_model("medium", device="cuda")

手順2: faster-whisperの使用

# CTranslate2ベースの高速版
pip install faster-whisper

from faster_whisper import WhisperModel
model = WhisperModel("large-v3", device="cuda", compute_type="float16")
segments, info = model.transcribe("audio.mp3")

手順3: 長い音声の分割処理

# pydubで音声を分割
from pydub import AudioSegment
audio = AudioSegment.from_file("long_audio.mp3")
chunk_length = 30 * 60 * 1000  # 30分ごとに分割
chunks =  for i in range(0, len(audio), chunk_length)]

まとめ

本記事で紹介した手順を試すことで、多くの場合問題を解決できます。環境固有の問題が残る場合は、公式ドキュメントやコミュニティフォーラムを参照してください。