【Whisper】大容量音声ファイルでメモリ不足になる問題の解決法

はじめに

Whisperで発生する大容量音声メモリ不足の原因と解決法を解説します。

症状

長時間の音声ファイルをWhisperで処理しようとすると、メモリ不足でクラッシュします。

原因

1. 音声全体のメモリ展開

長時間音声を一度にメモリに読み込もうとしています。

解決方法

手順1: faster-whisperの使用

from faster_whisper import WhisperModel

model = WhisperModel('large-v3', device='cuda', compute_type='int8')
segments, info = model.transcribe('long_audio.mp3',
    beam_size=5, vad_filter=True)

手順2: 分割処理

from pydub import AudioSegment

audio = AudioSegment.from_mp3('long.mp3')
chunk_ms = 30 * 60 * 1000  # 30分ごと
chunks =  for i in range(0, len(audio), chunk_ms)]

まとめ

Whisperの大容量音声メモリ不足について解説しました。この記事が問題解決の参考になれば幸いです。