【LLM全般】ローカルLLMでAgent機能を実装する方法：ReAct/Tool Useの実践ガイドとよくあるエラー解決

4. ツール定義の明確さ: ツール（関数）の名前、説明、パラメータのスキーマを明確に定義し、LLMが理解しやすい形で提示しないと、誤ったツール呼び出しの原因となります。

3. 解決方法：ステップバイステップ実装ガイド

ここでは、Pythonと人気のライブラリを用いた実践的な実装手順を説明します。今回は、Llama 3 8B（GGUF形式）をOllamaで動かし、LangChainフレームワークを使って実装する例を示します。

ステップ1: 環境構築と必要なライブラリのインストール

# 必要なパッケージのインストール
pip install langchain langchain-community langchain-experimental chromadb ollama

# OllamaのインストールとLlama 3モデルのプル（Mac/Linux）
# 公式サイトからOllamaをインストール後、ターミナルで実行
ollama pull llama3:8b

ステップ2: ツール（関数）の定義

Agentが使用できるツールをPython関数として定義します。関数のdocstringがツールの説明としてLLMに渡されるため、明確に記述することが重要です。

from langchain.tools import tool
import requests
from datetime import datetime

@tool
def search_wikipedia(query: str) -> str:
    """Wikipediaでキーワードを検索し、要約された情報を返します。
    引数は検索クエリ（文字列）一つです。"""
    # 簡易的な実装例（実際はWikipedia APIを使用）
    print(f"[Wikipedia Tool Called] Query: {query}")
    # ここで実際のAPIリクエストを実装
    return f"Wikipediaによる'{query}'の検索結果: これはサンプルレスポンスです。"

@tool
def get_current_time(timezone: str = "Asia/Tokyo") -> str:
    """指定したタイムゾーンの現在の日時を取得します。
    引数timezoneはIANAタイムゾーン名（例: 'Asia/Tokyo', 'UTC'）です。"""
    from pytz import timezone as tz
    import pytz
    try:
        tz_obj = tz(timezone)
        current_time = datetime.now(tz_obj).strftime("%Y-%m-%d %H:%M:%S %Z%z")
        return f"現在の日時（{timezone}）: {current_time}"
    except pytz.exceptions.UnknownTimeZoneError:
        return f"エラー: タイムゾーン '{timezone}' は無効です。"

ステップ3: ReAct形式に特化したプロンプトテンプレートの作成

LangChainのAgent用プロンプトをカスタマイズし、ローカルLLM向けに強く指示を出します。

from langchain.prompts import PromptTemplate

# ReAct形式を強制するための詳細なプロンプトテンプレート
REACT_PROMPT = PromptTemplate.from_template("""
あなたは思考と行動を組み合わせて質問に答えるアシスタントです。
以下のフォーマットを**必ず厳守**してください。

Thought: ここで現在の状況について考えます。何をする必要があるか、どのツールを使うべきか。
Action: 実行するツール名。**以下のToolリストから正確に一つ選んでください**。
Action Input: ツールへの入力。ツールが要求する形式（通常は文字列）で。
Observation: ツールが返した結果。

... (このThought/Action/Observationのサイクルは繰り返せます)

最終的な答えがわかったら、以下のフォーマットで答えてください:
Thought: 質問に対する答えがわかりました。
Final Answer: ここにユーザーへの最終的な答えを簡潔に書きます。

始める前に、以下のツールとその説明を確認してください:
{tools}

ユーザーの質問: {input}

以前のやり取り（関連する場合）: {agent_scratchpad}

さあ、始めましょう。
Thought:""")

ステップ4: カスタムAgentの構築と実行

LangChainのエージェント実行器を組み立て、出力パーサーでLLMの応答を解析します。

from langchain.agents import AgentExecutor, create_react_agent
from langchain_community.llms import Ollama
from langchain.agents.output_parsers import ReActSingleInputOutputParser

# 1. LLMの準備（Ollama経由でローカルLlama 3を呼び出す）
llm = Ollama(model="llama3:8b", temperature=0) # temperatureは低めに設定

# 2. ツールのリスト化
tools = [search_wikipedia, get_current_time]

# 3. カスタムAgentの作成
agent = create_react_agent(llm, tools, REACT_PROMPT)

# 4. Agent Executorの作成（最大ループ数を制限して無限ループを防止）
agent_executor = AgentExecutor(
    agent=agent,
    tools=tools,
    verbose=True, # 実行過程を表示
    handle_parsing_errors=True, # パースエラーをハンドリング
    max_iterations=5, # 最大反復回数を制限
    early_stopping_method="generate" # 最終答えが出たら停止
)

# 5. Agentの実行
try:
    response = agent_executor.invoke({"input": "東京の現在時刻を教えて、それから人工知能についてWikipediaで調べて要約して。"})
    print("n=== 最終応答 ===")
    print(response["output"])
except Exception as e:
    print(f"エラーが発生しました: {type(e).__name__}: {e}")

4. よくあるエラーとその解決策（コード例付き）

エラー1: OutputParserException – LLMの出力がフォーマットに従わない

エラーメッセージ例: langchain.schema.OutputParserException: Could not parse LLM output: `はい、調べます...`

解決策: プロンプトを強化し、よりシンプルで明確なフォーマットを要求します。また、handle_parsing_errors パラメータをTrueに設定し、パース失敗時にエージェントに再試行させます。

# AgentExecutorの設定でパースエラー処理を有効化
agent_executor = AgentExecutor(
    ...,
    handle_parsing_errors="Check your output and make sure it conforms! Please respond with the correct format.",
    max_iterations=5
)

エラー2: 無限ループまたは最大反復回数超過

エラーメッセージ例: Agent stopped due to iteration limit or time limit.

解決策: max_iterations を適切な値（3〜7）に設定し、プロンプトで「簡潔に」「必要な回数だけ繰り返す」と指示を追加します。また、ツールの結果が不適切な場合、LLMが迷子になることがあるので、ツールのエラーメッセージを明確に返すようにします。

エラー3: コンテキスト長超過 (ContextLengthExceededError)

解決策: 会話の要約や、重要なメモリのみを保持するメモリ管理を実装します。LangChainの ConversationSummaryBufferMemory などを活用します。

from langchain.memory import ConversationSummaryBufferMemory
from langchain.chains.llm import LLMChain

summary_memory = ConversationSummaryBufferMemory(
    llm=llm,
    max_token_limit=1000, # メモリの最大トークン数
    memory_key="chat_history",
    return_messages=True
)
# このmemoryをagent_executorの引数に渡す（設定方法はAgentタイプによる）

5. まとめ・補足情報

ローカルLLMで実用的なAgentを構築するには、「モデル選択」「プロンプトエンジニアリング」「ツール設計」「エラー処理」の4つの柱をバランスよく考慮する必要があります。

推奨モデル: Agent機能には、指示追従能力が高いモデルが向いています。現時点では、Llama 3 Instruct (8B/70B), Mistral (7B Instruct), Command R+ などが良い選択肢です。GGUF形式であれば、q4_K_M や q5_K_M の量子化が性能と速度のバランスに優れています。

発展的なトピック:

• Function Callingフォーマットの利用: OpenAI API互換のfunction calling形式（JSON Schema）を出力するようローカルLLMをファインチューニングする方法もあります。
• エラーハンドリングの強化: ツール実行時のネットワークエラーや不正な入力に対し、Agentが適切にリカバリーするロジックを追加します。
• 複数Agentの協調: 役割分担した複数のローカルLLM Agentを連携させることで、より複雑なタスクを実行可能になります。

ローカルLLM Agentはまだ発展途上の技術ですが、適切な設計と工夫により、コストをかけずに強力な自律型AIアプリケーションの基盤を構築することができます。本記事で紹介したパターンと解決策を参考に、実際のプロジェクトでの実装に挑戦してみてください。