1. APIキーを作成する
IteraCompute アカウントを作成するかサインインし、コンソールでキーを作成します。
IteraCompute アカウントを作成するかサインインし、コンソールでキーを作成します。
ChatOpenAIをbase_urlで設定します。Responses API ではなく Chat Completions パスを使用します。
選択したモデルの正確な API モデル ID を使用してください。エージェントまたはビジョン機能を有効にする前に、そのコンテキストと機能を確認してください。
API キーをサーバー環境またはツール認証情報ストアに保管します。該当する場合は、サンプルのキー フィールドを独自のキーに置き換えます。
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="Auto",
base_url="https://api.iteracompute.com/v1",
api_key=os.environ["ITERACOMPUTE_API_KEY"],
use_responses_api=False,
stream_usage=False,
max_tokens=512,
)
print(llm.invoke("Hello!").content)# Bash / zsh / WSL; set ITERACOMPUTE_API_KEY in your environment first.
curl --fail-with-body https://api.iteracompute.com/v1/chat/completions \
-H "Authorization: Bearer $ITERACOMPUTE_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"Auto","messages":[{"role":"user","content":"Reply with exactly: Hello!"}],"max_tokens":512}'choices[0].message.content に表示されるテキストが含まれていることを確認します。HTTP 200 だけでは不十分です。推論により出力バジェットが消費される可能性があります。無料のQwenを使用するには、 初めての無料API呼び出しの例 思考を無効にするには、ツール内でプロンプトを送信します。
機能は IteraCompute API の対応状況を示します。ワークフローでの利用可否はツールと設定にも依存し、推論の制御方法はモデルによって異なります。
ChatOpenAI を langchain_openai からインポートします。このチャット完了レシピでは、base_url の末尾が /v1 であり、use_responses_api=False のままにしておきます。
この互換エンドポイントの例では、stream_usage=False を設定します。すべての OpenAI 固有のストリーミング オプションが選択したモデルで受け入れられると想定しないでください。
テキスト呼び出しでは、テキスト生成のみがテストされます。ツールを個別にバインドし、返されたツール呼び出しを検査し、エージェントのサポートを要求する前に制限付きテスト ツールを実行します。
アカウント全体の月間使用量と 同時実行 を確認します。Retry-After を尊重し、並列再試行を避けます。Free Auto には、自動的に支払われる超過料金はありません。他のモデルには公開価格が適用されます。
401 / 403: キーとモデルの権限を確認します。無料の Qwen には残高やカードは必要ありません。有料モデルの場合は、利用可能残高も確認してください。