このページは機械翻訳したものです。

Oracle Cloud Infrastructureドキュメント

LLMサービスの作成

ダイアログ・フローのLLMコンポーネントの状態は、スキル・レベルのLLMサービスを介してモデルにアクセスします。このサービスでは、インスタンス・レベルのLLMサービスとスキルの変換ハンドラの1つを組み合せます。LLMサービスは、スキルレベルのアーティファクトです。

このサービスを構成するには:
  1. 「設定」→「構成」を選択します。
  2. ページの「大規模言語モデル・サービス」セクションで、「+新規LLMサービス」をクリックします。
  3. 次の行を入力します。
    • 名前: LLMサービスの識別しやすい名前を入力します。これは、ダイアログ・フローの構成時に選択する名前です。
    • LLMサービス: インスタンスに構成されているLLMサービスから選択します。
    • 変換ハンドラ: LLMサービスの対応する変換ハンドラを選択します。たとえば、LLMコンポーネントでAzure OpenAI LLMサービスを使用してレスポンスを生成する場合、Azure OpenAIペイロードをCLMIに変換するスキルのイベント・ハンドラの1つを選択します。
    • モック: このオプションを(true)に切り替えて、ダイアログ・フローをテストする際の時間とコストを節約します。このオプションを使用すると、LLMコンポーネントはLLM生成の継続ではなく静的応答を返すことができるため、LLM応答を待機する時間を無駄にする必要はなく、ダイアログ・フローの一部をテストしているときにLLMサービス・プロバイダからコストが発生することもありません。
      ノート

      このオプションを使用できるのは、選択したLLMサービスに200の静的レスポンスがある場合のみです。
    • デフォルト: このオプションを(true)に切り替えると、LLMコンポーネントの「LLMサービス」メニューのデフォルト選択としてLLMサービスが設定されます。既存のLLMサービスがすでにデフォルトとして設定されている場合、別のLLMサービスに対してこれをオンにすると、そのデフォルトのステータスが上書きされます(つまり、falseに設定されます)。
  4. (右にある)「保存」アクションをクリックします。
    「保存」アクション・アイコン。

24.02より前のリリースでRESTサービスとして作成されたLLMサービスには、警告警告アイコン。のフラグが付きます。この警告を終了するには、RESTサービス(「設定」→「APIサービス」からアクセス)を選択し、「LLMに変換」をクリックします。