バースト可能なVMを使用したモデル・デプロイメントの更新

バースト可能なインスタンスでモデル・デプロイメントを更新するには、次のステップに従います。

1. モデル・デプロイメント・ページで、更新するモデル・デプロイメントの名前を選択します。モデル・デプロイメントのリストの検索に関するヘルプが必要な場合は、モデル・デプロイメントのリストを参照してください。
2. 「モデル・デプロイメントの更新」を選択して構成を更新します。
3. 必要に応じて、モデル・デプロイメントを編集します。
4. 「コンピュートの選択」で、「シェイプの変更」を選択します。
5. 「計算」パネルで、「バースト可能」を選択します。
6. (オプション)「OCPU当たりのバースト可能な使用率」で、ベースラインOCPU使用率を選択します。
  この値は、最も頻繁に使用されるOCPUの割合です。
  ノート
  
  モデル・デプロイメントの場合、50%の値のみがサポートされます。
7. 「送信」を選択します。

モデル・デプロイメントを編集(更新)するには、oci data-science model-deployment updateコマンドおよび必須パラメータを使用します。

たとえば、次を使用してデプロイメントを更新します:

oci data-science model-deployment update \
--model-deployment-id <MODEL_DEPLOYMENT_OCID>
--model-deployment-configuration-details file://<MODEL_DEPLOYMENT_CONFIGURATION_FILE>

次に、更新に次のモデル・デプロイメントのJSON構成ファイルを使用します:

{
  "modelDeploymentConfigurationDetails": {
    "deploymentType": "SINGLE_MODEL",
    "modelConfigurationDetails": {
      "modelId": "ocid1.datasciencemodel.oc1.iad........",
      "instanceConfiguration": {
        "instanceShapeName": "VM.Standard.E4.Flex",
        "modelDeploymentInstanceShapeConfigDetails": {
          "ocpus": 1,
          "memoryInGBs": 16,
          "cpuBaseline": "BASELINE_1_2"
        }
      },
      "scalingPolicy": {
        "policyType": "FIXED_SIZE",
        "instanceCount": 1
      },
      "bandwidthMbps": 10
    },
    "environmentConfigurationDetails" : {
      "environmentConfigurationType": "OCIR_CONTAINER",
      "image": "iad.ocir.io/testtenancy/image_name:1.0.0",
      "entrypoint": [
        "python",
        "/opt/entrypoint.py"
      ],
      "serverPort": "5000",
      "healthCheckPort": "5000"
    },
    "streamConfigurationDetails": {
      "inputStreamIds": null,
      "outputStreamIds": null
    }
  }
}

CLIコマンドのパラメータおよび値の完全なリストは、CLIコマンド・リファレンスを参照してください。

UpdateModelDeployment操作を使用して、モデル・デプロイメントを編集(更新)します。

例:

endpoint = (
    endpoint = "https://datascience.us-ashburn-1.oci.oraclecloud.com/20190101/modelDeployments/ocid1.datasciencemodeldeployment.oc1.iad.amaaaabggsfewffgew/"
)
 
config = oci.config.from_file(profile_name="OC1")
config["region"] = "us-ashburn-1"
token_file = config.get("security_token_file", None)
signer = None
if token_file:
    with open(token_file, "r", encoding="UTF-8") as file:
        token = file.read()
    private_key = oci.signer.load_private_key_from_file(config.get("key_file", ""))
    signer = oci.auth.signers.SecurityTokenSigner(token, private_key)
 
model_deployment_details_payload = {
    "projectId": "ocid1.datascienceproject.oc1.eu-milan-1.amaaaaaabbbcccccc",
    "modelDeploymentConfigurationDetails": {
        "deploymentType": "SINGLE_MODEL",
        "modelConfigurationDetails": {
            "modelId": "ocid1.datasciencemodel.oc1.iad.amaaaaaav66vvniatytp7xjhid3inftgo52j55ozlm7hzglvvqni5wxi3bja",
            "scalingPolicy": {
                "instanceCount": 1,
                "policyType": "FIXED_SIZE"
            },
        "instanceConfiguration": {
            "instanceShapeName": "VM.Standard.E4.Flex",
            "modelDeploymentInstanceShapeConfigDetails": {
                "ocpus": 1,
                "memoryInGBs": 8,
                "cpuBaseline": "BASELINE_1_2"
        }
      }
    },
        "modelId": "ocid1.datasciencemodel.oc1.iad.amaaaabggsfewffgew",
        "bandwidthMbps": 10,
        },
    },
    "compartmentId": "ocid1.compartment.oc1..gegwgsefvrhresafwo",
}
 
update_response = requests.put(
    endpoint, auth=signer, json=model_deployment_details_payload
)
print(update_response.text)

Oracle Cloud Infrastructureドキュメント

バースト可能なVMを使用したモデル・デプロイメントの更新