カスタムモデルの推論を設定する

プロビジョンドスループットの購入 – モデルのプロビジョンドスループットを購入して、スループットが保証された専用コンピューティング容量をセットアップし、一貫したパフォーマンスと低レイテンシーを実現します。

プロビジョンドスループットの詳細については、「Amazon Bedrock のプロビジョンドスループットでモデル呼び出し容量を増やす」を参照してください。プロビジョンドスループットでカスタムモデルを使用する方法の詳細については、「」を参照してくださいカスタムモデルのプロビジョンドスループットを購入する。

オンデマンド推論用のカスタムモデルをデプロイする (Amazon Novaモデルのみ） – オンデマンド推論を設定するには、カスタムモデルデプロイを使用してモデルをデプロイします。モデルをデプロイしたら、カスタムモデルデプロイの ARN を使用してモデルを呼び出します。オンデマンド推論では、使用した分に対してのみ料金が発生し、プロビジョニングされたコンピューティングリソースを設定する必要はありません。

オンデマンド推論用のカスタムモデルのデプロイの詳細については、「」を参照してくださいオンデマンド推論用のカスタムモデルをデプロイする。