Amazon SageMaker AI に関するよくある質問

Amazon SageMaker AIは、さまざまなユースケースに対応した高性能で低コストの機械学習（ML）を可能にする幅広いツールを統合したフルマネージドサービスです。SageMaker AI を使えば、ノートブック、デバッガ、プロファイラ、パイプライン、MLOps などのツールを活用して、機械学習モデルを大規模に構築、学習、デプロイすることができます—すべて一つの統合開発環境 (IDE) で行えます。SageMaker AIは、MLプロジェクトに対するアクセス管理の簡素化と透明性を提供することで、ガバナンス要件をサポートします。さらに、専用のツールを使って微調整、実験、再学習、デプロイを行うことで、膨大なデータセットで訓練された大規模モデルである基盤モデル（FM）を自分で構築することもできます。SageMaker AIは、公開されているFMを含む数百の事前学習済みモデルへのアクセスも提供しており、数ステップでデプロイすることができます。

サポートされている SageMaker AI リージョンの一覧については、AWS リージョンサービスのページをご覧ください。また、詳細については、AWS一般リファレンスガイドのリージョナルエンドポイントを参照してください。

SageMaker AIは高い可用性を念頭に設計されています。メンテナンスウィンドウや予定されたダウンタイムはありません。SageMakerのAI APIは、Amazonの実績ある高可用性データセンターで動作し、各リージョンの3つの施設にサービススタックのレプリケーションが設定されており、サーバー障害やアベイラビリティーゾーンの停止が発生した場合にも耐障害性を提供します。

SageMaker AI はコードを ML ストレージボリュームに保存し、セキュリティグループで保護され、オプションで保存時に暗号化されます。

SageMaker AI では、ML モデルと他のシステムのアーティファクトが転送中も保管時も暗号化されます。SageMaker AI の API とコンソールに対するリクエストには、安全な SSL 接続が使用されます。お客様は、AWS Identity and Access Management ロールを SageMaker AI に渡すことで、お客様に代わってトレーニングとデプロイのリソースにアクセスするための権限を付与します。暗号化された Amazon Simple Storage Service (Amazon S3) バケットをモデルアーティファクトやデータに使用し、AWS Key Management Service (AWS KMS) キーを SageMaker AI ノートブック、トレーニングジョブ、およびエンドポイントに渡すと、接続されている ML ストレージボリュームを暗号化できます。SageMaker AI は、Amazon Virtual Private Cloud (Amazon VPC) と AWS PrivateLink もサポートしています。

SageMaker AI は、顧客モデル、トレーニングデータやアルゴリズムを使用または共有しません。お客様がプライバシーとデータセキュリティについて懸念されるのは当然のことです。このため、AWS ではコンテンツの所有権と管理権をお客様にお渡ししています。簡素化されたパワフルなツールによって、自分のコンテンツをどこに保存するかをお客様に決定していただき、転送中のコンテンツと保管中のコンテンツを保護し、お客様のユーザーの AWS のサービスとリソースに対するアクセスを管理できるようにしています。また、お客様のコンテンツに対する不正アクセスや開示を防止するよう設計された技術的および物理的な管理を実践しています。お客様のコンテンツの所有権はお客様が保持します。また、お客様のコンテンツを処理、保存、ホストする AWS のサービスはお客様が選択します。いかなる目的であっても、AWS はお客様の同意を得ることなく、お客様のコンテンツにアクセスすることはありません。

ノートブックのホスティング、モデルのトレーニング、予測の実行、出力の記録に使用する機械学習の計算、ストレージ、およびデータ処理リソースには料金が発生します。SageMaker AIを使用すると、ホストされたノートブック、トレーニング、モデルホスティングに使用するインスタンスの数と種類を選択できます。使用した分だけ支払えばよく、最低料金や前払いの義務はありません。詳細については、Amazon SageMaker AI の料金ページ と Amazon SageMaker の料金計算ツールをご覧ください。

SageMakerのAIリソース使用を最適化するために採用できるいくつかのベストプラクティスがあります。あるアプローチは設定の最適化を伴い、他のアプローチはプログラムによる解決策を伴います。この概念に関する完全なガイドは、視覚的なチュートリアルやコードサンプルとともに、このブログ記事で見ることができます。

SageMaker AI は十分で完全なエンドツーエンドのワークフローを提供しますが、引き続き既存のツールを SageMaker AI と共に使用することもできます。ビジネス要件に応じて、簡単に各ステージの結果を SageMaker に転送したり、SageMaker AI から転送したりできます。

はい。R は、SageMaker AI ノートブックインスタンス内で使用できます。これには、事前インストールされた R カーネルと reticulate ライブラリが含まれています。Reticulate は、Amazon SageMaker AI Python SDK 向けの R インターフェイスを提供し、機械学習の専門家が R モデルの構築、トレーニング、調整、デプロイに役立ちます。また、Amazon SageMaker Studio で R の統合開発環境 (IDE) である RStudio を起動することもできます。 

Amazon SageMaker Studio は、すべての機械学習開発ステップを実行できる、単一のウェブベースビジュアルインターフェイスを提供します。SageMaker Studio はデータの準備、モデルの構築、トレーニング、デプロイに必要な各ステップに対し、完全なアクセス、管理、可視性をもたらします。データのアップロード、新規ノートブックの作成、モデルのトレーニングと調整、ステップ間での移動などを迅速にこなし、さまざまな試みを調整したり、結果を比較したり、本番環境にモデルをデプロイするといった処理をすべて 1 か所から実行でき、生産性を飛躍的に向上できます。ノートブック、実験管理、自動モデル作成、デバッグとプロファイリング、モデルドリフト検出を含むすべての機械学習開発活動は、統合された SageMaker Studio のビジュアルインターフェイス内で行うことができます。 

Amazon SageMaker Studio には、フルマネージド型クラウド IDE とローカル IDE オプションの両方が用意されています。JupyterLab、Code-OSS（VS Code オープンソース）をベースにしたコードエディター、RStudioなど、幅広いフルマネージドクラウドIDEにアクセスできます。さらに、ローカルの Visual Studio Code から Amazon SageMaker Studio の開発環境に接続して、SageMaker AI のスケーラブルな計算リソースにアクセスできます。

詳細については、 SageMaker Studio デベロッパーガイドをご覧ください。

SageMaker Studio は、追加料金なしでご利用いただけます。SageMaker Studio 内で使用するサービスの基礎となるコンピューティングおよびストレージ料金のみを支払います。

SageMaker Studio がサポートされているリージョンは、Amazon SageMaker 開発者ガイドで確認できます。

Amazon SageMaker Clarifyy は、機械学習ワークフロー全体で統計的バイアスを検出することにより、モデルの透明性向上を支援します。SageMaker Clarify は、データの準備中、トレーニング後、および時間の経過とともに不均衡をチェックし、ML モデルとその予測を説明するのに役立つツールも備えています。検出結果は、説明可能性レポートを通じて共有できます。

RStudio on SageMaker AI は初のクラウド展開のフルマネージド RStudio Workbench です。使い慣れた RStudio 統合開発環境 (IDE) をすばやく起動し、作業を中断することなく基盤となるコンピューティングリソースをダイヤルアップ/ダウンできるので、R による機械学習および分析ソリューションを簡単に大規模に構築できます。RStudio IDE と SageMaker Studio ノートブックをシームレスに切り替えて、R および Python 開発を行うことができます。 コード、データセット、リポジトリ、その他のアーティファクトを含むすべての作業は、2 つの環境間で自動的に同期されるため、コンテキストスイッチを減らし、生産性を高めることができます。

SageMaker Clarify は SageMaker Experiments と統合されており、トレーニングされた後のモデルの全体的な意思決定プロセスにおける各入力の重要度を詳細に示す特徴の重要度のグラフを提供します。これらの詳細は、特定のモデル入力がモデル全体の動作に必要以上の影響を与えるかどうかを判断するのに役立ちます。また、SageMaker Clarify では、個々の予測結果に対する解説を API を通じて公開しています。 

SageMaker AI (旧称: SageMaker) は、あらゆるユースケースで高性能かつ低コストの ML を実現する幅広いツールを統合したフルマネージドサービスです。SageMaker AI では、ML モデルを大規模に構築、トレーニング、およびデプロイできます。次世代の SageMaker は、データ、分析、AI のための統合プラットフォームです。広く採用されている AWS の機械学習 (ML) と分析機能をまとめた次世代の SageMaker は、すべてのデータに対する統合アクセスとともに、分析と AI のための統合エクスペリエンスを提供します。

次世代の SageMaker には次の機能が含まれています。

• SageMaker Unified Studio: 分析と AI のためのすべてのデータとツールを使って構築
  単一環境。
• SageMaker Lakehouse: Amazon S3 データレイク、Amazon Redshift データ全体のデータを統合
  SageMaker Lakehouse によるウェアハウス、サードパーティ、フェデレーテッドデータソース
• SageMaker データおよび AI ガバナンス: データと AI を安全に発見、管理、協力する
  Amazon DataZone上に構築されたSageMakerカタログを使用。
• モデル開発: 機械学習と基盤モデル (FM) を全面的に構築、トレーニング、デプロイ
  SageMaker AI (旧称 SageMaker) を使用してインフラストラクチャ、ツール、およびワークフローを管理しました。
• 生成 AI アプリ開発: Amazonで生成 AI アプリケーションを構築および拡張する
  Bedrock
• SQL 分析: 最もコストパフォーマンスに優れた SQL エンジンである Amazon Redshift でインサイトを得ることができます。
• データ処理: オープンソースを使用して、分析やAIのためにデータを解析、準備、統合する
  アテナ、Amazon EMR、AWS Glue 上のフレームワーク。

サポートされている機能には、JupyterLabノートブックでのビルディング、JumpStart、Amazon Q Developer、トレーニングジョブ、HyperPodでのトレーニングおよびファインチューニング、推論エンドポイントによるデプロイメント、MLFlow、パイプライン、モデルレジストリを使用したスケーラブルなMLOps、モデルダッシュボードによるガバナンス、パートナーAIアプリやSnowflakeとのサードパーティ統合が含まれます。

SageMaker は、統合されたデータに加えて、データを見つけ、アクセスし、アクションを実行するための AI エクスペリエンスを提供することで、分析と AI のイニシアチブを加速させます。SageMaker AI は今後もサポートされるため、既存のワークフローを引き続き機能させるための対策を講じる必要はありません。例えば、既存の Amazon SageMaker HyperPod クラスターをそのまま使用し続けることができます。これらを新しい SageMaker Unified Studio で使用したい場合は、このクラスターとの接続を設定します。既存のすべての HyperPod 設定は自動的に SageMaker のプロジェクトに移行され、パフォーマンスとコスト効率は同じままです。SageMaker Unified Studio エクスペリエンスは、すべてのツールを 1 か所にまとめることで生産性を向上させることができます。

データと AI の単一の開発環境から、共同作業と構築をより迅速に行える統合スタジオを発表できることを嬉しく思います。SageMaker Unified Studio から、データを発見して、モデル開発、生成AI、データ処理、SQL 分析のための馴染みのある AWS ツールを使って活用することができます。AWS は、移行のあらゆる段階でお客様をサポートします。ご不明な点があれば、いつでもアカウントチームにお問い合わせください。

SageMaker Studioは、信頼性が高く効率的な機械学習開発環境を必要とするお客様にとって、引き続き優れた選択肢です。分析とAIの統合体験を求め、すべてのデータへの統一アクセスを提供するプラットフォームを探している組織は、SageMaker Unified Studioを検討すべきです。SageMaker Unified Studio を使うと、モデルや生成AIアプリの開発、データ処理、SQL分析などの完全な開発ワークフローのために、慣れ親しんだ AWS ツールにアクセスでき、すべてを一元管理された環境で利用できます。

はい。新しい SageMaker Unified Studio では、HyperPod、JumpStart、MLFlow、JupyterLab、Pipelines のすべてを利用できます。

ジャーニー 1.基盤モデル (FM) を選択、カスタマイズ、デプロイする。

• データセットの参照と選択
• FM の選択
• モデルの評価 (自動評価と人間による評価)
• カスタマイゼーションとファインチューニング: FM の料金、パフォーマンス、品質の最適化
• 推論のための最適化とデプロイ
• FMOps とモデル監視での自動化

ジャーニー 2.機械学習モデルを大規模に構築、トレーニング、デプロイする。

• 機械学習のためのデータ準備の迅速化とスケーリング
• 機械学習モデルの構築
• 機械学習モデルのトレーニングと調整
• 本番環境でのデプロイ
• 管理と監視
• 機械学習ライフサイクルの自動化
  

ジャーニー 3.モデルを選択し、生成 AI アプリケーションを構築してデプロイする。

• モデルの選択とファインチューニング
• Amazon Bedrock へのモデルのインポート
• エンドポイントと統合する生成 AI アプリケーションの構築とデプロイ

ジャーニー 4.モデルを選択してエンドポイントにデプロイし、エンドポイントを生成 AI アプリに接続する。

• モデルの選択
• SageMaker AI エンドポイントへのモデルのデプロイ
• 生成 AI アプリケーションへのエンドポイントの接続
  

SageMaker を使用する場合、SageMaker を通じてアクセスできるさまざまな AWS サービスの料金モデルに従って課金されます。SageMaker 内で統合された体験を提供するデータおよび AI 開発環境である SageMaker Unified Studio の利用には、別途費用はかかりません。詳細については、SageMaker の料金ページをご覧ください。

SageMaker AI は、機械学習ライフサイクル全体にわたって、目的に応じた機械学習ガバナンスツールを提供します。Amazon SageMaker Role Manager を使用すると、管理者は最小限の権限を数分で定義できます。Amazon SageMaker Model Cards を使用すると、構想からデプロイまで、重要なモデル情報を簡単に取得、検索、共有でき、Amazon SageMaker Model Dashboard を使用すると、本番モデルの動作に関する情報をすべて 1 か所で把握することができます。詳細については、Amazon AI SageMaker を使用した ML ガバナンス を参照してください。

SageMaker Role Manager を使用して、最小限のアクセス許可を数分で定義できます。SageMaker Role Manager は、事前に構築された IAM ポリシーのカタログを使用して、機械学習アクティビティとペルソナのための権限のベースラインセットを提供します。基本的な権限を維持することも、特定のニーズに基づいてさらにカスタマイズすることもできます。ネットワークアクセスの境界や暗号化キーなど、一般的なガバナンスの構成は、いくつかのセルフガイドプロンプトですぐに入力できます。SageMaker Role Manager は、IAM ポリシーを自動的に生成します。生成されたロールと関連するポリシーは、AWS IAM コンソールで確認できます。ユースケースに合わせて権限をさらに調整するには、マネージド IAM ポリシーを、SageMaker Role Manager で作成した IAM ロールにアタッチします。また、タグを追加してロールを識別し、AWS のサービス間で整理することができます。

SageMaker Model Cards は、モデル情報の単一の情報源を作成することによって、機械学習ライフサイクル全体を通してモデルドキュメントの一元化と標準化を支援します。SageMaker Model Cards は、トレーニングの詳細をオートポピュレートし、ドキュメント化プロセスを加速します。また、モデルの目的やパフォーマンス目標などの詳細を追加することもできます。モデルの評価結果をモデルカードに添付し、モデルのパフォーマンスに関する重要なインサイトを得るための視覚化を提供することができます。SageMaker Model Cards は、PDF 形式でエクスポートすることで、簡単に他の人と共有することができます。

SageMaker Model Dashboard は、デプロイされたモデルとエンドポイントの包括的な概要を提供し、リソースとモデルの動作違反を 1 つのペインで追跡することができます。SageMaker Model Monitor および SageMaker Clarify との統合により、データとモデルの品質、バイアスとフィーチャーアトリビューションドリフトを含む 4 つの次元でモデルの動作をモニタリングすることが可能です。SageMaker Model Dashboard は、モデルモニタリングジョブの欠落や非アクティブ、モデル品質、データ品質、バイアスドリフト、フィーチャーアトリビューションドリフトに関するモデル動作の逸脱に対するアラートを設定および受信するための統合エクスペリエンスも提供します。さらに、個々のモデルを検査し、モデルのパフォーマンスに影響を与える要因を時系列で分析することができます。そして、機械学習実践者のフォローアップを行い、是正措置を講じることができます。

SageMaker JumpStart は、機械学習をすばやく簡単に開始するのに役立ちます。SageMaker JumpStart は、最も一般的なユースケース向けの一連のソリューションを提供し、数回のステップだけで簡単にデプロイできます。ソリューションは完全にカスタマイズ可能であり、AWS CloudFormation テンプレートとリファレンスアーキテクチャの使用を紹介しているため、ML の導入を加速できます。SageMaker JumpStart は、基盤モデルも提供し、トランスフォーマー、オブジェクト検出、画像分類モデルなど、150 を超える人気のオープンソースモデルのワンステップデプロイとファインチューニングもサポートしています。 

SageMaker JumpStart は専用モデルとパブリックモデルを提供します。利用可能な基盤モデルのリストについては、Amazon SageMaker JumpStart の開始方法を参照してください。

基盤モデルには、SageMaker Studio、SageMaker SDK、および AWS マネジメントコンソールからアクセスできます。独自の基盤モデルの使用を開始するには、AWS Marketplace の販売条件を承諾する必要があります。

いいえ、ご自身の推論およびトレーニングデータは、SageMaker JumpStart がお客様に提供する基本モデルの更新やトレーニングに使用または共有されることはありません。

いいえ、専用モデルでは、お客様がモデルの重みやスクリプトを表示することはできません。

モデルは SageMaker Studio が利用可能なすべてのリージョンで見つけることができますが、モデルをデプロイできるかどうかは、必要なインスタンスタイプのモデルとインスタンスの可用性によって異なります。AWS Marketplace のモデル詳細ページから AWS リージョンの可用性と必要なインスタンスを参照できます。

専用モデルの場合は、モデルプロバイダーが決定するソフトウェア価格と、使用したインスタンスに基づいて SageMaker AI インフラストラクチャ料金が課金されます。公開されているモデルについては、使用したインスタンスに基づいて SageMaker AI インフラストラクチャ料金が課金されます。詳細については、Amazon SageMaker AI の料金と AWS Marketplace を参照してください。

AWS ではセキュリティが最優先事項であり、SageMaker JumpStart はセキュリティを考慮して設計されています。このため、SageMaker AI ではコンテンツの所有権と管理権をお客様に提供しています。簡素化されたパワフルなツールは、お客様が自分のコンテンツをどこに保存するかを決定し、転送中のコンテンツと保管中のコンテンツを保護し、お客様のユーザーの AWS のサービスとリソースに対するアクセスを管理するのに役立ちます。

1. カスタマートレーニングや推論情報を AWS Marketplace のモデル出品者と共有することはありません。同様に、出品者のモデルアーティファクト (モデルの重みなど) は購入者と共有されません。
2. SageMaker JumpStart は、サービスの向上のために顧客モデル、トレーニングデータ、またはアルゴリズムを使用したり、顧客トレーニングや推論データを第三者と共有したりすることはありません。
3. SageMaker JumpStart では、ML モデルのアーティファクトは転送中も保管時も暗号化されます。
4. AWS 責任共有モデルでは、 AWS は、すべての AWS で実行されるグローバルインフラストラクチャの保護について責任を負います。お客様は、このインフラストラクチャでホストされているコンテンツの維持について責任を負います。

AWS Marketplace または SageMaker JumpStart のモデルを使用することで、ユーザーはモデル出力の品質について責任を負うものとし、個々のモデルの説明に記載されている機能と制限に同意したものとみなされます。

SageMaker JumpStart には、PyTorch Hub と TensorFlow Hub の 150 超の事前トレーニング済み公開モデルが含まれています。画像分類やオブジェクト検出などの視覚タスクでは、RESNET、MobileNet、Single-Shot Detector (SSD) のようなモデルを使用できます。文の分類、テキストの分類、質問応答などのテキストタスクには、BERT、RoBERTa、DistilBERT のようなモデルを使用できます。

SageMaker JumpStart を使用すると、データサイエンティストと機械学習デベロッパーは、ノートブックとモデルを含む機械学習のアーティファクトを組織内で簡単に共有することができます。管理者は、定義された一連のユーザーがアクセスできるリポジトリを設定することができます。リポジトリにアクセスする権限を持つすべてのユーザーは、モデルやノートブック、SageMaker JumpStart 内の公開コンテンツを閲覧、検索、使用することができます。ユーザーは、アーティファクトを選択して、SageMaker JumpStart でモデルのトレーニング、エンドポイントのデプロイ、およびノートブックの実行を行うことができます。

SageMaker JumpStart を使用すると、機械学習アプリケーションを構築する際の市場投入までの時間を短縮することができます。組織内のあるチームが構築したモデルやノートブックを、数回のステップだけで、組織内の他のチームと簡単に共有することができます。内部での知識共有とアセットの再利用により、組織の生産性を大幅に向上させることができます。

はい。管理者は、複数の AWS アカウントとユーザープリンシパルにわたって、ユーザーが表示および使用できる Amazon SageMaker JumpStart モデルを制御できます。詳細については、ドキュメントをご覧ください。

推論最適化ツールキットを使用すると、最新の推論最適化手法を簡単に実装して、デベロッパーの時間を数か月節約しながら、Amazon SageMaker AI で最先端 (SOTA) のコストパフォーマンスを実現できます。SageMaker AI が提供するさまざまな人気の最適化手法から選択して、事前に最適化ジョブを実行し、モデルのパフォーマンスと精度のメトリクスをベンチマーキングしてから、最適化されたモデルを推論のために SageMaker AI エンドポイントにデプロイできます。ツールキットはモデル最適化のすべての側面を処理するため、ビジネス目標にさらに注力できます。

推論最適化ツールキットは、生成 AI アプリケーションのコストパフォーマンスを改善し、市場投入までの時間を短縮するのに役立ちます。フルマネージドのモデル最適化ツールキットを使用すると、使いやすいツールで最新の最適化手法を利用できます。ツールキットは最先端の技術革新、新しいハードウェアやホスティング機能に継続的に対応するため、時間が経つにつれて最適なソリューションに簡単にアップグレードすることも可能です。

推論最適化ツールキットは、投機的デコード、量子化、コンパイルなどの最適化手法をサポートしています。数回のクリックでモデルに追加する最適化を選択できます。Amazon SageMaker AI は、ハードウェアの調達、深層学習コンテナと最適化ジョブを実行するための対応するチューニングパラメータの選択、お客様が指定する S3 の場所への、最適化されたモデルアーティファクトの保存という、差別化につながらない手間のかかる作業をすべて管理します。

投機的デコードでは、SageMaker AI が提供するドラフトモデルから開始できるため、独自のドラフトモデルをゼロから構築したり、ルーティングやシステムレベルの最適化をリクエストしたりする必要はありません。量子化では、使用する精度タイプを選択し、ベンチマーキングジョブを開始するだけで、パフォーマンスと精度のトレードオフを測定できます。Amazon SageMaker は包括的な評価レポートを生成するため、パフォーマンスと精度のトレードオフを簡単に分析できます。コンパイルでは、最も人気のあるモデルとその設定について、Amazon SageMaker AI はエンドポイントの設定およびスケーリング中にコンパイルされたモデルアーティファクトを自動的に取得します。これにより、事前にコンパイルジョブを実行する必要がなくなり、ハードウェアコストを削減できます。

Amazon SageMaker AI 推論最適化ツールキットは、生成 AI モデルの最適化にかかるコストと時間を削減するのに役立ちます。これにより、ビジネス目標に注力できます。

SageMaker Canvas は、直感的なポイントアンドクリックインターフェイスを備えたノーコードサービスであり、データから非常に正確な機械学習ベースの予測を作成できます。SageMaker Canvas では、ドラッグアンドドロップ式のユーザーインターフェイスを使用してさまざまなソースからデータにアクセスして組み合わせることができ、自動的にデータをクリーニングして準備するため、手動によるクリーンアップを最小限に抑えることができます。SageMaker Canvas は、さまざまな最先端の機械学習アルゴリズムを適用して高精度な予測モデルを見つけ出し、直感的なインターフェイスで予測を行うことができます。SageMaker Canvas を使用すると、さまざまなビジネスアプリケーションでより正確な予測を行い、モデル、データ、レポートを共有することで、企業内のデータサイエンティストやアナリストと簡単に連携できます。SageMaker Canvas の詳細については、Amazon SageMaker Canvas のよくある質問を参照してください。

SageMaker Autopilot は業界初の自動化された機械学習機能で、ユーザーは自分の ML モデルをすべてコントロールし、完全に可視化できます。SageMaker Autopilot は自動的に raw データを検証し、機能プロセッサを適用して、最適なアルゴリズムのセットを選出します。そして、複数のモデルをトレーニングおよび調整し、パフォーマンスを追跡、その後、パフォーマンスに基づいてモデルをランク付けします。これらすべての処理がわずか数クリックで実行できます。その結果、通常ではモデルのトレーニングに要するのと同程度のわずかな時間で、最高のパフォーマンスを備えたモデルをデプロイできます。モデルがどのように作成され、その中身が何かまで完全に見える化でき、SageMaker Autopilot は SageMaker Studio と統合します。SageMaker Studio 内で SageMaker Autopilot によって生成されたモデルを最高 50 種類まで試すことができるので、ユースケースに最適なモデルを簡単に選べます。SageMaker Autopilot はモデルを簡単に作成するために、機械学習の経験のないユーザーにも使用できるほか、経験を積んだデベロッパーが使用してすばやく基盤となるモデルを作成し、それをチームがさらに繰り返し使用することもできます。

SageMaker Canvas では、使用量に応じてお支払いただきます。SageMaker Canvas は、複数のソースからインタラクティブにデータを取り込み、探索、準備することが可能で、データを使って高精度の ML モデルを学習し、予測を生成することができます。請求対象となるのは、SageMaker Canvas の使用時間またはログイン時間に応じたセッション料金と、モデル構築に使用したデータセットのサイズに応じたモデル学習料金の 2 つです。詳細については、Amazon SageMaker Canvas の料金をご覧ください。

はい。ジョブはいつでも停止できます。SageMaker Autopilot ジョブが停止すると、進行中のすべてのトライアルが停止し、新しいトライアルは開始されません。

Amazon SageMaker Pipelines は、データの準備からモデルのデプロイまで、完全に自動化された機械学習ワークフローを作成するのに役立ちます。これにより、本番環境で数千の機械学習モデルにスケールできます。SageMaker Python SDK を使用してパイプラインを作成し、SageMaker Studio のビジュアルインターフェイスからパイプラインを表示、実行、監査することができます。SageMaker Pipelines は、ステップ間のデータの管理、コードレシピのパッケージ化、および実行の調整を行い、コーディングに費やす数か月に及ぶ時間を数時間に短縮します。ワークフローが実行されるたびに、処理されたデータと実行されたアクションの完全な記録が保持されるため、データサイエンティストと機械学習デベロッパーは問題をすばやくデバッグできます。

SageMaker パイプラインは「ステップ」で構成されます。ネイティブにサポートされているステップタイプのいずれかを選択して、SageMaker AI のさまざまな機能 (例: トレーニング、評価) または他の AWS サービス (例: EMR、Lambda) を呼び出すワークフローを作成できます。また、「@step」Python デコレーターを使用するか、または Python Notebook 全体をパイプラインのコンポーネントとして追加することで、既存の ML Python コードを SageMaker Pipeline にリフトアンドシフトすることもできます。詳細については、SageMaker パイプラインの開発者ガイドを参照してください。

SageMaker Pipelines は、追加料金なしでご利用いただけます。SageMaker Pipelines 内で使用する基盤となるコンピューティングまたは個別の AWS のサービスに対してのみ料金を支払います。

はい。Kubeflow Pipelines 用 Amazon SageMaker AI コンポーネントは、Kubeflow Pipelines を使用して機械学習ワークフローを定義し、データラベリング、トレーニング、推論のステップで SageMaker AI を使用するためのオープンソースのプラグインです。Kubeflow Pipelines は、ポータブルでスケーラブルな完全な機械学習パイプラインを構築してデプロイできる、Kubeflow のアドオンです。ただし、Kubeflow Pipelines を使用する場合、機械学習運用チームは CPU や GPU インスタンスを使用して Kubernetes クラスターを管理し、常に稼働率を高く保って運用コストを削減する必要があります。データサイエンスチーム全体でクラスターの利用率を最大化することは簡単ではなく、機械学習運用チームに余計な運用経費を負担させることになります。機械学習に最適化された Kubernetes クラスターの代わりに、SageMaker Components for Kubeflow Pipelines を使用できます。これにより、機械学習ジョブを実行するための特別な Kubernetes クラスターの構成や管理をしなくても、データラベリング、フルマネージドの大規模なハイパーパラメータ調整、分散トレーニングジョブ、ワンクリックでの安全でスケーラブルなモデルのデプロイ、Amazon Elastic Compute Cloud (Amazon EC2) スポットインスタンスでの費用対効率が高いトレーニングなど、強力な SageMaker の機能を利用できます。

SageMaker Components for Kubeflow Pipelines は、追加料金なしで利用できます。 

ヒューマンインザループとは、機械学習のライフサイクル全体にわたって人間の意見を活用して、モデルの精度と関連性を向上させるプロセスです。人間は、データの生成や注釈付けからモデルのレビューやカスタマイズまで、さまざまなタスクを実行できます。人間がコンテンツの要求者であり消費者でもあるジェネレーティブAIアプリケーションでは、人間の介入が特に重要です。したがって、ファンデーションモデル (FM) に、ユーザーのプロンプトに正確かつ安全かつ適切に対応する方法を人間がトレーニングすることが重要です。人間からのフィードバックを応用して、複数のタスクを完了することができます。まず、教師あり学習（モデルがユーザーのプロンプトにどのように反応すべきかのスタイル、長さ、精度を人間がシミュレートする）と人間のフィードバックによる強化学習（人間がモデルの応答をランク付けして分類する）を通じて、生成型 AI アプリケーション向けの高品質のラベル付きトレーニングデータセットを作成します。次に、人間が生成したデータを使用して、特定のタスクや会社やドメイン固有のデータに合わせてFMをカスタマイズし、モデル出力を自分に合ったものにします。

ヒューマン・イン・ザ・ループ機能は、FMを活用した生成型AIアプリケーションの作成と改善において重要な役割を果たします。タスクのガイドラインに基づいてトレーニングを受けた高度なスキルを持つ人材は、FM を訓練するためのデモンストレーションデータの作成、サンプル応答の修正と改善、企業および業界データに基づくモデルの微調整、毒性や偏見に対する保護手段としての機能などの活動において、フィードバック、ガイダンス、インプット、評価を提供できます。したがって、ヒューマンインザループ機能により、モデルの精度とパフォーマンスを向上させることができます。 

Amazon SageMaker Ground Truth は、最も包括的なヒューマンインザループ機能を備えています。Amazon SageMaker Ground Truth を利用するには、セルフサービスサービスと AWS マネージドサービスの 2 つの方法があります。セルフサービスサービスでは、データアノテーター、コンテンツクリエーター、プロンプトエンジニア（社内、ベンダー管理、または一般ユーザーの活用）は、当社のローコードユーザーインターフェイスを使用して、独自のカスタムワークフローを柔軟に構築および管理しながら、ヒューマンインザループタスクを加速できます。AWS マネージドサービス (SageMaker Ground Truth Plus) では、お客様のユースケースに適した人材の選択と管理など、面倒な作業をお客様に代わって処理します。SageMaker Ground Truth Plus は、エンドツーエンドのワークフロー (詳細な人材トレーニングと品質保証手順を含む) を設計およびカスタマイズし、特定のタスクについてトレーニングを受けた熟練した AWS マネージドチームを提供し、お客様のデータ品質、セキュリティ、コンプライアンス要件を満たします。 

SageMaker Data Wrangler は、機械学習用のデータを集約して準備するのにかかる時間を短縮します。SageMaker Studio の単一のインターフェイスでは、Amazon S3、Amazon Athena、Amazon Redshift、AWS Lake Formation、Amazon EMR、Snowflake、Databricks からデータをわずか数回のステップで参照、インポートすることが可能です。また、50 以上のデータソースから転送され、Amazon AppFlow によって AWS Glue データカタログに登録されたデータもクエリを実行してインポートすることが可能です。SageMaker Data Wrangler は、生データを自動的に読み込み、集計し、表示します。SageMaker Data Wrangler にデータをインポートすると、自動生成された列のサマリーやヒストグラムを見ることができます。その後、SageMaker Data Wrangler の Data Quality and Insights レポートを使用して、データをより深く理解し、潜在的なエラーを特定することができます。このレポートでは、要約統計とデータ品質に関する警告が表示されます。また、SageMaker Clarify でサポートされているバイアス分析を SageMaker Data Wrangler から直接実行し、データ準備中に潜在的なバイアスを検出することができます。そこから、SageMaker Data Wrangler の事前構築された変換を使用して、データを準備することができます。データの準備ができたら、Amazon SageMaker Pipelines を使用して完全に自動化された機械学習ワークフローを構築し、そのデータを Amazon SageMaker Feature Store にインポートできます。

SageMaker Data Wranglerで使用するすべてのML計算、ストレージ、データ処理リソースに対して料金が発生します。SageMaker Data Wrangler の料金設定のすべての詳細は、こちらでご確認いただけます。AWS 無料利用枠の一環として、SageMaker Data Wrangler を無料で開始することもできます。

SageMaker Data Wrangler の UI から直接 SageMaker AI 処理ジョブを設定して起動することができ、データ処理ジョブのスケジュール設定やデータソースのパラメータ化を行って、大規模な新しいデータのバッチを簡単に変換することができます。

データの準備が整ったら、SageMaker Data Wrangler は SageMaker Data Wrangler フローを本番環境に昇格させるためのさまざまなオプションを提供し、MLOps や CI/CD の機能とシームレスに統合されます。SageMaker Data Wrangler の UI から直接 SageMaker AI 処理ジョブを設定して起動することができ、データ処理ジョブのスケジュール設定やデータソースのパラメータ化を行って、大規模な新しいデータのバッチを簡単に変換することができます。あるいは、SageMaker Data Wrangler は SageMaker の AI 処理や SageMaker Spark コンテナとシームレスに統合されており、SageMaker SDK を使って SageMaker Data Wrangler を本番ワークフローに簡単に組み込むことができます。

SageMaker Feature Store は、機械学習 (ML) モデルの特微量を保存、共有、管理するためのフルマネージド専用プラットフォームです。特徴量を検出して共有できるため、安全なアクセスとコントロールの恩恵を受けながら、モデルやチーム全体で簡単に再利用できます (AWS アカウント間を含む)。SageMaker Feature Store は、リアルタイム推論、バッチ推論、トレーニングのために、オンラインとオフラインの両方の特徴量をサポートします。また、特徴量の作成における重複を減らし、モデルの精度を高めるために、バッチおよびストリーミング特徴量エンジニアリングパイプラインを管理します。

AWS 無料利用枠の一環として、SageMaker Feature Store の使用を無料で開始できます。SageMaker Feature Store では、特徴ストアへの書き込み、オンライン特徴ストアからの読み取りとストレージの料金をお支払いいただきます。料金の詳細については、Amazon SageMaker の料金をご覧ください。

SageMaker AI は、Amazon SageMaker Ground Truth Plus と Amazon SageMaker Ground Truth の 2 種類のデータラベリングサービスを提供します。どちらのオプションも、画像、テキストファイル、動画などの生データを特定し、情報ラベルを追加してMLモデル用の高品質な学習データセットを作成することができます。詳細については、Amazon SageMaker データラベリングを参照してください。

SageMaker AI のフルマネージド型 Jupyter Notebook を使用して ML 開発を完全に行えます。クラウド内のコンピューティング最適化インスタンスと GPU 高速インスタンスを幅広く選択して、コンピューティングインスタンスをスケールアップまたはスケールダウンします。

SageMaker Studio ノートブックは、ワンステップで Jupyter Notebook に素早くスピンできます。根本となるコンピューティングリソースは完全に伸縮自在であるため、使用可能なリソースの量を簡単に増減させることができ、変更は作業を中断することなくバックグラウンドで自動的に反映されます。SageMaker AI ではまた、ワンステップでノートブックを共有することもできます。ノートブックを他の人と簡単に共有できます。また、全員が同じ場所に保存された同じノートブックを入手できます。

SageMaker Studio ノートブックでは、 IAM アイデンティティセンターを使用して企業の認証情報でサインインできます。チーム内およびチーム間でノートブックを共有するのは簡単ですが、ノートブックを実行するのに必要な依存関係は、ノートブックを共有するときにカプセル化された作業イメージで自動的に追跡されるからです。

SageMaker Studio IDE のノートブックは、インスタンスベースのノートブックとは異なるいくつかの重要な機能を提供します。まず、インスタンスを手動でプロビジョニングして操作可能になるのを待つ必要なく、ノートブックをすばやく起動できます。ノートブックを読み取って実行するために UI を起動する起動時間は、インスタンスベースのノートブックよりも高速です。また、いつでも UI 内からインスタンスタイプの大規模なコレクションを柔軟に選択できます。新しいインスタンスを起動したり、ノートブックに移植したりするために、AWS マネジメントコンソールにアクセスする必要はありません。各ユーザーには、特定のインスタンスに依存しない独立したホームディレクトリがあります。このディレクトリは、起動時にすべてのノートブックサーバーとカーネルに自動的にマウントされるため、インスタンスを切り替えてノートブックを表示して実行する場合でも、ノートブックやその他のファイルにアクセスできます。SageMaker Studio ノートブックは AWS IAM アイデンティティセンター (AWS SSO の後継) と統合されているため、組織の認証情報を使用してノートブックにアクセスするのがより簡単になります。また、ノートブックは SageMaker AI の専用の ML ツールやその他の AWS サービスと統合されているため、Amazon EMR 上の Spark を使用したペタバイト規模でのデータの準備、モデルのトレーニングとデバッグ、モデルのデプロイと監視、パイプラインの管理まで、ML 開発全体で活用できます。

機械学習の実践者は、チームメイトが SageMaker Studio ノートブックを一緒に読んだり編集したりできる共有ワークスペースを作成することができます。共有スペースを使用することで、チームメイトは同じノートブックファイルを共同編集し、ノートブックコードを同時に実行し、その結果を一緒にレビューすることで、行き違いをなくし、共同作業を効率化することができます。共有スペースでは、BitBucket や AWS CodeCommit のようなサービスのサポートが組み込まれており、機械学習チームは、異なるバージョンのノートブックを簡単に管理し、時間の経過とともに変更点を比較できるようになります。実験や機械学習モデルなど、ノートブック内から作成されたすべてのリソースは自動的に保存され、これが作成された特定のワークスペースに関連付けられるため、チームはより簡単に整理され、機械学習モデル開発を加速させることができます。

Studio IDE で SageMaker AI ノートブックを使用すると、コンピューティングとストレージの両方の料金が発生します。コンピューティングインスタンスタイプ別の料金については、「Amazon SageMaker AI の料金」をご覧ください。ノートブックおよびデータファイルやスクリプトなどの関連するアーティファクトは、Amazon Elastic File System (Amazon EFS) で保持されます。ストレージの料金については、「Amazon EFS の料金」をご覧ください。AWS 無料利用枠内で、SageMaker Studio でのノートブックの使用を無料で開始できます。

いいえ。同じコンピューティングインスタンスで複数のノートブックを作成し、実行できます。料金は、個々のアイテムではなく、使用したコンピューティングに対してのみ発生します。詳細については、Usage Metering を参照してください。

SageMaker Studio では、ノートブックに加え、同じコンピューティングインスタンスで、ターミナルおよび対話型シェルを開始して実行することも可能です。各アプリケーションは、コンテナまたはイメージ内で実行されます。SageMaker Studio では、データサイエンスおよび機械学習専用に事前設定された組み込みイメージがいくつか用意されています。

SageMaker Studio ノートブックで使用するリソースのモニタリングとシャットダウンは、SageMaker Studio のビジュアルインターフェイス、または AWS マネジメントコンソールで行えます。 詳細については、ドキュメントを参照してください。

いいえ、SageMaker Studio ドメインの作成や設定、ユーザープロフィールの追加、更新、削除については料金は発生しません。

管理者として、AWS 請求コンソールで SageMaker Studio を含む SageMaker AI の明細料金の一覧を見ることができます。SageMaker AI の AWS マネジメントコンソールで、上部メニューの「Services」を選択し、検索ボックスに「billing」と入力してドロップダウンから「Billing」を選択し、左側のパネルで「Bills」を選択します。[Details] (詳細) セクションで、[SageMaker] を選択してリージョンの一覧を展開し、料金の明細を確認できます。

SageMaker Studio Labは、MLの授業や実験のために、設定不要で無料のノートブック開発環境が必要な学生、研究者、データサイエンティスト向けです。SageMaker Studio Labは、本番環境を必要としないが、MLスキルを向上させるためにSageMakerのAI機能の一部を利用したいユーザーに最適です。SageMaker の AI セッションは自動的に保存され、各ユーザーセッションの続きからすぐに作業を再開できるようにします。

SageMaker Canvas は、ビジネスアナリストがコードの記述や機械学習の専門知識を必要とせずに、機械学習モデルを構築し、正確な予測を生成できるようにする、視覚的なドラッグアンドドロップサービスです。SageMaker Canvas を使用すると、さまざまなソースからのデータにアクセスして結合し、データを自動的にクリーンアップしてさまざまなデータ調整を適用し、機械学習モデルを構築してワンステップで正確な予測を生成するのがより簡単になります。また、結果を簡単に公開し、モデルを説明および解釈し、組織内の他のユーザーとモデルを共有してレビューすることもできます。

SageMaker Canvas は、Simple Storage Service (Amazon S3) や Amazon Redshift など、アカウントがアクセスできる AWS データソースをシームレスに検出するのに役立ちます。SageMaker Canvas のビジュアル、ドラッグアンドドロップインターフェイスを使用して、データを参照およびインポートできます。さらに、ローカルディスクからファイルをドラッグアンドドロップし、構築済みのコネクタを使用して、Snowflake などのサードパーティーソースからデータをインポートできます。

ソースを接続し、データセットを選択し、データを準備したら、予測したいターゲット列を選択して、モデル作成ジョブを開始することができます。SageMaker Canvasは、自動的に問題の種類を識別し、新しい関連する特徴量を生成し、線形回帰、ロジスティック回帰、ディープラーニング、時系列予測、勾配ブースティングなどの機械学習技術を使用して幅広い予測モデルをテストし、データセットに基づいて正確な予測を行うモデルを構築します。

モデルの構築にかかる時間は、データセットのサイズによって異なります。小さなデータセットは 30 分未満、大きなデータセットは数時間かかる場合があります。モデル作成ジョブが進行すると、SageMaker Canvas は、ジョブ完了率やジョブ完了までの残り時間など、詳細な視覚的更新情報を提供します。

次の場合は、モデルの微調整にAmazon Bedrockの使用をお勧めします:

• モデルのトレーニングに伴う複雑さを抽象化し、管理されたAPI駆動のアプローチを望み、ハイパーパラメータを減らしたい、生成AIアプリケーションの開発者です。
• 最小限のインフラオーバーヘッドを必要とし、既存のMLインフラ投資がほとんどないか全くない場合で、サーバーレスで迅速にデプロイしたい場合に適しています。

次の場合は、モデルのファインチューニングに Amazon SageMaker AI の使用をお勧めします:

• データサイエンティスト、機械学習エンジニア、またはAIモデル開発者で、フルウェイトおよびパラメータ効率の良いファインチューニングの両方に対応した、知識蒸留、教師ありファインチューニング、または直接的な好み最適化などの高度なカスタマイズ技術へのアクセスを求めている方。SageMaker AI は、トレーニングレシピやモデルアーキテクチャをカスタマイズする機能も提供しています。
• インフラとコストをよりコントロールできるように、MLワークフローとインフラへの投資を確立した。
• より高い精度とパフォーマンスを実現するために、トレーニングワークフローを最適化する自分のライブラリやフレームワークを持ち込みたい場合に、より柔軟な対応を求めています。

Amazon SageMaker AI を使えば、独自の基盤モデルと公開されている基盤モデルの両方をカスタマイズできます。あらゆるスキルレベルのデータサイエンティストや開発者は、最適化されたレシピを使用して、生成AIモデルを素早くカスタマイズできます。各レシピはAWSによってテストされており、最先端のパフォーマンスを達成するために異なるモデル構成をテストするという何週間もの面倒な作業を省くことができます。Llama、Mixtral、Mistral、DeepSeekなど、人気のある一般公開されているモデルファミリーをカスタマイズできます。さらに、Amazon Novaの基盤モデルは、教師ありファインチューニング（SFT）、知識蒸留、直接嗜好最適化（DPO）、近接ポリシー最適化、継続的事前学習などの手法を用いてカスタマイズできます。SFT、蒸留、DPOにおいて、パラメータ効率の高いトレーニングとフルモデルトレーニングの両方に対応しています。

はい。SageMaker AIは、これらの分散戦略を手動で構築・最適化するのにかかる時間のごく一部で、ディープラーニングモデルや大規模なトレーニングデータセットをAWSのGPUインスタンスに自動で分散させることができます。SageMaker AI が適用する 2 つの分散トレーニング手法は、データ並列処理とモデル並列処理です。データパラレリズムは、データを複数のGPUインスタンスに均等に分割し、各インスタンスが同時に学習できるようにすることで、学習速度を向上させるために適用されます。モデル並列は、単一のGPUに収まらないほど大きなモデルに対して有用であり、複数のGPUに分散する前にモデルを小さな部分に分割する必要があります。PyTorchやTensorFlowのトレーニングスクリプトにわずか数行の追加コードを加えるだけで、SageMaker AIは自動的にデータ並列化やモデル並列化を適用し、モデルの開発とデプロイをより迅速に行えるようにします。SageMaker AIは、各GPUの計算負荷を均等にしつつ、GPUインスタンス間の通信を最小限に抑えるために、グラフ分割アルゴリズムを用いてモデルを分割する最適な方法を決定します。SageMaker AI は、AWS のコンピューティングおよびネットワークを最大限に活用するアルゴリズムを通じて分散トレーニングジョブを最適化し、ほぼ線形のスケーリング効率を達成することで、手動のオープンソース実装よりも速くトレーニングを完了できるようにします。

SageMaker Training Compilerは、ディープラーニング（DL）コンパイラであり、グラフおよびカーネルレベルの最適化を通じてGPUの使用効率を向上させることで、DLモデルのトレーニングを最大50％加速します。SageMaker トレーニングコンパイラは SageMaker 内の TensorFlow および PyTorch のバージョンと統合されているため、最小限のコード変更でこれらの人気フレームワークのトレーニングを高速化できます。

SageMaker トレーニングコンパイラは、DLモデルを高レベル言語表現からハードウェア最適化された命令に変換することでトレーニングジョブを高速化し、ネイティブフレームワークを使用したジョブよりも速く学習させます。より具体的には、SageMaker Training Compilerは、グラフレベルの最適化（オペレーターの融合、メモリ計画、代数的簡略化）、データフローレベルの最適化（レイアウト変換、共通部分式の除去）、およびバックエンド最適化（メモリ遅延の隠蔽、ループ指向の最適化）を利用して、ハードウェアリソースをより効率的に使用し、その結果、より高速に学習できる最適化されたモデル学習ジョブを生成します。

SageMaker AI のマネージドスポットトレーニングを使用すると、Amazon EC2 スポットインスタンスを活用して機械学習モデルをトレーニングでき、モデルのトレーニングコストを最大90%削減できます。

SageMaker Training Compiler は、SageMaker Python SDK および SageMaker Hugging Face Deep Learning Containers に組み込まれています。スピードアップの利点を享受するためにワークフローを変更する必要はありません。SageMaker ノートブックインスタンス、SageMaker Studio、AWS SDK for Python (Boto3)、AWS コマンドラインインターフェイス (AWS CLI) のいずれかの SageMaker インターフェイスを使用して、これまでと同じ方法でトレーニングジョブを実行できます。フレームワークエスティメータオブジェクトを作成するときにパラメータとして TrainingCompilerConfig クラスを追加することで、SageMaker Training Compiler を有効にできます。実際には、これは、1 つの GPU インスタンスの既存のトレーニングジョブスクリプトに数行のコードが追加されることを意味します。最新の詳細なドキュメント、サンプルノートブック、例はドキュメントで利用可能です。

SageMaker Training CompilerはSageMakerのトレーニング機能であり、追加料金なしでSageMaker AIの顧客に限定して提供されます。顧客は、トレーニング時間が短縮されるため、SageMakerトレーニングコンパイラを使うことで実際にコストを削減できます。

トレーニングジョブを送信するときにマネージドスポットトレーニングオプションを有効にし、スポット容量を待機する時間を指定します。SageMaker AI は、その後ジョブを実行するために Amazon EC2 スポットインスタンスを使用し、スポット容量を管理します。トレーニングジョブの状況について、実行中でも容量待ちの状態でも、完全に把握することができます。

マネージドスポットトレーニングは、トレーニングに Amazon EC2 スポットインスタンスを使用します。これらのインスタンスは、AWS が容量を必要とする場合に割り込まれることがあります。そのため、容量が使用可能になったとき、マネージドスポットトレーニングジョブを少しずつ実行できます。中断が発生した場合でも、トレーニングジョブを最初から再起動する必要はありません。SageMaker AI は最新のモデルチェックポイントを使用してトレーニングジョブを再開できます。SageMaker AIの組み込みフレームワークと組み込みのコンピュータービジョンアルゴリズムは定期的なチェックポイントを可能にし、カスタムモデルでもチェックポイントを有効にできます。

長期的なトレーニングジョブには、普通、定期的なチェックポイントをお勧めします。これにより、容量を前もって取得しておいた場合でも、マネージドスポットトレーニングジョブが再開されないようになります。チェックポイントを有効にすると、SageMaker AI はマネージドスポットトレーニングジョブを最後のチェックポイントから再開します。

マネージドスポットトレーニングは、SageMaker AI でサポートされているすべてのインスタンスで使用できます。

マネージドスポットトレーニングは、SageMaker AI が現在利用可能なすべてのリージョンでサポートされています。

SageMaker AI でモデルのトレーニングに使用できるデータセットのサイズに決まった制限はありません。

SageMaker AIには、線形回帰、ロジスティック回帰、k-meansクラスタリング、主成分分析、因子分解機、ニューラルトピックモデリング、潜在ディリクレ配分法、勾配ブースト木、シーケンス・ツー・シーケンス、時系列予測、Word2Vec、画像分類などの組み込みアルゴリズムが含まれています。SageMaker AIは、最適化されたApache MXNet、TensorFlow、Chainer、PyTorch、Gluon、Keras、Horovod、Scikit-learn、Deep Graph Libraryのコンテナも提供しています。さらに、SageMaker AI は、ドキュメントに記載された仕様に従った Docker イメージを通じて提供されるカスタムトレーニングアルゴリズムをサポートします。

SageMaker AI では、科学的に実現可能であれば、組み込みの SageMaker AI アルゴリズム、ディープニューラルネットワーク、または Docker イメージの形で持ち込んだ任意のアルゴリズムを含め、どのアルゴリズム上でも自動モデルチューニングを実行できます。

現時点では使用できません。モデルチューニングで最大のパフォーマンスとエクスペリエンスを得るには、SageMaker AI の中で行う必要があります。

ハイパーパラメータのチューニングアルゴリズムには、現在、ベイズ最適化のカスタム実装が使用されています。このアルゴリズムでは、チューニングプロセスを通じて、ユーザーが指定した目標メトリクスを最適化することを目指します。具体的には、完了したトレーニングジョブの目標メトリクスを確認し、その知識を使用して、次のトレーニングジョブで使用するハイパーパラメータの組み合わせを推論します。

いいえ。特定のハイパーパラメータがモデルの性能にどのように影響するかはさまざまな要因によって異なるため、どのハイパーパラメータが他より重要であり、調整が必要かを断定することは難しいです。SageMaker AI の組み込みアルゴリズムでは、ハイパーパラメータがチューニング可能かどうかを明示しています。

ハイパーパラメータのチューニングジョブにかかる時間は、複数の要因により異なります。これにはデータのサイズ、基盤とするアルゴリズム、ハイパーパラメータの値が含まれます。また、トレーニングジョブの同時実行数およびトレーニングジョブの合計数は、ユーザーが選択することができます。このような指定の違いすべてにより、ハイパーパラメータのチューニングジョブの実行にかかる時間が変わります。

現時点では使用できません。現在のところ、最適化する単一の目的指標を指定する必要があるか、あるいはアルゴリズムコードを変更して、新しい指標（複数の有用な指標の加重平均）を出力させ、その目的指標に向けてチューニングプロセスを最適化させる必要があります。

ハイパーパラメータのチューニングジョブ自体には料金がかかりません。料金は、ハイパーパラメータのチューニングジョブによって開始されたトレーニングジョブに対し、モデルトレーニングの料金に基づいて請求されます。

SageMaker Autopilot は、特に分類およびリグレッションのユースケースに焦点を当てながら、機能の前処理、アルゴリズムの選択、ハイパーパラメータの調整など、典型的な機械学習ワークフローのすべてを自動化します。一方、組み込みアルゴリズム、深層学習フレームワーク、またはカスタムコンテナのいずれに基づいていても、自動モデルチューニングは、任意のモデルを調整するように設計されています。柔軟性と引き換えに、特定のアルゴリズム、調整するハイパーパラメータ、対応する検索範囲を手動で選択しなければなりません。

強化学習は、エージェントが自分の行動や経験からのフィードバックを使い、試行錯誤を通じてインタラクティブな環境で学習できる機械学習の手法です。

はい、SageMaker AIでは、教師あり学習や教師なし学習モデルに加えて、強化学習モデルをトレーニングすることもできます。

教師あり学習と強化学習の両方が入力と出力の間のマッピングを使用しますが、教師あり学習ではエージェントに提供されるフィードバックがタスクを実行するための正しい行動のセットであるのに対し、強化学習では報酬信号を通じて一連の行動による長期的な目標を達成するように最適化される遅延フィードバックを使用します。

教師あり学習技術の目標がトレーニングデータのパターンに基づいて正しい答えを見つけることであるのに対して、教師なし学習技術の目標はデータポイント間の類似点や相違点を見つけることです。一方、強化学習技術 (RL) の目標は、期待する成果を実現する方法が明確でない場合でもその成果を達成することです。そのため、RL はエージェントが自律的決定を下すことのできる、ロボティクス、自動運転車、HVAC、産業用コントロールなどのインテリジェントなアプリケーションを実現するのにより適しています。

Amazon SageMaker RLは、RLモデルのトレーニングのためにさまざまな環境をサポートしています。AWS RoboMaker のような AWS サービス、オープンソース環境、Open AI Gym インターフェースを使って開発されたカスタム環境、または MATLAB や SimuLink のような商用シミュレーション環境を使用することができます。

いいえ、SageMaker RLには、DQN、PPO、A3Cなど多くのRLエージェントアルゴリズムの実装を提供するCoachやRay RLLibなどのRLツールキットが含まれています。

はい、独自のRLライブラリやアルゴリズム実装をDockerコンテナに持ち込み、SageMaker RLで実行することができます。

はい。トレーニングをGPUインスタンスで実行し、シミュレーションを複数のCPUインスタンスで実行できるような、異種クラスターを選択することもできます。

SageMaker HyperPodのオブザーバビリティにより、お客様は市場投入までの時間を短縮し、ジェネレーティブAIイノベーションのコストを削減できます。管理者はこの機能を使用して、クラスターのパフォーマンス、状態、使用率を数分で包括的に把握し、高速化されたコンピューティングリソースの使用と構成を最適化できます。データサイエンティストがHyperPodクラスター上でのモデル訓練、ファインチューニング、推論などの生成AI開発タスクで中断に直面した場合、数分以内にどの設定やリソースを更新すればタスクを回復できるかを特定できます。タスク中断の解決時間の短縮とタスク再試行の減少により、組織はクラスターのテレメトリデータを収集・分析するのに何時間も費やすのではなく、生成型AIのイノベーションの加速や市場投入までの時間に集中できるようになります。

モデルを構築してトレーニングした後、SageMaker AI は、予測を開始できるようにそれらをデプロイするための 3 つのオプションを提供します。リアルタイム推論は、ミリ秒のレイテンシー要件、最大 6MB のペイロードサイズ、最大 60 秒の処理時間のワークロードに適しています。バッチ変換は、事前に入手可能な大きなデータのバッチに対するオフライン予測に最適です。非同期推論は、サブセカンドレイテンシーを必要としないワークロード向けに設計されており、ペイロードサイズは 1GB まで、処理時間は 15 分までとなっています。

リクエストを積極的に処理していないときは、コストを節約するために SageMaker 非同期推論エンドポイントのインスタンス数をゼロにスケールダウンすることができます。「ApproximateBacklogPerInstance」というカスタムメトリクスに基づいてスケーリングするスケーリングポリシーを定義し、MinCapacityの値をゼロに設定する必要があります。ステップバイステップの手順については、開発者ガイドの非同期エンドポイントの自動スケールセクションをご覧ください。 

SageMaker Serverless Inference は、機械学習モデルのデプロイとスケーリングを容易にする、専用のサーバーレスモデル提供オプションです。SageMaker Serverless Inference エンドポイントは、コンピューティングリソースを自動的に開始し、トラフィックに応じてスケールインおよびスケールアウトするため、インスタンスタイプを選択したり、プロビジョニングされた容量を実行したり、スケーリングを管理したりする必要がなくなります。オプションで、Serverless Inference エンドポイントのメモリ要件を指定できます。推論コードの実行時間と処理されたデータの量の料金のみをお支払いいただきます。アイドル時間については料金がかかりません。

エンドポイントがしばらくトラフィックを受信せず、その後エンドポイントが突然新しいリクエストを受信する場合があります。この場合、オンデマンドのサーバーレスエンドポイントでは、エンドポイントがコンピューティングリソースを起動してリクエストを処理するまでに時間がかかることがあります。これはコールドスタートと呼ばれます。コールドスタートは、同時リクエストが現在の同時リクエストの使用量を超える場合にも発生する可能性があります。コールドスタート時間は、モデルサイズ、モデルのダウンロードにかかる時間、およびコンテナの起動時間によって異なります。

レイテンシープロファイルの変動性を低減するために、オプションでサーバーレスエンドポイント向けに、Provisioned Concurrency を有効にできます。Provisioned Concurrency を使用することで、サーバーレスエンドポイントはいつでも準備が整い、コールドスタートなしで大量のトラフィックを瞬時に処理できます。

オンデマンドのサーバーレス推論と同様に、プロビジョンドコンカレンシーが有効になっている場合、推論リクエストを処理するために使用された計算容量に対して支払いが発生し、課金はミリ秒単位で行われ、処理されたデータ量にも基づきます。プロビジョンド同時実行の使用料も、設定されたメモリ、プロビジョニングされた期間、および有効化された同時実行の量に基づいて支払います。詳細については、Amazon SageMaker AI の料金をご覧ください。

SageMaker AI は、現在展開されているモデルと比較して新しい ML モデルの性能をテストすることで、本番リリース前にシャドウテストを実行するのに役立ちます。SageMaker AIは、新しいモデルを現在の本番モデルと並行してシャドウモードでデプロイし、ユーザーが指定した本番トラフィックの一部を新しいモデルにミラーリングします。オプションで、モデルの推論結果をオフラインで比較できるように記録します。また、レイテンシやエラー率などの主要なパフォーマンス指標を、本番モデルとシャドウモデルで比較したライブダッシュボードを提供し、新しいモデルを本番環境に昇格させるかどうかを判断するのに役立ちます。

SageMaker AI は、シャドウバリアントの設定と監視のプロセスを簡素化し、新しい機械学習モデルのパフォーマンスを本番のトラフィックで評価できるようにします。SageMaker AI は、シャドウテストのためにインフラをオーケストレーションする必要をなくします。これにより、シャドウバリアントにミラーリングされるトラフィックの割合やテストの期間など、テストパラメータを制御できます。その結果、最初は少量で始め、モデルの性能に自信が持てるようになったら、新しいモデルへの推論リクエストを増やすことができます。SageMaker AIは、主要な指標ごとのパフォーマンスの違いを表示するライブダッシュボードを作成するため、新しいモデルが本番モデルとどのように異なるかを簡単に比較して評価できます。

SageMaker Inference Recommender は、SageMaker 機械学習インスタンス全体でパフォーマンスのベンチマークを自動化し、モデルのパフォーマンスを調整することで、機械学習モデルを本番環境で取得するために必要な時間を短縮します。SageMaker Inference Recommender を使用して、最高のパフォーマンスを提供し、コストを最小限に抑えるエンドポイントにモデルをデプロイできるようになりました。インスタンスタイプを選択しながら SageMaker Inference Recommender を数分で開始し、最適なエンドポイント設定のレコメンデーションを数時間以内に取得できるため、数週間の手動テストとチューニング時間をなくすことができます。SageMaker Inference Recommender を使用すると、負荷テスト中に使用された SageMaker 機械学習インスタンスに対してのみ料金が発生し、追加料金は発生しません。

いいえ。現在、エンドポイントごとに 1 つのモデルのみをサポートしています。

現在、リアルタイムエンドポイントのみをサポートしています。

AWS 中国リージョンを除き、Amazon SageMaker が提供されているすべてのリージョンがサポートされます。

はい、すべてのタイプのコンテナをサポートしています。AWS Inferentia チップに基づく Amazon EC2 Inf1 には、Neuron コンパイラまたは Amazon SageMaker Neo のいずれかを使用してコンパイルされたモデルアーティファクトが必要です。Inferentia ターゲットと関連するコンテナイメージ URI のコンパイル済みモデルを取得したら、SageMaker Inference Recommender を使用してさまざまな Inferentia インスタンスタイプのベンチマークを実行できます。

SageMaker Model Monitor によって、デベロッパーがコンセプトドリフトを検出し、修復できるようになります。SageMaker Model Monitor はデプロイ済みのモデルでコンセプトドリフトを検出し、問題の原因を特定するのに役立つ詳細なアラートを出します。SageMaker AI でトレーニングされたすべてのモデルは、SageMaker Studio で収集と表示が可能な主要メトリクスを出します。SageMaker Studio の中で、収集するデータや、その表示方法、アラートを受信するタイミングなどを構成できます。

いいえ、SageMaker AI はお客様に代わってコンピューティングインフラストラクチャを運用し、ヘルスチェックの実行、セキュリティパッチの適用、その他の定期的なメンテナンスを担当します。また、専用のホスティング環境でカスタムの推論コードを使用して、トレーニングされたモデルアーティファクトをにデプロイすることもできます。

SageMaker AI のホスティングでは、Application Auto Scaling を使用して、アプリケーションに必要なパフォーマンスに自動的にスケールします。また、エンドポイント構成を変更することで、ダウンタイムを発生させることなくインスタンスの数とタイプを手動で変更できます。

SageMaker AI はパフォーマンス指標を Amazon CloudWatch メトリクスに送信するため、指標を追跡したり、アラームを設定したり、プロダクションのトラフィック変化に自動的に対応したりすることができます。また、SageMaker AI は Amazon CloudWatch Logs にログを書き込んで、お客様が本番環境のモニタリングとトラブルシューティングを行えるようにします。

SageMaker AI では、推論 Docker イメージ用の文書化された仕様に準拠しているモデルをすべてホストできます。これには、SageMaker AI のモデルアーティファクトや推論コードから作成されたモデルが含まれます。

SageMaker AI は、1 秒あたり多数のトランザクションに対応できるように設計されています。正確な数は、展開されるモデルや、そのモデルが展開されるインスタンスの数や種類によって異なります。

完全管理型サービスとして、Amazon SageMaker AI は、インスタンスの設定や管理、ソフトウェアのバージョン互換性の確認、パッチの適用などをすべて自動で行います。また、アラートの監視と受信に使用できるエンドポイントのメトリクスとログも組み込まれています。SageMaker AI ツールとガイド付きワークフローにより、ML モデルのパッケージングとデプロイのプロセス全体が簡素化され、エンドポイントを簡単に最適化して目的のパフォーマンスを実現し、コストを削減できます。SageMaker Studio 内で数回クリックするか、新しい PySDK を使用することで、基盤モデルを含む ML モデルを簡単にデプロイできます。

バッチ変換により、大小のバッチデータに対する予測を実行できます。データセットを複数のチャンクに分けたりリアルタイムのエンドポイントを管理したりする必要はありません。シンプルな API を使って、多数のデータレコードの予測をリクエストし、そのデータを迅速かつ簡単に変換できます。

SageMaker AI は次のエンドポイントオプションをサポートしています。単一モデルエンドポイント – ハードウェア専有インスタンスでホストされるコンテナ上に 1 つのモデル、または低レイテンシーと高スループットを実現するサーバーレスモデル。マルチモデルエンドポイント – 共有インフラストラクチャを使用して複数のモデルをホストすることで、費用対効果を高め、利用率を最大化します。各モデルが効率的に実行するために必要なリソースにアクセスできるように、各モデルが使用できるコンピューティングとメモリの量を制御できます。シリアル推論パイプライン-複数のコンテナが専用インスタンスを共有し、順番に実行されます。推論パイプラインを使用して、前処理、予測、および後処理のデータサイエンスタスクを組み合わせることができます。

SageMaker Edge Manager は、スマートカメラ、ロボット、パーソナルコンピュータ、モバイルデバイスなどのエッジデバイスのフリートで機械学習モデルを最適化、保護、モニタリング、および維持することをより簡単にします。SageMaker Edge Manager は、ML デベロッパーがさまざまなエッジデバイスで ML モデルを大規模に操作するのに役立ちます。

SageMaker Edge Manager の使用を開始するには、トレーニングされた ML モデルをクラウドでコンパイルおよびパッケージ化し、デバイスを登録し、SageMaker Edge Manager SDK を使用してデバイスを準備する必要があります。モデルをデプロイする準備をするために、SageMaker Edge Manager は SageMaker Neo を使用して、ターゲットエッジハードウェア用にモデルをコンパイルします。モデルがコンパイルされると、SageMaker Edge Manager は AWS で生成されたキーを使用してモデルに署名し、ランタイムと必要な資格情報とともにモデルをパッケージ化して、デプロイに備えます。デバイス側では、デバイスを SageMaker Edge Manager に登録し、SageMaker Edge Manager SDK をダウンロードしてから、指示に従って SageMaker Edge Manager エージェントをデバイスにインストールします。チュートリアルノートブックは、モデルを準備してエッジデバイス上のモデルを SageMaker Edge Manager に接続する方法についてのステップバイステップの例を提供します。

SageMaker Edge Manager は、Linux および Windows オペレーティングシステムで一般的な CPU (ARM、x86) および GPU (ARM、Nvidia) ベースのデバイスをサポートします。将来的には、SageMaker Edge Manager は、SageMaker Neo でもサポートされるより多くの組み込みプロセッサおよびモバイルプラットフォームをサポートするように拡張される予定です。

いいえ、必要ありません。モデルを他の場所でトレーニングすることも、オープンソースまたはモデルベンダーから提供される事前にトレーニングされたモデルを使用することもできます。

はい、必要です。SageMaker Neo は、モデルを実行可能ファイルに変換およびコンパイルします。その後、それをパッケージ化してエッジデバイスにデプロイできます。モデルパッケージがデプロイされると、SageMaker Edge Manager エージェントはモデルパッケージを解凍し、デバイス上でモデルを実行します。

SageMaker Edge Manager は、指定された Simple Storage Service (Amazon S3) バケットにモデルパッケージを保存します。AWS IoT Greengrass が提供するオーバー・ザ・エア (OTA) デプロイ機能や、その他任意のデプロイ手段を使って、S3 バケットからデバイスにモデルパッケージをデプロイすることができます。

Neo dlr は、SageMaker Neo サービスによってコンパイルされたモデルのみを実行するオープンソースランタイムです。オープンソースの dlr と比較すると、SageMaker Edge Manager SDK には、追加のセキュリティ、モデル管理、およびモデル提供機能を備えたエンタープライズグレードのオンデバイスエージェントが含まれています。SageMaker Edge Manager SDK は、大規模な本番環境へのデプロイに適しています。

SageMaker Edge Manager と AWS IoT Greengrass は、お客様の IoT ソリューションで連携できます。ML モデルが SageMaker Edge Manager でパッケージ化されると、AWS IoT Greengrass の OTA 更新機能を使用して、モデルパッケージをデバイスにデプロイできます。AWS IoT Greengrass を使用すると、IoT デバイスをリモートでモニタリングでき、SageMaker Edge Manager は、デバイス上の ML モデルをモニタリングおよび維持するのに役立ちます。

AWS は、エッジデバイスでモデルを実行するための最も幅広い機能を提供します。コンピュータビジョン、音声認識、予知保全など、幅広いユースケースをサポートするサービスを提供しています。

カメラやアプライアンスなどのエッジデバイスでコンピュータビジョンを実行しようとしている企業の場合は、AWS Panorama を使用できます。AWS Panorama は、エッジデバイス用にすぐデプロイできるコンピュータビジョンアプリケーションを備えています。クラウドコンソールにログインし、Simple Storage Service (Amazon S3) または SageMaker AI で使用するモデルを指定してから、ビジネスロジックを Python スクリプトとして記述することで、AWS Panorama の使用を簡単に開始できます。AWS Panorama は、ターゲットデバイスのモデルをコンパイルし、アプリケーションパッケージを作成して、数回クリックするだけでデバイスにデプロイできるようにします。さらに、独自のカスタムアプリケーションを構築することを希望する独立系ソフトウェアベンダーは AWS Panorama SDK を使用でき、デバイスメーカーは Device SDK を使用してデバイスを AWS Panorama 用に認定できます。

独自のモデルを構築し、モデルの特徴をより細かく制御することを希望するお客様は、SageMaker Edge Manager を使用できます。SageMaker Edge Manager は、自然言語処理、不正検出、予知保全など、あらゆるユースケースにおいて、スマートカメラ、スマートスピーカー、ロボットなどのエッジデバイスのフリート全体で機械学習モデルを準備、実行、モニタリング、および更新するためのマネージドサービスです。SageMaker Edge Manager は、モデルを制御し (さまざまなモデルの特徴のエンジニアリングを含む)、モデルのドリフトをモニタリングすることを希望する ML エッジデベロッパー向けです。ML エッジデベロッパーは誰でも、SageMaker AI コンソールと SageMaker AI API を介して SageMaker Edge Manager を使用できます。SageMaker Edge Manager は、SageMaker AI の機能を提供して、クラウド内のモデルを構築、トレーニング、およびエッジデバイスにデプロイします。

SageMaker Edge Manager は、米国東部 (バージニア北部)、米国東部 (オハイオ)、米国西部 (オレゴン)、欧州 (アイルランド)、欧州 (フランクフルト)、アジアパシフィック (東京) の 6 つのリージョンで使用できます。詳細については、AWS リージョン別のサービス表をご覧ください。

SageMaker Neo では、機械学習モデルを一度トレーニングすれば、それをどこでも、クラウドでも、エッジでも実行可能にします。SageMaker Neo は、複数のハードウェアプラットフォームにデプロイするのに使用できる一般的な深層学習フレームワークで構築されたモデルを自動的に最適化します。最適化されたモデルは、一般的な機械学習モデルと比較して最大 25 倍の速度で実行でき、10 分の 1 未満のリソースしか消費しません。

SageMaker Neoを始めるには、SageMaker AIコンソールにサインインし、訓練済みモデルを選択し、例に従ってモデルをコンパイルし、生成されたモデルをターゲットハードウェアプラットフォームにデプロイしてください。

SageMaker Neo には、コンパイラとランタイムという 2 つの主要なコンポーネントが含まれます。はじめに、SageMaker Neo コンパイラがさまざまなフレームワークからエクスポートされたモデルを読み込みます。その後、フレームワーク特有の機能や動作をフレームワーク非依存の中間表現に変換します。次に、一連の最適化を実行します。その後、コンパイラが最適化された動作のバイナリコードを生成し、それらを共有のオブジェクトライブラリに書き込みます。コンパイラはまた、モデルの定義とパラメータをそれぞれ別のファイルに保存します。実行時には、SageMaker Neo ランタイムがコンパイラによって生成されたアーティファクト (モデルの定義、パラメータ、共有のオブジェクトライブラリ) を取り込み、モデルを実行します。

いいえ。他の場所でモデルをトレーニングして、SageMaker Neo を使用して SageMaker の ML インスタンスや AWS IoT Greengrass 対応デバイス向けに最適化することができます。

現在、SageMaker Neo はコンピュータビジョンアプリケーションを強化する最も一般的な DL モデルや、今日 SageMaker AI で使用される最も一般的な決定木モデルをサポートしています。SageMaker Neo は、MXNet および TensorFlow でトレーニングされた AlexNet、ResNet、VGG、Inception、MobileNet、SqueezeNet、DenseNet などのモデルや、XGBoost でトレーニングされたランダムカットフォレストモデルおよび分類モデルのパフォーマンスを最適化します。

サポートされているクラウドインスタンス、エッジデバイス、およびフレームワークのバージョンのリストは、SageMaker Neo のドキュメントでご確認いただけます。

サポートされるリージョンの一覧は、AWS リージョン別のサービス表をご覧ください。

SageMaker HyperPodでは、SageMaker JumpStartからオープンウェイトのファウンデーションモデルをデプロイしたり、Amazon S3やAmazon FSxから独自にファインチューニングしたモデルを数ステップでデプロイしたりできるようになりました。モデルを選択すると、SageMaker HyperPod はインフラのプロビジョニング、エンドポイントの設定、オートスケーリングのセットアップを自動で処理し、同時に包括的なパフォーマンス指標を観測ダッシュボードに公開して、リアルタイムの監視と最適化を可能にします。

SageMaker Savings Plans は、1 年または 3 年の期間で一貫したコンピューティング使用量 (USD/時間で測定) を契約するかわりに、SageMaker AI に柔軟な使用量ベースの料金モデルを提供します。SageMaker Savings Plans は、最も優れた柔軟性を提供し、コストを最大 64% 削減するのに役立ちます。これらのプランは、インスタンスファミリー、サイズ、リージョンに関係なく、SageMaker Studio ノートブック、SageMaker On-Demand ノートブック、SageMaker Processing、SageMaker Data Wrangler、SageMaker Training、SageMaker Real-Time Inference、SageMaker Batch Transform などの対象となる SageMaker 機械学習インスタンスの使用量に自動的に適用されます。例えば、米国東部 (オハイオ) で実行されている CPU インスタンス ml.c5.xlarge から米国西部 (オレゴン) の ml.Inf1 インスタンスにいつでも推論ワークロードの使用量を変更し、自動的に Savings Plans の料金を引き続き支払うことができます。

SageMaker AI インスタンスの使用量が一定（時間あたり $ で測定）で、複数の SageMaker AI コンポーネントを使用する場合、またはテクノロジー構成（インスタンスファミリーやリージョンなど）が時間とともに変わることが予想される場合、SageMaker Savings Plans を利用することで、アプリケーションのニーズや新しい技術革新に基づいて基盤となるテクノロジー構成を変更する柔軟性を保ちながら、節約を最大化することが簡単になります。Savings Plans の料金は、手動で変更することなく、対象となるすべての機械学習インスタンスの使用量に自動的に適用されます。

SageMaker AI の Savings Plans と Amazon EC2 の Savings Plans の違いはそれらに含まれるサービスにあります。SageMaker Savings Plans は、SageMaker 機械学習インスタンスの使用量にのみ適用されます。

Savings Plans は、AWS Organizations/一括請求 (コンソリデーティッドビリング) ファミリー内の任意のアカウントで購入できます。デフォルトでは、Savings Plans によって提供される恩恵は、AWS Organization/一括請求 (コンソリデーティッドビリング) ファミリー内のすべてのアカウントでの使用量に適用されます。ただし、Savings Plans を購入したアカウントのみに Savings Plans のメリットを制限することも可能です。

はい、Amazon SageMaker AI を使えば、モデルカスタマイズのワークフローを加速させることができます。  プレビューで提供されているAIエージェントによるワークフローか、使いやすいインターフェース（UI）を通じて、すぐに始められます。AIエージェント（プレビュー版）を使用すると、自然な言葉でユースケースを説明することができます。あなたのユースケースの要件の説明に基づいて、AIエージェントはデータセットのガイドライン、評価基準、関連する指標、およびカスタマイズ手法を含む仕様を生成します。この会話型インターフェースにより、必要に応じてユースケースの仕様を繰り返し検討し、さらに改善することができます。使いやすいUIにより、モデル評価基準の特定、モデルとカスタマイズ手法の選択、データセットのアップロードから始めて、数回のクリックでモデルカスタマイズ実験を迅速に開始できます。SageMaker AI は、モデルやデータのサイズに基づいて、適切なコンピューティングリソースを自動的に選択し、プロビジョニングします。

目標とする精度や性能を達成したら、SageMaker Inference エンドポイントや Amazon Bedrock を使って、数回のクリックでモデルを本番環境にデプロイできます。あるいは、より制御しやすく柔軟性が必要な場合は、 AI モデルをカスタマイズできます。各レシピはAWSによってテストされており、最先端のパフォーマンスを達成するために異なるモデル構成をテストするという何週間もの面倒な作業を省くことができます。

SageMaker AI は、教師付き微調整 (SFT)、直接選好最適化 (DPO)、AI フィードバック (RLAIF) や検証可能な報酬 (RLVR) からの強化学習 (RLAIF) などの最新のモデルカスタマイズ技術をサポートしています。

SageMaker Studio では、使いやすい UI またはノートブックを通じて始めるには、モデルタブを選択します。

SageMaker AIはサーバーレストレーニングを提供しており、インスタンスの選択や管理の必要がありません。トレーニング中に処理されたトークンに対してのみ支払います。詳細については、SageMaker AI の料金ページをご覧ください。

Amazon SageMaker AIにおけるモデルカスタマイズのためのAIエージェントによるワークフローは、現在プレビュー版です。。承認されると、入力されたメールアドレスに招待状が送られます。

マルチターン強化学習は、ツールコール、会話フロー、エラー回復パターンなど、エージェントの実際のマルチステップインタラクションに基づいてモデルをトレーニングするモデルカスタマイズ手法です。10 行未満のコードでエージェント環境を接続し、マネージドトレーニングスタックがロールアウトオーケストレーション、トラジェクトリ収集、チェックポイント管理を行います。あらゆるエージェントランタイム (Amazon Bedrock AgentCore ランタイム、Amazon EKS、Amazon EC2、またはセルフマネージドインフラストラクチャ) およびあらゆるフレームワーク (ストランド、ラングチェーン、CreWAI) で動作します。料金はトークンごとで、GPUのアイドル時間には課金されません。