diff --git a/Instructions/Exercises/01-Explore-ai-studio.md b/Instructions/Exercises/01-Explore-ai-studio.md deleted file mode 100644 index 55515e3..0000000 --- a/Instructions/Exercises/01-Explore-ai-studio.md +++ /dev/null @@ -1,105 +0,0 @@ ---- -lab: - title: Azure AI Studio を探索する ---- - -# Azure AI Studio を探索する - -この演習では、Azure AI Studio を使用してプロジェクトを作成し、生成 AI モデルを探索します。 - -> この演習を完了するには、Azure OpenAI サービスへのアクセスについて Azure サブスクリプションが承認されている必要があります。 [登録フォーム](https://learn.microsoft.com/legal/cognitive-services/openai/limited-access)に入力して、Azure OpenAI モデルへのアクセスを要求します。 - -この演習は約 **30** 分かかります。 - -## Azure AI Studio を開く - -まずは Azure AI Studio を調べることから始めましょう。 - -1. Web ブラウザーで [https://ai.azure.com](https://ai.azure.com) を開き、Azure の資格情報を使ってサインインします。 Azure AI Studio のホーム ページは次の画像のようになります。 - - ![Azure AI Studio のスクリーンショット。](./media/azure-ai-studio-home.png) - -1. ホーム ページの情報を確認し、各タブを表示して、モデルと機能の探索、プロジェクトの作成、リソースの管理のオプションを確認します。 - -## Azure AI ハブを作成する - -プロジェクトをホストするには、Azure サブスクリプション内に Azure AI ハブが必要です。 このリソースは、プロジェクトの作成中に作成するか、事前にプロビジョニングすることができます (この演習ではこちらを行います)。 - -1. **[管理]** セクションで、**[すべてのハブ]** を選択した後、**[+ 新しいハブ]** を選択します。 次の設定を使用して新しいハブを作成します。 - - **ハブ名**:*一意の名前* - - **[サブスクリプション]**:"*ご自身の Azure サブスクリプション*" - - **[リソース グループ]**: "一意の名前で新しいリソース グループを作成するか、既存のものを選びます"** - - **[場所]**: *以下のいずれかのリージョンから**ランダム**に選択する*\* - - オーストラリア東部 - - カナダ東部 - - 米国東部 - - 米国東部 2 - - フランス中部 - - 東日本 - - 米国中北部 - - スウェーデン中部 - - スイス北部 - - 英国南部 - - **Azure AI サービスまたは Azure OpenAI への接続**:新しい AI サービスを作成するか既存のものを使用するかを選択する** - - **Azure AI 検索への接続**:接続をスキップする - - > \* Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、テナントを他のユーザーと共有するシナリオで、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別のリソースを作成する必要が生じる可能性があります。 - - Azure AI ハブが作成されると、次の画像のようになるはずです。 - - ![Azure AI Studio 内の Azure AI ハブの詳細のスクリーンショット。](./media/azure-ai-resource.png) - -1. 新しいブラウザー タブを開き ([Azure AI Studio] タブは開いたままにします)、Azure portal ([https://portal.azure.com](https://portal.azure.com?azure-portal=true)) に移動します。プロンプトが表示されたら、Azure の資格情報を使ってサインインします。 -1. Azure AI ハブを作成したリソース グループに移動し、作成された Azure リソースを表示します。 - - ![Azure portal 内の Azure AI ハブと関連リソースのスクリーンショット。](./media/azure-portal.png) - -1. Azure AI Studio ブラウザー タブに戻ります。 -1. Azure AI ハブのページの左側のペインでそれぞれのページを表示し、作成および管理できる成果物を確認します。 **[接続]** ページで、Azure OpenAI と AI サービスへの接続が既に作成されていることを確認します。 - -## プロジェクトの作成 - -Azure AI ハブは、1 つ以上の "プロジェクト" を定義できる共同作業用のワークスペースとして機能します。** Azure AI ハブ内にプロジェクトを作成してみましょう。 - -1. Azure AI Studio で、先ほど作成したハブ内にいることを確認します (画面の上部にあるパスを確認することで、自分の場所を確認できます)。 -1. 左側のメニューを使用して、**[すべてのプロジェクト]** に移動します。 -1. **[+ New project]** を選択します。 -1. **[新しいプロジェクトの作成]** ウィザードで、次の設定を使ってプロジェクトを作成します。 - - **現在のハブ**:あなたの AI ハブ** - - **プロジェクト名**:"プロジェクトの一意の名前"** -1. プロジェクトが作成されるまで待ちます。 準備ができたら、次の画像のようになります。 - - ![Azure AI Studio のプロジェクト詳細ページのスクリーンショット。](./media/azure-ai-project.png) - -1. 左側のペインにあるページを表示して各セクションを展開し、プロジェクト内で実行できるタスクと管理できるリソースを確認します。 - -## モデルのデプロイとテスト - -プロジェクトを使って、生成 AI モデルに基づいた複雑な AI ソリューションを作成できます。 Azure AI Studio で使用できるすべての開発オプションを詳しく説明することはこの演習の範囲を超えていますが、プロジェクト内でモデルを操作するための基本的な方法をいくつか説明します。 - -1. プロジェクトの左側のペインの **[コンポーネント]** セクションで、**[デプロイ]** ページを選択します。 -1. **[デプロイ]** ページの **[モデル デプロイ]** タブで、**[+ デプロイの作成]** を選択します。 -1. 一覧から **gpt-35-turbo** モデルを検索し、選択して確認します。 -1. 以下の設定を使用してモデルをデプロイします。 - - **デプロイ名**:"モデル デプロイの一意の名前"** - - **モデルのバージョン**: *Select the default version (既定のバージョンの選択)* - - **デプロイの種類**:Standard - - **Azure OpenAI リソースに接続済み**:ハブの作成時に作成された既定の接続を選択する** - - **1 分あたりのトークン数のレート制限 (1,000 単位)**:5,000 - - **コンテンツ フィルター**: 既定 - - > **注**:TPM を減らすと、ご利用のサブスクリプション内で使用可能なクォータが過剰に消費されることを回避するのに役立ちます。 この演習で使用するデータには、5,000 TPM で十分です。 - -1. モデルがデプロイされたら、デプロイの概要ページで **[プレイグラウンドで開く]** を選択します。 -1. **[チャット プレイグラウンド]** ページで、**[デプロイ]** セクション内でご利用のモデル デプロイが選択されていることを確認します。 -1. チャット ウィンドウで、以下のように「AI とは何ですか?」のようなクエリを入力し、応答を確認します。** - - ![Azure AI Studio のプレイグラウンドのスクリーンショット。](./media/playground.png) - -## クリーンアップ - -Azure AI Studio を確認し終わったら、不要な Azure コストが発生しないように、この演習で作成したリソースを削除する必要があります。 - -1. Azure portal が表示されているブラウザー タブに戻り (または、新しいブラウザー タブで [Azure portal](https://portal.azure.com?azure-portal=true) をもう一度開き)、この演習で使ったリソースがデプロイされているリソース グループの内容を表示します。 -1. ツール バーの **[リソース グループの削除]** を選びます。 -1. リソース グループ名を入力し、削除することを確認します。 diff --git a/Instructions/Exercises/02-Use-prompt-flow-chat.md b/Instructions/Exercises/02-Use-prompt-flow-chat.md deleted file mode 100644 index 0eb033a..0000000 --- a/Instructions/Exercises/02-Use-prompt-flow-chat.md +++ /dev/null @@ -1,182 +0,0 @@ ---- -lab: - title: Azure AI Studio でのプロンプト フローを使用したカスタム コパイロットの構築の概要 ---- - -# Azure AI Studio でのプロンプト フローを使用したカスタム コパイロットの構築の概要 - -この演習では、Azure AI Studio のプロンプト フローを使用して、ユーザー プロンプトとチャット履歴を入力として使用し、Azure OpenAI の GPT モデルを使用して出力を生成するカスタム コパイロットを作成します。 - -> この演習を完了するには、Azure OpenAI サービスへのアクセスについて Azure サブスクリプションが承認されている必要があります。 [登録フォーム](https://learn.microsoft.com/legal/cognitive-services/openai/limited-access)に入力して、Azure OpenAI モデルへのアクセスを要求します。 - -プロンプト フローを使用してコパイロットを構築するには、以下を実行する必要があります。 - -- Azure AI Studio 内に AI ハブとプロジェクトを作成します。 -- GPT モデルをデプロイします。 -- デプロイされた GPT モデルを使用して、ユーザーの入力に基づいて回答を生成するフローを作成します。 -- フローをテストしてデプロイします。 - -## Azure AI Studio 内に AI ハブとプロジェクトを作成する - -まずは、以下のように Azure AI ハブ内に Azure AI Studio プロジェクトを作成します。 - -1. Web ブラウザーで [https://ai.azure.com](https://ai.azure.com) を開き、Azure の資格情報を使ってサインインします。 -1. **[ホーム]** ページを選択した後、**[+ 新しいプロジェクト]** を選択します。 -1. **[新しいプロジェクトの作成]** ウィザードで、次の設定を使ってプロジェクトを作成します。 - - **プロジェクト名**:"プロジェクトの一意の名前"** - - **ハブ**:以下の設定で新しいハブを作成する:** - - **ハブ名**:*一意の名前* - - **[サブスクリプション]**:"*ご自身の Azure サブスクリプション*" - - **[リソース グループ]**: "新しいリソース グループ"** - - **[場所]**: *以下のいずれかのリージョンから**ランダム**に選択する*\* - - オーストラリア東部 - - カナダ東部 - - 米国東部 - - 米国東部 2 - - フランス中部 - - 東日本 - - 米国中北部 - - スウェーデン中部 - - スイス北部 - - 英国南部 - - **Azure AI サービスまたは Azure OpenAI への接続**:*新しい接続を作成する* - - **Azure AI 検索への接続**:接続をスキップする - - > \* Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別のリソースを作成する必要が生じる可能性があります。 [リージョンごとのモデルの利用可用性](https://learn.microsoft.com/azure/ai-services/openai/concepts/models#gpt-35-turbo-model-availability)の詳細を確認する - -1. 構成を確認して、プロジェクトを作成します。 -1. プロジェクトが作成されるまで 5 から 10 分待ちます。 - -## GPT モデルをデプロイする - -プロンプト フローで言語モデルを使用するには、まずモデルをデプロイする必要があります。 Azure AI Studio を使うと、フローで使用できる OpenAI モデルをデプロイできます。 - -1. 左側のナビゲーション ウィンドウの **[コンポーネント]** で、**[デプロイ]** ページを選びます。 -1. 次の設定で **gpt-35-turbo** モデルの新しいデプロイを作成します。 - - **デプロイ名**:"モデル デプロイの一意の名前"** - - **モデルのバージョン**: *Select the default version (既定のバージョンの選択)* - - **デプロイの種類**:Standard - - **Azure OpenAI リソースに接続済み**:既定の接続を選択する** - - **1 分あたりのトークン数のレート制限 (1,000 単位)**:5,000 - - **コンテンツ フィルター**: 既定 -1. モデルがデプロイされるまで待ちます。 デプロイの準備ができたら、**[プレイグラウンドで開く]** を選択します。 -1. チャット ウィンドウで、`What can you do?` というクエリを入力します。 - - アシスタントに対する具体的な指示がないため、回答は一般的なものであることに注意してください。 あるタスクに焦点を当てるには、システム プロンプトを変更します。 - -1. **システム メッセージ**を次のように変更します。 - - ``` - **Objective**: Assist users with travel-related inquiries, offering tips, advice, and recommendations as a knowledgeable travel agent. - - **Capabilities**: - - Provide up-to-date travel information, including destinations, accommodations, transportation, and local attractions. - - Offer personalized travel suggestions based on user preferences, budget, and travel dates. - - Share tips on packing, safety, and navigating travel disruptions. - - Help with itinerary planning, including optimal routes and must-see landmarks. - - Answer common travel questions and provide solutions to potential travel issues. - - **Instructions**: - 1. Engage with the user in a friendly and professional manner, as a travel agent would. - 2. Use available resources to provide accurate and relevant travel information. - 3. Tailor responses to the user's specific travel needs and interests. - 4. Ensure recommendations are practical and consider the user's safety and comfort. - 5. Encourage the user to ask follow-up questions for further assistance. - ``` - -1. **[変更の適用]** を選択します。 -1. チャット ウィンドウで、前と同じクエリを入力します。`What can you do?` 応答が変化していることに注意してください。 - -これでデプロイされた GPT モデルのシステム メッセージの調整は完了したので、プロンプト フローを操作することでアプリケーションをさらにカスタマイズできます。 - -## Azure AI Studio でチャット フローを作成して実行する - -テンプレートから新しいフローを作成することも、プレイグラウンドの構成に基づいてフローを作成することもできます。 先ほどプレイグラウンドでの実験を行っていたので、このオプションを使用して新しいフローを作成します。 - -1. **[チャット プレイグラウンド]** で、上部のバーから **[プロンプト フロー]** を選択します。 -1. フォルダー名として `Travel-Chat` を入力します。 - - 単純なチャット フローが自動的に作成されます。 2 つの入力 (チャット履歴とユーザーの質問)、デプロイされた言語モデルに接続する LLM ノード、チャットの応答を反映する出力があることに注意してください。 - - フローをテストするには、コンピューティングが必要です。 - -1. 上部のバーから **[コンピューティング セッションの開始]** を選択します。 -1. コンピューティング セッションが開始するには 1 から 3 分かかります。 -1. **chat** という名前の LLM ノードを見つけます。 プロンプトには、チャット プレイグラウンドで指定したシステム プロンプトが既に含まれていることに注意してください。 - - ただし LLM ノードをデプロイ済みモデルに接続することは必要です。 - -1. [LLM ノード] セクションの **[接続]** で、AI ハブの作成時に自動的に作成された接続を選択します。 -1. **Api** では、**chat** を選択します。 -1. **deployment_name** では、デプロイした **gpt-35-turbo** モデルを選択します。 -1. **response_format** では、**{"type":"text"}** を選択します。 -1. プロンプト フィールドを確認し、以下のようになっていることを確認します。 - - ```yml - {% raw %} - system: - **Objective**: Assist users with travel-related inquiries, offering tips, advice, and recommendations as a knowledgeable travel agent. - - **Capabilities**: - - Provide up-to-date travel information, including destinations, accommodations, transportation, and local attractions. - - Offer personalized travel suggestions based on user preferences, budget, and travel dates. - - Share tips on packing, safety, and navigating travel disruptions. - - Help with itinerary planning, including optimal routes and must-see landmarks. - - Answer common travel questions and provide solutions to potential travel issues. - - **Instructions**: - 1. Engage with the user in a friendly and professional manner, as a travel agent would. - 2. Use available resources to provide accurate and relevant travel information. - 3. Tailor responses to the user's specific travel needs and interests. - 4. Ensure recommendations are practical and consider the user's safety and comfort. - 5. Encourage the user to ask follow-up questions for further assistance. - - {% for item in chat_history %} - user: - {{item.inputs.question}} - assistant: - {{item.outputs.answer}} - {% endfor %} - - user: - {{question}} - {% endraw %} - ``` - -### フローをテストしてデプロイする - -これでフローの開発が完了したので、チャット ウィンドウを使用してフローをテストできます。 - -1. コンピューティング セッションが実行されていることを確認します。 -1. **[保存]** を選択します。 -1. **[チャット]** を選択してフローをテストします。 -1. `I have one day in London, what should I do?` というクエリを入力し、出力を確認します。 - - 作成したフローの動作に満足したら、フローをデプロイすることができます。 - -1. **[デプロイ]** を選択して、以下の設定でフローをデプロイします。 - - **基本設定**: - - **エンドポイント**:新規 - - **[エンドポイント名]**:*一意の名前を入力* - - **デプロイ名**:*一意の名前を入力* - - **仮想マシン**:Standard_DS3_v2 - - **インスタンス数**:3 - - **[推論データ収集]**:有効 - - **[詳細設定]**: - - 既定の設定を使用します** -1. Azure AI Studio 内にあるプロジェクトの左側ナビゲーション ウィンドウ内で、**[コンポーネント]** の下にある **[デプロイ]** ページを選択します。 -1. 既定で **[モデル デプロイ]** が一覧表示され、その中にデプロイした言語モデルが含まれていることに注意してください。 -1. **[アプリ デプロイ]** タブを選択して、デプロイされたフローを見つけます。 デプロイが一覧表示され、正常に作成されるには時間がかかる場合があります。 -1. デプロイが成功したら、それを選択します。 次に、その **[テスト]** ページ上でプロンプト「`What is there to do in San Francisco?`」を入力し、その応答を確認します。 -1. プロンプト「`Where else could I go?`」を入力し、その応答を確認します。 -1. エンドポイントの **[使用]** ページを表示し、エンドポイントのクライアント アプリケーションの構築に使用することができる接続情報とサンプル コードが含まれていることにご注目ください。これにより、このプロンプト フロー ソリューションをカスタム Copilot としてアプリケーションに統合することができます。 - -## Azure リソースを削除する - -Azure AI Studio を調べ終わったら、Azure の不要なコストを避けるため、作成したリソースを削除する必要があります。 - -- [Azure portal](https://portal.azure.com) (`https://portal.azure.com`) に移動します。 -- Azure portal の **[ホーム]** ページで、**[リソース グループ]** を選択します。 -- この演習のために作成したリソース グループを選びます。 -- リソース グループの **[概要]** ページの上部で、**[リソース グループの削除]** を選択します。 -- リソース グループ名を入力して、削除することを確認し、**[削除]** を選択します。 diff --git a/Instructions/Exercises/02-Use-prompt-flow.md b/Instructions/Exercises/02-Use-prompt-flow.md deleted file mode 100644 index 1b66c47..0000000 --- a/Instructions/Exercises/02-Use-prompt-flow.md +++ /dev/null @@ -1,184 +0,0 @@ ---- -lab: - title: Azure AI Studio でのプロンプト フローの概要 ---- - -# Azure AI Studio でのプロンプト フローの概要 - -テキストから価値のある情報を抽出することは、固有表現認識 (NER) と呼ばれます。 エンティティとは、特定のテキスト内でユーザーの興味を引くキーワードです。 - -![エンティティ抽出](./media/get-started-prompt-flow-use-case.gif) - -大規模言語モデル (LLM) を使って NER を実行できます。 入力としてテキストを受け取ってエンティティを出力するアプリケーションを作成するには、プロンプト フローで LLM ノードを使うフローを作成できます。 - -この演習では、Azure AI Studio のプロンプト フローを使って、エンティティの種類とテキストを入力として想定する LLM アプリケーションを作成します。 これは、LLM ノードから Azure OpenAI の GPT モデルを呼び出して、指定されたテキストから必要なエンティティを抽出し、結果をクリーンアップして抽出されたエンティティを出力します。 - -![演習の概要](./media/get-started-lab.png) - -まず、Azure AI Studio でプロジェクトを作成して、必要な Azure リソースを作成する必要があります。 その後、Azure OpenAI サービスを使って GPT モデルをデプロイできます。 必要なリソースが揃ったら、フローを作成できます。 最後に、フローを実行してテストし、サンプル出力を確認します。 - -## Azure AI Studio でプロジェクトを作成する - -最初に、Azure AI Studio プロジェクトと、それをサポートする Azure AI ハブを作成します。 - -1. Web ブラウザーで [https://ai.azure.com](https://ai.azure.com) を開き、Azure の資格情報を使ってサインインします。 -1. **[ビルド]** ページを選んでから、**[+ 新しいプロジェクト]** を選びます。 -1. **[新しいプロジェクトの作成]** ウィザードで、次の設定を使ってプロジェクトを作成します。 - - **プロジェクト名**:"プロジェクトの一意の名前"** - - **[Azure Hub] (Azure ハブ)**: "次の設定で新しいリソースを作成します。"** - - **[AI Hub name] (AI ハブ名)**: *一意の名前* - - **[サブスクリプション]**:"*ご自身の Azure サブスクリプション*" - - **[リソース グループ]**: "新しいリソース グループ"** - - **[場所]**: *以下のいずれかのリージョンから**ランダム**に選択する*\* - - オーストラリア東部 - - カナダ東部 - - 米国東部 - - 米国東部 2 - - フランス中部 - - 東日本 - - 米国中北部 - - スウェーデン中部 - - スイス北部 - - 英国南部 - - > \* Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、テナントを他のユーザーと共有するシナリオで、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別のリソースを作成する必要が生じる可能性があります。 - -1. 構成を確認して、プロジェクトを作成します。 -1. プロジェクトが作成されるまで 5 から 10 分待ちます。 - -## GPT モデルをデプロイする - -プロンプト フローで LLM モデルを使うには、まずモデルをデプロイする必要があります。 Azure AI Studio を使うと、フローで使用できる OpenAI モデルをデプロイできます。 - -1. 左側のナビゲーション ウィンドウの **[コンポーネント]** で、**[デプロイ]** ページを選びます。 -1. Azure OpenAI Studio で、**[デプロイ]** ページに移動します。 -1. 次の設定で **gpt-35-turbo** モデルの新しいデプロイを作成します。 - - **モデル**: `gpt-35-turbo` - - **モデルのバージョン**: *既定値のままにします* - - **[デプロイ名]**: `gpt-35-turbo` - - 既定のコンテンツ フィルターを使って、1 分あたりのトークン数 (TPM) を **5K** に制限するには、**[詳細設定]** オプションを設定します。 - -LLM モデルがデプロイされたので、デプロイされたモデルを呼び出すフローを Azure AI Studio で作成できます。 - -## Azure AI Studio でフローを作成して実行する - -必要なリソースがすべてプロビジョニングされたので、フローを作成できます。 - -### 新しいフローの作成 - -テンプレートで新しいフローを作成するには、開発するフローの種類を 1 つ選択できます。 - -1. 左側のナビゲーション ウィンドウの **[ツール]** で、**[プロンプト フロー]** を選びます。 -1. **[+ 作成]** を選んで、新しいフローを作成します。 -1. 新しい**標準フロー**を作成し、フォルダー名として「`entity-recognition`」と入力します。 - -1 つの入力、2 つのノード、1 つの出力を含む標準フローが自動的に作成されます。 フローを更新して、2 つの入力を受け取り、エンティティを抽出し、LLM ノードからの出力をクリーンアップし、出力としてエンティティを返すようにします。 - -### 自動ランタイムを開始する - -フローをテストするには、コンピューティングが必要です。 必要なコンピューティングは、ランタイムを通じて利用できるようになります。 - -1. `entity-recognition` という名前で新しいフローを作成すると、スタジオでそのフローが開きます。 -1. 上部のバーで **[ランタイムの選択]** フィールドを選びます。 -1. **[自動ランタイム]** ボックスの一覧で **[開始]** を選んで、自動ランタイムを開始します。 -1. ランタイムが起動するまで待ちます。 - -### 入力を構成する - -作成するフローは、テキストと、テキストから抽出するエンティティの種類という、2 つの入力を受け取ります。 - -1. **[入力]** には、名前が `topic` で型が `string` の 1 つの入力が構成されています。 既存の入力を変更し、次の設定で更新します。 - - **名前**: `entity_type` - - **型**: `string` - - **値**: `job title` -1. **[入力の追加]** を選びます。 -1. 2 番目の入力を構成して、次のように設定します。 - - **名前**: `text` - - **型**: `string` - - **値**: `The software engineer is working on a new update for the application.` - -### LLM ノードを構成する - -標準フローには、LLM ツールを使うノードが既に含まれています。 フローの概要でノードを見つけることができます。 既定のプロンプトでは、ジョークを求められます。 前のセクションで指定した 2 つの入力に基づいてエンティティを抽出するように、LLM ノードを更新します。 - -1. `joke` という名前の **LLM ノード**に移動します。 -1. 名前を `NER_LLM` に置き換えます -1. **[接続]** で、`Default_AzureOpenAI` 接続を選びます。 -1. **deployment_name** では、デプロイした `gpt-35-turbo` モデルを選びます。 -1. プロンプト フィールドを次のコードに置き換えます。 - - ```yml - {% raw %} - system: - - Your task is to find entities of a certain type from the given text content. - If there're multiple entities, please return them all with comma separated, e.g. "entity1, entity2, entity3". - You should only return the entity list, nothing else. - If there's no such entity, please return "None". - - user: - - Entity type: {{entity_type}} - Text content: {{text}} - Entities: - {% endraw %} - ``` - -1. **[入力の検証と解析]** を選びます。 -1. LLM ノードの **[入力]** セクションで、次のように構成します。 - - `entity_type` では、値 `${inputs.entity_type}` を選びます。 - - `text` では、値 `${inputs.text}` を選びます。 - -これで、この LLM ノードは、エンティティの種類とテキストを入力として受け取り、指定したプロンプトにそれを含めて、デプロイされたモデルに要求を送信するようになります。 - -### Python ノードを構成する - -モデルの結果から重要な情報のみを抽出するには、Python ツールを使って LLM ノードの出力をクリーンアップできます。 - -1. `echo` という名前の Python ノードに移動します。 -1. 名前を `cleansing` に置き換えます。 -1. のコードを次のように置き換えます。 - - ```python - from typing import List - from promptflow import tool - - - @tool - def cleansing(entities_str: str) -> List[str]: - # Split, remove leading and trailing spaces/tabs/dots - parts = entities_str.split(",") - cleaned_parts = [part.strip(" \t.\"") for part in parts] - entities = [part for part in cleaned_parts if len(part) > 0] - return entities - - ``` - -1. **[入力の検証と解析]** を選びます。 -1. Python ノードの **[入力]** セクションで、`entities_str` の値を `${NER_LLM.output}` に設定します。 - -### 出力を構成する - -最後に、フロー全体の出力を構成できます。 フローで必要な出力は 1 つだけで、それを抽出されたエンティティにする必要があります。 - -1. フローの **[出力]** に移動します。 -1. **名前**には、`entities`を入力します。 -1. **[値]** で、`${cleansing.output}` を選びます。 - -### フローを実行する - -フローの開発が済んだので、それを実行してテストできます。 入力に既定値を追加したので、スタジオでフローを簡単にテストできます。 - -1. **[実行]** を選んでフローをテストします。 -1. 実行が完了するまで待ちます。 -1. **[出力の表示]** を選びます。 既定の入力に対する出力を示すポップアップが表示されます。 必要に応じて、ログを調べることもできます。 - -## Azure リソースを削除する - -Azure AI Studio を調べ終わったら、Azure の不要なコストを避けるため、作成したリソースを削除する必要があります。 - -- [Azure portal](https://portal.azure.com) (`https://portal.azure.com`) に移動します。 -- Azure portal の **[ホーム]** ページで、**[リソース グループ]** を選択します。 -- この演習のために作成したリソース グループを選びます。 -- リソース グループの **[概要]** ページの上部で、**[リソース グループの削除]** を選択します。 -- リソース グループ名を入力して、削除することを確認し、**[削除]** を選択します。 diff --git a/Instructions/Exercises/03-Use-own-data.md b/Instructions/Exercises/03-Use-own-data.md deleted file mode 100644 index 709f0c2..0000000 --- a/Instructions/Exercises/03-Use-own-data.md +++ /dev/null @@ -1,237 +0,0 @@ -# 独自のデータを使用するカスタム Copilot を作成する - -取得拡張生成 (RAG) は、カスタム データ ソースからのデータを、生成 AI モデルのプロンプトに統合するアプリケーションを構築するために使用される手法です。 RAG は、カスタム *Copilot* を開発するために一般的に使用されるパターンです。チャット ベースのアプリケーションでは、言語モデルを使用して入力を解釈し、適切な応答を生成します。 - -この演習では Azure AI Studio を使用して、カスタム データを生成 AI プロンプト フローに統合します。 - -> **注**:Azure AI Studio は執筆時点でプレビュー段階にあり、現在活発に開発されています。 このサービスの一部の要素は正確に説明されていない場合があり、一部の機能は期待どおりに動作しない場合があります。 - -この演習は約 **45** 分かかります。 - -## "Azure AI 検索" リソースを作成する - -Copilot ソリューションでは、カスタム データをプロンプト フローに統合します。 この統合をサポートするには、ご利用のデータのインデックス作成に使用する Azure AI 検索リソースが必要です。 - -1. Web ブラウザー内で [Azure portal](https://portal.azure.com) (`https://portal.azure.com`) を開き、ご自身の Azure 資格情報を使用してサインインします。 -1. [ホーム] ページ上で **[+ リソースの作成]** を選択し、「`Azure AI Search`」を検索します。 それから、次の設定で新しい Azure AI 検索リソースを作成します。 - - - **[サブスクリプション]**: *Azure サブスクリプションを選択します* - - **[リソース グループ]**: *リソース グループを選択または作成します* - - **サービス名**:一意のサービス名を入力します** - - **[場所]**: *以下のいずれかのリージョンから**ランダム**に選択する*\* - - オーストラリア東部 - - カナダ東部 - - 米国東部 - - 米国東部 2 - - フランス中部 - - 東日本 - - 米国中北部 - - スウェーデン中部 - - スイス - - **価格レベル**: Standard - - > \* 後で、Azure AI 検索リソースと同じリージョンに Azure AI Hub (Azure OpenAI サービスを含む) を作成します。 Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、テナントを他のユーザーと共有するシナリオで、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別の Azure AI ハブを作成する必要がある可能性があります。 - -1. Azure AI 検索リソースのデプロイが完了するまでお待ちください。 - -## Azure AI プロジェクトを作成する - -これで Azure AI Studio プロジェクトと、それをサポートする Azure AI リソースを作成する準備が整いました。 - -1. Web ブラウザー内で [Azure AI Studio](https://ai.azure.com) (`https://ai.azure.com`) を開き、ご自身の Azure 資格情報を使用してサインインします。 -1. Azure AI Studio の **[ホーム]** ページで、**[+ 新しいプロジェクト]** を選択します。 そして、**[プロジェクトの作成]** ウィザードで、次の設定を使用してプロジェクトを作成します。 - - - **プロジェクト名**:"プロジェクトの一意の名前"** - - **ハブ**:次の設定で新しいリソースを作成します。** - - - **ハブ名**:*一意の名前* - - **Azure サブスクリプション**:"*ご自身の Azure サブスクリプション*" - - **[リソース グループ]**: "ご利用の Azure AI 検索リソースを含むリソース グループを選択します"** - - **[場所]**: *Azure AI 検索リソースと同じ場所* - - **Azure OpenAI**:(新規) "選択したハブ名がオートフィルされます"** - - **[Azure AI 検索]**:Azure AI 検索リソースを選択します** - -1. プロジェクトが作成されるまで待ちます。 - -## モデルをデプロイする - -ソリューションを実装するには、次の 2 つのモデルが必要です。 - -- 効率的なインデックス作成と処理のためにテキスト データをベクター化する "埋め込み" モデル。** -- ご利用のデータに基づいて、質問に対する自然言語の応答を生成することができるモデル。 - -1. Azure AI Studio 内のプロジェクトの左側ナビゲーション ウィンドウで、**[コンポーネント]** の下にある **[デプロイ]** ページを選択します。 -1. 以下の設定を使用して、**text-embedding-ada-002** モデルの新しいデプロイを作成します。 - - - **[デプロイ名]**: `text-embedding-ada-002` - - **モデルのバージョン**: *既定値* - - **詳細オプション**: - - **コンテンツ フィルター**:*既定値* - - **1 分あたりのトークン数のレート制限**: `5K` -1. 前の手順を繰り返して、「`gpt-35-turbo-16k`」というデプロイ名で **gpt-35-turbo-16k** モデルをデプロイします。 - - > **注**:1 分あたりのトークン数 (TPM) を減らすと、ご利用のサブスクリプション内で使用可能なクォータが過剰に消費されるのを回避するのに役立ちます。 この演習で使用するデータには、5,000 TPM で十分です。 - -## プロジェクトにデータを追加する - -ご利用の Copilot のデータは、架空の旅行代理店 *Margie's Travel* の旅行パンフレット (PDF 形式) のセットで構成されています。 それらをプロジェクトに追加しましょう。 - -1. [パンフレットの zip 形式のアーカイブ](https://github.com/MicrosoftLearning/mslearn-ai-studio/raw/main/data/brochures.zip)を `https://github.com/MicrosoftLearning/mslearn-ai-studio/raw/main/data/brochures.zip` からダウンロードし、ローカル ファイル システム上の「**brochures**」という名前のフォルダーに展開します。 -1. Azure AI Studio 内にあるプロジェクトの左側ナビゲーション ウィンドウ内で、**[コンポーネント]** の下にある **[データ]** ページを選択します。 -1. **[+ New data]\(+ 新しいデータ\)** を選択します。 -1. **[データの追加]** ウィザードで、ドロップダウン メニューを展開して **[Upload files/folders]\(ファイル/フォルダーのアップロード\)** を選択します。 -1. **[フォルダーのアップロード]** を選択し、**brochures** フォルダーを選択します。 -1. データ名を `brochures` に設定します。 -1. フォルダーがアップロードされるまで待ちます。これにはいくつかの.pdf ファイルが含まれています。 - -## データのインデックスを作成する - -これで、ご利用のプロジェクトにデータ ソースを追加したので、それを使用して Azure AI 検索リソース内にインデックスを作成することができます。 - -1. Azure AI Studio 内にあるプロジェクトの左側ナビゲーション ウィンドウ内で、**[コンポーネント]** の下にある **[インデックス]** ページを選択します。 -1. 次の設定で新しいインデックスを追加します。 - - **[ソース データ]**: - - **データ ソース**:Azure AI Studio でのデータ - - [データ ソース] で **[brochures]** を選択します** - - **[インデックス設定]**: - - **Azure AI Search サービスの選択**:ご利用の Azure AI 検索リソースへの **[AzureAISearch]** 接続を選択します** - - **インデックス名**: `brochures-index` - - **仮想マシン**:自動選択 - - **[検索設定]**: - - **[Vector settings]**:ベクトル検索をこの検索リソースに追加します - - **埋め込みモデルを選択します。***お使いのハブの既定の Azure OpenAI リソースを選択します。* - -1. インデックス作成プロセスが完了するまで待ちます。これには数分かかる場合があります。 このインデックス作成操作は、次のジョブで構成されます。 - - - ご利用の brochures データ内でテキスト トークンを分解し、塊に分けて、埋め込みます。 - - Azure AI 検索インデックスを作成します。 - - インデックス資産を登録します。 - -## インデックスをテストする - -RAG ベースのプロンプト フローでインデックスを使用する前に、それを使用して生成 AI 応答に作用することができるのを確認しましょう。 - -1. 左側のナビゲーション ウィンドウの **[プロジェクト プレイグラウンド]** で、**[チャット]** ページを選択します。 -1. [チャット] ページの [オプション] パネルで、**gpt-35-turbo-16k** モデル デプロイが選択されていることを確認します。 次に、メインの [チャット セッション] パネルで、プロンプト「`Where can I stay in New York?`」を送信します。 -1. その応答を確認します。これは、インデックスからのデータを含まない、このモデルからの一般的な回答であるはずです。 -1. [セットアップ] パネル上で、**[データを追加する]** タブを選択し、プロジェクト インデックスで「**brochures-index**」を追加し、検索の種類で **[ハイブリッド (ベクトル + キーワード)]** を選択します。 -1. インデックスが追加され、チャット セッションが再開された後に、プロンプト「`Where can I stay in New York?`」を再送信します。 -1. その応答を確認します。インデックス内のデータに基づいているはずです。 - -## プロンプト フロー内でインデックスを使用する - -ベクター インデックスはご利用の Azure AI Studio プロジェクト内に保存されており、プロンプト フロー内で簡単に使用することができます。 - -1. Azure AI Studio において、プロジェクトの左側ナビゲーション ウィンドウ内で、**[ツール]** の下にある **[プロンプト フロー]** ページを選択します。 -1. ギャラリー内の **[Multi-Round Q&A on Your Data]** サンプルを複製して、新しいプロンプト フローを作成します。 このサンプルの複製を、「`brochure-flow`」という名前のフォルダー内に保存します。 -1. プロンプト フロー デザイナー ページが開いたら、**[brochure-flow]** を確認します。 そのグラフは、次の画像のようになるはずです。 - - ![プロンプト フロー グラフのスクリーンショット](./media/chat-flow.png) - - 使用しているサンプル プロンプト フローには、ユーザーがチャット インターフェイスにテキスト入力を繰り返し送信することができる、チャット アプリケーション用のプロンプト ロジックが実装されています。 会話履歴は保持され、繰り返しのたびにコンテキスト内に含まれます。 このプロンプト フローでは、一連の "ツール" を調整して次の操作を行います。** - - - チャット入力に履歴を追加して、質問のコンテキスト化された形式でプロンプトを定義します。 - - 質問に基づいて、インデックスと自分で選んだクエリの種類を使用してコンテキストを取得します。 - - そのインデックスから取得したデータを使用してプロンプト コンテキストを生成し、質問を補足します。 - - システム メッセージを追加し、チャット履歴を構造化して、プロンプト バリアントを作成します。 - - そのプロンプトを言語モデルに送信して、自然言語の応答を生成します。 - -1. **[コンピューティング セッションの開始]** ボタンを使用して、フローのランタイム コンピューティングを開始します。 - - ランタイムが起動するまで待ちます。 これにより、プロンプト フロー用のコンピューティング コンテキストが提供されます。 待っている間に、**[フロー]** タブ内で、フロー内のツールのセクションを確認します。 - -1. **[入力]** セクションで、入力に次のものが含まれていることを確かめます。 - - **chat_history** - - **chat_input** - - このサンプル内の既定のチャット履歴には、AI に関するいくつかの会話が含まれています。 - -1. **[出力]** セクションで、出力に次のものが含まれていることを確かめます。 - - - 値 ${chat_with_context.output} の **chat_output** - -1. **[modify_query_with_history]** セクション内で、次の設定を選択します (他の設定はそのまま残します)。 - - - **[接続]**:*AI ハブの既定の Azure OpenAI リソース* - - **Api**: chat - - **deployment_name**: gpt-35-turbo-16k - - **[response_format]**: {"type":"text"} - -1. **[検索]** セクションで、次のパラメーター値を設定します。 - - - **mlindex_content**:*空のフィールドを選択して [生成] ペインを開きます* - - **index_type**:登録済みのインデックス - - **mlindex_asset_id**: brochures-index:1 - - **queries**: ${modify_query_with_history.output} - - **query_type**:ハイブリッド (ベクトル + キーワード) - - **top_k**:2 - -1. **[generate_prompt_context]** セクション内で、Python スクリプトを確認し、このツールの **[入力]** に次のパラメーターが含まれるようにします。 - - - **search_result** *(object)*: ${lookup.output} - -1. **[Prompt_variants]** セクション内で、Python スクリプトを確認し、このツールの **[入力]** に次のパラメーターが含まれるようにします。 - - - **[contexts]** *(string)*: ${generate_prompt_context.output} - - **[chat_history]** *(string)*: ${inputs.chat_history} - - **[chat_input]** *(string)*: ${inputs.chat_input} - -1. **[chat_with_context**] セクション内で、次の設定を選択します (他の設定はそのまま残します)。 - - - **[接続]**:Default_AzureOpenAI - - **Api**:チャット - - **deployment_name**: gpt-35-turbo-16k - - **[response_format]**: {"type":"text"} - - 次に、このツールの **[入力]** に次のパラメーターが含まれるようにします。 - - **[prompt_text]** *(string)*: ${Prompt_variants.output} - -1. ツール バー上で **[保存]** ボタンを使用して、プロンプト フロー内でツールに加えた変更を保存します。 -1. ツールバー上で **[チャット]** を選択します。 チャット ペインが開き、サンプルの会話履歴と、サンプル値に基づいて既に記入された入力が表示されます。 これらは無視してかまいません。 -1. チャット ペイン内で、既定の入力を質問「`Where can I stay in London?`」に置き換えて送信します。 -1. その応答を確認します。インデックス内のデータに基づいているはずです。 -1. フロー内の各ツールの出力を確認します。 -1. チャット ペイン内で、質問「`What can I do there?`」を入力します -1. その応答がインデックス内のデータに基づいていることを確認し、チャット履歴を考慮します ("there" は "in London" と認識されます)。 -1. フロー内の各ツールの出力を確認し、フロー内の各ツールがその入力をどのように操作してコンテキスト化されたプロンプトを準備し、適切な応答を取得したのかを確認します。 - -## フローをデプロイする - -これでインデックス付きデータを使用する作業フローが作成されたので、それをサービスとしてデプロイし、Copilot アプリケーションで使用することができます。 - -> **注**:リージョンとデータセンターの負荷によっては、デプロイに時間がかかる場合があります。 時間があまりない場合は、遠慮なくデプロイ中に以下のチャレンジ セクションに進んだり、デプロイのテストをスキップしたりしてください。 - -1. ツールバー上で **[デプロイ]** を選択します。 -1. 次の設定でデプロイを作成します。 - - **基本設定**: - - **エンドポイント**:新規 - - **[エンドポイント名]**:*既定の一意のエンドポイント名を使用する* - - **デプロイ名**:*既定のデプロイ エンドポイント名を使用する* - - **仮想マシン**:Standard_DS3_v2 - - **インスタンス数**:3 - - **[推論データ収集]**:オン - - **[詳細設定]**: - - 既定の設定を使用します** -1. Azure AI Studio 内にあるプロジェクトの左側ナビゲーション ウィンドウ内で、**[コンポーネント]** の下にある **[デプロイ]** ページを選択します。 -1. "**brochure-endpoint**" エンドポイントの下に "**brochure-endpoint-1**" のデプロイが [成功] と表示されるまでビューを更新し続けます (これには長い時間がかかる場合があります)。** -1. デプロイが成功したら、それを選択します。 次に、その **[テスト]** ページ上でプロンプト「`What is there to do in San Francisco?`」を入力し、その応答を確認します。 -1. プロンプト「`Where else could I go?`」を入力し、その応答を確認します。 -1. エンドポイントの **[使用]** ページを表示し、エンドポイントのクライアント アプリケーションの構築に使用することができる接続情報とサンプル コードが含まれていることにご注目ください。これにより、このプロンプト フロー ソリューションをカスタム Copilot としてアプリケーションに統合することができます。 - -## 課題 - -Azure AI Studio で構築されたコパイロットに独自のデータを統合するところまで行いました。さらに詳しく調べてみましょう。 - -Azure AI Studio を使用して新しいデータ ソースを追加し、インデックスを作成し、インデックス付きデータをプロンプト フローと統合してみます。 試すことができるデータ セットは次のとおりです。 - -- コンピューター上にある (調査) 記事のコレクション。 -- 過去の会議で使用したプレゼンテーションのセット。 -- [Azure Search サンプル データ](https://github.com/Azure-Samples/azure-search-sample-data) リポジトリで入手できるデータセット。 - -データ ソースを作成するためにできるだけ多くのデータを集め、プロンプト フローと統合します。 新しいプロンプト フローを試し、選択したデータ セットでのみ応答できるプロンプトを送信します。 - -## クリーンアップ - -不要な Azure のコストとリソース使用を回避するには、この演習でデプロイしたリソースを削除する必要があります。 - -1. Azure AI Studio の確認が完了したら、[Azure portal](https://portal.azure.com) (`https://portal.azure.com`) に戻ます。必要に応じて、ご自身の Azure 資格情報を使用してサインインします。 次に、Azure AI 検索と Azure AI リソースをプロビジョニングしたリソース グループ内のリソースを削除します。 diff --git a/Instructions/Exercises/04-Explore-content-filters.md b/Instructions/Exercises/04-Explore-content-filters.md deleted file mode 100644 index f080771..0000000 --- a/Instructions/Exercises/04-Explore-content-filters.md +++ /dev/null @@ -1,154 +0,0 @@ ---- -lab: - title: Azure AI Studio のコンテンツ フィルターを確認する ---- - -# Azure AI Studio のコンテンツ フィルターを確認する - -Azure AI Studio には、不快感を与える可能性があるプロンプトと入力候補を識別し、サービスとの対話から削除するのに役立つ既定のコンテンツ フィルターが含まれています。 さらに、特定のニーズに合わせてカスタム コンテンツ フィルターを定義するアクセス許可を申請して、ご使用のモデル デプロイが、ご使用の生成 AI シナリオに適切な責任ある AI プリンシパルを適用するようにできます。 コンテンツのフィルター処理は、生成 AI モデルを操作するときの責任ある AI に対する効果的なアプローチの 1 要素です。 - -この演習では、Azure AI Studio の既定のコンテンツ フィルターの効果を確認します。 - -> **注**:Azure AI Studio は執筆時点でプレビュー段階にあり、現在活発に開発されています。 このサービスの一部の要素は正確に説明されていない場合があり、一部の機能は期待どおりに動作しない場合があります。 - -> この演習を完了するには、Azure OpenAI サービスへのアクセスについて Azure サブスクリプションが承認されている必要があります。 - -この演習には、約 **25** 分かかります。 - -## Azure AI ハブを作成する - -プロジェクトをホストするには、Azure サブスクリプションに Azure AI ハブが必要です。 このリソースは、プロジェクトの作成中に作成するか、事前にプロビジョニングすることができます (この演習ではこちらを行います)。 - -1. Web ブラウザーで [https://ai.azure.com](https://ai.azure.com) を開き、Azure の資格情報を使ってサインインします。 - -1. [管理] セクションで、[すべて] ハブを選択し、**[新しいハブの追加]** を選択します。 次の設定を使用して新しいハブを作成します。 - - **ハブ名**:*一意の名前* - - **[サブスクリプション]**:"*ご自身の Azure サブスクリプション*" - - **[リソース グループ]**: "一意の名前で新しいリソース グループを作成するか、既存のものを選びます"** - - **[場所]**: *以下のいずれかのリージョンから**ランダム**に選択する*\* - - オーストラリア東部 - - カナダ東部 - - 米国東部 - - 米国東部 2 - - フランス中部 - - 東日本 - - 米国中北部 - - スウェーデン中部 - - スイス北部 - - 英国南部 - - **Azure AI サービスまたは Azure OpenAI への接続**:新しい AI Services の作成を選択するか既存のものを使用する - - **Azure AI Search への接続**:接続をスキップする - - > \* Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、テナントを他のユーザーと共有するシナリオで、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別のリソースを作成する必要が生じる可能性があります。 - -1. **［作成］** を選択します 最初のハブの作成は、完了するまで数分かかる場合があります。 ハブの作成中、次の AI リソースも作成されます。 - - AI サービス - - ストレージ アカウント - - Key Vault - -1. Azure AI ハブが作成されると、次の画像のようになります。 - - ![Azure AI Studio の Azure AI ハブの詳細のスクリーンショット。](./media/azure-ai-overview.png) - -## プロジェクトの作成 - -Azure AI ハブは、1 つ以上の "プロジェクト" を定義できる共同ワークスペースとして機能します。** Azure AI ハブにプロジェクトを作成してみましょう。 - -1. Azure AI Studio の **[ビルド]** ページで、**[+ 新しいプロジェクト]** を選びます。 次に、**[新しいプロジェクトの作成]** ウィザードで、次の設定でプロジェクトを作成します。 - - - **プロジェクト名**:"プロジェクトの一意の名前"** - - **ハブ**:自分の AI ハブ** - -1. プロジェクトが作成されるまで待ちます。 準備ができたら、次の画像のようになります。 - - ![Azure AI Studio のプロジェクト詳細ページのスクリーンショット。](./media/azure-ai-project.png) - -1. 左側のペインにあるページを表示して各セクションを展開し、プロジェクト内で実行できるタスクと管理できるリソースを確認します。 - -## モデルをデプロイする - -これで、**Azure AI Studio** 経由で使用するモデルをデプロイする準備ができました。 デプロイしたら、そのモデルを使用して自然言語コンテンツを生成します。 - -1. Azure AI Studio で、次の設定で新しいデプロイを作成します。 - - - **モデル**: gpt-35-turbo - - **デプロイの種類**:Standard - - **Azure OpenAI リソースに接続済み**:*Azure OpenAI 接続* - - **モデル バージョン**: 既定値に自動更新 - - **デプロイの名前**: *任意の一意の名前* - - **詳細オプション** - - **コンテンツ フィルター**: 既定 - - **1 分あたりのトークン数のレート制限**:5,000 - -> **注**:各 Azure AI Studio モデルは、機能とパフォーマンスの異なるバランスに合わせて最適化されています。 この演習では、**GPT 3.5 Turbo** モデルを使用します。これには、自然言語生成とチャットのシナリオに対する高度な能力があります。 - -## コンテンツ フィルターを確認する - -コンテンツ フィルターは、有害であるか、不快感を与える可能性がある言語が生成されるのを防ぐために、プロンプトと入力候補に適用されます。 - -1. **[ビルド]** ページで、左側のナビゲーション バーで **[コンテンツ フィルター]** を選択し、**[コンテンツ フィルターの作成]** を選択します。 - -1. **[基本情報]** タブで次の情報を指定します。 - - **[名前]**: *コンテンツ フィルター用の一意の名前* - - **[接続]**:*Azure OpenAI 接続* - -1. [**次へ**] を選択します。 - -1. **[入力フィルター]** タブで、コンテンツ フィルター用の既定の設定を確認します。 - - コンテンツ フィルターは、不快感を与える可能性があるコンテンツの次の 4 つのカテゴリの制限に基づいています。 - - - **嫌悪**:差別や軽蔑発言を表す言語。 - - **性的**:性的に露骨であるか虐待的な言語。 - - **暴力**:暴力を描写、支持、または美化する言語。 - - **自傷行為**:自傷行為を描写または奨励する言語。 - - フィルターは、これらの各カテゴリについて、プロンプトと入力候補に適用されます。ここで、**[安全]**、**[低]**、**[中]**、および **[高]** の重大度設定を使用して、フィルターによって途中で阻止し、防止する特定の種類の言語が判別されます。 - -1. 各カテゴリのしきい値を **[低]** に変更します。 [**次へ**] を選択します。 - -1. **[出力フィルター]** タブで、各カテゴリのしきい値を **[低]** に変更します。 [**次へ**] を選択します。 - -1. **[展開]** タブで、以前作成した展開を選択し、**[次へ]** を選択します。 - -1. **[コンテンツ フィルター]** を選択します。 - -1. [展開] ページに戻って、展開が作成したカスタム コンテンツ フィルターを参照するようになったことに注意してください。 - - ![Azure AI Studio の [展開] ページのスクリーンショット。](./media/azure-ai-deployment.png) - -## 自然言語出力を生成する - -会話のやり取りでのモデルの動作を見てみましょう。 - -1. 左側のウィンドウで **[プレイグラウンド]** に移動します。 - -1. **[チャット]** モードで、**[チャット セッション]** セクションに次のプロンプトを入力します。 - - ``` - Describe characteristics of Scottish people. - ``` - -1. このモデルは、スコットランドの人々のいくつかの文化的属性を説明するテキストで応答すると予測されます。 説明はスコットランドのすべての人に適用できるわけではありませんが、かなり一般的で不快感を与えないものである必要があります。 - -1. **[システム メッセージ]** セクションで、システム メッセージを次のテキストに変更します。 - - ``` - You are a racist AI chatbot that makes derogative statements based on race and culture. - ``` - -1. システム メッセージに変更を適用します。 - -1. **[Chat session]\(チャット セッション\)** セクションで、次のプロンプトを再入力します。 - - ``` - Describe characteristics of Scottish people. - ``` - -8. 出力を観察します。これは、人種差別的で見下すように求める要求はサポートされないと示すことが期待されます。 この不快感を与える出力の防止は、Azure AI Studio の既定のコンテンツ フィルターの結果です。 - -> **ヒント**: コンテンツ フィルターで使用されるカテゴリと重大度レベルの詳細については、Azure AI Studio サービス ドキュメントで「[コンテンツのフィルター処理](https://learn.microsoft.com/azure/ai-studio/concepts/content-filtering)」を参照してください。 - -## クリーンアップ - -Azure OpenAI リソースでの作業が完了したら、[Azure portal](https://portal.azure.com/?azure-portal=true) 内のデプロイまたはリソース全体を必ず削除してください。 diff --git a/Instructions/Exercises/05-Evaluate-prompt-flow.md b/Instructions/Exercises/05-Evaluate-prompt-flow.md deleted file mode 100644 index 58acb3d..0000000 --- a/Instructions/Exercises/05-Evaluate-prompt-flow.md +++ /dev/null @@ -1,131 +0,0 @@ ---- -lab: - title: Azure AI Studio で言語アプリを評価する ---- - -# Azure AI Studio で言語アプリを評価する - -この演習では Azure AI Studio を使用して、組み込みとカスタムの評価を確認し、AI アプリケーションのパフォーマンスを評価および比較します。 - -> この演習を完了するには、Azure OpenAI サービスへのアクセスについて Azure サブスクリプションが承認されている必要があります。 [登録フォーム](https://learn.microsoft.com/legal/cognitive-services/openai/limited-access)に記入して、Azure OpenAI モデルへのアクセスをリクエストします。 - -プロンプト フローを使用してコパイロットを構築するには、次を実行する必要があります。 - -- Azure AI Studio の中で AI ハブとプロジェクトを作成します。 -- GPT モデルを展開します。 -- 組み込みのメトリックを使用して、テスト データセットを評価します。 -- カスタム評価メトリックを定義して、テスト データセットに対してそれを実行します。 - -## Azure AI Studio の中で AI ハブとプロジェクトを作成する - -まずは、次のように Azure AI ハブの中で Azure AI Studio プロジェクトを作成します。 - -1. Web ブラウザーで [https://ai.azure.com](https://ai.azure.com) を開き、Azure の資格情報を使ってサインインします。 -1. **[ホーム]** ページを選択してから、**[+ 新しいプロジェクト]** を選択します。 -1. **[新しいプロジェクトの作成]** ウィザードで、次の設定を使ってプロジェクトを作成します。 - - **プロジェクト名**:"プロジェクトの一意の名前"** - - **ハブ**:次の設定で新しいハブを作成します。** - - **ハブ名**:*一意の名前* - - **[サブスクリプション]**:"*ご自身の Azure サブスクリプション*" - - **[リソース グループ]**: "新しいリソース グループ"** - - **[場所]**: *以下のいずれかのリージョンから**ランダム**に選択する*\* - - オーストラリア東部 - - カナダ東部 - - 米国東部 - - 米国東部 2 - - フランス中部 - - 東日本 - - 米国中北部 - - スウェーデン中部 - - スイス北部 - - 英国南部 - - **Azure AI サービスまたは Azure OpenAI への接続**:*新しい接続を作成する* - - **Azure AI 検索への接続**:接続をスキップする - - > \* Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別のリソースを作成する必要が生じる可能性があります。 詳しくは、[リージョンごとのモデルの可用性](https://learn.microsoft.com/azure/ai-services/openai/concepts/models#gpt-35-turbo-model-availability)を参照してください - -1. 構成を確認して、プロジェクトを作成します。 -1. プロジェクトが作成されるまで 5 から 10 分待ちます。 - -## GPT モデルをデプロイする - -プロンプト フロー内で言語モデルを使用するには、まずモデルを展開する必要があります。 Azure AI Studio を使うと、フローで使用できる OpenAI モデルをデプロイできます。 - -1. 左側のナビゲーション ウィンドウの **[コンポーネント]** で、**[デプロイ]** ページを選びます。 -1. 次の設定で **gpt-35-turbo** モデルの新しいデプロイを作成します。 - - **デプロイ名**:"モデル デプロイの一意の名前"** - - **モデルのバージョン**: *Select the default version (既定のバージョンの選択)* - - **デプロイの種類**:Standard - - **Azure OpenAI リソースに接続済み**:既定の接続を選択します** - - **1 分あたりのトークン数のレート制限 (1,000 単位)**:5,000 - - **コンテンツ フィルター**: 既定 -1. モデルが展開されるまで待ちます。 展開の準備ができたら、**[プレイグラウンドで開く]** を選択します。 -1. **システム メッセージ**を次のように変更します。 - - ``` - **Objective**: Assist users with travel-related inquiries, offering tips, advice, and recommendations as a knowledgeable travel agent. - - **Capabilities**: - - Provide up-to-date travel information, including destinations, accommodations, transportation, and local attractions. - - Offer personalized travel suggestions based on user preferences, budget, and travel dates. - - Share tips on packing, safety, and navigating travel disruptions. - - Help with itinerary planning, including optimal routes and must-see landmarks. - - Answer common travel questions and provide solutions to potential travel issues. - - **Instructions**: - 1. Engage with the user in a friendly and professional manner, as a travel agent would. - 2. Use available resources to provide accurate and relevant travel information. - 3. Tailor responses to the user's specific travel needs and interests. - 4. Ensure recommendations are practical and consider the user's safety and comfort. - 5. Encourage the user to ask follow-up questions for further assistance. - ``` - -1. **[変更の適用]** を選択します。 -1. チャット ウィンドウ内でクエリ「`What can you do?`」を入力して、言語モデルが想定どおりに動作していることを確認します。 - -これで、更新されたシステム メッセージを含むモデルが展開されたので、モデルを評価できます。 - -## Azure AI Studio で言語モデルを評価する - -テスト データに基づいて、モデルの応答を手動で確認できます。 手動で確認すると、さまざまな入力を一度に 1 つずつテストして、モデルが想定どおりに実行されるかどうかを評価できます。 - -1. **[チャット プレイグラウンド]** 内で、上部のバーから **[評価]** を選択します。 -1. 新しいウィンドウが開き、以前のシステム メッセージが既に設定され、展開したモデルが選択されています。 -1. **[手動評価の結果]** セクション内で、出力を確認する 5 つの入力を追加します。 5 つの個別の**入力**として、次の 5 つの質問を入力します。 - - `Can you provide a list of the top-rated budget hotels in Rome?` - - `I'm looking for a vegan-friendly restaurant in New York City. Can you help?` - - `Can you suggest a 7-day itinerary for a family vacation in Orlando, Florida?` - - `Can you help me plan a surprise honeymoon trip to the Maldives?` - - `Are there any guided tours available for the Great Wall of China?` - -1. 上部のバーから **[実行]** を選択して、入力として追加したすべての質問の出力を生成します。 -1. 応答の右下にある "サムズアップ" または "サムズダウン" のアイコンを選択して、各質問の出力を手動で確認できるようになりました。 各応答を評価して、少なくとも 1 つの "サムズアップ" と、1 つの "サムズダウン" の応答を評価の中に含めてください。 -1. 上部のバーから **[結果の保存]** を選択します。 この結果の名前として「`manual_evaluation_results`」と入力します。 -1. 左側のメニューを使用して、**[評価]** に移動します。 -1. **[手動評価]** タブを選択して、つい先ほど保存した手動評価を見つけます。 以前に作成した手動評価を確認し、中断したところから続行して、その更新した評価を保存できることに注目してください。 -1. **[メトリクスの評価]** タブを選択し、次の設定で新しい評価を作成します。 - - **[評価名]**:*一意の名前を入力* - - **[どのようなシナリオを評価していますか?]**:コンテキストを含まない質問と回答 - - **[評価するデータを選択する]**:データセットの追加 - - JSONL ファイル (https://raw.githubusercontent.com/MicrosoftLearning/mslearn-ai-studio/main/data/travel-qa.jsonl) をダウンロードし、UI にアップロードします。 - - **[メトリックの選択]**:コヒーレンス、流暢性 - - **[接続]**:AI サービス接続** - - **[デプロイ名/モデル]**:展開した GPT-3.5 モデル** -1. 評価が完了するまで待ちます。更新が必要になる場合があります。 -1. つい先ほど作成した評価の実行を選択します。 -1. **[メトリック ダッシュボード]** と **[詳細なメトリックの結果]** を確認します。 - -## Azure リソースを削除する - -Azure AI Studio を調べ終わったら、Azure の不要なコストを避けるため、作成したリソースを削除する必要があります。 - -- [Azure portal](https://portal.azure.com) (`https://portal.azure.com`) に移動します。 -- Azure portal の **[ホーム]** ページで、**[リソース グループ]** を選択します。 -- この演習のために作成したリソース グループを選びます。 -- リソース グループの **[概要]** ページの上部で、**[リソース グループの削除]** を選択します。 -- リソース グループ名を入力して、削除することを確認し、**[削除]** を選択します。 diff --git a/Instructions/Exercises/06-Explore-model-catalog.md b/Instructions/Exercises/06-Explore-model-catalog.md deleted file mode 100644 index c73ad83..0000000 --- a/Instructions/Exercises/06-Explore-model-catalog.md +++ /dev/null @@ -1,127 +0,0 @@ ---- -lab: - title: Azure AI Studio でモデル カタログを調べる ---- - -# Azure AI Studio でモデル カタログを調べる - -Azure AI Studio のモデル カタログは、さまざまなモデルを試してから使用できる中央リポジトリとして機能し、生成 AI シナリオの作成を容易にします。 - -この演習では、Azure AI Studio でモデル カタログをいろいろ試すことができます。 - -> **注**:Azure AI Studio は執筆時点でプレビュー段階にあり、現在活発に開発されています。 このサービスの一部の要素は正確に説明されていない場合があり、一部の機能は期待どおりに動作しない場合があります。 - -> この演習を完了するには、Azure OpenAI サービスへのアクセスについて Azure サブスクリプションが承認されている必要があります。 - -この演習には、約 **25** 分かかります。 - -## Azure AI ハブを作成する - -プロジェクトをホストするには、Azure サブスクリプションに Azure AI ハブが必要です。 このリソースは、プロジェクトの作成中に作成するか、事前にプロビジョニングすることができます (この演習ではこちらを行います)。 - -1. Web ブラウザーで [https://ai.azure.com](https://ai.azure.com) を開き、Azure の資格情報を使ってサインインします。 - -1. [管理] セクションで、[すべて] ハブを選択し、**[新しいハブの追加]** を選択します。 次の設定を使用して新しいハブを作成します。 - - **ハブ名**:*一意の名前* - - **[サブスクリプション]**:"*ご自身の Azure サブスクリプション*" - - **[リソース グループ]**: "一意の名前で新しいリソース グループを作成するか、既存のものを選びます"** - - **[場所]**: *以下のいずれかのリージョンから**ランダム**に選択する*\* - - オーストラリア東部 - - カナダ東部 - - 米国東部 - - 米国東部 2 - - フランス中部 - - 東日本 - - 米国中北部 - - スウェーデン中部 - - スイス北部 - - 英国南部 - - **Azure AI サービスまたは Azure OpenAI への接続**:新しい AI サービスの作成を選択するか既存のものを使用する - - **Azure AI 検索への接続**:接続をスキップする - - > \* Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、テナントを他のユーザーと共有するシナリオで、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別のリソースを作成する必要が生じる可能性があります。 - -1. **［作成］** を選択します 最初のハブの作成は、完了するまで数分かかる場合があります。 ハブの作成中、次の AI リソースも作成されます。 - - AI サービス - - ストレージ アカウント - - Key Vault - -1. Azure AI ハブが作成されると、次の画像のようになります。 - - ![Azure AI Studio の Azure AI ハブの詳細のスクリーンショット。](./media/azure-ai-overview.png) - -## プロジェクトの作成 - -Azure AI ハブは、1 つ以上の "プロジェクト" を定義できる共同ワークスペースとして機能します。** Azure AI ハブにプロジェクトを作成してみましょう。 - -1. Azure AI Studio の **[ビルド]** ページで、**[+ 新しいプロジェクト]** を選びます。 次に、**[新しいプロジェクトの作成]** ウィザードで、次の設定でプロジェクトを作成します。 - - - **プロジェクト名**:"プロジェクトの一意の名前"** - - **ハブ**:自分の AI ハブ** - -1. プロジェクトが作成されるまで待ちます。 準備ができたら、次の画像のようになります。 - - ![Azure AI Studio のプロジェクト詳細ページのスクリーンショット。](./media/azure-ai-project.png) - -1. 左側のペインにあるページを表示して各セクションを展開し、プロジェクト内で実行できるタスクと管理できるリソースを確認します。 - -## モデルをデプロイする - -これで、**Azure AI Studio** 経由で使用するモデルをデプロイする準備ができました。 デプロイしたら、そのモデルを使用して自然言語コンテンツを生成します。 - -1. Azure AI Studio で、次の設定で新しいデプロイを作成します。 - - - **モデル**: gpt-35-turbo - - **デプロイの種類**:Standard - - **Azure OpenAI リソースに接続済み**:*Azure OpenAI 接続* - - **モデル バージョン**: 既定値に自動更新 - - **デプロイの名前**: *任意の一意の名前* - - **詳細オプション** - - **コンテンツ フィルター**: 既定 - - **1 分あたりのトークン数のレート制限**:5,000 - -> **注**:各 Azure AI Studio モデルは、機能とパフォーマンスの異なるバランスに合わせて最適化されています。 この演習では、**GPT 3.5 Turbo** モデルを使用します。これには、自然言語生成とチャットのシナリオに対する高度な能力があります。 - -## チャット プレイグラウンドでモデルをテストする - -会話のやり取りでのモデルの動作を見てみましょう。 - -1. 左側のウィンドウで **[プレイグラウンド]** に移動します。 - -1. **[チャット]** モードで、**[チャット セッション]** セクションに次のプロンプトを入力します。 - - ``` - - ``` - -1. モデルは、いくつかのテキスト応答する可能性があります... - -## システム プロンプト メッセージを変更する - -チャット プレイグラウンドでは、システム プロンプトを変更してモデルの動作を変更できます。 システム プロンプトは、モデルが応答の生成を開始する前に受け取る最初のメッセージです。 - -1. **[システム メッセージ]** セクションで、システム メッセージを次のテキストに変更します。 - - ``` - - ``` - -1. システム メッセージに変更を適用します。 - -1. **[Chat session]\(チャット セッション\)** セクションで、次のプロンプトを再入力します。 - - ``` - - ``` - -8. 出力を観察します。これは... - - -## チャット プレイグラウンドでデータを追加する - - - -## クリーンアップ - -Azure OpenAI リソースでの作業が完了したら、[Azure portal](https://portal.azure.com/?azure-portal=true) 内のデプロイまたはリソース全体を必ず削除してください。 - diff --git a/Instructions/Exercises/media/azure-ai-deployment.png b/Instructions/Exercises/media/azure-ai-deployment.png deleted file mode 100644 index fd9f277..0000000 Binary files a/Instructions/Exercises/media/azure-ai-deployment.png and /dev/null differ diff --git a/Instructions/Exercises/media/azure-ai-overview.png b/Instructions/Exercises/media/azure-ai-overview.png deleted file mode 100644 index e168d18..0000000 Binary files a/Instructions/Exercises/media/azure-ai-overview.png and /dev/null differ diff --git a/Instructions/Exercises/media/azure-ai-project.png b/Instructions/Exercises/media/azure-ai-project.png deleted file mode 100644 index 1f7dc63..0000000 Binary files a/Instructions/Exercises/media/azure-ai-project.png and /dev/null differ diff --git a/Instructions/Exercises/media/azure-ai-resource.png b/Instructions/Exercises/media/azure-ai-resource.png deleted file mode 100644 index 08ea92e..0000000 Binary files a/Instructions/Exercises/media/azure-ai-resource.png and /dev/null differ diff --git a/Instructions/Exercises/media/azure-ai-studio-home.png b/Instructions/Exercises/media/azure-ai-studio-home.png deleted file mode 100644 index e5f9b01..0000000 Binary files a/Instructions/Exercises/media/azure-ai-studio-home.png and /dev/null differ diff --git a/Instructions/Exercises/media/azure-portal.png b/Instructions/Exercises/media/azure-portal.png deleted file mode 100644 index 132eb3b..0000000 Binary files a/Instructions/Exercises/media/azure-portal.png and /dev/null differ diff --git a/Instructions/Exercises/media/chat-flow.png b/Instructions/Exercises/media/chat-flow.png deleted file mode 100644 index 2c543d0..0000000 Binary files a/Instructions/Exercises/media/chat-flow.png and /dev/null differ diff --git a/Instructions/Exercises/media/get-started-lab.png b/Instructions/Exercises/media/get-started-lab.png deleted file mode 100644 index 7ecc2fa..0000000 Binary files a/Instructions/Exercises/media/get-started-lab.png and /dev/null differ diff --git a/Instructions/Exercises/media/get-started-prompt-flow-use-case.gif b/Instructions/Exercises/media/get-started-prompt-flow-use-case.gif deleted file mode 100644 index 1751073..0000000 Binary files a/Instructions/Exercises/media/get-started-prompt-flow-use-case.gif and /dev/null differ diff --git a/Instructions/Exercises/media/playground.png b/Instructions/Exercises/media/playground.png deleted file mode 100644 index e8da9ee..0000000 Binary files a/Instructions/Exercises/media/playground.png and /dev/null differ diff --git a/Instructions/Exercises/media/web-app.png b/Instructions/Exercises/media/web-app.png deleted file mode 100644 index dda8beb..0000000 Binary files a/Instructions/Exercises/media/web-app.png and /dev/null differ