Skip to content

Commit

Permalink
Copy Files From Source Repo (2024-11-15 20:52)
Browse files Browse the repository at this point in the history
  • Loading branch information
olprod committed Nov 16, 2024
1 parent 92bb31b commit c7b6523
Show file tree
Hide file tree
Showing 7 changed files with 173 additions and 117 deletions.
2 changes: 1 addition & 1 deletion Instructions/02-Explore-model-catalog.md
Original file line number Diff line number Diff line change
Expand Up @@ -20,7 +20,7 @@ Azure AI Studio のモデル カタログは、さまざまなモデルを試し
- **[サブスクリプション]**:"*ご自身の Azure サブスクリプション*"
- **[リソース グループ]**: "新しいリソース グループ"**
- **場所**: **[選択に関するヘルプ]** を選択し、次に [場所ヘルパー] ウィンドウで **gpt-35-turbo** を選択し、推奨されるリージョンを選択します\*
- **Azure AI サービスまたは Azure OpenAI への接続**:*新しい接続を作成する*
- **Azure AI サービスまたは Azure OpenAI に接続**: (新機能) *選択したハブ名が自動入力されます*
- **Azure AI 検索への接続**:接続をスキップする

> \* Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 場所ヘルパーに一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別のリソースを作成する必要が生じる可能性があります。 詳しくは、[リージョンごとのモデルの可用性](https://learn.microsoft.com/azure/ai-services/openai/concepts/models#gpt-35-turbo-model-availability)を参照してください
Expand Down
29 changes: 10 additions & 19 deletions Instructions/03-Use-prompt-flow-chat.md
Original file line number Diff line number Diff line change
Expand Up @@ -18,24 +18,14 @@ lab:
1. **[新しいプロジェクトの作成]** ウィザードで、次の設定を使ってプロジェクトを作成します。
- **プロジェクト名**:"プロジェクトの一意の名前"**
- **ハブ**:次の設定で新しいハブを作成します。**
- **ハブ名**:*一意の名前*
- **[サブスクリプション]**:"*ご自身の Azure サブスクリプション*"
- **[リソース グループ]**: "新しいリソース グループ"**
- **[場所]**: *以下のいずれかのリージョンから**ランダム**に選択する*\*
- オーストラリア東部
- カナダ東部
- 米国東部
- 米国東部 2
- フランス中部
- 東日本
- 米国中北部
- スウェーデン中部
- スイス北部
- 英国南部
- **ハブ名**:*一意の名前*
- **[サブスクリプション]**:"*ご自身の Azure サブスクリプション*"
- **[リソース グループ]**: "新しいリソース グループ"**
- **場所**: **[選択に関するヘルプ]** を選択し、次に [場所ヘルパー] ウィンドウで **gpt-35-turbo** を選択し、推奨されるリージョンを選択します\*
- **Azure AI サービスまたは Azure OpenAI への接続**:*新しい接続を作成する*
- **Azure AI 検索への接続**:接続をスキップする

> \* Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別のリソースを作成する必要が生じる可能性があります。 詳しくは、[リージョンごとのモデルの可用性](https://learn.microsoft.com/azure/ai-services/openai/concepts/models#gpt-35-turbo-model-availability)を参照してください
> \* Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 場所ヘルパーに一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別のリソースを作成する必要が生じる可能性があります。 詳しくは、[リージョンごとのモデルの可用性](https://learn.microsoft.com/azure/ai-services/openai/concepts/models#gpt-35-turbo-model-availability)を参照してください
1. 構成を確認して、プロジェクトを作成します。
1. プロジェクトが作成されるまで待ちます。
Expand All @@ -47,11 +37,12 @@ lab:
1. 左側のナビゲーション ウィンドウの **[コンポーネント]** で、**[デプロイ]** ページを選びます。
1. 次の設定で **gpt-35-turbo** モデルの新しいデプロイを作成します。
- **デプロイ名**:"モデル デプロイの一意の名前"**
- **モデルのバージョン**: *Select the default version (既定のバージョンの選択)*
- **デプロイの種類**:Standard
- **Azure OpenAI リソースに接続済み**:既定の接続を選択します**
- **モデルのバージョン**: *Select the default version (既定のバージョンの選択)*
- **AI リソース**: *以前に作成したリソースを選択します*
- **1 分あたりのトークン数のレート制限 (1,000 単位)**:5,000
- **コンテンツ フィルター**: 既定
- **コンテンツ フィルター**: DefaultV2
- **動的クォータを有効にする**: 無効
1. モデルが展開されるまで待ちます。 デプロイの準備ができたら、**[プレイグラウンドで開く]** を選択します。
1. チャット ウィンドウで、`What can you do?` というクエリを入力します。

Expand All @@ -77,7 +68,7 @@ lab:
5. Encourage the user to ask follow-up questions for further assistance.
```

1. **[変更の適用]** を選択します。
1. **[保存]** を選択します。
1. チャット ウィンドウで、前と同じクエリを入力します。`What can you do?` 応答が変化していることに注意してください。

これでデプロイされた GPT モデルのシステム メッセージの調整は完了したので、プロンプト フローを操作することでアプリケーションをさらにカスタマイズできます。
Expand Down
61 changes: 33 additions & 28 deletions Instructions/03b-Use-prompt-flow-NER.md
Original file line number Diff line number Diff line change
Expand Up @@ -22,42 +22,36 @@ lab:
最初に、Azure AI Studio プロジェクトと、それをサポートする Azure AI ハブを作成します。

1. Web ブラウザーで [https://ai.azure.com](https://ai.azure.com) を開き、Azure の資格情報を使ってサインインします。
1. **[ビルド]** ページを選んでから**[+ 新しいプロジェクト]** を選びます
1. **[ホーム]** ページを選択してから**[+ 新しいプロジェクト]** を選択します
1. **[新しいプロジェクトの作成]** ウィザードで、次の設定を使ってプロジェクトを作成します。
- **プロジェクト名**:"プロジェクトの一意の名前"**
- **[Azure Hub] (Azure ハブ)**: "次の設定で新しいリソースを作成します。"**
- **[AI Hub name] (AI ハブ名)**: *一意の名前*
- **[サブスクリプション]**:"*ご自身の Azure サブスクリプション*"
- **[リソース グループ]**: "新しいリソース グループ"**
- **[場所]**: *以下のいずれかのリージョンから**ランダム**に選択する*\*
- オーストラリア東部
- カナダ東部
- 米国東部
- 米国東部 2
- フランス中部
- 東日本
- 米国中北部
- スウェーデン中部
- スイス北部
- 英国南部

> \* Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、テナントを他のユーザーと共有するシナリオで、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別のリソースを作成する必要が生じる可能性があります。
- **ハブ**:次の設定で新しいハブを作成します。**
- **ハブ名**:*一意の名前*
- **[サブスクリプション]**:"*ご自身の Azure サブスクリプション*"
- **[リソース グループ]**: "新しいリソース グループ"**
- **場所**: **[選択に関するヘルプ]** を選択し、次に [場所ヘルパー] ウィンドウで **gpt-35-turbo** を選択し、推奨されるリージョンを選択します\*
- **Azure AI サービスまたは Azure OpenAI への接続**:*新しい接続を作成する*
- **Azure AI 検索への接続**:接続をスキップする

> \* Azure OpenAI リソースは、リージョンのクォータによってテナント レベルで制限されます。 場所ヘルパーに一覧表示されているリージョンには、この演習で使用されるモデル タイプの既定のクォータが含まれています。 リージョンをランダムに選択すると、1 つのリージョンがクォータ制限に達するリスクが軽減されます。 演習の後半でクォータ制限に達した場合は、別のリージョンに別のリソースを作成する必要が生じる可能性があります。 詳しくは、[リージョンごとのモデルの可用性](https://learn.microsoft.com/azure/ai-services/openai/concepts/models#gpt-35-turbo-model-availability)を参照してください
1. 構成を確認して、プロジェクトを作成します。
1. プロジェクトが作成されるまで 5 から 10 分待ちます
1. プロジェクトが作成されるまで待ちます

## GPT モデルをデプロイする

プロンプト フローで LLM モデルを使うには、まずモデルをデプロイする必要があります。 Azure AI Studio を使うと、フローで使用できる OpenAI モデルをデプロイできます。

1. 左側のナビゲーション ウィンドウの **[コンポーネント]** で、**[デプロイ]** ページを選びます。
1. Azure OpenAI Studio で、**[デプロイ]** ページに移動します。
1. 次の設定で **gpt-35-turbo** モデルの新しいデプロイを作成します。
- **モデル**: `gpt-35-turbo`
- **モデルのバージョン**: *既定値のままにします*
- **[デプロイ名]**: `gpt-35-turbo`
- 既定のコンテンツ フィルターを使って、1 分あたりのトークン数 (TPM) を **5K** に制限するには、**[詳細設定]** オプションを設定します。

- **デプロイ名**:"モデル デプロイの一意の名前"**
- **デプロイの種類**:Standard
- **モデルのバージョン**: *Select the default version (既定のバージョンの選択)*
- **AI リソース**: *以前に作成したリソースを選択します*
- **1 分あたりのトークン数のレート制限 (1,000 単位)**:5,000
- **コンテンツ フィルター**: DefaultV2
- **動的クォータを有効にする**: 無効

LLM モデルがデプロイされたので、デプロイされたモデルを呼び出すフローを Azure AI Studio で作成できます。

## Azure AI Studio でフローを作成して実行する
Expand All @@ -72,16 +66,27 @@ LLM モデルがデプロイされたので、デプロイされたモデルを
1. **[+ 作成]** を選んで、新しいフローを作成します。
1. 新しい**標準フロー**を作成し、フォルダー名として「`entity-recognition`」と入力します。

<details>
<summary><b>トラブルシューティングのヒント</b>: アクセス許可エラー</summary>
<p>新しいプロンプト フローを作成するときにアクセス許可エラーが発生した場合は、次のトラブルシューティングを試してください。</p>
<ul>
<li>Azure portal で、AI サービス リソースを選択します。</li>
<li>[IAM] ページの [ID] タブで、それがシステム割り当てマネージド ID であることを確認します。</li>
<li>関連付けられたストレージ アカウントに移動します。 [IAM] ページで、<em>[ストレージ BLOB データ閲覧者]</em> というロールの割り当てを追加します。</li>
<li><strong>[アクセスの割り当て先]</strong> で、<strong>[マネージド ID]</strong>、<strong>[+ メンバーの選択]</strong> を選択し、<strong>[すべてのシステム割り当てマネージド ID]</strong> を選択します。</li>
<li>[確認と割り当て] で新しい設定を保存し、前の手順を繰り返します。</li>
</ul>
</details>

1 つの入力、2 つのノード、1 つの出力を含む標準フローが自動的に作成されます。 フローを更新して、2 つの入力を受け取り、エンティティを抽出し、LLM ノードからの出力をクリーンアップし、出力としてエンティティを返すようにします。

### 自動ランタイムを開始する

フローをテストするには、コンピューティングが必要です。 必要なコンピューティングは、ランタイムを通じて利用できるようになります。

1. `entity-recognition` という名前で新しいフローを作成すると、スタジオでそのフローが開きます。
1. 上部のバーで **[ランタイムの選択]** フィールドを選びます。
1. **[自動ランタイム]** ボックスの一覧で **[開始]** を選んで、自動ランタイムを開始します。
1. ランタイムが起動するまで待ちます。
1. 上部のバーから **[コンピューティング セッションの開始]** を選択します。
1. コンピューティング セッションが開始するには 1 から 3 分かかります。

### 入力を構成する

Expand Down
Loading

0 comments on commit c7b6523

Please sign in to comment.