注: この質問は、同じシナリオを示す一連の質問の一部です。このシリーズの各質問には、指定された目標を達成できる可能性のある独自の解決策が含まれています。一部の質問セットには複数の正しい解決策が含まれる場合がありますが、他の質問セットには正しい解決策がない場合があります。
このセクションの質問に回答すると、その質問に戻ることはできません。そのため、これらの質問はレビュー画面には表示されません。
AI1 という名前の Azure OpenAI リソースと CS1 という名前の Azure AI Content Safety リソースを含む Azure サブスクリプションがあります。
AI1 を使用して特定の質問に対して生成的な回答を提供し、CS1 を使用して不快なコンテンツの入出力をチェックするチャットボットを構築します。
サンプル質問に対してテストを実行して、コンテンツ フィルター構成を最適化する必要があります。
解決策: Content Safety Studio から、保護された素材の検出機能を使用してテストを実行します。
これは要件を満たしていますか?
Note: This question is part of a series of questions that present the same scenario. Each question in the series contains a unique solution that might meet the stated goals. Some question sets might have more than one correct solution, while others might not have a correct solution.
After you answer a question in this section, you will NOT be able to return to it. As a result, these questions will not appear in the review screen.
You have an Azure subscription that contains an Azure OpenAI resource named AI1 and an Azure AI Content Safety resource named CS1.
You build a chatbot that uses AI1 to provide generative answers to specific questions and CS1 to check input and output for objectionable content.
You need to optimize the content filter configurations by running tests on sample questions.
Solution: From Content Safety Studio, you use the Protected material detection feature to run the tests.
Does this meet the requirement?
コメント 1Comment 1
答えは正しいです:
Azure OpenAI を使用すると、アプリケーションが推論リクエストを行う頻度を管理できます。レート制限は、1 分あたりのトークン数 (TPM) に基づいています。たとえば、容量が 1 の場合、これは 1,000 TPM に相当し、1 分あたりに実行できるリクエストのレート制限 (RPM) は比率を使用して計算されます。 1,000 TPM ごとに 6 RPM を生み出すことができます。
したがって、毎分 600 件のリクエストを処理する必要がある場合は、その数の RPM をサポートする TPM が必要になります。この比率を使用すると、600 RPM の場合、100,000 TPM が必要になります (600 を 6 で割った値は 100 に等しく、100 に 1,000 を乗算した値は 100,000 に等しいため)。このシナリオでは、各容量ユニットは 1,000 TPM に等しいため、容量を 100 に設定します。
Answer is correct:
Azure OpenAI allows you to manage how frequently your application can make inferencing requests. Your rate limits are based on Tokens-per-Minute (TPM). For example, if you have a capacity of 1, this equals 1,000 TPM, and the rate limit of requests you can make per minute (RPM) is calculated using a ratio. For every 1,000 TPM, you can make 6 RPM.
So, if you need to process 600 requests every minute, you'll require a TPM that supports that many RPM. Using the ratio, for 600 RPM, you need 100,000 TPM (because 600 divided by 6 equals 100, and 100 multiplied by 1,000 equals 100,000). In this scenario, you would set the capacity to 100, since each capacity unit equals 1,000 TPM.
コメント 2Comment 2
答えは正解です
ここから https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/quota?tabs=rest
デプロイメントが作成されると、割り当てられた TPM は、推論リクエストに適用される 1 分あたりのトークンのレート制限に直接マッピングされます。 1 分あたりのリクエスト数 (RPM) レート制限も適用され、その値は次の比率を使用して TPM 割り当てに比例して設定されます。
1000 TPM あたり 6 RPM。
ここから:
https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/quota?tabs=rest
Capacity integer これは、このデプロイメントに割り当てているクォータの量を表します。値 1 は、1 分あたり 1,000 トークン (TPM) に相当します。値 10 は、1 分あたり 10,000 のトークン (TPM) に相当します。
したがって、計算すると、600 RPM には 100000 TPM が必要となり、これは容量 100 に変換されます。
Answer is correct
From here https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/quota?tabs=rest
When a deployment is created, the assigned TPM will directly map to the tokens-per-minute rate limit enforced on its inferencing requests. A Requests-Per-Minute (RPM) rate limit will also be enforced whose value is set proportionally to the TPM assignment using the following ratio:
6 RPM per 1000 TPM.
From here:
https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/quota?tabs=rest
capacity integer This represents the amount of quota you are assigning to this deployment. A value of 1 equals 1,000 Tokens per Minute (TPM). A value of 10 equals 10k Tokens per Minute (TPM).
So the math is 600 RPM needs 100000 TPM which translates to capacity 100
コメント 2.1Comment 2.1
これは 2024 年 3 月 2 日の試験でのものです
This was in 2-Mar-24 exam
コメント 3Comment 3
1.容量
2. 100
1. capacity
2. 100
コメント 4Comment 4
パラメータのタイプ 説明
sku Sku SKU を表すリソース モデル定義。
Capacity integer これは、このデプロイメントに割り当てているクォータの量を表します。値 1 は、1 分あたり 1,000 トークン (TPM) に相当します。値 10 は、1 分あたり 10,000 のトークン (TPM) に相当します。
Parameter Type Description
sku Sku The resource model definition representing SKU.
capacity integer This represents the amount of quota you are assigning to this deployment. A value of 1 equals 1,000 Tokens per Minute (TPM). A value of 10 equals 10k Tokens per Minute (TPM).
コメント 5Comment 5
容量と100。
capacity and 100.
コメント 6Comment 6
容量と100。
武田塾の観点から言えば、4日間勉強して2日間復習すれば合格の可能性は高くなります。
capacity and 100.
From Takedajuku perspective, if you study for 4 days and spend 2 days reviewing, you will have a better chance of passing the exam.
コメント 7Comment 7
今日の試験、2024/05/24、私は容量と 600 を選択しました
on exam today 24/05/2024, I selected capacity and 600
コメント 8Comment 8
1 分あたり 600 リクエストを処理するという要件を満たす正確な容量値は、確かに 100 です。先ほど混乱を招いたことをお詫びします。
The accurate capacity value to meet the requirement of processing 600 requests per minute is indeed 100. I apologize for any confusion caused earlier
コメント 9Comment 9
提供されたオプションの正しい選択は次のとおりです。
「容量」：600
Azure OpenAI リソースの SKU 構成の容量パラメーターは、リソースが処理できる 1 分あたりの最大リクエスト数 (RPM) を指定します。 "capacity": 600 を設定すると、1 分あたり最大 600 のリクエストを処理するようにリソースが構成されます。
In the provided options, the correct choice is:
"capacity" : 600
The capacity parameter in the SKU configuration of an Azure OpenAI resource specifies the maximum number of requests per minute (RPM) that the resource can handle. By setting "capacity": 600, you are configuring the resource to handle up to 600 requests per minute.