Azure OpenAI更新情報（2023年6月14日までの情報）

日々更新があるAzureOpenAIですが、6月の更新情報がアップされたのでお知らせしたいと思います。

の３点となります。特に影響が大きいのは3つ目のクォータ制限のところになります。順番に紹介します。

英国南部リージョンでもサービスが開始されました。

ドキュメント上は米国東部、米国中南部、フランス中部、西ヨーロッパ、英国南部の5つのリージョンがありますが、2023年6月14日の時点で新規にリソースを作成できるのは米国東部、フランス中部、西ヨーロッパ、英国南部の4つのリージョンになっています。

また、英国南部はgpt-35-turboモデルのみのサポートのようです。

公式ドキュメント

コンテンツフィルタのカスタマイズができるようになりました。デフォルトのコンテンツフィルタは下記のようにそれぞれLowに関する部分は受け付けています。

Azure OpenAI Limited Access Reviewの申請をすればフィルタを外したりMedium、Highをそれぞれ受け付けたりできるようですが、通常の状態ではフィルタをLowにも適用することしかできないようです。

Content filters(Preview)を選択して＋Create cutomized content filterを選択する

新しく作るcontent filterの名前を入力する

カスタマイズして保存する

カスタマイズしたフィルタを適用してモデルをデプロイする

この作業でフィルタの適用は完了です。

公式ドキュメント

クォータ制限が各リソースごとからリージョン全体に適応されるように変更になりました。

以前はリージョンに3つまでリソースをデプロイ出来てgpt-35-turboモデルならそれぞれのリソースで1分間に120,000トークンとなっていましたが、変更後は30までリソースをデプロイできるがリージョン全体で1分間に240,000トークンとなっています。

変更点を表にすると下記になります。

制限名	制限値
リージョンごとの OpenAI リソース（サブスクリプション単位）	30
リージョン単位でモデルごとの 1 分あたりのトークン数（TPM）	Text-Davinci-003: 120 K GPT-4: 20 K GPT-4-32K: 60 K その他すべてのモデル: 240K
モデルごとの 1 分あたりの呼び出し回数	TPMに応じて決まります。レートは6 RPM per 1000 TPMです