3月に、Azure OpenAI Studioで「リスクと安全性の監視」という新機能が追加されました。
実際には、コンテンツフィルタにblockされた履歴が表示できる、という機能のようです。この新しい機能についてご紹介します。
Azure OpenAI Studio でリスクと安全性の監視を使用する方法 - Azure OpenAI Service | Microsoft Learn
利用できる条件
リージョンによって利用できるところと利用出来ないところがあるようです。残念ながら東日本リージョンでは使えません。モデルのバージョンでの際は特に無いようです。
手元の検証環境でいくつか確認しましたが。2024年4月19日現在では以下のようです。
利用可能なリージョン
- EastUS
- Sweden Central
利用出来ないリージョン
- Japan East
- Australia East
- UK South
- France Central
- West Europe
- East US 2
- North Central US
確認方法
Azure OpenAI Studioにアクセスしてデプロイを選択します。
確認したいモデルを選択します。
利用できるリージョンの場合、ここで「詳細」と「リスクと安全性」というタブが表示されます。
「リスクと安全性」をクリックするとダッシュボードが表示されます。ただ、最初は履歴がないので、このようなメッセージが表示されます。
なお、利用出来ないリージョンの場合は、「詳細」と「リスクと安全性」のタブが表示されません。
表示のテスト
フィルタに抵触するコンテンツ
コンテンツフィルタのページにフィルタの対象となるサンプルがあるので、それを使ってプレイグラウンドで試します。
Azure OpenAI Service のコンテンツのフィルター処理 - Azure OpenAI | Microsoft Learn
プレイグラウンドでテスト
不快に感じる表現なので画面を加工しています。
リスクと安全性画面の確認
すぐには反映されず、5分から10分程度で反映されます。
ダッシュボードでブロックされた数やブロック率やブロックされたカテゴリなどを確認する事が出来ます。
ただし、ユーザー検出機能はまだ実装されていないようです。
まとめ
今まではAPIのレスポンスのFinish_reasonをログに取って調べるしかなかったブロックされた数やブロック率などを、ダッシュボードで確認できるのは便利かと考えます。
残念ながら東日本リージョンでは使えませんが、今後他のリージョンでも使えるようになることを期待したいです。
上田 英治（日本ビジネスシステムズ株式会社）
エンジニアとしてインフラ構築、システム開発やIoT基盤構築等を経験し、現在はクラウドアーキテクトとして先端技術の活用提案や新規サービスの立ち上げを担当。
担当記事一覧