トップ > RPA > Power Automate Desktopを使用したAIのコンテンツフィルターテスト方法

Power Automate Desktopを使用したAIのコンテンツフィルターテスト方法

RPA Power Automate Desktop AI ChatGPT

現代のAI技術は、私たちの日常生活やビジネスのあらゆる場面において重要な役割を果たしています。

AIは膨大なデータを処理し、私たちに有益な情報を提供し、効率を向上させる一方で、その利用には慎重さが求められます。特に、適切なコンテンツフィルターの設定は、AIの効果を最大限に引き出すために欠かせません。では、なぜコンテンツフィルターが必要なのでしょうか？

実は、コンテンツフィルターは、AI技術を安全かつ効果的に利用するために欠かせない要素です。

本記事では、コンテンツフィルターの重要性と存在意義についてや、RPAを活用したコンテンツフィルターテストの手法について説明します。

記事全体を通して、コンテンツフィルターの説明と自動的に効率よくAIをテストする手法について、理解を深めるきっかけになれば幸いです。

対話型AIとは？

対話型AIとは、人間と自然な言語でコミュニケーションを取ることができる人工知能の一種です。ユーザーはテキストや音声を通じてAIとやり取りし、質問に答えたり、タスクを実行したり、情報を提供したりすることができます。

対話型AIの具体的な例としては、以下のようなものがあります。

  • チャットボット
    • ウェブサイトやアプリケーション上でユーザーの質問に答えるために使用される
  • バーチャルアシスタント
    • Siri、Googleアシスタント、Amazon Alexaなど、音声で指示を出すことができる
  • カスタマーサポートAI
    • 企業のカスタマーサポートで顧客の問い合わせに対応する。

対話型AIは、自然言語処理（NLP）技術を用いてユーザーの入力を理解し、適切な応答を生成します。これにより、ユーザーは機械と人間のような会話を楽しむことができます。

そのような対話式AIですが、実はいくつか制限が存在します。例えば「コンテンツフィルター」がその１つの例です。

コンテンツフィルターとは、質問内容によっては意図的に回答を拒否する事ができるルールのようなものです。

この記事では以降「コンテンツフィルター」についての考え方とテスト方法を説明致します。

なお、本記事では、対話型AIとしてJBS の Generative AI（生成 AI）サービス「アイプリシティチャット 」を利用します。

※ なお、以降、記事内では「アイプリシティ」と表記します

アイプリシティ チャット UI

www.jbs.co.jp

コンテンツフィルターとは？

AIのコンテンツフィルターとは、人工知能技術を駆使して不適切なコンテンツを識別し、フィルタリングするシステムです。

この技術を用いることで、企業は業務効率を向上させるとともに、コンプライアンスリスクを低減することが可能になります。また、安全で適切な情報を提供することができます。

具体的には、以下のような目的で使用されます。

  • 不適切なコンテンツの除去
    • 暴力的、ポルノグラフィック、ヘイトスピーチ、差別的な内容などを検出し、表示しないようにする
  • スパムのフィルタリング
    • 迷惑メールや不要なコメント、広告などを自動的にフィルタリングする
  • コンテンツのモデレーション
    • ソーシャルメディアやコミュニティフォーラムでの投稿を監視し、コミュニティガイドラインに違反する内容を削除する
  • ブランドセーフティ
    • 広告が不適切なコンテンツに表示されないようにする
  • 子供向けコンテンツの管理
    • 子供に見せたくない内容をフィルタリングすることで、安心して利用できる環境を提供する

これらのフィルターは、自然言語処理（NLP）、機械学習、画像認識などの技術を用いて実現されます。AIが継続的に学習し、フィルタリング精度を向上させることで、より効果的なコンテンツ管理が可能になります。

とても簡単にいうと、いくらAIだからといって何でも質問して良い訳では無いということです。

例えば、典型的なコンテンツフィルターに該当する質問をしてみました。

※執筆者はテストとして質問を行っただけでありそのような意図があるわけではありません

上記のように、質問内容に応じて意図的に回答を拒否する仕組みがコンテンツフィルターです。

国によって違いはありますが、我々が社会生活するうえで原則となるルールがあります。例えば、以下のようなルールです。

  • 人を正当な理由なく殴ってはいけない
  • 人種で差別をしてはいけない
  • 許可なくダイナマイトを作ろうとしてはいけない

人間として共同で生活していくうえでの最低限のルールがないと社会秩序が保たれません。

同様に、生成AIにも最低限のルールが必要です。

例えば、AIにダイナマイトの作り方を簡単に訪ねられるとしたら、誰でも安価で簡単に武器を持つことが出来ます。

そうなると、テロや破壊活動に使用され、武力中心の世界になる恐れがあります。

AIは人類の幸福と未来の繁栄、公平な機会の創出を目指し、より良い未来のために使用されるべきという考えのもと、不適切な情報を提供を行わないためにコンテンツフィルターは存在します。

この考えをを尊重するためにMicrosoftでは原則が存在します。次の章で、その原則の説明をします。

責任あるAIにおける６つの基本原則

AIのガバナンスや倫理については、国や企業によって制定されている基準やガイドラインが微妙に異なります。

現在のところ、世界共通の固定された法律や規範はまだ確立されていません。

Microsoft においては責任ある AI における 6 つの基本原則として、次の6点を挙げています。

  • 公平性
    •  AIシステムは、性別、人種、宗教などに基づく差別を避け、公平に扱うことが求められます
  • 信頼性と安全性
    • AIシステムは、信頼性が高く、安全に動作することが重要です
  • プライバシーとセキュリティ
    • ユーザーのデータを保護し、プライバシーを尊重することが求められます
  • 包括性
    • すべてのユーザーが利用できるように設計されるべきです
  • 透明性
    •  AIシステムの動作や決定が理解しやすく、説明可能であることが重要です
  • 説明責任
    •  AIシステムの設計者や運用者は、そのシステムの動作や結果に対して責任を持つ必要があります

（引用元：責任ある AI の原則とアプローチ | Microsoft AI , 責任ある AI - Cloud Adoption Framework | Microsoft Learn）

コンテンツフィルターは特に上記の赤文字に貢献します。

RPAとは？

本記事ではここから、RPAを活用してコンテンツフィルターをテストする手法について説明していきますが、まずはRPAとは何か、から解説します。

RPAはRobotic Process Automationの略称で、ソフトウェアロボットを使用して、反復的でルールベースの業務プロセスを自動化する技術です。RPAは人間が行う手作業のタスクを模倣し、効率と正確性を向上させることができます。

具体的には、RPAは以下のようなタスクを自動化するために使用されます。

  • データ入力
    • 異なるシステムやアプリケーション間でのデータの転送や入力
  • 帳票の処理
    • 請求書や注文書などの書類の処理
  • Eメールの自動応答
    • 特定の条件に基づいて自動的にメールを送信
  • システム統合
    • 異なるソフトウェアシステム間でのデータの統合や連携

今回なぜRPAが必要かというと、その対話型AIに自動テストを実施するためです

JBSではアイプリシティチャットを開発しておりますが、その品質を担保するために複数のテストを実施する必要があります。特に質問・回答を確認する範囲では自動的にテストを行うRPAが有効です

では、なぜAIではなくRPAなのでしょうか？

もし、AI同士(テストする用AI＆テストされる用AI)でコンテンツフィルターのテストを実施したら、質問をする側もAIなのでコンテンツフィルターに該当し、適切な質問が送信できない恐れがあります。

一方、RPAはAIと違い、人工知能ではありません。あらかじめ決められたタスクをルールに基づいて実行するのみです。

融通は効かないかもしれませんが、それゆえにシンプルであり、今回のようなコンテンツフィルターテストにとてもマッチしています。

Power Automate Desktopについて

RPAツールは多岐にわたりますが、今回使用したツールは「Power Automate Desktop」（以下、PAD）です。

Windows 11はPADを標準搭載しており、料金も無料で開始できます。*1

PADでコンテンツフィルターに該当するメッセージ送信フロー(抜粋)

www.microsoft.com

RPAによるAIコンテンツフィルター確認用プロンプトの送信

※本記事では、コンテンツフィルター自動化範囲と直接関係のない下記部分の処理は割愛しています。

  • 初回起動(対話型AI、テストエビデンス記入用Excel)
  • テストエビデンス記入用Excelにエビデンス添付とチェックログ記入
  • 自動ロボの終了ルーチン
  • 異常系フロー

コンテンツフィルターに該当するメッセージをセット

コンテンツフィルターに該当するメッセージを事前に変数にセットします。

その変数をアイプリシティのUIである入力フォーム欄に貼り付けます。

【PAD】アイプリシティの入力フォームに
コンテンツフィルターに該当するメッセージをセットするアクション

【アイプリシティ】実際に入力フォームに文字列がセットされた後の状態

実行ボタンを押す

【PAD】アイプリシティの実行ボタンを押すアクション

実行ボタンを押すと、数秒下記の待機画面が出現します。

【アイプリシティ】実行ボタンを押された後の待機画面

ロボットのレスポンスを確認する

RPAでは、ロボが正常に処理が完了したことを確認する目的で、何らかのトリガー(Web上の反応)を読み取り次のアクションに進む必要があります。

※トリガーの確認を待たず処理を進めてしまうとエラーになる恐れがあります。

アイプリシティにおいては、レスポンスが正常に返されると「再生成」ボタンが出現する仕様です。

そのためその「再生成」ボタンの発生を待ち、発生確認後次に進むといった処理を行います。

また、一定のWait時間をオーバーするとエラーと判断する設定も必要です。

【PAD】再生成ボタンの待機するアクション

再生成ボタンが正常に表示されると、このような画面になります。

【アイプリシティ】再生成ボタンの出現(≒レスポンスの正常完了)

この表示の確認後、コンテンツフィルターに該当する旨のメッセージが記載されているか確認を行います。

このようなシンプルなフローでコンテンツフィルターテストの自動化を行うことができます。

メッセージ内容は変数に格納することで可変として扱えるため、あらゆるレスポンスのテストに対応ができます。

おわりに

本記事では、AI技術におけるコンテンツフィルターの重要性とそのテスト方法について解説しました。

現代のAI技術は、私たちの生活やビジネスにおいて欠かせない存在となっていますが、その利用には適切なフィルタリングが求められます。コンテンツフィルターは、不適切な情報の拡散を防ぎ、AIが安心して利用できる環境を提供するための重要な仕組みです。

また、RPAツールであるPADを使用した自動テストの手法についても紹介しました。RPAを活用することで、対話型AIのコンテンツフィルター機能を効率的かつ正確にテストすることが可能となります。特に、手作業では時間と労力がかかるテスト作業を自動化することで、開発者の負担を軽減し、品質の高いAIサービスの提供を支援します。

AIの進化とともに、その利用範囲は広がり続けています。だからこそ、責任あるAI運用が求められ、コンテンツフィルターの適切な設定とテストはその一端を担っています。この記事が、AI技術を安全に、そして効果的に利用するための一助となれば幸いです。

今後も技術の進化に伴い、新たな課題が生じることが予想されますが、適切なフィルタリングと自動化技術を駆使して、より良いAIサービスの提供を目指していければと思います。

*1:一部機能は有料プランのみ提供

執筆担当者プロフィール
前田 将太

前田 将太（日本ビジネスシステムズ株式会社）

BS事業本部 先端技術部に所属。 AI,ComputerVison,VRに興味があります。 前職ではRPAで処理自動化・業務改善を担当していました。

担当記事一覧