セキュリティフィルター

AI に送る前に、見つけて、守る

個人情報や社内の機密語を、AI に送る前に見つけます。見つけたら、伏せ字にして送る・警告して送る・送信を止める、のどれかを組織で決められます。決めた設定は全員に適用され、個人はオフにできません。

送ってから戻るまで

見つける

送る内容から、組み込みの種類と、組織の独自ルールに当たるものを探します。

決めた動作をする

伏せ字にする、警告する、送信を止める。種類ごと・ルールごとに決めた動作です。

AI に送る

伏せ字にする動作のときは、伏せ字のまま AI に渡ります。警告して送るときは値のまま、送信を止めるときは何も渡りません。

応答で元に戻す

AI の応答に伏せ字が含まれていたら、画面に出すときだけ元の値に戻します。

3 つの動作

組み込みの種類ごと、独自ルールごとに選べます。

伏せ字にして送る

値を「メールアドレス_1」のような伏せ字に置き換えて送ります。AI の応答で伏せ字が出てきたら、画面では元の値に戻ります。

警告して送る

送信は止めず、組織のルールに当たったことを知らせます。この動作では値は伏せません。

送信を止める

AI には何も送りません。画面には「組織のルールにより送信されませんでした」と出て、PFC も使われません。

どこまで見るか

Enterprise では、今回の発言以外の対象を組織で切り替えられます。既定は、すべてオンです。経路によっては、今回の発言だけを見るものや、切り替えにかかわらずすべてを見るものがあります。画像・音声・動画の中身は、どの経路でも見ません。

  • check
    今回の発言

    いつもオンで、切り替えられません。

  • check
    会話の履歴

    前のやり取りに含まれる内容も見ます。

  • check
    添付ファイル

    添付した文書から読み取れる文字を見ます。画像として添付したものの中の文字は見ません。

  • check
    ナレッジ(RAG)

    ナレッジから取り出して AI に渡す内容を見ます。

  • check
    URL の本文

    URL から読み込んだ本文を見ます。

  • check
    画像などの生成の依頼文

    画像などを作らせるときの指示文を見ます。

組み込みで見つけるもの

メールアドレス、電話番号、郵便番号、マイナンバー、クレジットカード番号、銀行口座番号、住所(都道府県から番地までの形)、API キー、米国の社会保障番号(SSN)です。Enterprise では、種類ごとに「見つけるかどうか」と「動作」を選べます。

独自ルール

社内のプロジェクト名や取引先名のような、自社だけの言葉を足せます。キーワード(複数の語・あいまい一致を選べます)と、正規表現が使えます。ルールごとに動作を選び、伏せ字の名前(たとえば「取引先」)も決められます。正規表現のルールは 1 組織に 20 件までです。

例

「田中様(tanaka@example.com / 090-1234-5678)の件で返信案を書いて」と送ると、メールアドレスと電話番号は伏せ字に置き換わり、AI には「田中様(<メールアドレス_1> / <電話番号_1>)の件で…」と渡ります。応答に伏せ字が出てきたら、画面では元の値に戻ります。

「田中様」のような氏名は、組み込みでは見つけません。氏名や社内の言葉は、独自ルールで補います。

プランごとの違い

項目BusinessBusiness+Enterprise
伏せ字にして送り、応答で元に戻す○○○
種類ごとのオン・オフと動作の選択——○
見る範囲(履歴・添付など)の切り替え——○
独自ルール——○
標準の自動マスクを個人がオフにできない○○○

監査ログに残るもの

見つけた種類と件数、動作(伏せ字・警告・送信停止)、ルールの ID だけが残ります。見つけた値そのもの、ルールの中身、会話の本文は残しません。

知っておいてほしい限界

  • 見つけるのは、決まった形(パターン)と、組織が足したルールに当たるものです。すべての機密情報を見つけることは保証しません。
  • 氏名は組み込みでは見つけません。電話番号は 10〜11 桁の番号が中心です。
  • 会話の履歴や添付などの対象は、経路によって異なります。今回の発言だけを見る経路があります。
  • 画像・音声・動画の中身は見ません。画像に写った文字(スクリーンショットや名刺の写真の中のメールアドレスなど)も見つけられず、そのまま AI に渡ります。
  • 音声入力の文字起こし、ナレッジの取り込み(画像の文字の読み取り・音声認識・埋め込み)、内容の安全性の確認に送る内容は、伏せ字にしません。
  • 「伏せ字にして送る」を選んだ項目だけが、元の値を AI に渡しません。「警告して送る」は値を伏せないので、その値は AI に渡ります。
  • 種類ごとの動作や独自ルールの設定は、Enterprise の組織の管理者だけが変えられます。

設定の手順

01

「セキュリティフィルター」を開く

設定の中の「セキュリティフィルター」です。組織の管理者にだけ表示されます。

02

種類ごとの動作を選ぶ

メールアドレスなどの種類ごとに、オン・オフと、伏せ字・警告・送信を止めるを選びます。

03

独自ルールを足す

自社の言葉をキーワードか正規表現で足し、動作を選びます。

04

確かめる

メンバーのアカウントで、当たる言葉を送ってみます。止めるルールなら「組織のルールにより送信されませんでした」と出ます。

Enterprise は、席数と共有 PFC を選んで Web からお申し込みいただけます。

お申し込みページへ
言語日本語English