企業が生成AIを安全に活用するためのセキュリティ対策を解説するシリーズです
Okta、Netskope、CrowdStrikeを活用した実践的なアプローチを紹介します
こんにちは、セキュリティを気にする年頃の ネクストモード株式会社 のtommyです
ネクストモードでは社内システムとして利用しているSaaSやWebへのアクセスにおいて、Netskopeを経由する構成を取り、通信の可視化や制御を行っています。また、最近では生成AIを安全に活用するためのセキュリティ対策としても活躍しております
今回はそんな生成AIに対してOkta、Netskope、CrowdStrikeを活用した実践的なアプローチを紹介するシリーズの一環として、NetskopeでAIアシスタントの制御ができるため、どんなことができるのかを見ていこうと思います
Netskopeとは、クラウドサービスの使用時に生じる情報漏洩のリスクや、外部の第三者による不正アクセス、マルウェアの感染といった脅威から機密情報を守り、SaaS環境のセキュリティを強化することができるSASEソリューションです
詳細は下記を御覧ください
AIアシスタントとは、AIがユーザーの要求に応じてタスクを実行してくれるユーザー支援ツールです
例えば、弊社ではGoogle DriveやGmailを利用していますが、ブラウザ等でGoogle DriveやGmailにアクセスすると、「Geminiに質問する」という項目が設けられています。これは主にソースをそのアプリにして、アウトプットを出してもらうことが可能です。GmailのGeminiにWeb検索はできるか聞いたところ、明示的にWebから検索することをプロンプトで指示する必要があるようです
ユースケースとしては、Gmailではメールの下書きを作ってくれたり、メールのスレッドを要約してくれます。Google Driveでは、ドキュメントの要約やGoogle Driveの情報をソースとしたアウトプットを出すこと等が挙げられます
そんな業務の効率化をしてくれるAIアシスタントですが、Netskopeではどれくらい可視化/制御可能でしょうか
AIアシスタントは皆さまも利用されている方が多くいらっしゃるのではないでしょうか。便利すぎるがゆえに、気づかないうちに“情報をどこまでも運んでしまう存在”になりがちです。ここを野放しにすると、社内のちょっとしたメモや議事録、構成図やソースコードまで、AI側に吸い込まれ、意図しない外部共有につながるリスクが跳ね上がります
どのAIアシスタントに何を入力してよいか、どの操作を許可するかを細かく可視化し、“危ない情報や操作だけブロックする”のがNetskopeの強みと言えます。本シリーズで言及しているよう生成AIを安全に使うための制御はAIアシスタントにも適用可能です
AIを止めるのではなく、“安全に全社で使い倒すための仕組み”として活用できるNetskopeではAIアシスタントに対して、どのような制御が可能でしょうか。見ていきたいと思います
まずは、AIアシスタントの検知や制御について、どういったSaaSが対応しているでしょうか
GoogleではGeminiが対応になります。GeminiのAIアシスタントで検知することが可能です。後ほど、どういった動きになるか確認してみようと思います
Salesforceでも対応しているようです。SalesforceでもAIアシスタントのPost、Responseが検知可能なようです
執筆時点では、JiraやConfluenceもAIアシスタントのPostのみ対応しているようです
ここで記載されている用語について、簡単に解説していきます
AI Post：AIアシスタントのPost
AI Response：AIアシスタントからのResponse
Activities that support only DLP：Threat Protectionは対応外であるが、DLPは検知可能、もちろんCASBも対応可能
これを踏まえると、GoogleやSalesforceはAIアシスタントのPostやResponseをCASBやDLPで検知/制御することができ、JiraやConfluenceはAIアシスタントのPostのみをCASBやDLPで検知/制御することができます
それでは、Googleで利用できる「Geminiに質問する」ではどのような利用イメージになるか試してみようと思います
今回はGmailのAIアシスタントのAI PostやAI Responseに対して、DLPで制御してみようと思います
制御をしていこうと思います。Policies → Real-time Protectionで設定可能です。
今回はGenerative AIカテゴリーに対して、AI Post、AI Responseをした場合、DLP検知で制御していきます
ちなみに、GeminiのみDLP条件でブロックする場合は下記のような記述が可能です
このポリシーで制御してみます。Gmailを開き、Geminiに質問するをクリックします
すると、次のような画面になります
ここで、わざとDLPに引っ掛かってみます。すると、ユーザーアラートがちゃんと出てくれました！
最後に管理者の見え方も見てみましょう
Skope IT → Application Eventsで確認可能です。下記のようなログが確認可能です。
虫眼鏡マークを見ると、詳細が可能です。ユーザー情報も確認可能ですが、アプリケーションについて、記載します。AI Responseを検知していたり、Instance IDも検知可能です。Object TypeがAI AssistantというものがAI Post、AI Responseの対象と言えるでしょう
もちろんDLPですので、Forensicを設定していると検知内容の把握が可能です。Incidents → DLPで確認できます
下記のように出てきます
詳細を見ると、DLPで何件検知したかの確認が可能です
今回は「ネクストモード」を検知対象にしたので、PostやResponseの中でネクストモードがどこに出てきたかを検知可能です
以上やってみたでした！
いかがでしたでしょうか。AIアシスタントの制御になりました。個人利用での情報漏洩対策などには利用できそうですね！今はいくつかのSaaSのみに対応しているようですが、今後Netskopeがより一層生成AIの制御が盛んになってくれるとよりセキュアな業務環境が構築できますね！
ネクストモードでは、Netskopeをはじめ、OktaやCrowdStrikeを活用したSaaS・生成AIの包括的なセキュリティ対策をご支援しています 。ご興味のある方は、ぜひお気軽にご相談ください！