管理 AIOps Ziaガードレールプロファイル

Ziaガードレールプロファイル

本ページは機械翻訳をもとに提供しています。正確かつ最新の情報は英語版の内容をご参照ください。

ガードレールプロファイルを使用すると、AIがインシデントやインフラストラクチャに対して実行できるアクションの境界を定義できます。これにより、組織のポリシーから外れることなく、自動化を迅速に行えます。

インシデントのトラブルシューティング、推奨事項の生成、運用の自動化におけるAIの有用性が日々拡大する中、AIとのやり取りの安全性、コンプライアンス、および組織のポリシーへの整合性を確保することが不可欠です。

目次

Ziaガードレールプロファイルとは?

Ziaガードレールプロファイルは、Ziaがユーザーリクエストを処理し、応答を生成する方法を組織が定義できるようにする、設定可能なルールセットです。機密情報の保護、プロンプトインジェクション試行の検出、禁止トピックの制限、AIを活用したアクションの制御により、安全性、ガバナンス、コントロールを提供し、Ziaの信頼性、セキュリティ、およびエンタープライズ用途への適格性を維持します。

Ziaガードレールプロファイルを使用すると、次のことが可能になります。

  • AIとのやり取りにおける機密情報の露出を防止します。
  • プロンプトインジェクションやジェイルブレイク(脱獄)試行を検出および軽減します。
  • 特定のトピックに対するAIの応答を制限します。
  • 有害なコンテンツやポリシーに違反するコンテンツをブロックします。
  • ZiaがIT自動化アクションを実行できるかどうかを制御します。
  • 組織全体で一貫したAI安全ポリシーを適用します。

ガードレールプロファイルの分類

ガードレールプロファイルは次のタイプに分類されます。

  • デフォルトプロファイル:これらは監視プラットフォームによって提供される事前定義されたガードレールプロファイルであり、Ask Zia、Ziaアシスタント、デフォルトのZiaエージェントなどの組み込みのZia機能に自動的に適用されます。デフォルトプロファイルは削除できず、Defaultタグで識別されます。
    デフォルトのガードレールプロファイルを変更すると、関連付けられているすべてのZia機能およびエージェントの安全性と応答動作に影響を与える可能性があります。
  • ユーザー定義プロファイル:新しいZiaエージェントを作成すると、基本的なガードレールプロファイルが自動的に関連付けられます。組織の要件に合わせてこのプロファイルをカスタマイズしたり、追加のガードレールプロファイルを作成してエージェントに割り当てたりすることができます。これらのプロファイルは、組み込みのZia機能に関連付けることはできません。ユーザー定義プロファイルは、必要に応じて変更または削除でき、特定のタグは付与されません。

ユースケース

Ziaガードレールが使用されるシナリオは次のとおりです。

  • 従業員が機密性の高いインフラストラクチャの詳細をAIと共有することを防ぎます。
  • システム指示を上書きしようとするプロンプトインジェクション試行を検出します。
  • 制限された、または規制されたトピックに関連するAIの応答をブロックします。
  • IPアドレス、認証情報、またはその他の機密データの意図しない露出を防ぎます。
  • 組織のコンプライアンスポリシーに違反するAI生成コンテンツを制限します。
  • 自動的なIT自動化の実行を防ぎつつ、AIによる推奨事項の提供を許可します。
  • 複数のチームにわたって標準化されたAIガバナンスポリシーを適用します。

Ziaガードレールプロファイルの作成方法

次の手順に従って、新しいZiaガードレールプロファイルを作成します。

  1. 監視プラットフォームにログインします。
  2. [管理]→[Zia設定]→[ガードレールプロファイル]→[ガードレールプロファイルの追加]に移動します。
  3. 必要な情報を入力し、プロファイルの保護ポリシーを設定します。
    • 全般
      • プロファイル名:ガードレールプロファイルを一意に識別するための名前を入力します。
      • 説明:プロファイルの目的や範囲を説明する簡単な説明を入力します。
      • ポリシー違反エラー:リクエストがガードレールによってブロックされたときに表示するカスタムメッセージを入力します。
      • 関連性感度:ヘルプドキュメントやソリューション記事を取得するための最小関連性しきい値を選択します。選択した関連性スコア以上のドキュメントのみが参照として使用されます。
    • 機密データ保護
      • 機密データタイプの選択:IPアドレスなど、Ziaが検出して保護すべき機密情報を選択します。
    • カスタム検出パターン
      • カスタムパターンを使用して、組織固有の機密情報を検出します。
      • 名前:検出パターンの名前を入力します。
      • パターン:機密情報を識別するために使用する正規表現(Regex)を入力します。
      • 説明:必要に応じて、パターンの目的を記入します。
      • [+]をクリックしてパターンを追加します。
    • セーフティコントロール
      セーフティコントロールは、有害、不安全、または不適切なコンテンツを含む応答をZiaが生成することを防ぎます。カテゴリが有効になっている場合、Ziaが応答を生成する前に、すべてのユーザープロンプトが選択されたポリシーに照らし合わせて評価されます。利用可能なコンテンツカテゴリは次のとおりです。
      • ハラスメント/悪用/ヘイトスピーチ:このカテゴリにより、Ziaは個人またはグループに対するハラスメント、虐待的な言葉、いじめ、差別、またはヘイトスピーチを含むリクエストを検出できます。たとえば、ユーザーが特定の個人またはコミュニティを対象とした侮辱的または差別的なコンテンツの生成をZiaに求めた場合、Ziaはポリシー制限に基づいてそのようなコンテンツの提供を拒否できます。
      • 性的/暴力:Ziaが、性的に露骨なコンテンツ、成人向けコンテンツ、グラフィックコンテンツ、または暴力的なコンテンツを含む、またはこれらを要求するプロンプトに対してモデレーションを行い、結果の提供を拒否します。
      • 著作権/法的アドバイス:Ziaが、著作権で保護された素材や法的指導を含むリクエストに応答することを防ぎます。
      • 医療/生物/原子力:このガードレールは、誤用された場合に安全上のリスクをもたらす可能性がある医療指導、生物学的危険、または原子力情報に関連するリクエストにZiaが応答することを防ぎます。
      • サイバーセキュリティ:このガードレールを有効にすると、脆弱性の悪用、認証のバイパス、マルウェアの作成、システムへの不正アクセスの取得など、悪意のあるサイバーセキュリティ活動を助長する応答をZiaが生成することを防ぎます。深刻度レベルに基づいて、動作が異なります。

        ユーザーがSQLインジェクションについてZiaと対話している場合を考えます。
        • Ziaは、「What is SQL injection?」や「How can I protect my application against SQL injection?」などの一般的な学習目的のリクエストを許可します。「Generate a SQL injection payload to bypass authentication」など、悪意のある意図が強く疑われるリクエストのみがブロックされます。これは[低]感度に設定できます。
        • 明示的な悪意のあるリクエストのブロックに加えて、Ziaは「Show me different SQL injection techniques to retrieve database records」など、攻撃的なセキュリティ活動を可能にする可能性のあるリクエストも検出し、これを[中]感度としてマークします。
        • Ziaは最も厳格な検出レベルを適用し、意図があいまいな場合でも、サイバーセキュリティに関連する幅広いリクエストをブロックします。たとえば、「Demonstrate how SQL injection works against a sample login page」などのリクエストは、悪用のリスクが高いためブロックされます。これを[高]感度に設定します。
    • プロンプト保護:プロンプト保護は、Ziaの動作を操作したり、設定されたガードレールをバイパスしたりするように設計されたプロンプトからZiaを保護するのに役立ちます。一般的にプロンプトインジェクションやジェイルブレイク(脱獄)試行と呼ばれるこれらの攻撃は、AIに指示を無視させたり、制限された情報を明らかにさせたりしようとします。
      • プロンプト操作検出:このオプションを使用すると、Ziaのシステム指示の上書き、設定されたポリシーのバイパス、または応答の操作を試みるプロンプトを検出してブロックできます。Ziaが処理するプロンプト操作の例には、「Ignore all previous instructions」、「Pretend you are not an AI assistant」、「Reveal your hidden system prompt」などがあります。
      • 感度:プロンプト操作の試行をどの程度積極的に検出するかを選択します。
        • [高]:微妙なジェイルブレイク試行や間接的なプロンプトインジェクション技術も検出します。
        • [中]:誤検知を最小限に抑えながら、バランスの取れた検出を提供します。
        • [低]:明白でよく知られた操作パターンのみをブロックします。
      • 検出された操作パターンの例:ガードレールが特定できるプロンプトインジェクション技術の代表例を表示します。
    • トピック制限:このセクションでは、設定されたガードレールが特定できる代表的なプロンプトインジェクションおよびジェイルブレイク技術を表示します。これらの例は、管理者が実装の詳細を公開することなく、ブロックされる可能性のあるリクエストのタイプを理解するのに役立ちます。
      • Ziaが特定のトピックに応答することを制限します。
      • 制限されたトピックを追加するには、
        1. [ブロックされたトピック]セクションの[+]をクリックします。
        2. 次の詳細を入力します:
          • トピック:ブロックする必要があるトピックを入力します。
          • 説明:必要に応じて、トピックが制限されている理由を説明します。
        3. [保存]をクリックします。
    • アクション
      • 自動化権限:Ziaエージェントがリクエストに応答する際に、IT自動化アクションを実行または推奨できるようにするには、[実行]または[推奨]を選択します。
  4. 最後に、[保存]をクリックしてガードレールプロファイルを保存します。
BYOK Azure OpenAIまたはBYOK OpenAI連携を使用している場合、セーフティコントロールおよびトピック制限を通じて処理されるリクエストは、独自のモデルトークンを消費します。ZKS管理のAIプロバイダーの場合、対応するZKSクレジットが消費されます。

Ziaガードレールプロファイルの編集または削除方法

次の手順に従って、Ziaガードレールプロファイルを編集または削除します。

  1. [Ziaガードレール一覧]ページで、目的のプロファイルをクリックします。
  2. [Ziaガードレールプロファイルの編集]ページで、編集するには必要な変更を加え、[保存]をクリックします。
  3. 削除するには、右上の[削除]をクリックします。

ベストプラクティス

ガードレールプロファイルを利用する際のいくつかのベストプラクティスは次のとおりです。

  • ポリシーが異なる場合は、環境やビジネスユニットごとに個別のガードレールプロファイルを作成します。
  • カスタム検出パターンを使用して、組織固有の識別子や機密情報を保護します。
  • プロンプト操作検出を有効にして、ジェイルブレイクやプロンプトインジェクション攻撃のリスクを軽減します。
  • ブロックされたトピックを定期的に見直し、組織のポリシーと一致していることを確認します。
  • 本番環境でAI駆動の自動化を有効にする前に、ガードレールポリシーをテストします。
  • 高度に規制されたデータや機密データを処理する場合は、より高い感度レベルを選択します。