リスク管理
概要
リスク管理スイートは、ゲームコミュニティ運営の業務シナリオに即した機能スイートです。主な目的は、コミュニティ運営担当者がリスクのあるコンテンツをすばやく特定し、それについてアラートを送信できるようにすることです。
リスク管理のトレンド
リスク管理モジュールに入ると、最近のコミュニティにおけるリスク管理の全体の傾向と最新のリスクコンテンツが表示され、リスク管理の全体状況を把握できます。最新のリスクコンテンツ欄の「すべて表示」ボタンをクリックするとリスク管理詳細ページに移動し、具体的なリスクコンテンツを確認できます。上部のアラートエリアで、リスク管理アラートを確認・設定することもできます。
リスク管理詳細
「すべて表示」ボタンをクリックすると、リスク管理の詳細ページに移動します。この一覧では、選択した期間内にリスク識別に該当したすべての異常コンテンツを確認でき、それぞれが該当したリスクタイプ、リスクレベル、違反コンテンツと識別された理由を把握できます。
操作列の「詳細を見る」ボタンをクリックすると、選択した異常コンテンツの詳細を確認できます。そのコンテンツが誤検知であると判断した場合は、操作列の「除外」ボタンをクリックします。この操作を行うと、そのコンテンツは異常コンテンツとして扱われなくなります。今後のバージョンでは、手動で除外されたコンテンツをもとに、システムがリスク識別の精度を最適化します。絞り込みバー右側の「一括解除」を使うと、複数のコンテンツを一度に除外できます。複数のコンテンツにチェックを入れてから、「選択したN件を除外」をクリックします。
一覧の右上には、更新ボタンと「手動実行」ボタンもあります。「手動実行」をクリックして日付を選択すると、過去のコンテンツに対してリスク識別を再実行できます。最後に、ページ右上の「ルール詳細」ボタンをクリックすると、リスク管理ルールページに移動します。
リスク管理ルール
詳細一覧ページの右上にある「ルール詳細」ボタンをクリックすると、リスク管理ルールの詳細ページに移動します。詳細ページには、現在有効なリスク識別ルール、つまりリスク識別タスクで使用する大規模言語モデルのプロンプトが表示されます。詳細ページの右上には「手動実行」と「ルールを編集」の2つのボタンがあります。リスク管理ルールを編集する場合は、「ルールを編集」ボタンをクリックして編集状態にします。
リスク管理ルールの編集ページでは、5つの主要なリスクタイプのルールを編集できます。ルールは識別ルールと例外ルールに分かれます。識別ルールは、どのようなコンテンツをそのリスクタイプの違反コンテンツとして識別すべきかを記述するもので、例外ルールは、どのようなコンテンツを違反コンテンツとして識別すべきでないかを記述するものです。ゲームやコミュニティのガイドラインに合わせて、これらの内容を調整できます。
ルールの内容を変更した後に変更を取り消したい場合は、「元に戻す」ボタンをクリックして編集前の状態に戻すことができます。内容を変更すると、編集ページのヘッダーにも「元に戻す」ボタンが表示され、ページ全体のルールを一度に元に戻すことができます。リスク管理の識別ルールは必須で、例外ルールは任意です。すべてのルールの変更が完了したら、保存ボタンをクリックすると新しいリスク管理ルールが有効になり、以降システムが受信する新しいデータは新しいリスク管理ルールに基づいて識別・判定されます。
-
カスタムリスク管理ルールに対応
- プリセットのリスク管理ルール名が要件に合わない場合は、リスク管理名を編集して変更できます。
- 必要に応じてカスタムルールを追加できます。リスク管理ルールの上限は10件です
リスク管理アラート
コミュニティリスク管理のランディングページで、リスク管理アラートを確認・有効化できます。リスク管理アラートの設定入口は次の図のとおりです：
アラート設定に入ると、アラートの監視頻度、アラート時間帯、通知方法などを設定できます。
- 監視頻度
現在、毎時の監視と毎日の監視に対応しています。指定した時刻（下図では毎日20:46）に、前の周期に新たに追加されたリスクコンテンツを集計する仕組みです。前の周期に新しいリスクコンテンツがあった場合は、アラートの送信を試みます。
- アラート時間帯
アラート通知の送信が許可される時間範囲です。時間範囲内のアラートタスクで通知の送信が必要な場合は、すぐに送信されます。時間範囲外のアラートタスクも実行されますが、メッセージは送信されません。次に時間範囲内のアラートタスクがトリガーされたときにアラートが送信され、それまでに未送信だったアラートのデータをすべてまとめて、1件のアラート情報として送信します。
たとえば毎日20:46のアラート監視タスクで、許可時間帯が月曜日から金曜日の場合、月曜日から金曜日のアラートはトリガー後すぐに送信されます。土曜日と日曜日のアラートは月曜日のアラートタスクの時刻まで繰り延べられてまとめて送信され、送信されるデータは前の土曜日から月曜日までに新たに追加されたリスクの総数です。
- 通知方法
メッセージの送信先です。現在、「DingTalk チャットボット」、「WeCom チャットボット」、「Feishu ボット」によるアラート情報の送信に対応しています。複数のプラットフォームのボットを設定できますが、各プラットフォームで設定できるボットは1つのみです。各プラットフォームのボットの設定方法は、行の後ろにある「設定方法」をクリックすると、各プラットフォームのボットのユーザーガイドを確認できます。各プラットフォームでボットの設定を完了した後、通知方法にボットのWebhookアドレスを入力すると、通知の設定が完了します。
- アラートを無効にする
アラートを有効にした後、次の方法でアラートを無効にして、アラートのプッシュ通知の受信を停止することもできます（リスク識別タスクは引き続き実行され、影響はありません）。まず、アラートを有効にした後、アラートメニューの入口にカーソルを合わせ、入口の横にあるオフボタンをクリックするとアラートを無効にできます。
また、アラート設定ページに入り、下部の「アラートを無効にする」ボタンからリスク管理アラートを無効にすることもできます。
アラートを無効にしても以前の設定は保持されるため、再設定することなくいつでもアラートを有効にできます。