리스크 관리
개요
리스크 관리 기능 모음은 게임 커뮤니티 운영 업무 시나리오에 맞춘 기능 모음으로, 커뮤니티 운영자가 리스크가 있는 콘텐츠를 빠르게 찾아내고 이에 대한 알림을 받을 수 있도록 돕는 것이 주요 목표입니다.
리스크 관리 추세
리스크 관리 모듈에 들어가면 최근 커뮤니티 리스크 관리의 전체 추세와 최신 리스크 콘텐츠가 표시되어 리스크 관리의 전체 현황을 파악할 수 있습니다. 최신 리스크 콘텐츠 섹션의 전체 보기 버튼을 클릭하면 리스크 관리 상세 페이지로 이동하여 구체적인 리스크 콘텐츠를 확인할 수 있습니다. 상단의 알림 영역에서 리스크 관리 알림을 확인하고 설정할 수도 있습니다.
리스크 관리 상세
전체 보기 버튼을 클릭하면 리스크 관리 상세 페이지로 이동합니다. 이 리스트에서 선택한 기간에 리스크 식별을 트리거한 모든 이상 콘텐츠를 확인하고, 각 콘텐츠가 트리거한 리스크 타입, 위험도, 위반 콘텐츠로 인식된 이유를 파악할 수 있습니다.
작업 열의 상세 보기 버튼을 클릭하면 선택한 이상 콘텐츠의 구체적인 내용을 확인할 수 있습니다. 해당 콘텐츠가 오탐이라고 판단되면 작업 열의 제거 버튼을 클릭합니다. 이 작업을 하면 해당 콘텐츠는 더 이상 이상 콘텐츠로 간주되지 않습니다. 이후 버전에서는 수동으로 제거한 콘텐츠를 바탕으로 시스템이 리스크 식별의 정확도를 개선할 예정입니다. 필터 바 오른쪽의 일괄 제거로 여러 콘텐츠를 한 번에 제거할 수 있습니다. 여러 콘텐츠를 선택한 후 N개 삭제를 클릭하면 됩니다.
리스트 오른쪽 상단에는 새로고침 버튼과 수동 실행 버튼도 있습니다. 수동 실행을 클릭하고 날짜를 선택하면 과거 콘텐츠에 대해 리스크 식별을 다시 실행할 수 있습니다. 마지막으로 페이지 오른쪽 상단의 규칙 상세 버튼을 클릭하면 리스크 관리 규칙 페이지로 이동합니다.
리스크 관리 규칙
상세 리스트 페이지에서 오른쪽 상단의 규칙 상세 버튼을 클릭하면 리스크 관리 규칙 상세 페이지로 이동합니다. 상세 페이지에는 현재 적용 중인 리스크 식별 규칙, 즉 리스크 식별 작업에 사용되는 대형 모델 프롬프트가 표시됩니다. 상세 페이지 오른쪽 상단에는 수동 실행과 규칙 편집 두 버튼이 있으며, 리스크 관리 규칙을 편집하려면 규칙 편집 버튼을 클릭하여 편집 상태로 들어갑니다.
리스크 관리 규칙 편집 페이지에서는 다섯 가지 주요 리스크 타입의 규칙을 편집할 수 있습니다. 규칙은 식별 규칙과 예외 규칙으로 나뉩니다. 식별 규칙은 어떤 콘텐츠를 해당 리스크 타입의 위반 콘텐츠로 인식해야 하는지를 설명하고, 예외 규칙은 어떤 콘텐츠를 위반 콘텐츠로 인식하지 않아야 하는지를 설명합니다. 게임 및 커뮤니티 규정에 따라 이 내용을 조정할 수 있습니다.
규칙 내용을 조정했지만 변경을 취소하려면 복구 버튼을 클릭하여 편집 전 상태로 되돌릴 수 있습니다. 내용을 수정하면 편집 페이지 헤더에도 복구 버튼이 나타나며, 이 버튼으로 페이지 전체의 규칙을 한 번에 복구할 수 있습니다. 리스크 관리의 식별 규칙은 필수이며 예외 규칙은 선택 사항입니다. 모든 규칙 수정을 마친 후 저장 버튼을 클릭하면 새 리스크 관리 규칙이 적용되며, 이후 시스템이 받는 새 데이터는 새 리스크 관리 규칙에 따라 인식하고 판단합니다.
-
커스텀 리스크 관리 규칙 지원
- 사전 설정된 리스크 관리 규칙 이름이 요구에 맞지 않으면 리스크 관리 이름을 편집하여 수정할 수 있습니다.
- 필요에 따라 커스텀 규칙을 추가할 수 있으며, 리스크 관리 규칙은 최대 10개입니다
리스크 관리 알림
소셜 리스크 관리 랜딩 페이지에서 리스크 관리 알림을 확인하고 활성화할 수 있습니다. 리스크 관리 알림의 설정 진입점은 아래 그림과 같습니다.
알림 설정에 들어가면 알림의 모니터링 주기, 알림 시간대, 알림 방식 등을 설정할 수 있습니다.
- 모니터링 주기
현재 시간 단위 모니터링과 일 단위 모니터링을 지원합니다. 지정된 시간(아래 그림의 경우 매일 20:46)에 이전 주기에 새로 추가된 리스크 콘텐츠를 집계하며, 이전 주기에 새로운 리스크 콘텐츠가 있으면 알림 발송을 시도합니다.
- 알림 시간대
알림을 발송할 수 있는 기간입니다. 이 기간 안의 알림 작업에서 알림을 보내야 하면 즉시 발송합니다. 기간 밖의 알림 작업도 실행되지만 메시지를 보내지 않으며, 다음에 기간 안의 알림 작업이 트리거될 때 알림을 발송합니다. 이때 그전까지 발송하지 않은 모든 알림 데이터를 합쳐 하나의 알림 메시지로 발송합니다.
예를 들어 매일 20:46에 실행되는 알림 모니터링 작업에서 허용 시간대가 월요일부터 금요일까지이면, 월요일부터 금요일까지의 알림은 트리거 후 즉시 발송되고, 토요일과 일요일의 알림은 월요일 알림 작업 시간으로 미뤄져 합쳐서 발송됩니다. 이때 발송되는 데이터는 지난 토요일부터 월요일까지 새로 추가된 리스크 콘텐츠의 총수입니다.
- 알림 방식
메시지를 보낼 대상입니다. 현재 DingTalk 봇, WeCom 봇, Feishu 봇으로 알림 메시지를 보낼 수 있습니다. 여러 플랫폼의 봇을 설정할 수 있지만 플랫폼마다 봇은 하나만 설정할 수 있습니다. 각 플랫폼의 봇 설정 방법은 행 뒤의 설정 방법을 클릭하여 각 플랫폼의 봇 사용 가이드에서 확인할 수 있습니다. 각 플랫폼에서 봇 설정을 마친 후 알림 방식에 봇의 Webhook 주소를 입력하면 알림 설정이 완료됩니다.
- 알림 끄기
알림을 활성화한 후에는 다음 방법으로 알림을 꺼서 알림 푸시 메시지 수신을 중단할 수도 있습니다(리스크 식별 작업은 계속 실행되며 영향을 받지 않습니다). 먼저 알림을 활성화한 후 알림 메뉴 진입점에 마우스를 올리고 진입점 옆의 끄기 버튼을 클릭하면 알림이 꺼집니다.
또한 알림 설정 페이지에 들어가 하단의 알림 끄기 버튼으로 리스크 관리 알림을 끌 수도 있습니다.
알림을 끈 후에도 이전 설정은 유지되므로 언제든지 다시 설정할 필요 없이 알림을 활성화할 수 있습니다.