(사진=마이크로소프트 Xbox)
마이크로소프트 Xbox가 미국시간 지난 14일 네 번째 '투명성 보고서(Transparency Report)'를 발표했다.
이번 투명성 보고서에는 건전한 게임 환경을 만들기 위해 유해 콘텐츠를 식별하는 최신 AI 기능 도입 사례와 이용자를 보호하는 차원에서 Xbox가 전개하고 있는 다양한 프로그램의 성과가 소개됐다.
Xbox는 잠재적인 유해 요소를 판단하는 인간의 전문성을 확대하기 위해 책임감 있는 방식의 AI 활용을 추구하고 있다. 다변화하는 게임 환경에서 이용자를 보호하기 위해 생성형 AI 기술을 도입하고, 책임감 있는 방향으로 유해 콘텐츠를 선별, 보고, 예방해야 한다는 주장이다.
현재 활용되고 있는 기능으로는 잠재적으로 유해한 콘텐츠의 단어 및 구문을 감지해 대화 텍스트를 구분하는 ‘자동 라벨링'과 유해한 콘텐츠를 신속하게 제거하고 불건전한 이미지를 식별할 수 있는 '이미지 패턴 매칭' 등이 있다.
또한 Xbox는 신규 '음성 신고 기능'을 선보인 이후 Xbox 음성 채팅 내 이용자들의 행동이 개선된 것으로 나타났다고 전했다. 부적절한 음성 대화를 기록하고 사후에 신고하는 시스템을 통해 약 98%의 이용자가 행동을 개선해 추가 제재를 받지 않았다는 설명이다.
이와 함께 Xbox는 '규정 집행 경고 시스템'을 통한 제재 효과도 입증됐다고 밝혔다. 해당 경고 시스템은 플레이어가 규정 위반의 심각성을 이해할 수 있도록 돕고 건전한 플레이를 장려하기 위해 지난해 도입됐다. 시스템 도입 후, 경고를 받은 플레이어의 88%가 추가 제재로 이어질 수 있는 커뮤니티 기준 위반 행동을 하지 않은 것으로 드러났다.
아울러 Xbox는 선제적 관리 조치도 시행 중이다. Xbox는 가짜 계정과 관련해 생성과 동시에 차단하는 등 가짜 계정이 초래할 피해로부터 플레이어를 선제적으로 보호하고 있다. 이를 위해 Xbox는 관련 투자를 지속할 방침이다.