스캐터랩, 제타 이용자 보호 강화⋯대표 직속 안전 전담팀 신설

"정책-기술-운영 체계 고도화⋯안심 사용 AI 엔터 환경 만들 것"

[아이뉴스24 안세준 기자] 인공지능(AI) 캐릭터 채팅 서비스 '제타' 운영사 스캐터랩(대표 김종윤)이 제타 이용자 보호 체계를 강화한다. 청소년 하루 이용 시간을 3시간으로 제한하고, 월 결제 한도도 10만원으로 설정할 계획이다.

스캐터랩 로고. [사진=스캐터랩]

스캐터랩은 김종윤 대표가 이끄는 대표 직속 안전 전담 조직 '트러스트&세이프티 팀'(Trust&Safety Team)을 신설했다고 17일 밝혔다.

신설 조직은 제타의 콘텐츠 안전과 이용자 보호를 전담한다. 스캐터랩은 주요 AI 개발 인력 절반을 콘텐츠·대화 검수용 AI 모델 개발에 투입한다.

이용자 보호·청소년 보호를 경영 핵심 과제로 삼고, 콘텐츠 안전 정책부터 제타 자체 AI 모델 개발, 콘텐츠 기술·검수 업무를 통합적으로 관리한다는 방침이다.

올해 말까지 자체 AI 모델과 콘텐츠 검수 체계를 고도화한다. 제타 내 이용자가 제작하는 콘텐츠인 '플롯'을 제작·출시·노출 등 3단계에 걸쳐 검수하고, 소재와 텍스트·이미지 등을 기준으로 이용 등급을 분류한다.

한국과 일본, 미국 등 주요 서비스 국가에 적용할 AI 콘텐츠 정책도 마련한다. 연령 확인 절차를 강화하고 확인된 연령에 따라 접근 가능한 콘텐츠를 구분할 계획이다.

AI와의 대화 과정에서도 보호 장치를 확대한다. 부적절한 대화를 방지하는 자체 AI 모델을 도입하고, 이용자 연령에 적합한 발화 기준을 적용한다.

국내에서는 연내 청소년의 하루 이용 시간을 3시간으로 제한하고 기본 월 결제 한도를 10만원으로 설정한다. 이용자가 AI와 대화하고 있다는 사실을 주기적으로 알리는 기능도 도입한다. 자살·자해 관련 민감 콘텐츠가 감지되면 적절한 안내를 제공하는 기능도 개발·검증할 예정이다.

김종윤 스캐터랩 대표는 "트러스트&세이프티 팀을 중심으로 정책과 기술, 운영을 아우르는 보호 체계를 고도화하고, 안심하고 사용할 수 있는 AI 엔터테인먼트 환경을 만들어 가겠다"고 말했다.

/안세준 기자(nocount-jun@inews24.com)