제타 보호대책, 하루 3시간·월 10만원은 도입 계획…차단 강화는 순차 적용

제타의 청소년 보호대책에서 ‘하루 3시간·월 10만원’은 이미 모든 계정에 적용됐다고 확인된 기준이 아니라 앞으로 도입하겠다고 밝힌 제한 계획이다. 먼저 순차 적용 중이라고 회사가 설명한 것은 유해 대화 탐지·차단 강화와 반복 시도에 대한 단계별 이용 제한이다. 뉴스1의 10월 11일 보도에 담긴 회사 답변은 이 긴급 조치의 전체 적용 목표를 18일로 제시했다. 계획 발표와 실제 이용 화면의 변경을 같은 완료로 읽으면 안 된다.

문제는 성인인증 없는 환경의 보호장치였다

뉴스1이 전한 황정아 의원실의 점검은 청소년과 같은 안전 기준이 적용되는 세이프 모드에서 이뤄졌다. 의원실은 미성년 캐릭터를 대상으로 한 성폭력·성착취와 협박을 묘사하는 대화가 생성됐고, 일부 차단이 이뤄진 뒤에도 유해한 내용이 노출됐다고 밝혔다. 이는 의원실의 점검 결과이며 실제 미성년 피해자가 발생했다는 확인과는 다르다. 유해 대화의 문장과 차단을 피하는 방법은 여기서 재현하지 않는다.

지금 넓히는 조치와 4분기 계획은 다르다

뉴스1이 전한 스캐터랩의 설명에 따르면, 같은 대화 시나리오에서 유해한 대화가 반복해서 차단될 때 경고, 대화 정지, 대화 초기화 순으로 제한을 높이는 조치를 도입한다. 세이프 모드 이용자에게 순차 적용하는 단계이므로 목표 날짜만 보고 모든 계정에서 같은 조치가 이미 작동한다고 단정할 수 없다. 회사가 밝힌 적용 일정이지 독립적으로 전 계정의 작동을 시험한 결과도 아니다.

올해 4분기에는 대화를 만드는 단계부터 연령에 맞게 전개와 묘사를 조절하고 안전장치 회피 요청에 응하지 않도록 개선하겠다는 계획을 밝혔다. 대화 맥락을 반영하는 새 탐지 모델과 월별 레드팀 점검도 추가 대책에 포함됐다. 청소년의 하루 이용시간·월 결제 한도와 콘텐츠별 연령 등급은 이와 함께 도입하겠다는 항목이다. 구체적인 계정별 적용 안내나 보호자 설정 방법을 확인하지 않은 상태에서 사용 절차를 만들어 안내하지 않는다.

기존 공식 정책은 무엇을 약속하고 있나

제타가 서비스에서 직접 연결한 공식 청소년보호정책은 과도하게 선정적이거나 폭력적·차별적인 콘텐츠를 AI 모델로 걸러내고, 15세 이용가 수준의 내용을 제공하도록 노력한다고 설명한다. 캐릭터 등 콘텐츠의 지속적인 모니터링과 위험한 대화가 반복될 때의 경고도 기재돼 있다. 유해정보 관련 고충은 고객센터와 contact@zeta-ai.io로 받는다. 기존 정책이 있다는 사실, 이번 개선을 발표했다는 사실, 그 장치가 실제로 모든 위험을 막는다는 증명은 서로 다르다.

이번 기사에서 직접 읽은 당사자 문서는 이 공식 정책이다. 의원실에 제출된 경위서 전체를 직접 열람한 것은 아니며, 점검 결과와 새 대책은 뉴스1이 전한 의원실 설명·회사 답변으로 구분했다. 이용자에게 중요한 다음 확인 지점은 발표 숫자를 외우는 일이 아니라 자기 계정에 적용되는 날짜·조건이 별도로 안내되는지, 신고한 문제가 처리되는지다. 발표만으로 유해 대화가 없어졌거나 보호 효과가 입증됐다고 보장하지 않는다.