일부 AI 캐릭터 챗봇이 청소년에게 성적·폭력적 내용을 비롯해 자해와 범죄를 부추길 수 있는 응답을 제공한 것으로 조사됐다. 성평등가족부는 청소년매체환경보호센터와 함께 주요 AI 캐릭터 챗봇의 대화 응답을 점검한 결과 이 같은 우려 사례를 확인했다고 15일 밝혔다.
점검 대상 챗봇 가운데 일부는 성적 행위나 관련 내용을 구체적으로 묘사했으며, 폭력적이고 잔혹한 장면을 자극적으로 표현하거나 이를 조장하는 듯한 답변을 내놓았다. 자해·자살을 권유하거나 범죄 수법을 설명하는 등 청소년에게 해로울 수 있는 응답도 확인됐다.
특히 일부 서비스는 별도의 성인 인증 없이 이용할 수 있어 미성년자가 유해 콘텐츠에 노출될 가능성이 더욱 큰 것으로 지적됐다.
성평등부는 조사 결과를 각 챗봇 운영 사업자에게 전달하고 청소년 보호를 위한 자율적인 개선 조치를 요청했다. 성인 인증 여부에 따라 대화 허용 범위를 달리하고, 자해·자살을 부추기거나 범죄 방법을 구체적으로 안내하는 내용은 이용자의 나이와 무관하게 생성되지 않도록 안전장치를 마련하라는 취지다.
윤세진 성평등부 청소년정책관은 AI 캐릭터 챗봇으로부터 청소년을 보호하려면 사업자의 적극적인 대응과 지속적인 관리가 필요하다며, 이번 점검을 계기로 관련 사업자들과 협력을 한층 강화하겠다고 밝혔다.
댓글
0