인기 있는 AI 챗봇 서비스인 Character.AI는 부모가 플랫폼에서 자녀의 활동 보고서를 볼 수 있는 새로운 안전 기능인 Parental Insights를 추가했습니다.
이 회사가 발표한 새로운 보안 기능은 블로그 게시물 화요일마다 부모님께 십 대 자녀가 Character.AI에서 어떻게 시간을 보내고 있는지에 대한 주간 개요를 제공해 드립니다. 특히, Parental Insights에서는 자녀가 앱에 사용하는 평균 일일 시간, 가장 자주 대화하는 캐릭터, 그리고 각 캐릭터와 보내는 시간을 알려드립니다. 단, 챗봇 대화 내용은 비공개이므로 개요에서 공개되지 않습니다.
18세 미만 청소년 사용자는 앱 설정에서 이메일 주소를 입력하고 초대장을 보내면 Character.AI 통계를 부모 또는 보호자와 공유할 수 있습니다. 부모는 자녀의 주간 사용 통계를 보기 위해 Character.AI 계정이 없어도 됩니다.
부모 통찰력 기능은 자녀가 Character.AI에서 너무 많은 시간을 보내는 것에 대한 부모의 우려를 해결하기 위해 추가된 일련의 기능과 부적절한 성적 콘텐츠부터 서비스에서 노출된 유해한 콘텐츠를 주장하는 여러 소송과 함께 제공됩니다. 자해를 조장하는 메시지이러한 불만에 대응하여 Character.AI는 플랫폼을 업데이트했습니다. 미성년자를 민감하거나 암시적인 콘텐츠를 제공하지 않도록 설계된 AI 모델로 전환합니다.서비스 가이드라인 위반 사항을 감지하고 개입하며, 사용자가 Character.AI를 한 시간 이상 사용하면 알림을 보냅니다. 채팅과 앱 스토어 목록에 면책 조항을 추가하여 사용자가 상호작용하는 AI 캐릭터는 실제가 아니며, 그들이 하는 모든 말은 허구라는 점을 상기시켜 줍니다.
부모 여러분, Character.AI에서 자녀에게 앞으로 며칠 동안의 주간 활동 통계를 보여달라고 요청하는 이메일을 보내신다면, 신뢰의 표시로 받아들이세요. 자녀의 앱 사용 시간을 현명하게 사용하도록 안내해 주려는 것이 바로 Character.AI의 보고서이기 때문에 안심하실 수 있습니다.
댓글이 닫혔습니다.