인기 있는 AI 챗봇 서비스인 Character.AI는 부모가 플랫폼에서 자녀의 활동 보고서를 볼 수 있는 새로운 안전 기능인 Parental Insights를 추가했습니다.
화요일에 회사 블로그 게시물을 통해 발표된 이 새로운 보안 기능은 부모에게 십대 자녀가 Character.AI에서 시간을 어떻게 보내는지에 대한 주간 개요를 제공합니다. 구체적으로, 부모 인사이트는 자녀의 앱 사용 시간(일평균), 가장 자주 대화하는 캐릭터, 각 캐릭터와 보내는 시간 등을 알려줍니다. 단, 챗봇 대화 내용은 개인 정보이므로 이 개요에는 표시되지 않습니다.
18세 미만 청소년 사용자는 앱 설정에서 이메일 주소를 입력하고 초대장을 보내면 Character.AI 통계를 부모 또는 보호자와 공유할 수 있습니다. 부모는 자녀의 주간 사용 통계를 보기 위해 Character.AI 계정이 없어도 됩니다.
부모의 우려를 해소하기 위해 추가된 일련의 기능 중 하나로, '부모 인사이트' 기능이 도입되었습니다. 이 기능은 아이들이 Character.AI에서 과도한 시간을 보내는 것에 대한 부모들의 우려와, 성적으로 노골적인 자료부터 자해를 조장하는 메시지 에 이르기까지 유해한 콘텐츠에 노출되었다는 수많은 소송에 대응하기 위한 것입니다 . 이러한 불만에 대한 대응으로 Character.AI는 미성년 사용자를 위해 민감하거나 선정적인 콘텐츠를 제공하지 않도록 설계된 AI 모델을 도입하고 , 서비스 가이드라인 위반 사항을 감지 및 개입하며, 사용자가 Character.AI에서 1시간을 보낼 경우 알림을 보내도록 플랫폼을 업데이트했습니다. 또한 채팅창과 앱 스토어 설명란에 사용자가 상호작용하는 AI 캐릭터는 실제가 아니며 모든 발언은 허구임을 알리는 고지문을 추가했습니다.
부모 여러분, Character.AI에서 자녀에게 앞으로 며칠 동안의 주간 활동 통계를 보여달라고 요청하는 이메일을 보내신다면, 신뢰의 표시로 받아들이세요. 자녀의 앱 사용 시간을 현명하게 사용하도록 안내해 주려는 것이 바로 Character.AI의 보고서이기 때문에 안심하실 수 있습니다.
댓글이 닫혔습니다.