요약:

• 구글은 13세 미만 어린이를 대상으로 제미니 AI 챗봇을 선보일 준비를 하고 있으며, "제미니는 실수를 할 수 있다"는 경고를 내보냈습니다.
• 부모는 Family Link 앱을 통해 자녀의 Gemini 접근을 제어할 수 있으며, 이를 완전히 끌 수도 있습니다.
• 구글은 아이들이 제미니를 이용해 숙제를 돕거나 이야기를 들려줄 수 있다고 밝혔습니다.

구글이 13세 미만 어린이를 위한 AI 챗봇 제미니(Gemini) 출시를 준비 중입니다. 구글은 부모들에게 패밀리 링크(Family Link) 앱을 통해 자녀의 제미니 접속을 제어할 수 있다는 내용의 이메일을 발송하기 시작했습니다. 대기업이 어린이를 위한 AI 기반 챗봇을 출시한 것은 이번이 처음입니다. 이 이니셔티브는 어린이들에게 안전한 교육 및 엔터테인먼트 도구를 제공하는 것을 목표로 합니다.

보고서에 따르면 뉴욕 타임즈13세 미만 어린이는 제미니를 사용하여 숙제를 돕거나 이야기를 읽어줄 수 있습니다. 구글은 제미니와 어린이의 대화가 AI 모델 학습에 사용되지 않을 것이라고 밝혔습니다. 그러나 구글은 부모들에게 "제미니는 실수를 할 수 있으며", "어린이들이 원하지 않는 콘텐츠에 노출될 수 있다"고 경고했습니다.

이런 우려에도 불구하고 구글은 출시를 계속 진행하고 있습니다. 쌍둥이 자리 어린이를 위한 AI. 우리는 인공지능 분야에서 환각 문제가 아직 해결되지 않았다는 사실과 AI 기반 챗봇이 허위 정보를 매우 과감하게 유포하고 있다는 사실을 이미 알고 있습니다. 현재 13세 미만 어린이들이 정확한 정보와 오해의 소지가 있는 답변을 어떻게 구분하고 식별할 수 있을지는 불확실합니다. 이는 어린이들이 부정확하거나 편향된 정보를 얼마나 잘 처리할 수 있는지에 대한 의문을 제기합니다.

또한, 젊은 사용자들은 AI 기반 챗봇으로 인해 점점 더 많은 문제에 직면하고 있습니다. 최근 플로리다의 한 십 대 청소년이 Character.ai의 AI 기반 캐릭터에 지나치게 집착한 후 자살했습니다. 젊은 사용자들은 AI 챗봇과 실제 사람을 구분하지 못합니다. 이는 사회적 상호작용에서 AI에 대한 과도한 의존의 위험성에 대한 인식 제고의 중요성을 강조합니다.

구글은 이메일에서 부모가 자녀와 소통하고 인공지능이 인간이 아니라는 점을 이해시켜야 한다고 밝혔습니다. 부모는 언제든지 패밀리 링크 앱을 통해 제미니 접근을 차단할 수 있습니다. 이는 자녀의 안전을 보장하고 잠재적인 부정적인 영향으로부터 보호하기 위한 필수적인 조치입니다.