클라우드 관련 대화는 Google에 공개적으로 표시될 수 있습니다.

💡 가장 중요한 사항들

• 공유된 클라우드 대화 링크가 구글 검색 결과에 나타나면서 법률 전략이나 개인적인 문제와 같은 민감한 사용자 데이터가 노출되었습니다.
• AI 봇과의 대화는 비공개가 아닙니다. 기업은 모델 학습을 위해 해당 대화를 공유하며, 삭제 후에도 30일 동안 보관할 수 있습니다.
• 개인 정보나 민감한 정보, 특히 건강 관련 데이터는 스마트 챗봇과 절대 공유하지 마세요. 스마트 챗봇은 사용자의 개인 정보를 고려하지 않습니다.

챗봇은 사용자가 자신과 대화하는 듯한 느낌을 주도록 설계되었습니다. 마치 온라인 친구와 이야기하는 것처럼 친근하게 다가오죠. 물론 그 친구가 순식간에 엄청난 양의 텍스트를 주고받을 수 있다는 가정하에 말입니다. 하지만 현실은 전혀 그렇지 않습니다. 특히 "개인적"이라는 단어의 의미가 "바로 나 자신"을 포함한다면 더욱 그렇습니다.

클로드의 대화 내용이 지난 주말 구글 검색 결과에 공개되었습니다.

지난 주말 이후 일부 클라우드 사용자들이 이 사실을 확인할 수 있었습니다 . 사이버 보안 뉴스(Cyber ​​Security News) 보도에 따르면 , 구글 검색 결과에 앤트로픽 클라우드 대화 공유 링크가 나타났는데, 이는 구글과 같은 검색 엔진이 사용자들의 채팅 기록을 색인화했음을 의미합니다. 주말 동안 레딧(Reddit) 게시물에서는 검색어에 "site:claude.ai/share"를 추가하기만 하면 구글에서 실제 클라우드 대화를 직접 찾을 수 있는 방법을 소개했습니다.

만약 클라우드 사용자가 당신이 검색한 키워드에 대해 이야기하고, 구글이 그 대화를 색인화했다면, 당신은 그 대화 내용을 전부 읽어볼 수 있었습니다. 사이버 보안 뉴스에 따르면, 여기에는 변호사들이 법률 전략을 논의하는 것, 엔지니어들이 기술적 문제를 이야기하는 것, 그리고 사용자들이 개인적인 고민을 털어놓는 것까지 포함되었습니다. 대화의 성격에 따라 사소한 당황스러운 일부터 심각한 스캔들에 이르기까지 다양했습니다.

자, 몇 가지 주의사항을 알려드리겠습니다. Anthropic은 Reddit 게시글이 빠르게 확산되자마자 신속하게 문제를 해결했습니다. 이제 "site:claude.ai/share"를 사용하여 검색하면 검색 실패 결과만 표시되므로 Cloud에 저장된 모든 대화는 안전할 것입니다. 무엇보다 중요한 것은, 색인화된 대화가 모든 Cloud 사용자에게 영향을 미친 것은 아니라는 점입니다. 해당 대화는 Cloud에서 다른 사람과 대화를 공유할 때 생성되는 "공유 링크"였습니다. 이 버그는 바로 이 기능에서 비롯된 것으로 보입니다. Cloud에서 대화를 공유한 경우, 해당 대화가 검색 가능한 데이터베이스에 저장되었을 가능성이 있습니다.

하지만 유출된 모든 대화가 이 기준을 충족한 것은 아닐 수 있습니다. 작년 9월에도 비슷한 상황이 발생했는데 , 퓨처리즘(Futurism) 보도에 따르면 피해 사용자 중 적어도 한 명은 자신의 대화를 공유한 적이 없다고 부인했습니다. 만약 그 부인이 사실이라면, 유출된 클로드(Claude) 대화 중 일부는 채팅 공유 기능을 전혀 사용하지 않은 사용자들의 것일 가능성도 있습니다.

인공지능과의 대화는 비공개가 아닙니다.

클라우드 대화 내용이 공유되지 않았거나 취약점이 패치되었다고 확신하더라도, AI 챗봇과의 대화가 완전히 비공개라고 생각해서는 안 됩니다. 클라우드 대화를 공유한 적이 없어 이번 문제의 영향을 받지 않았을 가능성이 높더라도, 대화 내용이 계정에만 국한되지 않을 수 있습니다. AI 챗봇에게 하는 말이 나와 봇 사이에서만 공유된다고 생각할 수 있지만, 명시적으로 거부하지 않는 한 모든 대화 내용은 Anthropic과 공유되어 향후 모델 학습 에 사용됩니다.

이는 앤트로픽에만 국한된 것이 아닙니다. 대부분의 AI 기업들이 각기 다른 정책을 가지고 이와 같은 방식으로 운영됩니다. 예를 들어, 어떤 기업은 사용자의 대화를 실시간으로 모니터링하는 인간 검토자를 배치하기도 합니다. 이는 개인적인 문제를 AI 봇에게 문의할 때는 미처 생각하지 못할 수도 있는 부분입니다.

데이터 학습에 참여하지 않기로 선택하더라도 해당 회사는 특정 기간 동안 대화 내용을 보관할 수 있습니다. 예를 들어, Anthropic은 대화를 삭제한 후에도 30일 동안 대화 데이터를 보관합니다 . 즉, 데이터는 Anthropic 서버에 저장될 뿐만 아니라 사용자가 접근 권한을 잃은 후에도 계속 남아 있다는 뜻입니다. 더욱이, 인덱싱 노출 문제에 직면한 회사는 Anthropic뿐만이 아닙니다. 클라우드 사용자에게 이러한 문제가 발생한 것은 이번이 두 번째이며, ChatGPT 사용자들도 작년 8월에 유사한 문제를 경험했습니다.

챗봇을 사용하기로 했다면 개인 정보나 사적인 정보, 특히 건강 정보와 같은 매우 민감한 데이터는 절대 공유하지 마세요. 인공지능은 의심할 여지 없이 우리 삶의 일부가 되었고 많은 사람들이 유용하게 사용하고 있지만, 개인 정보 보호를 중요하게 생각한다면 이러한 도구는 당신의 이익을 진정으로 대변하지 않습니다.