ChatGPT 개인 대화가 법정 소송으로 이어지는 사례가 늘고 있습니다. 자신을 보호하기 위해 알아야 할 사항은 다음과 같습니다.

사람들이 ChatGPT와 같은 AI 기반 챗봇을 신뢰하고 민감한 개인 정보를 공유하는 사례가 점점 늘어나고 있습니다. 어떤 사람들은 관계 분석을 위해, 또 어떤 사람들은 민감한 메시지나 업무 관련 문서를 논의하기 위해 챗봇을 이용합니다. 심지어 의료 진단을 위해 이러한 서비스를 찾는 사람들도 많습니다. 한 연구에 따르면 이러한 긴밀한 관계는 정서적 애착으로 이어질 수도 있는데 , 이는 새로운 문제점을 야기합니다. 바로 ChatGPT와의 사적인 대화가 법적으로 보호받지 못할 수도 있다는 점입니다.

워싱턴 포스트는 공개 기록과 지역 보고서를 검토한 결과 , 지난 2년간 챗봇 대화 내용이 민사 및 형사 소송 12건에 증거로 사용된 것을 확인했습니다. 하지만 수사관과 소송 당사자들이 수집한 모든 증거를 법정에 제출할 의무가 없기 때문에 실제 수치는 훨씬 더 높을 수 있습니다.

ChatGPT 대화가 어떻게 추적 가능한 디지털 발자국으로 변환되는지

구글 검색을 통해 원하는 정보를 얻을 수도 있지만, ChatGPT와의 긴 대화는 훨씬 더 깊은 통찰력을 제공할 수 있습니다. ChatGPT에 질문을 입력하면 보통 그 대화에는 배경 이야기와 해석이 담겨 있습니다. 워싱턴 포스트와 인터뷰한 한 법률 전문가는 챗봇 로그가 놀라울 정도로 많은 것을 드러낸다고 설명했는데, 그 이유는 챗봇과의 주고받는 모든 상호작용을 통해 개인의 사고 과정이 위험할 정도로 명확하게 드러나기 때문입니다.

미주리주에서 발생한 한 형사 사건에서, 용의자는 차량 17대를 파손한 혐의로 기소된 후 경찰의 휴대전화 수색에 응했습니다. 경찰은 용의자가 사건 직전 ChatGPT에 수사관들이 자신의 책임 여부를 판단할 수 있는지 문의한 사실을 발견했습니다. 이 발언들은 이후 증거로 제시되었고, 용의자는 결국 재물손괴 혐의에 대해 유죄를 인정했습니다. (더 포스트 보도)

민사 소송은 또 다른 가능성을 열어줍니다. 소송 초기 단계에서 디지털 기기와 기록을 검색하여 관련 증거를 찾을 수 있습니다. 한 직장 분쟁에서는 삭제된 이메일을 복구하는 것에 대한 ChatGPT 대화 내용이 증거 은폐를 위한 근거로 사용되었습니다. ChatGPT와 대화했다는 사실만으로 위험에 처하는 것은 아니지만, 휴대전화나 컴퓨터에 저장된 증거가 소송에서 불리하게 작용할 수 있습니다.

개인정보 보호가 법적 면책을 의미하는 것은 아닙니다.

법률 자문을 구할 때 변호사와 의뢰인 간의 비밀 유지 특권이 적용된다고 생각할 수 있고, 의료 기록을 보유한 의사와도 유사한 비밀 유지 의무가 있다고 생각할 수 있습니다. 하지만 안타깝게도 이러한 원칙은 AI 기반 챗봇에는 적용되지 않습니다. 오픈AI의 CEO 샘 알트만은 민감한 AI와의 대화도 결국 의사나 변호사와의 소통과 같은 수준의 보호를 받아야 한다고 주장했지만, 법원은 아직 이에 동의하지 않고 있습니다.

지난 2월, 연방 판사는 한 임원이 변호사-의뢰인 면책 특권을 이용해 클로드 와의 대화 내용을 검찰로부터 보호하려는 시도를 기각했습니다. 판사는 클로드가 변호사가 아니며, 해당 대화가 변호사의 지시에 따라 이루어진 것이 아니라는 점을 근거로 들었습니다. 오픈AI는 이러한 법적 한계를 인지하고 있으며, 현재 회사 정책에 따라 적법한 법적 절차를 통해 정보를 보관해야 할 의무가 발생할 수 있다고 명시하고 있습니다. 2025년 하반기에만 오픈AI는 정부로부터 75건의 자료 제출 요청을 받았고, 그중 62건에 대해 데이터를 공개했으며, 공개된 데이터는 총 84개 계정에 관한 것이었습니다.

일시적인 대화도 안전하지 않습니다.

OpenAI에서는 개별 채팅을 삭제할 수 있으며, 임시 채팅 기능은 대화를 일반 기록에서 제외하고 30일 후 자동으로 삭제합니다. 하지만 이는 완전히 정확한 설명은 아닙니다. OpenAI는 보안이나 법적 이유로 필요한 경우, 예를 들어 법적 소환장을 받은 경우 정보가 더 오래 보관될 수 있다고 명시적으로 밝히고 있습니다.

따라서 상황에 따라 해당 정보가 사법 당국의 손에 넘어갈 수 있습니다. 단순히 대화를 삭제한다고 해서 모든 흔적이 사라지는 것은 아닙니다. 그렇다고 모든 ChatGPT 사용자가 법적 위험에 처해 있다는 의미는 아닙니다. 하지만 매우 민감하거나 기밀 정보가 포함된 대화를 AI 와 나누기 전에 다시 한번 생각해 보는 것이 좋습니다.