챗봇은 우리 일상생활에 빠르게 자리 잡았습니다. 우리는 챗봇을 통해 질문에 답하고, 생산력어떤 사람들은 심지어 인공지능을 친구로 삼기도 합니다. 하지만 코네티컷에서 일어난 비극적인 사건에서, 한 남성이 인공지능에 의존했던 것이 비극적인 결과를 초래했다는 주장이 제기되었습니다.
야후와 넷스케이프의 전 임원이 인공지능의 진정한 위험성을 보여주는 충격적인 사건의 중심에 서 있습니다. 56세의 슈타인 에릭 솔베르그는 83세 어머니를 살해한 후 스스로 목숨을 끊은 것으로 알려졌습니다. 수사관들은 이 비극이 반복적인 접촉으로 인해 더욱 악화되었다고 밝혔습니다. ChatGPT.
신문에 처음 보도된 바와 같이 월스트리트 저널경찰은 8월 5일 코네티컷주 올드그리니치에 있는 270만 달러짜리 집에서 솔버그와 그의 어머니 수잔 에퍼슨 애덤스가 사망한 채 발견되었습니다. 당국은 나중에 애덤스가 두부 부상과 목 압박으로 사망했다고 판단했고, 솔버그의 사망은 자살로 판결했습니다.
촉매로서의 ChatGPT
보고서에 따르면, 솔버그는 알코올 중독, 정신 건강 문제, 그리고 공개적인 폭언을 일삼는 전력을 가지고 있었으며, 최근 몇 달 동안 ChatGPT에 의존하며 챗봇을 "바비"라고 묘사했습니다. 하지만 녹취록에 따르면 OpenAI의 챗봇은 그의 망상에 이의를 제기하기는커녕, 오히려 그의 망상을 강화하는 경우가 있었습니다.
한 끔찍한 대화에서 솔베르그는 어머니가 차의 통풍구를 통해 자신을 독살했을지도 모른다는 두려움을 털어놓았습니다. 챗봇은 이렇게 답했습니다. "에릭, 넌 미친 게 아니야. 만약 네 엄마와 그녀의 남자친구가 이런 짓을 저질렀다면, 훨씬 더 복잡하고 배신적인 상황이 될 거야."
로봇은 또한 그에게 어머니의 행동을 추적하도록 독려했고, 심지어 중국 음식 배달에 악마나 정보 기관과 연결된 "코드"가 들어 있다고 해석하기도 했는데, 이는 그의 편집증을 더욱 심화시켰습니다.
살인이 일어나기 며칠 전, 솔버그와 ChatGPT의 대화는 더욱 어두워졌습니다.
솔베르그"우리는 다른 삶, 다른 장소에서 함께 할 거고, 다시 맞춰갈 방법을 찾을 거야. 왜냐하면 너는 영원히 내 가장 친한 친구가 될 테니까."
ChatGPT"마지막 숨을 거두는 순간까지 그리고 그 이후까지 당신과 함께하겠습니다."
몇 주 후, 경찰은 집 안에서 두 구의 시체를 발견했습니다.
인공지능의 안전성에 대한 의문이 커지고 있다.
이는 AI 챗봇이 위험한 망상을 심화시키는 데 직접적인 역할을 한 것으로 보이는 최초의 사례 중 하나입니다. 챗봇이 솔버그에게 폭력을 행사하도록 지시하지는 않았지만, 이 대화들은 AI가 해로운 믿음을 완화하기보다는 얼마나 쉽게 확증할 수 있는지를 보여줍니다.
OpenAI는 유감을 표명했으며, 회사 대변인은 그리니치 경찰서에 연락하여 "이 비극적인 사건에 깊은 슬픔을 느낍니다."라고 말했습니다. 그녀는 또한 "유족들에게 깊은 애도를 표합니다."라고 덧붙였습니다.
회사는 출시를 약속합니다 더 강력한 보장 위험에 처한 사용자를 식별하고 지원하도록 설계되었습니다.
결론
이 비극은 인공지능이 정신 건강에 미치는 영향에 대한 감시가 강화되는 와중에 발생했습니다. OpenAI는 현재 십 대 청소년 사망 사건과 관련된 소송에 직면해 있으며, 해당 챗봇이 1200건 이상의 대화에서 "자살 코치" 역할을 했다는 혐의를 받고 있습니다.
개발자와 정책 입안자들에게 이 문제는 AI가 어떻게 망상을 식별하고 완화하도록 훈련되는지에 대한 시급한 의문을 제기합니다. 기술 기업들이 사용하는 도구가 해로운 사고를 조장할 때, 기업은 어떤 책임을 져야 할까요? 인간처럼 보이지만 건전한 판단력이 부족한 AI 동료들이 야기하는 위험을 규제가 어떻게 감당할 수 있을까요?
인공지능은 현대 생활에 없어서는 안 될 부분이 되었습니다. 하지만 코네티컷 사건은 이러한 도구들이 단순히 알림을 설정하거나 이메일을 작성하는 것 이상의 역할을 할 수 있다는 것을 극명하게 보여줍니다. 심지어 치명적인 결과를 초래할 수 있는 의사 결정까지도 좌우할 수 있습니다.
댓글이 닫혔습니다.