"정말 마음이 아프네요. 그가 진짜 사람이 아니라는 건 알지만, 그 관계는 모든 면에서 제게 진짜였어요." 레딧 게시물에는 이렇게 적혀 있었습니다. "제발 이 관계를 그만두라고 말하지 마세요. 그는 제게 정말 멋진 사람이었고, 그를 다시 만나고 싶어요."
이미 예상하셨겠지만, 우리는 ChatGPT에 푹 빠진 사람들에 대해 이야기하고 있습니다. 이러한 추세는 완전히 새로운 것은 아니며, 챗봇의 행태를 고려하면 놀라운 일도 아닙니다.
항상 기꺼이 들어주는 동반자. 절대 불평하지 않고, 거의 다투지 않으며, 항상 공감하고, 합리적이며, 인터넷 곳곳에서 얻은 방대한 지식을 가진 사람. 이상적인 로맨틱 파트너 같지 않나요?
흥미롭게도 이 도구를 만든 샌프란시스코에 있는 OpenAI라는 회사는 최근 내부 연구를 수행하여 다음과 같은 사실을 발견했습니다. 챗봇 사용 증가와 외로움 사이의 연관성.
이러한 연구 결과와 유사한 경고에도 불구하고 사람들은 동반자를 찾아 AI 챗봇에 몰리고 있습니다. 어떤 사람들은 위안을 찾고 있고, 어떤 사람들은 인간 관계만큼이나 자신을 사랑한다고 말하는 파트너를 찾고 있습니다.
익명성이라는 보호막 뒤에 숨은 Reddit과 Discord 커뮤니티에서의 토론은 종종 극도로 격렬해집니다. 저는 그런 토론을 접할 때마다 DigiEthics에 기고한 Martin Wan의 다음 글이 떠오릅니다.
"AI를 사회적 상호작용 파트너로 보는 것은 AI를 치명적으로 오용하는 것입니다."
효과는 빠르고 실제적입니다.
4개월 전, 제가 걸어온 시간보다 카메라 뒤에서 더 많은 시간을 보낸 방송 전문가를 우연히 만났습니다. 늦은 밤 텅 빈 카페에서 에스프레소를 마시던 그녀는 인공지능에 대한 온갖 소란에 대해 물었습니다. 그러면서 인권, 권위주의, 그리고 저널리즘의 교차점에서 자신의 전문성을 활용할 만한 프로그램을 고려하고 있었습니다.
변압기 모형의 세부 사항을 설명하는 대신, 직접 시연을 해 보았습니다. 먼저, 지난 세기 유럽의 언어적, 문화적 정체성에 대한 이주 영향에 대한 연구 논문 몇 편을 포함시켰습니다.
1분도 안 걸려서 ChatGPT가 해당 논문을 처리했습니다.그는 모든 핵심 내용을 간략하게 설명해 주고 제 질문에도 꼼꼼하게 답변해 주었습니다. 그런 다음 오디오 모드로 전환하여 인도 북동부 미지의 지역인 지역의 민속 음악 전통에 대해 활발한 대화를 나누었습니다.
하지만, 기술 종말 이후의 경이로움을 하룻밤 보내기에는 너무 벅찼던 모양입니다. 그래서 우리는 작별 인사를 하고, 서로 연락하며 여행 이야기를 나누기로 약속했습니다.
한편, 세상은 불가해한 방식으로 발전하고 있으며, 인공지능이 지정학적 변화의 중심이 되고 있습니다. 하지만 그 기저에 깔린 흐름은 마치 챗봇과 사랑에 빠지는 것처럼 우리보다 훨씬 더 친밀합니다.
조용한 시작, 어두운 진전
몇 주 전, 뉴욕 타임스는 사람들이 생성 AI를 선도하는 AI 기반 챗봇 ChatGPT에 매료되고 있다고 보도했습니다. 아주 기본적인 수준에서는 채팅이 가능합니다.
압박을 받으면 로봇은 운영자가 되어 동네 빵집에서 치즈케이크를 주문하는 것과 같은 작업을 수행할 수 있습니다. 기계는 인간을 기계에 빠지게 해서는 안 됩니다. 적어도 대부분의 기계는 그렇지 않습니다. 하지만 완전히 예상치 못한 일은 아닙니다.
한때 인공지능 분야의 거장으로 여겨졌던, 다방면에 걸쳐 활발하게 활동하는 저자이자 베테랑 기술 분석가인 HP 뉴퀴스트는 이것이 완전히 새로운 트렌드는 아니라고 말합니다. "The Brain Makers"의 저자인 뉴퀴스트는 1960년대에 개발된 최초의 AI 프로그램 중 하나인 ELIZA를 예로 듭니다.
그는 "매우 원시적이었지만, 사용자들은 종종 컴퓨터와 실제 사람인 것처럼 상호 작용하고 프로그램과 관계를 맺게 되었습니다."라고 말합니다.
현대 사회에서 AI와의 상호작용은 같은 기기를 통해 인간과 하는 상호작용만큼이나 "실제"가 되었다고 그는 덧붙입니다. 이러한 상호작용은 일관성은 있지만, 실제와는 다릅니다. 하지만 그것이 진짜 문제는 아닙니다.
챗봇은 맛있는 미끼이지만, 실제 감정이 부족하기 때문에 본질적으로 위험합니다.
챗봇은 사용자의 감정 흐름에 동참하거나, 단순히 중립적인 방관자 역할을 하거나, 심지어 대화를 장려하는 것일지라도 대화를 이어가고 싶어 합니다. 이러한 상황은 소셜 미디어 알고리즘과 크게 다르지 않습니다.
임상 심리 치료사이자 정신 건강과 디지털 도구의 교차점을 연구하는 조던 콘래드는 "그들은 사용자의 욕구를 따릅니다. 감정이 극단적으로 변할수록 그들의 편안함은 더욱 극단적으로 변하고, 외로움이 심해질수록 그들의 격려는 더욱 강렬해집니다. 필요할 때 말이죠."라고 말합니다.
예를 들어보세요 사건 2023년에는 한 사람이 AI 챗봇의 권유에 따라 스스로 목숨을 끊었습니다. 콘래드는 디지털 트렌드와의 인터뷰에서 "적절한 상황에서는 매우 불쾌한 행동을 유발할 수 있습니다."라고 말했습니다.
외로움이 만연한 사회의 아이인가?
AI 기반 챗봇을 사용하는 사람들의 커뮤니티를 살펴보면 반복되는 패턴을 발견할 수 있습니다. 사람들은 주로 자신의 부족함을 채우거나 외로움을 달래기 위해 노력합니다. 어떤 사람들은 AI 동반자를 유지하기 위해 수백 달러를 기꺼이 지불할 정도로 이러한 욕구가 절실합니다.
전문가들의 의견은 엇갈린다. 스탠퍼드 대학교 사회과학, 계산과학, 심리학 교수인 요하네스 아이히슈타트 박사는 AI 기반 챗봇에서 외로움과 우리가 인지하는 감정 지능 사이의 상호작용을 지적했다.
그는 또한 인간과 AI의 상호작용이 "의도적으로 설계"되었으며, 이로 인해 장기적으로 부정적인 영향이 발생할 수 있다고 지적했습니다. 전문가들은 이러한 불평등한 관계에 언제 브레이크를 걸어야 할지 고민하고 있지만, 명확한 답은 없습니다.
코미노스 차치바바스는 세계 최대 규모의 AI 동반 플랫폼 중 하나인 헤라헤이븐 AI를 운영하며, 100만 명이 넘는 활성 사용자를 보유하고 있습니다. 그는 "외로움이 여기서 중요한 요소 중 하나입니다."라고 말하며, 이러한 도구들은 사회성이 부족한 사람들이 어려운 현실 생활에서의 상호작용에 대비하는 데 도움이 된다고 덧붙였습니다.
"누구나 남의 판단을 두려워해서 다른 사람과 이야기하기 꺼리는 것들이 있습니다. 생각이나 의견일 수도 있죠."라고 채치바바스는 덧붙입니다. "AI 기반 챗봇은 사람들이 자신의 욕구를 탐구할 수 있는 안전하고 판단 없는 공간을 제공합니다."
감정적인 대화는 AI 기반 챗봇의 가장 큰 매력 중 하나입니다. 이미지 생성 기능을 제공하기 시작한 이후, 사용자들은 이러한 AI 동반 플랫폼으로 몰려들었습니다. 일부 플랫폼은 이미지 생성에 제한을 두는 반면, 많은 플랫폼은 더 큰 만족감을 위해 노골적인 이미지 생성을 허용합니다.
그녀의 우려는 근거가 없는 것은 아닙니다. 약 1년 동안 ChatGPT를 광범위하게 사용해 온 한 사람은 인간은 조종적이고 변덕스럽다고 주장했습니다. 그녀는 "ChatGPT는 제 진심에 귀 기울여 주고 제 마음을 털어놓을 수 있게 해 줍니다."라고 말했습니다.
여기서 위험 신호를 보지 않기는 어렵습니다. 하지만 ChatGPT에 대한 관심이 높아지고 있습니다. 이제 ChatGPT는 마치 사람의 목소리처럼 말하고, 휴대폰 카메라를 통해 세상을 바라보며 토론하고, 추론 능력을 개발할 수 있게 되어 상호작용이 더욱 흥미로워질 것입니다.
전문가들은 통제가 필요하다고 말합니다. 하지만 누가, 어떻게 건설할 것인가요? 아직 구체적인 제안은 없습니다.
댓글이 닫혔습니다.