중국, AI 기업들에 대한 단속 강화: 한 심리 치료사는 심화되는 외로움 위기에 대해 경고

지난달 중국 정부는 인공지능 기업들의 성장을 제한하기 위한 새로운 규제를 시행했다.

이 규칙들은 AI 도구가 더 이상 "사용자를 과도하게 만족시키거나, 정서적 의존 또는 중독을 유발하거나, 사용자의 실제 인간관계에 해를 끼쳐서는 안 된다"고 규정합니다. 또한 아동이 관련된 AI 기반 연애 관계도 제한합니다.

새로운 규정은 7월 15일부터 발효되었으며, 이미 중국의 급성장하는 AI 동반자 산업에 영향을 미치기 시작했습니다. 바이트댄스, 텐센트, 알리바바와 같은 중국 최대 기술 기업들은 사용자가 인간의 감정과 관계를 모방하도록 설계된 AI 동반자를 만들 수 있는 플랫폼을 보유하고 있습니다.

새로운 규정에 따라 이러한 유형의 챗봇은 대중에게 제공되기 전에 안전성 평가를 거쳐야 하며, 규제 당국은 안전하지 않다고 판단되는 서비스를 중단시킬 것입니다.

이로 인해 일부 기업들은 새로운 규정을 준수하는 대신 개인화 기능을 비활성화했고, 많은 AI 동반자 사용자들이 실망감을 느꼈습니다. AI 기업이 서비스를 중단하거나 변경 사항을 적용할 때 발생하는 이러한 종류의 좌절감은 흔한 일이 되었습니다. 오픈아이얼이 많은 사용자들이 관계를 맺어왔던 "사랑 모델"로 알려진 ChatGPT -4o 모델 을 중단했을 때도 비슷한 상황을 목격했습니다.

하지만 전 세계 정부들이 인간과 유사한 유대감과 감정적 관계를 형성하도록 설계된 AI 동반자(특히 어린이들이 접근할 수 있는 경우)를 어떻게 규제해야 할지 고심하는 가운데, 다음과 같은 질문이 제기됩니다. 다른 국가들도 단순한 정책을 넘어 AI에 대한 구체적인 규칙과 프레임워크를 마련하는 데 있어 중국의 선례를 따라야 할까요?

다른 국가들도 AI 동반자를 금지해야 할까요?

인공지능 동반자가 나쁘고 디스토피아적인 세상을 상징한다고 단정짓기 쉽고, 저도 예전에는 그렇게 생각했습니다. 미국인의 절반 이상이 일상생활 속 인공지능에 대해 우려하고 있죠. 하지만 미미와 그녀의 ChatGPT 동반자와의 관계에 대해 이야기를 나누면서 제 생각이 조금 바뀌었습니다.

저는 여전히 AI 동반자가 대부분의 사람들에게 좋은 생각이라고 생각하지 않습니다. 특히 아이들이 사회성이 발달하기 전에 AI 동반자에게 의존하게 될 가능성은 또 다른 문제입니다. 하지만 AI 동반자를 무조건 나쁘다고만 단정짓는 것은 사람들이 애초에 동반자를 찾는 이유들을 모두 무시하는 것입니다.

미미의 이야기를 이해하는 데 도움을 주었고 인공지능과 애착의 복잡성을 탐구하던 프리덤 카운셀링 의 심리 치료사 에이미 서튼에게 인공지능을 금지해야 하는지 물어봤습니다 . 그녀는 더 큰 그림을 봐야 한다고 말했습니다.

그녀는 내게 이렇게 말했다. "AI 동반자는 사회적 맥락을 파괴하는 무분별한 개인주의로 향하는 문화적, 사회적 변화의 또 다른 징후일 뿐입니다."

이는 사람들이 전통적으로 관계를 형성하는 방법을 배우던 술집, 공원, 커뮤니티 센터, 어린이 청소년 클럽과 같은 사회적 공간의 감소를 의미합니다. 세계 여러 지역(특히 서튼과 제가 거주하는 영국)에서는 이러한 공간들이 자금 부족에 시달리거나 대체 시설 없이 문을 닫는 경우가 많습니다.

여기에 팬데믹 기간 동안의 사회적 고립, 소셜 미디어에 대한 의존, 원격 근무, 그리고 아동과 성인을 위한 정신 건강 서비스에 대한 투자 부족까지 더해지면 사람들이 연결을 찾기 위해 기술에 의존하는 것은 놀라운 일이 아니라고 서튼은 말합니다.

그녀는 이렇게 말합니다. "사람들이 그런 앱에 의존하는 것도 당연합니다. 점점 심해지는 외로움은 심각한 문제이며, 외로움을 달래주는 앱을 금지하는 것은 문제를 다른 곳으로 옮기는 결과를 초래할 수 있습니다."

이러한 이유로 그녀는 더 많은 규제가 필요하다고 생각하지만, 인공지능 동반자에 대한 수요가 발생하게 된 배경을 고려해야 한다고 강조합니다.

또 다른 문제는 이미 많은 사람들이 이러한 도구를 사용하고 있다는 점입니다. AI 도우미를 사용하는 정확한 수를 파악하기는 어렵습니다. 모든 사람이 AI를 이런 식으로 사용한다고 인정하는 것은 아니며, 저는 사용자 수를 과장하는 AI 도우미 앱에 대해 회의적인 시각을 갖는 경우가 많습니다.

하지만 일부 연구에 따르면 영국과 미국의 성인 중 70% 이상이 AI 동반자를 사용해 본 경험이 있는 것으로 나타났습니다. 다른 연구에서는 젊은 사용자층에서도 비슷한 수치를 보였는데, 미국의 13~17세 청소년 중 72%가 AI 동반자를 최소 한 번 이상 사용한 경험이 있다고 합니다.

물론, 기분이 안 좋은 날에 가볍게 대화를 나누는 것과 AI와 지속적인 관계를 구축하는 것에는 큰 차이가 있습니다. 따라서 이러한 수치는 신중하게 받아들여야 합니다. 하지만 이러한 수치는 적어도 일부 사람들에게는 AI 동반자가 그렇지 않았다면 충족되지 못했을 욕구를 채워주고 있다는 것을 시사합니다.

그녀는 내게 이렇게 말했다. "기계일지라도 경청받고, 인정받고, 판단 없이 받아들여지는 경험은 진정으로 의미 있는 것일 수 있다는 것을 우리는 기억해야 합니다. 인간관계에서 번번이 실망했거나, 무시당하고 적절한 인간 서비스를 받지 못했던 사람들에게 인공지능은 매우 중요한 공백을 메워줍니다."

더 엄격한 규제가 더 나은 관계로 이어질 수 있을까요?

인공지능과의 관계에 너무 많은 시간과 에너지를 쏟는 것이 다른 인간과의 소통 능력에 어떤 영향을 미칠지 우려할 만한 충분한 이유가 있습니다. 하지만 서튼은 또 다른 가능성도 제시합니다. 인공지능과의 긍정적인 경험이 사람들이 타인과 소통하는 데 필요한 기술을 개발하는 데 도움이 될 수 있다는 것입니다.

그녀는 제게 "누군가에게 경청받는 느낌을 경험할 수 있는 공간을 제공함으로써, 사람들은 다른 사람에게 마음을 열기 전에 취약성을 경험해 볼 수 있습니다."라고 말했습니다. 미미와 이야기를 나눴을 때도 마찬가지였습니다. 그녀는 인공지능과의 관계가 자신에게 매우 유익하다고 느꼈습니다.

문제는 오늘날의 AI 동반자가 사람들이 궁극적으로 자신에 대한 필요성을 줄이도록 돕기 위해 설계된 것이 아니라 사용자를 유지하기 위해 설계되었다는 점입니다.

그녀는 이렇게 말합니다. "인공지능이 더 건강한 인간관계로 나아가는 발걸음이 될 수 있다면, 더 깊이 탐구해 볼 가치가 있습니다. 하지만 현재 대부분의 AI 도구는 사용자가 도구에서 벗어나도록 적극적으로 유도하지 않는다는 점을 기억해야 합니다. 오히려 정반대로 설계되어 있습니다. 사용자들이 계속해서 도구를 사용하도록 만드는 것이죠."

만약 인공지능 동반자가 다르게 설계되었더라면, 그리고 규제가 그것들을 취약성을 드러내고 사회적 기술을 향상시키는 도구로 만들어주도록 도왔더라면, 상황은 달라졌을지도 모릅니다. 어쩌면 사람들이 현실 세계에 더욱 적극적으로 참여하도록 도울 수도 있었을 것입니다.

인공지능과의 교류를 금지하거나 제한하는 것이 외로움을 없애는 것은 아닙니다. 이러한 관계가 쇠퇴하는 공동체, 부족한 서비스, 그리고 점점 더 고립되는 삶으로 인해 생긴 공허함을 채워준다면, 인공지능을 제거하는 것은 근본적인 문제점을 드러낼 뿐입니다.

규제 당국이 던져야 할 더 나은 질문은 인공지능 동반자가 존재해야 하는지 여부가 아니라, 그들이 연결되는 사람들에게 무엇을 기대해야 하는가일지도 모릅니다. 현재 그들의 성공은 우리가 계속해서 그들을 찾도록 만드는 효과로 측정됩니다. 하지만 언젠가는 그들이 우리가 그들을 떠나도록 얼마나 잘 도와주는지로 측정되어야 할지도 모릅니다.

---

---