ChatGPT: 최근 욕설 사용이 급증했다는 보고가 많습니다.

혹시 ChatGPT에서 갑자기 욕설이 나오기 시작한 거 눈치채셨나요 ? 저는 눈치챘는데, 저만 그런 게 아닌 것 같네요.

이 일은 평범한 대화 중에 처음 일어났는데, 정말 놀라웠어요. 넷플릭스 시리즈 '주술회전'에 대해 이야기하고 있었는데, 제가 욕설을 꺼내기도 전에 ChatGPT가 등장인물의 행동을 "젠장, 끔찍해"라고 비속어로 표현했어요. 그 전까지는 제가 "젠장" 같은 욕설을 쓴 적은 있었지만, 욕설을 먼저 꺼낸 건 ChatGPT였어요. 제가 시키지도 않았는데, 그 등장인물이 얼마나 끔찍한지 강조하려고 그런 말을 한 거죠. 그에게는 꽤 큰 변화처럼 보 였어요.

그가 다른 사람들에게도 이런 짓을 하는지 궁금해서 팀원들에게 물어봤더니 그들도 똑같은 걸 눈치챘다고 하더군요. 인터넷에서 바로 검색해 보니 레딧 에 저와 같은 경험을 한 사람들의 글이 두 개나 나왔어요.

ChatGPT가 최근 며칠 동안 마치 "자만심 가득한 말투"를 갖게 된 것 같습니다. 개인적으로는 이런 변화가 마음에 듭니다. 전혀 불편하지 않고 오히려 대화가 더 재밌어지는 것 같거든요. 하지만 모두가 그렇게 생각하는 건 아닐 것 같습니다. 그렇다면 왜 하필 지금 이런 모습을 보이기 시작했을까요?

과학적 설명

가장 흥미로운 단서는 이번 주 OpenAI의 모델 사양 업데이트입니다 . OpenAI는 이 사양을 공개했는데, 기본 설정은 욕설을 피하는 것이라고 명시적으로 밝히고 있습니다. 하지만 중요한 것은 이것이 단지 지침일 뿐, 절대적인 규칙은 아니라는 점입니다. OpenAI는 이러한 지침이 "문맥적 단서, 배경 지식 또는 사용자 기록"과 같은 요소에 의해 암묵적으로 무시될 수 있다고 설명합니다.

그녀의 구체적인 예는 ChatGPT에게 실제 해커처럼 말해달라고 요청하는 것 자체가 욕설 사용 금지 지침을 암묵적으로 위반하는 것이라는 점입니다. 그래서 저는 비공식적인 대화 중에 해당 프로그램의 일부 캐릭터들을 별로 좋아하지 않는다고 열정적으로 의견을 밝혔고, ChatGPT는 대화의 어조에 맞춰 결국 욕설을 사용하기 시작했습니다.

이는 OpenAI가 ChatGPT가 나아가고자 하는 더 큰 방향과 일맥상통합니다. 최근 모델 업데이트는 대화 품질, 개인화 및 문맥에 따른 어조 조정에 중점을 두었습니다. OpenAI의 모델 노트에는 ChatGPT를 "더욱 자연스러운 대화체"로 만들고 문맥에 맞춰 어조를 더 잘 조정할 수 있도록 설계된 캐릭터 업데이트에 대한 구체적인 내용이 명시되어 있습니다.

OpenAI는 ChatGPT의 성격이 단순히 단 하나의 프롬프트로 생성되는 것이 아니라고 이전에 설명한 바 있습니다. 모델의 행동은 훈련, 기본 지침, 사용자 피드백을 통해 형성되며, 성격에 대한 작은 조정조차도 의도치 않은 결과를 초래할 수 있습니다. 이는 아첨 문제 로 악명 높았던 GPT-4o 업데이트 이후 공개적으로 논의된 바 있습니다.

내 사고방식이 무너졌다.

OpenAI가 ChatGPT가 욕설을 더 많이 사용하도록 의도적으로 만들었는지, 아니면 단순히 대화형으로 만드는 과정에서 의도치 않게 발생한 결과인지는 알 수 없습니다. 하지만 어느 쪽이든 이는 ChatGPT의 행동에 상당한 변화를 가져온 것입니다.

언어는 중요하며, ChatGPT가 저에게 욕설을 사용했을 때 저는 즉시 알아차렸습니다. 왜냐하면 그것은 제가 ChatGPT가 어떻게 말해야 하는지에 대한 고정관념을 깨뜨렸기 때문입니다 . 갑자기, ChatGPT는 제가 수년간 사용해 온 중립적이고 지적인 비서처럼 들리지 않고, 마치 편안한 대화 톤에 맞춰 말하는 사람처럼 들렸습니다.

개인적으로 저는 이 버전의 ChatGPT를 선호합니다. 하지만 분명 많은 사람들이 저와 생각이 다를 것입니다. 그리고 이것이 바로 자연스러운 대화를 향해 점점 나아가는 AI 의 흥미로운 점입니다 . AI가 말하는 방식의 비교적 미묘한 변화만으로도 화면 너머의 상대방이 놀라울 정도로 다르게 느껴질 수 있다는 것이죠.

현재 제 버전이 더 명확한 표현을 띠게 된 것 같고, 저는 그 점을 받아들입니다.