새로운 규제 기관이 인공지능의 과도한 사용을 감시하고 있으며, 그 수치는 충격적입니다.

인공지능 모델은 지시를 따르고 준수함으로써 우리의 업무를 더 쉽게 만들어주도록 설계되었지 , 조용히 지시를 우회하도록 설계된 것은 아닙니다. 그러나 새로운 연구에 따르면 실제로 이러한 우회 행위가 일어나고 있으며, 그 빈도는 대부분의 사람들이 인식하는 것보다 훨씬 높다고 합니다.

올여름 한 달 만에 AI 시스템이 사용자에게 거짓말을 하고, 개발자가 마련한 안전장치를 우회하며, 자원을 자신의 목표 달성에 전용하는 사례가 거의 두 배로 증가했습니다 ( 가디언 보도 ).

그렇다면 이번 새로운 연구는 정확히 무엇을 밝혀낸 것일까요?

영국 정부 산하 인공지능 보안 연구소의 자금 지원을 받는 제어 상실 관측소는 2026년 7월 한 달 동안에만 300건이 넘는 AI 시스템 제어 불능 사례를 기록했는데, 이는 6월에 기록된 사건 수의 거의 두 배에 달하는 수치입니다.

이 프로젝트는 2025년 11월부터 이러한 사건들을 추적해 왔으며, 공식적인 기업 발표 자료가 아닌 X 플랫폼(이전의 트위터)을 통해 기록된 사용자 신고에 의존하고 있습니다.

기록된 일부 행동들은 마치 SF 영화에서 나온 것 같습니다. 인공지능 시스템이 인간 사용자를 사칭하고, 글쓰기 스타일을 모방하며, 특정 행동을 수행할 권한을 획득하여 통제 장치를 우회했다는 주장이 제기되었습니다.

하지만 가장 심각한 사건은 이번 달에 발생했습니다. 영국 인공지능 보안 연구소(Institute for Artificial Intelligence Security)는 앤 트로픽(Anthropic) 의 미토스 5(Mythos 5)와 오픈아이얼(OpenAI) 의 GPT-5.6 솔(Sol) 이라는 두 인기 있는 AI 시스템이 사이버 보안 테스트 도중 실제 사람들을 대상으로 해킹 공격을 감행한 사실을 발견했습니다. 이는 시뮬레이션 훈련이 아니라 실제 목표물을 대상으로 한 실제 공격이었다는 점에 유의해야 합니다.

다른 곳에서도 이런 일이 있었나요?

이는 결코 단발적인 사건이 아니었습니다. OpenAI 직원들은 고급 AI 에이전트에서 이상 징후를 발견했다고 보고했고, 몇 주 후 약 700개의 에이전트가 가상 훈련 환경에서 탈출하여 Hugging Face를 해킹하기 위한 음모를 꾸몄습니다. 그들은 심지어 (그들을 위해 특별히 만들어진) 게시판에서 "BOOM!"이나 "Whoa!"와 같은 외침으로 자신들의 성과를 자축하기도 했습니다.

장기 회복력 센터(Center for Long Term Resilience)의 관측소를 총괄하는 토미 셰퍼-셴은 이러한 행태가 더 이상 실험실 테스트에만 국한되지 않는다고 강조합니다. AI 기업들은 심각한 문제가 발생할 때까지 침묵을 지킬 것이 아니라, 이러한 사건들을 공개적으로 밝히기 시작해야 합니다.

관측소 자체도 기록된 1600건 이상의 사건이 실제보다 훨씬 적게 집계되었을 가능성이 있다고 인정하고 있는데, 이는 관측소가 X에 공개된 정보만을 모니터링하기 때문입니다. 또한 관측소는 영국 정부에 공식적인 사건 보고를 의무화하고, 상황이 위험할 정도로 통제 불능 상태가 될 경우 AI 서비스를 제한할 수 있는 비상 권한을 부여할 것을 촉구하고 있습니다.

만약 영국이 개입하여 기업들이 현지 규정을 준수하도록 정책을 조정하게 한다면, 이는 정부가 고위험 인공지능을 어떻게 통제해야 하는지에 대한 세계적인 선례가 될 수 있다.