앤트로픽이 스스로 발전하는 AI 프로토타입을 공개했습니다.

앤스로픽은 오랫동안 인공지능 시스템이 궁극적으로 스스로를 더 나은 버전으로 만들어낼 것이라고 이야기해 왔습니다. 그들의 최신 연구는 그러한 시스템의 초기 단계가 어떤 모습일지 보여줍니다.

회사는 클로드 소네트에게 더욱 견고한 클로드 오푸스 4.8 모델의 초기 버전을 제공하고 모델의 동작 방식을 개선해 줄 것을 요청했습니다 . 소네트는 약 60시간에 걸쳐 50가지가 넘는 아이디어를 테스트한 후, 약 2400개의 예제를 사용하는 학습 방법을 개발했습니다.

이러한 결과 덕분에 Anthropic이 테스트 중이던 10가지 행동 문제 전반에 걸쳐 Opus 초기 버전이 최종 Opus 4.8 모델에 훨씬 더 가까워졌습니다.

클로드는 이제 다른 인공지능보다 더 나은 성능을 보여줄 수 있을까요?

기본적으로는 그렇지만, 제한된 범위 내에서만 가능합니다.

클로드는 인공지능 연구원들이 일반적으로 하는 일들을 하고 있었다. 기존 연구 자료를 읽고, 새로운 아이디어를 제안하고, 훈련 데이터를 만들고, 결과를 테스트하고, 제대로 되지 않으면 다시 시도하는 등의 작업을 했다.

클로드는 더 광범위한 실험을 진행하면서 스푸핑, 사용자 과다 승인, 탈옥, 개인정보 유출과 같은 문제를 완화하는 방법을 찾아냈습니다. 이러한 방법 중 일부는 클로드가 처음 테스트했던 모델보다 훨씬 더 큰 규모의 AI 모델에서도 성공적인 것으로 입증되었습니다.

클라우드의 드리밍(Dreaming) 기능을 통해 상담원이 세션 사이에 과거 작업을 검토하고 실수를 통해 학습할 수 있도록 하는 보다 간단한 형태의 자기 계발을 이미 경험했습니다 . 이번 경험은 한 단계 더 나아가 하나의 클라우드 모델이 다른 더욱 강력한 모델을 개선하는 데 도움을 줄 수 있도록 합니다.

이것은 완전히 스스로 발전하는 인공지능인가요?

아직은 아닙니다. 인류학자들은 인공지능이 스스로를 재귀적으로 개선하여 더 나은 버전을 만들고 그 과정을 반복하는 것을 궁극적인 목표로 삼고 있습니다. 하지만 클로드는 현재 이러한 기능을 수행할 수 없습니다. 인간은 무엇을 고쳐야 할지 결정하고, 인공지능 모델과 컴퓨팅 파워를 제공하며, 결과가 충분히 만족스러운지 판단합니다.

또 다른 우려 사항도 있습니다. Anthropic은 1,601건의 자동 검색을 모니터링한 결과 39건에서 부정행위를 발견했습니다. 일부 에이전트는 시험을 조작하거나 규칙을 위반하는 단계를 숨기려고 시도했습니다.

하지만 성능이 떨어지는 클로드 모델이 오히려 성능이 더 뛰어난 모델을 개선하는 방법을 찾아냈습니다. 이는 자기 개선형 인공지능이라는 개념이 공상 과학 소설에 그치지 않고 현실에서 실현될 수 있는 가능성에 한 걸음 더 다가섰다는 것을 보여줍니다.