인공지능 활성화를 가로막는 주요 장애물 극복

비결정적 요소를 이러한 모델에 통합하려는 시도는 엔지니어에게 부족한 시간을 소모하게 하고, 어떤 조직도 관리할 수 없는 위험을 초래합니다. 진정한 위험은 바로 이 간극에 있습니다.

이브 콘세보이

텔레포트의 CEO.

탄탄한 보안 기반 없이 배포하는 것에 대한 우려로 많은 프로젝트가 중단되었는데, 이는 당연한 일입니다. 이미 한 에이전트가 단 9초 만에 회사의 전체 생산성 데이터베이스와 백업 파일을 삭제하는 사례를 목격했습니다. 보안팀은 두 명의 공격자만 있는 상황을 가정하여 설계된 도구를 사용하여 이러한 시나리오를 막아야 하는 과제에 직면해 있습니다. 하지만 취약점이 드러나기 시작했습니다. 변화가 필요합니다. 그렇지 않으면 혁신은 스스로의 한계에 갇혀 정체될 것입니다. 인공지능에 대한 의존도가 높아짐에 따라 사이버 보안 위험도 증가하고 있습니다.

AI 에이전트에는 새로운 신원 모델이 필요합니다.

개발 및 엔지니어링 팀이 출시 속도를 높여야 한다는 압박은 현실적이고 광범위하게 존재합니다. 따라서 이들은 에이전트에 광범위한 권한을 부여하고 다른 마이크로서비스처럼 취급하는 것과 같은 기존 관행으로 회귀하는 경우가 많습니다.

하지만 AI 에이전트는 기계와는 매우 다릅니다. 인간처럼 오류를 범할 수 있고, 확신이 서지 않을 수도 있습니다. 그럼에도 불구하고 기계와 같은 속도로 24시간 내내 작동합니다. 에이전트는 단 9초 만에 전체 생산성 데이터베이스를 삭제할 수 있습니다. 그런 일을 할 수 있는 사람을 몇 명이나 알고 계십니까?

이것이 바로 문제의 핵심입니다. 신원 확인 시스템은 인간과 기계라는 두 유형의 행위자가 존재하는 세상을 위해 구축되었지만, 이제는 세 유형이 존재합니다. 프록시 AI를 기존 시스템에 통합하려는 시도는 각 프록시를 잠재적인 침입 경로로 만들고, 이들이 인프라 전반에 걸쳐 수천 건의 작업을 단 몇 초 만에 실행할 수 있도록 합니다.

하지만 이것이 바로 엔지니어들이 해야 할 일입니다. 즉, 무너지기 시작하는 구식 ID 및 액세스 관리(IAM) 도구를 사용하여 재앙적인 시나리오를 방지하는 것입니다. 균열이 나타나기 시작했습니다.

기존 모델이 무너지는 이유는 무엇일까요?

역사적으로 쿠버네티스 클러스터, 클라우드 플랫폼, 컨테이너 오케스트레이션, CI/CD 파이프라인, 데이터베이스 등을 다루는 엔지니어들은 정체성 분열로 어려움을 겪어왔습니다.

인력을 이용하는 측면에서 보면, 이는 관리 가능한 문제였다. 사람들은 이동 경로를 추적할 수 있었고, 출퇴근 시간을 기록했다. 또한, 속도가 느려서 시야 확보에 실패하더라도 즉각적인 사고로 이어지는 경우는 드물었다.

프록시 AI의 등장으로 속도가 급격히 증가했습니다. 그 결과, 팀은 수천 건의 활동 로그에 압도당하게 되었고, 무단 변경을 하기 전에 프록시를 효과적으로 차단할 능력이 부족해졌습니다.

강력한 인증과 단기 권한 관리를 적용하려면 스택에 있는 각 도구마다 개별적인 통합 기능을 구축해야 합니다. 이렇게 되면 각 도구가 서로 다른 통합 프로토콜을 사용하기 때문에 AI 확장이 어려워집니다.

엔지니어들은 프록시 AI를 활용한 혁신에 집중하는 대신, 일관된 ID 관리 없이, 프록시 작업에 대한 가시성 없이, 그리고 각 팀이 컨테이너 또는 가상 머신 워크플로우를 처음부터 구축하는 방식으로 ID 및 액세스 관리(IAM), 인프라 및 비밀 키를 수동으로 연결해야 하는 상황에 놓여 있습니다.

하지만 세 번째 유형의 신원을 처리하기 위한 새로운 도구를 만드는 것은 업계에 최악의 대응책입니다. 엔지니어들은 신원 정책을 처음부터 다시 구축하고 더욱 강화된 익명성을 구현해야 하므로 업무량이 두 배로 늘어날 것입니다. 또한, 새로운 신원 정보는 다른 독립적인 시스템에서도 익명으로 처리되어 공격자를 추적하기가 더욱 어려워집니다.

이로써 우리는 조직이 에이전트의 행동을 어떻게 제어할 것인가라는 질문에 직면하게 됩니다. 해결책은 단순히 기술 스택에 "플러스" 기능을 추가하거나 "플러스" 도구를 구현하는 것이 아니라, 익명성을 완전히 없애도록 신원 모델을 바꾸는 것입니다.

인공지능을 통제한다는 것은 완전한 익명성을 의미합니다.

인프라에서 익명성을 제거하려면 조직은 사람, 기계, 워크로드, AI 에이전트 등 모든 주체에게 물리적 신뢰 루트를 통해 암호화 방식으로 보호되는 최고 수준의 신원을 부여해야 합니다. 이제 인프라 전략에 대한 근본적인 재고가 필수적입니다.

영구적인 자격 증명을 완전히 제거하십시오. API 키와 암호를 제거하면 보안 침해의 원인이 되는 자격 증명 확산은 물론, 기밀 정보가 도난당하거나 악의적인 사용자에게 넘어갈 위험이 사라집니다. 실제 환경에 기반한 신원 인증을 통해 공격자는 신뢰할 수 있는 시스템을 사칭하여 데이터베이스를 탈취하는 것을 방지할 수 있습니다.

하지만 강력한 인증만으로는 충분하지 않습니다. AI 에이전트는 다른 모든 주체와 마찬가지로 제로 트러스트 원칙을 준수해야 합니다. 이는 에이전트가 자신이 운영하는 기계 및 에이전트를 승인하는 사람과 정확히 동일한 유형의 신원을 갖는 인프라 계층으로 격리된 시스템이 대체될 때만 가능합니다.

에이전트는 인간 사용자가 승인한 특정 작업에 직접 연결된 단기 권한으로 작동해야 합니다. 권한은 행위자가 아닌 작업에 연결됩니다. 예를 들어 코드를 생성하는 에이전트는 동일한 권한을 가진 인간 소유자로부터 권한을 상속받아야 하며, 해당 작업에 필요한 특정 스프레드시트에만 권한이 제한됩니다.

비결정적 행위자는 프로덕션 인프라에 접근하기 전에 안전하고 신뢰할 수 있는 실행 환경이 필요합니다.

기본 권한이 없으므로 피해 범위는 극히 제한적입니다. 하지만 이는 모든 사용자에 대해 단일 시스템에서 단일 정책을 설정할 때만 가능합니다.

에이전트와 추론 엔드포인트 사이에 강제 계층으로 신원 정책을 도입하여 명령이 실행되기 전에 동작을 제어할 수도 있습니다.

통합 아키텍처를 통해 신원 정보는 인공지능의 제어 수준이 됩니다.

AI 에이전트는 기업 환경, 특히 실제 운영 인프라에 배포될 때 엄청난 기회를 열어줍니다. 일상적인 변경 관리부터 실시간 배포 개선에 이르기까지 가능성은 무궁무진합니다. 이러한 핵심 비즈니스 프로세스에서 AI를 성공적으로 활용하려면 행동에 대한 엄격한 제어가 필수적입니다.