인공지능은 사이버 공격과 방어의 경제적 구조를 재편하고 있습니다.

국가를 겨냥한 복잡한 사이버 작전을 방해했던 제약들이 점차 사라지고 있습니다. 과거에는 대규모 사이버 공격을 감행하려면 엄청난 수의 전문가를 동원해야 했지만, 이제는 인공지능을 활용한 사이버 공격이 증가하고 있습니다.

유능한 공격자를 추가하는 데 드는 비용이 컴퓨팅 성능 비용에 근접하게 되면 공격 방정식은 극적으로 바뀝니다.

이는 이미 현실적인 문제가 되었습니다. 드림의 위협 연구에 따르면, 아시아 정부 기관을 대상으로 해킹 캠페인을 벌인 독립형 다중 에이전트 프레임워크가 발견되었는데, 이 프레임워크는 8개의 병렬 에이전트를 사용하여 4일 동안 12차례의 공격을 실행하고 85개의 정부 계정을 침해했으며, 실패 후에는 폐쇄형 학습 루프를 통해 적응했습니다.

이제 관심은 전문가의 수에서 그들이 전문성을 얼마나 효과적으로 확장하는지로 옮겨가고 있습니다.

인공지능은 공격자와 방어자 모두에게 유익하지만, 방어자는 독특한 이점을 가지고 있습니다. 바로 공격자가 찾아야 하는 지도를 이미 가지고 있다는 점입니다.

주변 환경을 잘 이해하는 방어자는 인공지능을 활용하여 해당 지식을 광범위한 작전 능력으로 전환할 수 있습니다. 방어 능력 통합

AI 기반 독립 정부 해커

지난 7월, 저희 위협 연구팀은 아시아 정부 기관을 대상으로 해킹 공격을 감행하던 다중 에이전트 독립형 프레임워크의 운영 환경을 복구하는 데 성공했습니다.

약 4일 동안 해당 프레임워크는 12차례의 공격을 실행했으며 최대 8개의 AI 에이전트를 동시에 작동시켰습니다. 공개적으로 사용 가능한 Hermes 및 OpenClaw 프레임워크를 활용하여 85개의 정부 직원 계정을 탈취했고, 그중 84개를 사용하여 정부의 단일 로그인 환경에 침투했습니다.

정말 흥미로운 점은 인공지능이 독립적으로 운영상의 결정을 내릴 수 있다는 것입니다. 이것이 바로 인공지능의 한계입니다.

신뢰 수준 결정

각각의 발견에 베이지안 신뢰도 점수를 부여하여 다양한 경로를 평가한 다음, 실제 팀처럼 진행할 방법을 선택했습니다.

마찬가지로, 공격 경로가 실패하면 프레임워크는 자동으로 "학습 주기"라고 부르는 단계에 진입하여 해당 정부의 기술 스택 내에서 취약점 데이터베이스와 관련 보안 연구 기법을 검색한 후 다시 시도했습니다. 이 프레임워크는 본질적으로 자체 평가를 수행하여 폐쇄형 학습 루프를 구축했습니다. 즉, 조사, 검증, 실행, 결과 모니터링, 운영 지식 업데이트, 그리고 다시 시도하는 과정을 거쳤습니다.

이것은 스스로 개선되는 모델이 아니었습니다. 진정한 전문가가 인공지능 시스템으로 내장한, 스스로 적응하는 사이버 공격이었습니다. 이 공격의 기본 원리는 특별히 인상적이거나 새로운 것은 아니었습니다. 하지만 그 규모, 그리고 거의 무한대에 가까운 확장성이 우려스러운 부분입니다. 해커처럼 생각해보세요.

최근까지 정교한 공격 작전을 확장하는 데 있어 핵심적인 제약 요인은 조사 대상을 결정하고, 결과를 검증하고, 실행 가능한 공격 경로와 연결하고, 해당 경로가 실패했을 때 적응하는 데 필요한 전문가의 사고력이었습니다. 이러한 작전은 재정적 자원과 전문 인력 측면에서 모두 막대한 비용이 소요되었습니다. 이러한 인력 부족은 공격 규모를 제한하는 요인이 되었는데, 정교한 작전을 확장하려면 숙련된 전문가의 수, 시간, 그리고 조정 능력을 늘려야 했기 때문입니다.

인공지능은 조사 대상 식별, 가설 검증, 실패로부터 학습, 다음 단계 선택 등 비용이 많이 드는 여러 프로세스를 정밀하게 자동화하기 시작했습니다. 이러한 결정의 질은 여전히 ​​유능한 인간에 의해 좌우되지만, 이제는 유능한 인력의 수만이 이러한 결정을 얼마나 자주 동시에 내릴 수 있는지를 결정하는 유일한 요인은 아닙니다.

공격 작전을 확대하는 데 필요한 전문가 수를 같은 속도로 늘릴 필요가 없을 때는 어떻게 될까요?

공격 및 방어 사이버 보안 분야에서 15년간 근무해 온 사람으로서, 인공지능이 이러한 구도를 바꿔놓았다는 사실이 날이 갈수록 더욱 분명해지고 있습니다. 조직이 보유한 전문가 인력의 규모와 수행할 수 있는 작전 규모 사이의 기존 관계는 점차 사라지고 있습니다.

인공지능은 재능을 없애는 것이 아니라, 재능이 더 큰 규모로 성취할 수 있는 것을 변화시키는 것이다.

국가 규모의 공격

정부의 IT 인프라는 수십 년에 걸쳐 구축된 상호 연결된 생태계입니다. 이는 부처, 지방 자치 단체, 운영 기술, 기존 애플리케이션, 클라우드 서비스, 계약업체, 공급업체, 그리고 이들을 하나로 묶는 수많은 신뢰 관계로 구성됩니다.

이러한 접촉은 대개 합법적인 운영상의 이유(또는 적어도 역사적으로 합법적이었던 이유)로 존재합니다.

당연히 모든 연결에는 잠재적인 약점이 존재합니다.

현대 정부의 공격은 이런 식으로 확산됩니다. 단순히 하나의 치명적인 취약점을 악용하는 것이 아니라, 여러 공통적인 취약점을 연결함으로써 공격이 이루어집니다. 이러한 메커니즘을 이해하기 위해서는 해커처럼 생각하는 것이 필수적인 전략이 되었습니다.

역사적으로 이는 양측 모두에게 어려운 과제였습니다. 어떤 방어팀도 국가 전체의 모든 자산, 신원, 구성, 취약점, 신뢰 관계를 지속적으로 분석할 수는 없었습니다. 하지만 공격자 역시 비슷한 제약에 직면했습니다. 공격자 전문가들 역시 침투부터 가장 가치 있는 자산에 이르는 실행 가능한 경로를 찾기 위해 시간을 어디에 배분해야 할지 결정해야 했습니다. 따라서 방어 역량을 통합하는 것이 필수적이 되었습니다.

자율 시스템은 이러한 현실을 바꾸고 있습니다.

독립적인 공격자는 정부 환경 전체를 사전에 이해할 필요가 없습니다. 오히려 지속적으로 탐색하면서 관계를 발견하고, 가설을 세우고, 검증하고, 결과를 통해 배우고, 다음 단계로 넘어갈 수 있습니다.

각국 정부는 처음으로 국가적 차원에서 공격 가능성을 방어 책임 기관보다 더 빠르게 분석할 수 있는 적과 마주하게 될지도 모릅니다.

점수를 바꾸기 위한 경쟁

에이전트를 무기로 활용하고 개발함으로써 사이버 공격 전문가의 비용이 극적으로 감소한 것은 근본적인 변화를 의미합니다. 최근까지 이러한 기술은 소수의 전문가에게만 국한되었고, 그 비용 또한 매우 높았습니다. 인공지능 기반 사이버 공격의 급증으로 인해 OpenAI를 비롯한 100여 개 기업이 그 위험성을 경고하고 나섰습니다.

오늘날 이러한 기술을 발견하고 우선순위를 정하고 실행 가능한 공격 전략에 통합하는 것은 비용이 저렴해졌으며, 이 과정은 자동화된 방식으로 신속하게 복제할 수 있습니다.

인공지능의 발전 속도를 고려할 때, 이러한 현실은 날이 갈수록 더욱 분명해지고 있습니다.

공격 능력은 점점 더 저렴하고, 빠르고, 쉽게 복제할 수 있게 되고 있습니다.

하지만 이 문제에는 또 다른 측면이 있습니다.

방어측은 항상 구조적인 이점을 누려왔습니다. 원격 측정 데이터, 심층적인 상황 정보, 인프라에 대한 지속적인 접근, 구성, 신원 및 관계에 대한 지식, 그리고 훨씬 뛰어난 대응 능력 등이 그것입니다. 이러한 방어 역량을 통합해야만 작전적 우위를 확보할 수 있습니다.

하지만 그들 역시 인간의 능력에 한계가 있었습니다. 어떤 팀도 모든 자산과 관계에 걸쳐 모든 정보를 끊임없이 분석할 수는 없었습니다. 공격자에게 이점을 제공하는 바로 그 인공지능이 방어자에게도 대규모로 역사적인 우위를 점할 수 있도록 해줄 수 있었습니다.

여기서는 시간이 매우 중요합니다. 모든 것을 분석하는 것이 모든 것을 방어하는 것과 같은 의미는 아닙니다. AI가 몇 초 만에 탈취된 신원을 감지하더라도 해당 자격 증명이 6시간 동안 활성화 상태로 남아 있다면 공격자는 여전히 6시간을 확보할 수 있습니다. 마찬가지로 공격자가 중요 시스템에 대한 악용 가능한 경로를 발견했지만 이를 처리하는 데 3주가 ​​걸린다면, 그 경로는 3주 동안 열려 있게 됩니다.

그러므로 진정한 기회는 단순히 더 나은 분석을 하는 데 있는 것이 아닙니다. 그것은 위험을 파악한 시점과 결과를 변화시키는 시점 사이의 시간, 즉 "효과적인 조치를 취하는 데 걸리는 시간"을 줄이는 데 있습니다. 이러한 가시성 부족은 종종 건전한 의사결정을 방해하는 요인이 됩니다.

여기서 가장 중요한 것은 효과성입니다. 단순히 계정을 비활성화하거나, 방화벽 규칙을 변경하거나, 취약점을 패치하는 것만으로는 충분하지 않습니다. 시스템은 공격자가 더 이상 목표를 달성할 수 없다는 것을 검증해야 합니다.

방어 과정은 단순히 정보 수집이나 조치를 취하는 데 그쳐서는 안 됩니다. 오히려 입증되고 검증 가능한 안보 성과로 마무리되어야 합니다.

결정적인 격차

인공지능이 반드시 공격자에게 유리하게 작용하는 것은 아닙니다.

발견된 프레임워크는 환경에 대한 정보를 단계적으로 수집해야 했습니다. 반면 방어자는 이미 이러한 지도를 보유하고 있었습니다. 모든 설정, 자격 증명, 원격 측정 흐름 및 신뢰 관계를 파악하는 데 공격자는 AI 지원을 받더라도 며칠 또는 몇 주가 걸릴 수 있습니다. 그러나 방어자는 전문 지식 부족으로 인해 보유한 모든 자산을 지속적으로 분석할 수 없었습니다. 이러한 가시성 격차는 합리적인 의사 결정을 방해했습니다.

인공지능은 인간의 주의력과 관련된 이러한 제약을 점차 해소하고 있습니다. 이를 통해 방어자들은 수천 건의 병렬 조사에서 전문가의 역량을 증폭시키고, 공격 경로를 지속적으로 식별하며, 가장 큰 위험을 초래하는 경로를 우선순위화하고, 가장 중요한 곳에 조치를 집중할 수 있습니다.

공격자 역시 동일한 이점을 얻지만, 출발점은 다릅니다. 수비자는 지형지물 장악이라는 이점을 누립니다. 공격자가 탐색해야 할 환경을 이미 파악하고 통제하고 있기 때문입니다.

핵심적인 격차는 이제 양측 전문가의 수에 있는 것이 아니라, 각 측이 그 전문성을 얼마나 효과적으로 확장하고 올바른 위험에 먼저 투입하는지에 달려 있습니다.

궁극적으로 이 경쟁은 누가 플러스에 대해 더 잘 알 수 있느냐에 관한 것이 아닙니다.

오히려 중요한 것은 누가 올바른 방식으로 재능의 범위를 넓힐 수 있느냐, 그리고 그 넓힘을 먼저 구체적인 결과로 전환시킬 수 있느냐입니다.