회복력에 대한 위협: AI 공급업체에 대한 의존도 증가

인공지능이 전 세계 비즈니스 운영에 필수적인 요소로 빠르게 자리 잡으면 서 , 데이터 분석부터 의사 결정, 심지어 보안에 이르기까지 모든 것에 영향을 미칠 잠재력을 지니고 있습니다.

하지만 대부분의 논의는 인공지능의 역량, 성능, 생산성 및 정확성에만 초점을 맞추고 한 가지 핵심적인 문제를 간과합니다.

모두가 인공지능이 적용될 때 어떤 일이 벌어질지에만 집중하는 동안, 인공지능 기능에 대한 접근이 갑자기 사라지면 어떤 일이 벌어질지 궁금해하는 사람은 거의 없습니다.

이와 관련하여 주목할 만한 사례는 앤트로픽이 자사의 AI 모델인 페이블(Fable)과 미토스(Mythos)에 대한 접근 권한을 되찾는 과정에서 발생한 논란으로, 주로 규정 준수 기한과 수출 통제 메커니즘을 둘러싼 논쟁이었다.

하지만 통제할 수 없는 외부 결정 하나로 핵심 비즈니스 기능이 하룻밤 사이에 사라진 사례가 왜 그렇게 많은 조직에 발생했는지에 대해 의문을 제기하는 조직은 거의 없습니다. 간단히 말해, AI 접근 차단은 운영 탄력성과 관련된 훨씬 더 큰 문제의 징후이며, 의존성에 대한 간과된 거버넌스 공백을 드러냅니다.

조직들이 인공지능을 비즈니스 운영에 더욱 깊이 통합함에 따라, 현재 인공지능이 충분히 안전한지 여부를 탐구하는 데 그치지 않고, 이러한 인공지능 서비스가 더 이상 이용 불가능해질 경우 조직이 지속적으로 운영될 수 있을지 여부를 고민해야 합니다.

보안이 곧 유연성을 의미하는 것은 아닙니다.

잘 논의되지 않는 이 주제들은 중요한 점을 시사합니다. 바로 안보와 회복력이 동의어가 아니라는 것입니다.

보안은 시스템에 대한 침입을 방지하고 보호합니다. 이를 통해 공격자의 접근을 차단하고, 취약점 수를 줄이며, 악의적인 행위자로부터 시스템을 방어합니다. 이는 보안 운영의 핵심 요소입니다. 반면, 복원력은 시스템, 서비스 또는 데이터에 장애가 발생하더라도 원인에 관계없이 비즈니스 운영을 지속할 수 있는 능력을 의미합니다.

우리는 일반적으로 회복탄력성을 사이버 공격이나 IT 인프라 장애와 같은 상황과 연관 짓습니다. 하지만 인공지능(AI)은 조직의 위협 환경, AI 활용 방식, 그리고 AI로부터 스스로를 보호하는 방식을 완전히 바꿔놓았습니다. 이제 조직은 지정학적 결정, 규제 변화, 또는 기술 제공업체 자체의 변경 사항으로 인해 핵심 AI 도구 및 핵심 기능에 대한 접근이 중단될 가능성에 대비한 계획을 더욱 철저히 세워야 합니다.

서비스가 중단될 정도로 차질을 빚어서는 안 됩니다. 지구 반대편에서 내려진 정치적 결정도 운영에 똑같은 영향을 미칠 수 있습니다. 우리는 앤트로픽 사태에서 이를 분명히 목격했습니다.

그러므로 정치적 간섭이 있더라도 사업 연속성을 보장하기 위해서는 조직 운영 방식에 회복탄력성을 구축하고 새로운 AI 인프라를 포함시켜야 합니다.

인공지능은 공급업체에 대한 새로운 형태의 의존성을 만들어내고 있다.

기존 소프트웨어 의존성은 일반적으로 단일 공급업체 또는 소수의 공급업체에 국한되는 반면, 기업용 AI는 조직이 소유하거나 통제하지 않는 상호 연결된 생태계에 의존하는 경우가 많습니다. AI 생태계의 각 계층이 추가될 때마다 의존성이 발생하고, 따라서 잠재적인 장애 지점이 됩니다.

이는 운전자가 인지해야 할 네 가지 위험 요소를 만들어냅니다.

데이터 주권 : 기업 데이터는 기업이 통제하지 않는 법적 관할권에서 처리될 수 있으며, 누가 데이터에 접근할 수 있는지 또는 해당 데이터가 향후 모델 학습 에 활용되는지 여부에 대한 가시성이 제한적일 수 있습니다.

모델 우위성 : 조직은 모델 가용성, 기능 및 변경 사항, 접근 권한 결정 등에 대해 통제력이 거의 없거나 전혀 없는 경우가 많아, 공급업체가 갑자기 접근을 제한하거나 기능을 철회하기로 결정할 경우 취약해집니다.

인프라 의존도 : 오늘날 기업 AI 생태계의 상당 부분은 특정 국가 관할권 하에 운영되는 소수의 클라우드 서비스 제공업체에 의존하고 있습니다.

AI 공급망 위험 : 기반 모델, 클라우드 컴퓨팅 플랫폼 및 소프트웨어 공급업체가 상호 연결된 시스템은 한 계층의 장애가 더 넓은 기술 스택 전체로 빠르게 확산될 수 있음을 나타냅니다.

이러한 요소들은 기술 자체보다는 지정학에 점점 더 의존하게 된다.

AI 거버넌스: 이사회 의제에 오른 사안

실제로 벤더 계약만으로는 조직이 투자한 도구와 플랫폼에 대한 중단 없는 접근을 보장할 수 없습니다. 하지만 거버넌스 프레임워크는 이러한 문제를 진정으로 해결할 만큼 발전하지 못했습니다. NIS2 및 DORA와 같은 새롭게 등장하는 프레임워크만이 복원력이 단순히 사이버 보안 위협을 완화하는 것을 넘어 확장되어야 한다는 점을 인식하고 있습니다.

조직이 공급업체 계약 및 관련 관리 체계를 다룰 때 가장 좋은 방법은 공급업체에 대한 의존도를 파악하고, 차질 발생 시에도 원활하게 운영할 수 있도록 비상 계획을 수립하는 것입니다.

AI 플랫폼, ITSM 솔루션, CRM 시스템 또는 기타 비즈니스 핵심 기술 에 의존하는 경우 , 조직은 접근 권한이 갑자기 변경될 때 어떻게 운영을 지속할 수 있을지 평가해야 합니다. AI는 다른 모든 중요한 외부 자원과 마찬가지로 엄격한 검토를 거쳐야 합니다.

다음번 혼란이 발생하기 전에 복원력 프레임워크 구축을 시작하십시오.

또한 이사회는 AI 역량에 대한 주장을 액면 그대로 받아들이는 것을 경계해야 합니다. 기업은 공급업체의 주장이 측정 가능한 결과를 가져온다는 증거를 요구해야 합니다.

인공지능은 수많은 잠재적 취약점을 신속하게 식별할 수 있지만, 단순히 탐지하는 것만으로는 복원력을 향상시킬 수 없습니다. 발견 사항을 검증하고, 즉각적인 비즈니스 영향에 따라 수정 우선순위를 정하고, 실제 위험이 있는 곳에 자원을 집중하는 데에는 여전히 인간의 전문 지식이 필수적입니다.

최근 인공지능(AI) 논란에서 얻을 수 있는 가장 큰 교훈은 많은 조직들이 제대로 통제할 수 없는 기술에 지나치게 의존하고 있다는 점을 과소평가하고 있다는 것입니다. 미국 의원들이 AI를 일시적으로 중단시킬 수 있는 ‘킬 스위치’ 도입에 대해 다시 논의하고 있는 만큼, 이 문제는 최우선 과제가 되어야 합니다.

기업 리더들은 AI가 열어주는 모든 기회에는 공급업체 의존도라는 위험이 항상 존재한다는 사실을 인식해야 합니다. 만약 당신이 오늘날 대규모 조직의 최고 기술 책임자라면, 모든 기술 및 보안 부서의 팀들이 핵심 AI 기능의 출처, 공급망 전반에 걸친 의존성, 그리고 접근 권한이 갑자기 변경되더라도 운영이 어떻게 민첩하게 유지될 수 있는지를 명확히 이해하도록 할 것입니다.

궁극적으로 기업에서 인공지능을 성공적으로 활용할 수 있는 미래는 상업적, 정치적, 운영적 혼란 속에서도 사업이 안전하게 지속될 수 있도록 거버넌스 및 회복력 전략을 사업 계획에 통합하는 데 달려 있습니다.

최고의 클라우드 백업 플랫폼 순위입니다.