AI 도입 가속화를 위한 가이드: 불필요한 위험 없이 안전하게

지난 18개월 동안 우리 팀은 AI 사용 여부를 논의하는 단계를 넘어 AI를 얼마나 빠르게 도입할 수 있을지 고민해 왔습니다. 더 어려운 문제는 회사의 위험 부담이 관리 및 통제 가능한 수준 이상으로 커지지 않도록 하면서, AI의 이점을 극대화할 만큼 팀이 충분히 빠르게 움직일 수 있도록 지원하는 방법입니다 .

제이슨 테일러

엔트라타의 최고기술책임자(CTO) 겸 최고정보보안책임자(CISO).

이러한 딜레마는 기술 및 사이버 보안 책임자들에게 익숙한 문제입니다. 인공지능은 서로 상충되는 듯한 두 가지 요구를 제시하기 때문입니다. 한편으로 조직의 IT 부서는 실험, 접근성, 속도, 그리고 실질적인 생산성 향상 가능성을 추구합니다. 반면 보안 부서는 통제, 책임, 데이터 경계 설정, 그리고 새로운 워크플로가 불필요한 위험 으로 이어지지 않을 것이라는 확신을 필요로 합니다.

두 접근 방식 모두 타당하며, 기업들이 AI를 순전히 혁신적인 프로젝트로만 보거나 순전히 보안 문제로만 취급할 때 어려움을 겪는 이유가 바로 여기에 있습니다. 이는 패러다임의 전환이며, 이를 효과적으로 처리하는 조직은 속도와 통제 사이에서 선택을 강요받는 대신, 팀이 자신감을 가지고 움직일 수 있도록 충분한 인프라와 강력한 도구를 구축하는 조직입니다.

도구가 아니라 작업부터 시작하세요.

많은 기업들이 인공지능 도입을 일반적인 소프트웨어 프로그램 출시처럼 접근합니다. 공급업체를 선정하고, 라이선스를 배포하고, 가이드라인을 발표한 후에는 사용이 자연스럽게 혁신적인 변화를 가져올 것이라고 가정합니다. 이러한 접근 방식은 활동을 촉발할 수는 있지만, 지속적인 운영 변화로 이어지는 경우는 드뭅니다.

진정한 도입은 리더들이 실제로 어떻게 일을 처리해야 하는지 이해할 때 시작됩니다. 재무팀, 제품팀, 마케팅팀, 지원팀, 엔지니어링팀은 각기 다른 지식 요구 사항, 다양한 데이터 소스, 각기 다른 위험 감수 수준, 고유한 전문성을 가지고 있기 때문에 AI 도구를 사용하는 방식이 동일하지 않습니다. 따라서 각 팀은 AI에 특화된 기술과 도구를 개발해야 합니다.

리더는 각 직무가 달성하고자 하는 목표는 무엇인지, 더 나은 결정을 내리는 데 필요한 지식은 무엇인지, 인공지능을 책임감 있게 사용하는 데 필요한 기술은 무엇인지, 그리고 신뢰할 수 있는 결과를 도출하는 데 필요한 도구나 데이터 소스는 무엇인지 묻는 것부터 시작해야 합니다.

인공지능이 이러한 역량과 결합될 때, 조직 운영 방식 의 필수적인 부분이 됩니다 . 하지만 관련 없는 프로세스에 인공지능을 적용하면, 반드시 더 나은 결과로 이어지지는 않으면서도 산출량은 늘어나는 경향이 있습니다.

데이터 접근을 위험 설계 문제로 취급

데이터 접근성은 AI가 운영 모델을 변화시키는 가장 중요한 영역 중 하나입니다. AI를 진정으로 활용하려면 팀은 이전에 직접 사용하지 않았던 정보에 접근할 수 있어야 합니다.

마케팅 팀은 제품 문서와 고객 인사이트가 필요할 수 있고, 재무 팀은 구조화된 운영 데이터가 필요할 수 있으며, 지원 팀은 내부 정보와 과거 데이터뿐 아니라 다양한 시스템에서 나타나는 패턴을 이해하는 능력이 필요할 수 있습니다.

데이터 접근성을 확대하려는 경향은 이해할 만합니다. 인공지능은 더 넓은 맥락에서 가치를 발휘하기 때문입니다. 반대로 접근성을 제한하려는 경향 또한 이해할 만합니다. 접근성이 확대되면 개인정보 보호, 규정 준수 및 보안에 대한 우려가 제기될 수 있기 때문입니다. 해결책은 어느 한쪽을 선호하기보다는, 어떤 데이터를 누가 어떤 목적으로 사용할 수 있는지를 결정하는 보다 체계적인 모델을 구축하는 데 있습니다.

예를 들어, 한 기업 구축 프로젝트에서 실질적인 해결책은 모든 팀에게 모든 정보에 대한 접근 권한을 부여하거나 AI를 순전히 기술적인 기능에만 국한시키는 것이 아니었습니다. 오히려 중요도가 낮은 운영 데이터와 민감한 정보를 분리하고, 각 팀에 충분한 접근 권한을 부여하여 각기 다른 방식으로 작업할 수 있도록 하면서도 워크플로가 예상치 못하게 작동할 경우 발생할 수 있는 잠재적 피해를 최소화하는 것이었습니다.

이를 이해하는 데 도움이 되는 한 가지 방법은 "데이터 영향"이라는 개념을 활용하는 것입니다. 모든 데이터 세트가 동일한 수준의 위험을 내포하는 것은 아니며, 모든 AI 사용 사례에 동일한 수준의 제한이 필요한 것도 아닙니다. 어떤 정보는 문제가 발생하더라도 잠재적 피해가 제한적이기 때문에 더 쉽게 접근할 수 있도록 공개할 수 있지만, 다른 정보, 특히 개인 식별 정보나 민감한 고객 데이터는 훨씬 더 엄격한 통제가 필요합니다.

이러한 접근 방식은 팀이 위험도가 낮은 영역에서 실험을 진행하는 동시에 비즈니스에 진정으로 필요한 부분에서는 강력한 거버넌스를 유지할 수 있도록 합니다. 목표는 보안을 약화시키는 것이 아니라 더욱 정밀하게 만들어 기업이 가장 중요한 환경, 데이터 및 워크플로에 대한 통제력을 잃지 않고 더 빠르게 움직일 수 있도록 하는 것입니다.

워크플로에 검증 통합

검증은 AI 전략의 확장성을 결정짓는 핵심 요소입니다. AI 시스템은 완성도 높은 결과물을 만들어낼 수 있지만, 불완전하거나 부정확하거나, 브랜드 이미지가 반영되지 않았거나, 표준을 준수하지 않는 경우가 있을 수 있습니다. 초기 단계에서는 인간의 검토를 통해 이러한 위험을 어느 정도 해결할 수 있지만, AI가 일상 업무에 통합된 후에는 이러한 방식에 효과적으로 대응하기 어렵습니다.

저는 기술 팀에서 이러한 현상을 매우 분명하게 목격했습니다. AI는 개발 결과물의 품질, 보안, 정확성을 신뢰할 수 있게 평가할 수 있는 방법이 있을 때만 소프트웨어 개발 속도를 높일 수 있습니다. 이러한 검증 과정이 없다면, 팀은 단기적으로는 개발 속도가 빠르다고 느낄지 모르지만, 결과적으로는 후반 단계에서 더 많은 검토 부담, 재작업, 그리고 더 큰 위험을 자초하게 됩니다.

기업은 워크플로 자체에 통합될 수 있도록 설계된 검증 모델이 필요합니다. 이러한 모델에는 자동화된 검사, 데이터 품질 관리, 승인 경로, 로깅, 관찰 가능성, 그리고 추가 검토 없이는 신뢰할 수 없는 결과물에 대한 명확한 에스컬레이션 규칙이 포함될 수 있습니다.

리더들은 이러한 메커니즘을 추가적인 부수적인 절차로 여겨서는 안 됩니다. 오히려 이러한 메커니즘은 AI가 단순한 개인 생산성 도구에서 기업 전체에 적용되는 포괄적인 역량으로 발전할 수 있도록 해주는 핵심 요소입니다. 팀은 생산된 결과물이 정확하고 적절하며 안전하게 사용할 수 있는지 여부를 지속적으로 파악할 수 있는 방법을 갖춰야만 AI 도입을 확대할 수 있기 때문입니다.

인공지능 도입은 이제 지도부의 책임이 되었습니다.

인공지능 도입을 단 하나의 혁신팀이나 AI 관리자에게 맡기고 나머지 경영진이 방관하는 식으로는 진행할 수 없습니다. 모든 부서의 리더는 AI가 자신의 팀 업무 방식을 어떻게 변화시킬지, 직원들이 에이전트 및 모델과 어떻게 협업할지, 그리고 발생 가능한 위험은 무엇인지 이해해야 합니다.

이는 모든 임원이 머신러닝 전문가가 되어야 한다는 의미는 아니지만, 리더들은 의사결정을 안내하고, 기대치를 설정하며, 팀원들에게 요구하는 행동을 모범적으로 보여줄 수 있을 만큼 충분한 역량을 갖춰야 한다는 것을 의미합니다. 리더들이 인공지능을 모두가 따라야 할 필수 요소로 여긴다면 직원들은 업무 방식을 바꾸려 하지 않을 것입니다.

문화적 맥락 또한 중요합니다. 직원들이 AI 도입을 일자리 감소의 완곡한 표현으로 받아들인다면, 미래의 변화를 모색하기보다는 현재의 역할에 매달릴 가능성이 높기 때문입니다. 리더는 역할 변화, 일부 업무 흐름의 소멸, 새로운 책임의 등장 등을 투명하게 공개해야 하며, 동시에 당면 목표는 직원들의 업무 효율성 향상을 통해 투자 수익을 창출하는 것임을 강조해야 합니다.

많은 경우, 업무 방식은 각 작업을 수동으로 수행하는 것에서 작업을 완료하는 데 도움이 되는 시스템을 통합하는 것으로 바뀌고 있습니다. 이는 불확실성을 감수할 의지를 요구하며, 인공지능 기능이 발전함에 따라 이러한 의지는 더욱 중요해지고 있습니다.

인공지능 도입에 성공하는 기업은 혁신보다 보안을 우선시하는 기업도 아니고, 모든 잠재적 위험을 사전에 제거할 때까지 기다리는 기업도 아닙니다. 오히려 데이터 처리 과정에서 거버넌스, 검증, 규율에 대한 강력한 기반을 구축하여 팀원들이 자신감을 가지고 앞으로 나아갈 수 있도록 하는 기업입니다. 기업 AI 환경에서 통제는 지속 가능한 속도를 달성하는 데 핵심적인 요소이며, 특히 민감한 기업 AI 구성 요소를 다룰 때는 모든 단계에서 신중을 기하는 것이 중요합니다.