인공지능에는 규칙과 체계가 필요합니다. 거버넌스는 왜 정치를 넘어서야 할까요?

운전자들이 교통 법규를 준수한다고 해서 고속도로가 안전한 것은 아닙니다. 안전은 원활한 교통 흐름을 유지하고 실수가 심각한 사고로 이어지는 것을 방지하는 속도 제한, 차선 표시, 가드레일에 달려 있습니다.

AI 거버넌스 도 마찬가지입니다. 정책은 규칙을 정하지만, 운영 통제는 기술, 사용자 및 위험이 변화함에 따라 조직이 올바른 방향으로 나아가도록 하는 핵심 요소입니다.

조직들이 인공지능 도입을 가속화함에 따라 많은 조직들이 정책, 거버넌스 프레임워크 및 허용 가능한 사용 지침 개발에 집중해 왔습니다. 이는 필수적인 첫걸음입니다. 그러나 정책만으로는 AI 시스템이 잘못된 데이터에 접근하거나, 부적절한 애플리케이션과 상호 작용하거나, 의도치 않은 운영 위험을 초래하는 것을 막을 수 없습니다.

유럽 ​​인공지능법(EU AI법)은 인공지능 거버넌스를 이사회 차원의 문제로 규정하고, 인공지능을 사용하거나 개발하는 조직이 특히 고위험 시스템의 위험을 식별, 관리 및 문서화하도록 요구합니다.

이로 인해 감독, 문서화, 데이터 거버넌스 및 투명성에 대한 새로운 기대치가 생겨났습니다. 그러나 규제만으로는 가장 큰 실질적인 과제를 해결할 수 없습니다. 바로 AI 도입 속도가 거버넌스보다 훨씬 빠르다는 점입니다.

직원들은 일반적인 AI 도구를 사용하고, 개발자들은 코딩 도우미에 의존하며, 비즈니스 팀은 기존 플랫폼 전반에 걸쳐 AI 기능을 배포합니다. 하지만 많은 경우, 이러한 기술들은 보안, 규정 준수 및 위험 관리 팀이 해당 기술이 어떤 부분에 접근할 수 있는지, 어떤 시스템에 영향을 미치는지, 또는 조직의 전반적인 위험 프로필을 어떻게 변화시키는지 완전히 이해하기 전에 도입됩니다.

이는 조직의 야망과 운영 현실 사이의 격차입니다. 조직은 AI 활용 사례와 승인된 거버넌스 프레임워크를 보유하고 있을 수 있지만, 실제로 비즈니스 전반에 걸쳐 운영되는 AI의 일부만 관리하는 경우가 많습니다.

이러한 격차를 해소하려면 인공지능을 단순히 규정 준수 차원이 아닌 운영상의 과제로 인식하는 것부터 시작해야 합니다. 실제로 정책을 넘어서려면 인공지능이 어떻게 사용되는지 이해하고, 비즈니스 위험에 따라 통제 방안을 적용하며, 인공지능의 진화하는 역량에 맞춰 거버넌스를 조정해야 합니다.

숨겨진 AI가 거버넌스 과제를 변화시키고 있습니다.

전통적인 거버넌스는 조직이 사업 전반에 걸쳐 사용되는 기술을 알고 있다고 가정합니다. 그러나 인공지능은 이러한 현실을 바꿔놓았습니다. 숨겨진 AI는 더 이상 직원들이 공개된 도구를 실험하는 데에만 국한되지 않습니다.

여기에는 정기적인 소프트웨어 업데이트를 통해 제공되는 내장형 AI 기능, 비즈니스 사용자가 생성하는 AI 기반 워크플로, 그리고 공식적인 AI 프로젝트로 취급되지 않고 기업 시스템 전반에서 작동하는 독립적인 에이전트가 포함됩니다. 이러한 기능은 거버넌스 프로세스가 식별, 평가 및 관리하는 속도보다 훨씬 빠르게 도입되는 경우가 많습니다.

오늘날 인공지능은 직원들을 지원할 뿐만 아니라 그들을 대신하여 업무를 수행하기도 합니다. AI 에이전트는 정보를 검색하고, 워크플로를 활성화하고, 기업 시스템과 상호 작용하며, 자신이 대표하는 사람이나 시스템으로부터 상속받은 권한을 사용하여 운영상의 의사 결정을 내릴 수 있습니다.

이러한 이유로 조직 내 공격 환경은 극적으로 변화했습니다. 보안팀은 더 이상 사람, 장치 및 애플리케이션만 보호하는 것이 아니라 환경을 탐색하고, 중요한 정보에 접근하고, 핵심 워크플로와 상호 작용하고, 독립적으로 의사 결정을 내릴 수 있는 자율 시스템까지 보호해야 합니다.

새로운 AI 에이전트가 등장할 때마다, 제대로 관리되지 않으면 의도치 않은 오용이나 악의적인 활동으로 이어질 수 있는 또 다른 잠재적인 위험이 발생합니다 .

조직이 규칙을 정하고, 상황이 경로를 만든다.

EU의 AI 법은 AI 수명주기 전반에 걸쳐 책임성, 감독 및 위험 관리를 매우 중요하게 여깁니다. 하지만 이러한 기대치를 충족하려면 단순한 문서화 이상의 것이 필요합니다.

규정은 조직이 달성해야 할 결과를 정의합니다. 하지만 과제는 인공지능이 끊임없이 진화하는 환경 전반에 걸쳐 이러한 요구 사항을 운영 거버넌스로 전환하는 데 있습니다.

이는 인공지능을 맥락 속에서 이해하는 것에서 시작됩니다. 인공지능 시스템을 개별적으로만 봐서는 위험성을 평가할 수 없습니다. 내부 문서를 요약해주는 인공지능 비서는 상업적으로 민감한 정보에 접근하기 전까지는 상대적으로 위험성이 낮아 보일 수 있습니다.

마찬가지로, 조달을 자동화하는 AI 에이전트는 정상적인 상황에서는 안전하게 작동할 수 있지만, 금융 거래를 승인하거나, 특권적인 권한을 상속받거나, 중요한 비즈니스 시스템 전반에 걸쳐 작업을 시작할 수 있게 되면 위험 프로필이 극적으로 바뀝니다.

위험의 정의는 인공지능 자체를 넘어, 인공지능과 관련된 신원, 애플리케이션, 인프라, 데이터 및 비즈니스 프로세스까지 포괄합니다. 인공지능이 이러한 시스템 전반에 걸쳐 점점 더 긴밀하게 연결됨에 따라 사이버 보안과의 연관성도 더욱 깊어지고 있습니다.

혁신에는 규칙과 기반이 필요하다

인공지능은 조직의 운영, 혁신, 경쟁 방식을 지속적으로 변화시킬 것입니다. 하지만 인공지능의 잠재력을 최대한 활용할 수 있는 조직은 정책 문서가 가장 긴 조직이 아닐 것입니다.

그들은 거버넌스를 일상적인 운영에 통합하고, 다른 모든 중요 자산에 적용하는 것과 동일한 규율로 AI의 신원과 권한을 관리하며, 기술이 발전함에 따라 제어 방식을 지속적으로 조정할 것입니다.

EU의 인공지능 관련 법률은 책임성에 대한 기대를 높였지만, 단순한 정책과 규정 준수를 넘어선 제도를 마련하는 기관들이 인공지능의 잠재력을 최대한 발휘할 수 있도록 지원할 것입니다.

자율적인 인공지능 시대에 거버넌스는 더 이상 단순히 규칙을 정하는 것에 그치지 않고, 조직이 보안, 신뢰, 회복력을 훼손하지 않고 자신 있게 혁신할 수 있도록 하는 안전장치를 구축하는 것입니다.

최고의 AI 기반 웹사이트 제작 도구를 검토했습니다.