잘못된 정보, 허위 정보, 유해 정보가 만연한 시대에 신뢰를 구축하는 것: 과제와 해결책

많은 조직들이 직원들이 이미 속고 있다는 현실에 직면하고 있습니다. 이러한 현상은 고객, 투자자, 그리고 이사회 구성원들에게까지 확산될 가능성이 높습니다.

수년간 딥페이크 기술의 영향, 예를 들어 영상 통화에 등장하는 가짜 CEO, 결제를 승인하는 복제된 목소리, 사기성 이메일 등에 대한 경고가 집중적으로 제기되어 왔습니다.

이러한 전술 자체는 새로운 것이 아니지만, 지난 몇 년 동안 인공지능 덕분에 생산 비용이 저렴해지고, 탐지하기 어려워졌으며, 일반적인 업무 흐름 속에서 훨씬 더 설득력 있게 들리게 되었습니다.

이러한 추세는 제로 트러스트 원칙이 정보 접근에 있어서만큼이나 정보 처리에도 중요해졌다는 것을 의미합니다.

사이버 보안 분야에서 제로 트러스트 원칙은 간단한 전제에서 출발합니다. 즉, 어떤 사용자, 장치, 애플리케이션 또는 요청도 기본적으로 신뢰해서는 안 된다는 것입니다.

인공지능이 만들어낸 허위 정보가 만연한 시대에, 기업들은 조직 내에서 유통되는 정보에도 동일한 사고방식을 적용해야 합니다.

새로운 신뢰 위기

직원, 고객, 투자자 및 파트너는 보고, 읽고, 듣는 정보를 바탕으로 의사결정을 내립니다. 만약 이러한 정보가 거짓이거나, 조작되었거나, 맥락에서 벗어난다면, 그 결과는 혼란에서 사업 손실로 빠르게 이어질 수 있습니다. 따라서 잘못된 정보, 허위 정보, 악의적인 정보는 모두 사업 위험 요소로 간주해야 합니다.

의도치 않게 퍼지는 허위 정보, 즉 잘못된 내용은 항상 문제였습니다. 특히 사람들을 속이기 위해 고안된 허위 정보는 그 어느 때보다 대규모로 생산하기가 쉬워졌습니다. 악의적인 정보, 즉 사실이지만 의도적으로 맥락을 제거하고 무기로 사용하는 정보는 세 가지 유형 중 가장 교활할 수 있습니다. 경쟁 단체, 범죄 조직 또는 특정 캠페인 단체는 더 이상 네트워크에 침투하지 않고도 상당한 피해를 입힐 수 있습니다. 그들은 조직과 관련된 사람들이 보고 믿는 것을 조작함으로써 그들에게 영향을 미칠 수 있습니다.

기업이 이러한 문제에 직면하는 것이 특히 어려운 이유는 개인이 이미 겪고 있는 어려움과 유사하기 때문입니다. AI가 생성한 콘텐츠로 가득 찬 환경에서 개인이 스스로를 보호하기 위해 갖춰야 하는 습관, 즉 상호 작용하기 전에 잠시 멈추고, 출처를 확인하고, 행동하기 전에 검증하는 습관은 기업 또한 운영에 반드시 적용해야 하는 습관입니다.

본질적으로 신뢰에 대한 본능은 오히려 약점이 되었습니다. 이를 해결하려면 단순한 인식 개선 캠페인을 넘어선 구조적인 대응이 필요합니다.

검증된 신뢰의 중요성

바로 이 지점에서 제로 트러스트 원칙이 전략으로 자리 잡습니다. 전통적으로 기업들은 제로 트러스트를 권한을 최소화하여 적합한 사용자만 적절한 애플리케이션에 접근할 수 있도록 하는 것으로 여겨왔습니다. 그러나 AI 기반 정보 환경에서는 이러한 원칙이 진화해야 합니다. 악성 AI 프로그램 과 같은 위협이 증가함에 따라 기업은 더 이상 누가 접근을 요청하는지에만 집중할 수 없습니다. 어떤 정보가 사용되고 있는지, 어떤 조치가 취해지고 있는지, 그리고 그 조치의 의도가 신뢰할 만한지 여부까지 조사해야 합니다.

다음 단계는 검증 및 인증을 넘어 "이 정보는 신뢰할 수 있는가?", "이 이미지는 실제인가 아니면 AI가 생성한 것인가?", "이 콘텐츠는 변조된 것인가?"와 같은 질문을 던지는 것입니다. 제로 트러스트 원칙은 기업이 이러한 질문에 답할 수 있는 프레임워크를 제공합니다. 이 원칙은 조직이 행동하기 전에 검증하고, 가능한 한 노출을 제한하며, 허위, 조작 또는 맥락에서 벗어난 정보가 검증 없이 기업 전체에 확산되는 위험을 줄이도록 합니다.

C2PA(콘텐츠 출처 및 신뢰 연합)와 같은 표준화 기구들은 이러한 추세가 나아갈 방향을 제시합니다. 바로 콘텐츠의 출처와 무결성이 마치 브라우저의 자물쇠 아이콘이 안전한 연결을 나타내는 것처럼 디지털 콘텐츠 자체에 내재되는 미래입니다. 본질적으로 기업은 신뢰성을 검증할 필요가 없습니다. 신뢰성은 정보 자체에 내재되어 있으며, 콘텐츠의 출처가 검증 과정에 반영되어 정보와 함께 전송될 것입니다. 따라서 모든 콘텐츠는 지속적인 신뢰 판단의 신호가 됩니다.

스마트 에이전트 시대에 신뢰 구축하기

인공지능 에이전트가 업무 환경에 도입되면서 의도를 신뢰해야 할 필요성이 더욱 절실해졌습니다. 이러한 에이전트는 문서 읽기, 데이터 해석, 의사 결정 및 행동과 같은 우리의 행동을 모방하며 우리와 함께 일하는 또 다른 사람처럼 기능할 것입니다. 그러나 차이점은 이러한 비인간적 신원이 기계의 속도로 움직인다는 점이며, 인간 수준의 검증 절차로는 결코 따라잡을 수 없는 속도입니다.

이는 AI 에이전트가 처음부터 제로 트러스트 모델을 기반으로 관리 되어야 함 을 의미합니다 . 에이전트가 단순히 조직 내에 있거나 사용자 승인을 받았거나 회사 시스템에 연결되어 있다는 이유만으로 신뢰되어서는 안 됩니다. 에이전트의 신원, 권한, 행동 및 출력은 지속적으로 검증되어야 합니다. 마찬가지로 중요한 것은 에이전트가 최소 권한, 최소 정보 및 최소 기능의 원칙에 따라 관리되어야 하며, 특정 작업에 필요한 최소한의 접근 권한, 데이터 및 기능만 부여받아야 한다는 점입니다.

그러나 이러한 에이전트는 단순히 신원 관리만으로는 해결할 수 없는 신뢰 문제를 야기합니다 . 기업은 에이전트가 사람인지 기계인지, 책임감 있게 행동하는지, 그리고 그 행동이 조직의 가치와 규범을 반영하는지 여부를 파악해야 합니다. 효과적으로 말하자면, 기업은 에이전트의 행동을 일관되게 평가할 수 있는 운영 규정을 채택해야 합니다.

인공지능 시대에 기업들은 정보, 콘텐츠, 의도, 행동 및 행위를 실시간으로 끊임없이 검토해야 하지만, 신원 확인은 일반적으로 접속 시점에만 이루어집니다. 그러나 당면 과제의 규모를 고려할 때, 인공지능은 감사, 부정행위 식별, 필요한 거버넌스, 그리고 신뢰 사슬의 무결성 유지에 필수적일 것입니다.

비즈니스에서의 신뢰 엔지니어링

성공할 조직은 신뢰를 당연하게 여기는 것이 아니라, 설계하고 구축해야 할 대상으로 여기는 조직입니다. 잘못된 정보, 허위 정보, 악의적인 정보는 보안, 회복력, 리더십에 어려움을 야기하며, 인공지능은 이러한 문제들을 무시하기 더욱 어렵게 만듭니다.

기술이 정보의 생성, 공유 및 처리 방식을 지속적으로 변화시킴에 따라, 기업들은 접근성에 적용해 온 것과 동일한 수준의 신뢰성 확보 노력을 기울여야 합니다. 이는 콘텐츠 검증, 의도 파악, 그리고 AI 시스템의 권한을 진정으로 필요한 범위로 제한하는 것을 의미합니다.

신뢰는 더 이상 기본 설정이 아닙니다. 오늘날의 업무 환경에서 신뢰는 정보, 의도, 행동, 그리고 행위 전반에 걸쳐 기계처럼 빠른 속도로 만들어지는 의식적이고 지속적인 과정이어야 합니다. 다행히도 제로 트러스트 모델이라는 틀은 이미 존재합니다. 하지만 조직이 이 모델을 어떻게 구현하고 정보, 의도, 행동, 그리고 행위까지 포괄하도록 그 범위를 확장할 것인지가 중요합니다.

저희는 최고의 인터넷 보안 제품군들을 검토, 평가 및 순위를 매겼습니다.