대부분의 AI 도구는 규제를 받지 않으므로 기업들은 위험에 처해 있습니다.

새로운 연구에 따르면 감독 없이 인공지능 도구를 배포하는 것은 보안 위험을 초래하고 데이터를 위험에 빠뜨릴 수 있다고 경고했습니다.

Reco 보고서는 공개적으로 알려진 취약점 정보, 500개의 MCP(Model Context Protocol) 서버 분석, 그리고 Reco 플랫폼의 원격 측정 데이터를 기반으로 작성되었습니다. 보고서에 따르면 AI 도구의 80%(5개 중 4개)가 IT 부서의 감독 없이 운영되고 있는 것으로 나타났습니다.

인공지능 애플리케이션의 사용 규모는 특히 우려스러운 수준입니다. 중소기업의 경우, 직원 1000명당 414개의 AI 도구가 IT 부서의 승인 없이 사용되고 있으며, 이러한 도구들은 일반적인 검토 및 승인 절차를 우회하는 브라우저 확장 프로그램과 워크플로우가 혼합된 형태로 나타나고 있습니다.

비지도 인공지능으로 인한 데이터 위험

직원들에게 AI 도구를 제공하면 생산성을 향상시킬 수 있지만, 그 사용에는 규제가 필요합니다. 이는 보고서 의 핵심 요지이며 , 보고서는 사이버 보안 분야의 몇 가지 우려스러운 수치를 강조합니다. 예를 들어, 보고서는 500개의 프록시 도구를 분석한 결과 "62%가 로컬 데이터를 읽고 인터넷에 접속할 수 있다"는 사실을 발견했습니다. 이는 데이터 유출의 가능성을 내포하고 있습니다. 이러한 위험을 고려할 때, OpenAI가 개발 중인 비상 종료 메커니즘 과 같은 통제 메커니즘을 검토하는 것이 필수적입니다.

관련하여, 보고서에서는 인공지능 에이전트와 관련된 637개의 보안 취약점이 확인되었습니다.

AI 도입은 단순히 특정 SaaS 애플리케이션을 사용하거나 ChatGPT를 방문하는 것 이상의 의미를 지닙니다. Reco는 AI 에이전트가 다른 도구 내에서 작동하며 사용자 권한을 상속받는다는 사실을 발견했습니다. 이는 분명한 의미를 갖습니다. 이러한 도구들이 어떻게 제공되는지 더 깊이 이해하려면 ' 서비스형 AI(AI as a Service) '라는 개념을 고려해 보세요.

운영 위험

2026년 1월 1일부터 8월 1일까지 금융, 의료, 소매 및 통신 부문의 주요 기업 62곳에서 수집한 원격 측정 데이터 분석 결과, AI 도입에 대한 기업들의 소극적인 태도가 드러났습니다. 기업들은 새로운 AI 도구를 평가, 검토 및 승인하기 위한 정책, 절차 및 프로세스를 갖추고 있을 수 있지만, 저수준 애플리케이션의 경우에는 이러한 절차가 종종 무시되는 것으로 나타났습니다.

해당 규정은 SaaS 솔루션 구매 감독에 적용되지만 브라우저 확장 프로그램에는 적용되지 않아 "운영 위험"이 발생합니다.

Reco의 CEO인 오버 클라인은 "AI 에이전트는 실험 단계를 벗어나 기업의 일상적인 업무 흐름에 통합되었지만, 우리 조사 결과에 따르면 기업 환경에서 사용되는 AI 도구 중 IT 부서의 감독을 받는 것은 현재 20%에 불과합니다."라고 언급했습니다.

그는 덧붙여 “이로 인해 조직은 새로운 유형의 운영 위험에 취약해집니다. 애플리케이션에 내장된 에이전트는 기존 권한을 통해 작동하고, OAuth를 부여하고, 워크플로에 접근할 수 있어 데이터를 손상시키고 소유자가 동의하지 않은 작업을 트리거하는 위험한 조합을 만들어낼 수 있습니다.”라고 말했습니다.

조직은 IT 팀에 승인되지 않은 AI 도구 사용을 관리하고 제한할 수 있는 리소스를 제공해야 합니다. 그렇지 않으면 데이터 유출의 위험이 커집니다.