2025년 보안 및 위험 관리 예산, AI 보안에 주목해야

최근 불확실한 거시경제 환경 속에서 보안 및 위험 관리 리더들은 기존 지출을 관리하고 새로운 예산 요청을 처리하는 데 실용적인 지침이 필요하다. 포레스터(Forrester)의 최신 보고서에 따르면, 2025년 보안 예산은 주로 클라우드 보안, 온프레미스 보안 기술, 보안 인식 교육 등에 집중될 전망이다. 특히 인공지능(AI) 기술의 급속한 발전과 함께 AI 보안에 대한 투자의 중요성이 부각되고 있다.

보안 리더들은 소프트웨어 공급망과 API 보안에 주목해야 한다. API, 오픈소스 라이브러리, 서드파티 개발 도구의 확산으로 조직들은 애플리케이션 위험 관리에 어려움을 겪고 있다. 이에 대응하기 위해 API 거버넌스 및 보안 구조를 수립하고, 소프트웨어 구성 명세서(SBOM)를 통해 오픈소스 및 서드파티 종속성 관련 위험을 파악해야 한다.

특히 AI 모델을 포함하거나 호출하는 애플리케이션의 경우, 인공지능/기계학습 구성 명세서(AI/ML BOM)를 통해 데이터셋, 알고리즘, 모델 등의 종속성을 식별하는 것이 중요하다. 이는 비교적 새로운 개념이지만, 이미 관련 도구들이 등장하고 있어 보안 팀의 관심이 필요하다.

인적 위험 관리 분야에서는 생성형 AI(Generative AI)의 등장으로 인한 새로운 위험에 주목해야 한다. 딥페이크, 내부자에 의한 데이터 유출, 생성형 AI의 오용 등 기존 및 새롭게 등장하는 공격 유형들이 더욱 복잡해지고 가속화될 것으로 예상된다.

기존의 보안 교육 방식은 행동 변화나 보안 문화 정착에 큰 효과를 보지 못했다. 이에 대한 대안으로 인적 위험 관리 플랫폼이 주목받고 있다. 이 플랫폼은 실제 인간의 보안 행동을 감지하고 측정하여 인적 위험을 정량화하고, 위험 기반의 정책 및 교육 개입을 시작할 수 있도록 돕는다.

AI와 머신러닝(ML) 시스템에 대한 공격이 점차 현실화되면서, AI 및 ML 보안 분야에 대한 투자가 중요해지고 있다. 현재 이 분야의 시장은 아직 초기 단계지만, 크게 다섯 가지 접근 방식으로 나뉜다:

1. 규제 요구사항 충족을 위한 거버넌스 중심 플랫폼 (예: Credo AI)
2. 프롬프트와 프롬프트 응답을 보호하기 위한 도구 (예: Protect AI, Prompt Security)
3. 기본 모델을 보호하기 위한 솔루션 (예: Robust Intelligence, HiddenLayer)
4. 모델 학습에 사용되는 기본 데이터 보호에 중점을 둔 제품 및 서비스 (예: Harmonic Security)
5. 위의 모든 기능을 수행하려는 종합적인 접근 방식

최고정보보안책임자(CISO)들은 이러한 시스템이 실제 운영 환경에 도입되기 전에 다양한 벤더들의 접근 방식을 실험하고 학습하는 데 시간을 투자해야 한다.

보안 운영 팀들은 보안 정보 및 이벤트 관리(SIEM) 플랫폼에서 일반적으로 수행되는 데이터 관리, 저장 및 분석 비용을 줄이기 위해 지속적으로 노력하고 있다. 최근 보안 데이터 레이크가 이에 대한 대안으로 부상하고 있다.

아마존 보안 레이크(Amazon Security Lake), 스노우플레이크(Snowflake), 구글 빅쿼리(Google BigQuery) 등의 보안 데이터 레이크는 전통적인 SIEM 배포보다 비용 효율적이다. 그러나 이들은 완전히 통합된 보안 분석 플랫폼보다 더 많은 수동 작업을 요구한다. 보안 팀은 이러한 기술을 장기 저장이나 특정 사용 사례에 대해 실험해보고, 장기적인 SIEM 대체 가능성을 평가해야 한다.

결론적으로, 2025년을 향한 보안 및 위험 관리 예산 계획에서는 AI 기술의 발전에 따른 새로운 보안 위협에 대응하기 위한 투자가 중요해질 전망이다. 소프트웨어 공급망 보안, 생성형 AI로 인한 위험 관리, AI 및 ML 시스템 보호, 그리고 AI 기반 보안 분석 도구 도입 등이 주요 투자 영역이 될 것으로 보인다. 보안 리더들은 이러한 트렌드를 주시하며 조직의 특성에 맞는 전략적 투자를 준비해야 할 것이다.

포레스터의 최신 보고서는 링크에서 확인할 수 있다.

본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기