State of Security The Race to Harness AI
AI 도입과 정책 수립의 불균형
생성형 AI 기술이 사이버보안 분야에 빠르게 도입되고 있다. Splunk의 ‘2024 State of Security’ 보고서에 따르면, 조직 내 일반 직원들의 93%가 업무에 공개된 생성형 AI 도구를 사용하고 있으며, 보안팀의 91%도 이를 활용하고 있다. 이는 AI 기술이 이미 기업 전반에 깊이 침투했음을 보여준다. 그러나 이러한 빠른 도입 속도에 비해 적절한 정책 수립은 뒤처지고 있다. 보고서에 따르면 34%의 조직이 아직 생성형 AI 정책을 수립하지 않은 것으로 나타났다. 이는 AI 기술의 잠재적 위험을 관리하기 위한 체계가 미비함을 시사한다.
보안 전문가들은 생성형 AI의 잠재력을 긍정적으로 평가하고 있다. 46%는 생성형 AI가 보안팀에 “게임 체인저”가 될 것이라고 전망했다. 이는 AI가 보안 업무의 효율성과 효과성을 크게 향상시킬 수 있다는 기대를 반영한다. 하지만 동시에 위험도 인식하고 있다. 77%는 생성형 AI가 공격 표면을 우려스러울 정도로 확장시킨다고 보고 있다. 이는 AI가 새로운 취약점을 만들어낼 수 있다는 우려를 나타낸다.
AI, 보안팀의 새로운 무기되나
생성형 AI는 보안팀에게 새로운 기회를 제공할 것으로 기대된다. 39%의 응답자가 위험 식별과 위협 인텔리전스 분석에 생성형 AI를 활용할 계획이라고 밝혔다. 또한 35%는 위협 탐지/우선순위 지정에, 34%는 보안 데이터 요약에 활용할 예정이라고 답했다. 이는 AI가 대량의 데이터를 신속하게 분석하고 의미 있는 인사이트를 도출하는 능력이 보안 업무에 큰 도움이 될 것이라는 기대를 반영한다.
인재 부족 문제 해결에도 도움이 될 전망이다. 86%는 생성형 AI가 신입 사이버보안 인재 채용에 도움이 될 것이라고 보았고, 58%는 신입 직원의 온보딩 속도를 높일 것으로 예상했다. 65%는 숙련된 보안 전문가의 생산성을 향상시킬 것이라고 전망했다. 이는 AI가 단순 반복적인 업무를 대신함으로써 보안 전문가들이 더 고차원적인 업무에 집중할 수 있게 해줄 것이라는 기대를 보여준다.
AI, 공격자의 새로운 무기되나
하지만 생성형 AI가 공격자들에게도 강력한 도구가 될 수 있다는 우려도 제기된다. 45%의 응답자는 생성형 AI가 사이버 공격자들에게 더 유리할 것으로 예상했다. 32%는 공격자들이 생성형 AI를 활용해 기존 공격을 최적화할 것을 가장 우려했고, 28%는 공격 횟수 증가를 걱정했다. 이는 AI가 피싱 이메일을 더 정교하게 만들거나, 악성 코드를 더 빠르게 생성할 수 있다는 우려를 반영한다.
내부 위협도 간과할 수 없다. 77%가 생성형 AI 사용 증가로 데이터 유출이 늘어날 것이라고 보았다. 직원들이 중요한 기업 정보를 AI 시스템에 입력하거나, AI가 생성한 부정확한 정보를 신뢰하는 등의 위험이 증가할 수 있다. 하지만 이에 대한 대비는 아직 미흡한 실정이다. 많은 조직이 AI 사용에 대한 명확한 가이드라인을 마련하지 못하고 있다.
선도 기업들의 AI 전략
보안 프로그램이 “매우 발전했다”고 답한 선도 기업들은 AI 도입에서도 앞서 나가고 있다. 이들 중 48%가 AI를 주요 이니셔티브로 삼고 있으며, 75%는 대부분의 보안팀 구성원이 생성형 AI를 사용하고 있다고 답했다. 또한 82%가 생성형 AI 보안 정책을 수립했고, 55%는 사이버보안 분야 생성형 AI 활용을 위한 공식 계획을 갖고 있다. 이는 선도 기업들이 AI의 잠재력을 인식하고 체계적으로 접근하고 있음을 보여준다.
이러한 준비는 위협 대응 능력으로도 이어진다. 선도 기업들의 평균 위협 탐지 시간(MTTD)은 21일로, 발전 단계에 있는 기업들의 34일보다 훨씬 짧았다. 이는 AI를 활용한 보안 시스템이 위협을 더 빠르게 탐지하고 대응할 수 있게 해준다는 것을 시사한다.
앞으로의 과제
Splunk의 전문가들은 AI 시대를 맞아 여러 가지 조언을 제시했다. 먼저, 전사적 차원의 생성형 AI 도입을 수용할 것을 권고한다. AI 사용을 금지하는 것은 혁신을 저해할 뿐만 아니라 음성적인 사용을 조장할 수 있다. 대신 신중한 AI 정책을 수립하여 위험을 관리하면서도 혁신을 촉진해야 한다.
팀 간 협업과 도구 통합 강화도 중요하다. 소프트웨어 엔지니어링, 엔지니어링 운영, IT 운영 등 다양한 팀과의 협력을 통해 디지털 레질리언스를 높여야 한다. 또한 법무 및 컴플라이언스 팀과 긴밀히 협력하여 규제 요구사항을 충족시켜야 한다.
리소스 확보를 위한 효과적인 소통 방법을 익히는 것도 필요하다. 사이버보안 투자의 비즈니스 가치를 이사회에 명확히 전달할 수 있어야 한다. 창의적인 방식으로 인재 격차를 해소하는 것도 중요하다. AI와 기계학습을 활용한 채용 및 교육 전략을 고려해볼 만하다.
기본에 충실해야 한다는 점도 잊지 말아야 한다. 여전히 시스템 오설정이 주요 공격 벡터로 꼽히고 있으므로, 기본적인 보안 통제를 강화하는 것이 중요하다. 마지막으로, 사이버보안 환경에 영향을 미치는 글로벌 역학관계에 주목해야 한다. 정치, 국제 분쟁, 규제 강화 등이 위협 환경에 직간접적인 영향을 미치므로 이를 주시하고 대비해야 한다.
AI 기술의 급속한 발전으로 사이버보안 환경이 빠르게 변화하고 있다. 이에 대한 적절한 대응이 향후 조직의 사이버 레질리언스를 좌우할 것으로 보인다. 생성형 AI는 양날의 검과 같아 적절히 활용하면 강력한 방어 수단이 되지만, 잘못 사용하면 새로운 위험이 될 수 있다. 따라서 조직은 AI의 잠재력을 최대한 활용하면서도 리스크를 효과적으로 관리할 수 있는 균형 잡힌 전략을 수립해야 할 것이다.
기사에 인용된 리포트 원문은 링크에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
