생성형 AI 시대의 양면성…사이버 보안 위협·방어 수단 모두로 진화

사이버 보안 위협이 급격히 증가하면서 기업들의 우려가 커지고 있다. 캡제미니 연구소의 최근 조사에 따르면 지난해 기업의 92%가 보안 사고를 경험했다. 이는 2021년 51%에서 크게 증가한 수치다.

폭스바겐과 아우디의 남미 지역 최고정보보안책임자(CISO) 훌리오 C. 파딜하는 “지난 4년간 우리가 겪은 공격이 2배로 증가했다”고 밝혔다. 라보뱅크(Rabobank)의 코렌스 클롭(Corence Klop) 최고정보보안책임자(CISO)는 “지난해 우리 은행에 대한 공격이 9,000만 건에 달했다. 이러한 추세는 계속 증가하고 있어 AI와 같은 기술이 매우 중요하다”고 밝혔다.

현재 기업들은 하루 평균 30건의 보안 사고에 대응하고 있다. 특히 은행 부문의 61%가 하루 10-50건의 사고를 기록했으며, 항공우주·방위(60%), 보험(58%), 통신(58%) 부문이 뒤를 이었다.

지난 3년간 보안 사고로 인한 직간접적 손실이 5,000만 달러를 초과한 기업이 절반에 달했다. 자동차와 보험 부문은 각각 12%와 10%의 기업이 1억 달러 이상의 피해를 입었다.

클라우드 관련 보안 사고가 89% 증가했으며, 항공우주·방위(95%), 소매·소비재(각 92%) 부문이 가장 높은 증가율을 보였다. 특히 기계 속도 공격(Machine-speed attacks)에 대해 항공우주·방위(89%), 소비재(87%), 소매·은행(각 81%) 부문이 취약한 것으로 나타났다.

첫째로, 공격이 더욱 정교해지고 공격자가 증가하고 있다. 생성형 AI는 사이버 공격의 진입 장벽을 낮추었고, 이로 인해 피싱, 소셜 엔지니어링, 딥페이크, 멀웨어 개발, 보안 통제 우회 등 다양한 공격 수단으로 활용되고 있다.

조사 결과에 따르면 기업의 45%가 이미 딥페이크 공격을 경험했으며, 43%는 이로 인한 재정적 손실이 발생했다고 밝혔다. 특히 연구진들은 AI 웜이라는 새로운 위협을 경고하고 있다. AI 웜은 한 시스템에서 다른 시스템으로 전파되며 데이터 보안을 손상시키거나 악성 소프트웨어를 배포할 수 있다. 이러한 AI 웜은 생성형 AI 시스템의 상호 연결성을 악용하여 확산되며, 사용자 행동을 분석해 맞춤형 공격을 만들어내는 특징이 있다.

둘째로, 사이버 공격 표면이 크게 확장되었다. 기업의 97%가 생성형 AI 관련 보안 사고를 경험했으며, 프롬프트 인젝션 공격으로 AI 모델의 출력 무결성이 훼손되는 사례가 증가하고 있다. 대화형 AI 에이전트, AI 통합 앱, AI 어시스턴트 등 새로운 취약점이 발생하고 있으며, 내부자가 ChatGPT에 기밀정보를 업로드하는 등 생성형 AI를 오남용하는 위험도 커지고 있다. 또한 IT 부서의 통제를 벗어난 비인가 AI 애플리케이션 사용, 이른바 ‘섀도우 AI’ 문제도 심각한 우려사항으로 대두되고 있다.

셋째로, 맞춤형 생성형 AI 솔루션의 수명주기 관리가 새로운 과제로 부상했다. 기업 데이터 수집부터 모델 커스터마이징, 개발, 유지보수에 이르는 전 과정에서 보안이 요구되며, 코드 생성 시 발생할 수 있는 환각 현상과 취약점 도입 위험도 관리해야 한다. 이러한 복합적인 위협으로 인해 조직의 60%가 사이버 보안 예산 증액이 필요하다고 인식하고 있다.

이에 기업들은 AI 기반 보안 솔루션 도입을 서두르고 있다. 66%가 사이버 보안 분야에서 AI 활용을 우선순위로 두고 있으며, 60%는 위협 대응에 AI가 필수적이라고 답했다.

AI는 현재 데이터 보안, 애플리케이션 보안, 클라우드 보안, 네트워크 보안, 엔드포인트 보안 등 다양한 분야에서 활발히 활용되고 있다. 특히 데이터 보안 분야에서 76%의 높은 활용률을 보이고 있으며, 애플리케이션 보안도 75%로 그 뒤를 잇고 있다. 클라우드 보안은 70%, 네트워크 보안은 68%, 엔드포인트 보안은 61%의 활용률을 나타내고 있다.

AI 도입으로 인한 혜택도 다양하게 나타나고 있다. 기업들은 사이버 보안 분석의 효율성이 크게 향상되었으며, 침해 탐지의 정확도도 높아졌다고 평가했다. 또한 보안 관련 보고 체계가 개선되었고, 위협 대응과 탐지에 소요되는 비용이 절감되었으며, 침해 사고에 대한 대응 시간도 단축되었다. 이와 함께 선제적 방어 전략 수립이 가능해졌다는 평가도 있다.

장기적 관점에서 생성형 AI의 사이버 보안 강화 가능성에 대한 기대가 높다. 응답자의 61%가 생성형 AI가 사이버 보안을 강화할 것으로 전망했다. 시에멘스 헬스케어의 프레데릭 페가즈-피오르네는 생성형 AI의 발전 가능성에 주목하며, 특히 공격에 대한 선제적 대응 강화에 있어 생성형 AI의 활용 잠재력이 크다고 평가했다.

조직 리더십의 생성형 AI에 대한 지지도 강하게 나타났다. 리더십의 55%가 생성형 AI를 통한 보안 강화를 적극 지지하고 있으며, 특히 일본과 호주에서는 각각 62%의 높은 지지율을 보였다. 산업별로는 공공부문이 70%로 가장 높았고, 하이테크와 산업장비 제조 부문이 각각 65%로 그 뒤를 이었다.

현재 많은 기업들이 생성형 AI의 보안 활용을 적극적으로 모색하고 있다. 40-50%의 기업이 개념 증명이나 파일럿 프로그램을 진행 중이며, 28%의 기업이 향후 도입을 계획하고 있다. 구체적으로는 위협 인텔리전스 생성, 취약점 평가, 보안 정책 생성, 피싱 공격 탐지 및 예방, 자동화된 위협 대응, 행동 생체 인식 및 이상 탐지 등 다양한 영역에서 활용되고 있다. 브라데스코 은행의 사례는 생성형 AI의 실질적 활용 가능성을 잘 보여준다. 프랭크 해밀턴 모라에스와 루시아노 카롤리노는 감독 또는 준감독 방식의 생성형 AI 활용이 의사결정 지원과 보안 분석가 지원에 효과적이라고 평가했다.

그러나 이러한 기술 도입에는 여러 도전 과제가 존재한다. 현재 기업의 58%가 사이버 보안 전문인력 부족 문제를 겪고 있으며, 63%는 인재 부족으로 인해 기존 보안 솔루션과 생성형 AI의 통합에 어려움을 겪고 있다고 밝혔다. 이러한 문제를 해결하기 위해 51%의 기업이 AI 사이버 보안 교육 프로그램에 투자하고 있다. 많은 기업들이 생성형 AI 보안 투자를 확대할 계획을 가지고 있으며, 특히 위협 탐지와 대응 자동화, 보안 분석 강화, 취약점 관리 개선 등의 분야에 집중적인 투자를 계획하고 있다.

기업들의 보안 강화를 위해서는 전략부터 실행까지 포괄적인 접근이 필요하다. 우선 AI와 생성형 AI를 기존 보안 시스템에 통합하기 위한 명확한 전략이 수립되어야 한다. 이 과정에서 효율성 증대와 위험 완화 효과를 지속적으로 평가하고, 통신, 데이터 관리, 클라우드 컴퓨팅 등 필요한 인프라를 확보해야 한다.

데이터 관리와 거버넌스 측면에서는 견고한 데이터 파이프라인 구축이 선행되어야 한다. 또한 조직의 특성에 맞는 프레임워크와 정책을 수립하고, 적절한 모델을 선택하여 훈련시키는 과정이 체계적으로 이루어져야 한다.

시스템 통합과 모니터링 측면에서는 AI 기반 솔루션을 기존 보안운영센터(SOC) 시스템과 효과적으로 통합하고, AI 에이전트를 단계적으로 도입하며, 지속적인 모니터링과 업데이트를 실시해야 한다.

마지막으로 인적 요소의 중요성도 간과할 수 없다. 포괄적인 AI 사이버 보안 교육을 실시하고, 비즈니스 프로세스를 보호하며, 조직 전반에 위험 인식 문화를 조성해야 한다. 알리안츠 파트너스의 프레데릭 제수프레는 “생성형 AI가 많은 이벤트를 처리할 수 있는 능력을 갖추고 있지만, 결론의 주기적 검증과 윤리적 고려사항 유지를 위해서는 여전히 인간의 감독이 필수적”이라고 강조했다.

기사에 인용된 리포트의 원문은 링크에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기