AI 리스크 대응 실태: 기업 80%가 생성형 AI 리스크 대응 계획 없어

AI와 사이버보안의 융합이 새로운 위협으로 부상

리스코넥트(Riskonnect)가 발표한 ‘2024 새로운 세대의 리스크 보고서’에 따르면, AI가 사이버보안 위협을 한층 더 강화시키고 있는 것으로 나타났다. 특히 AI를 활용한 랜섬웨어, 피싱, 딥페이크 등 새로운 형태의 사이버 공격이 증가하면서, 응답자의 24%가 이러한 위협이 향후 12개월 간 자사 비즈니스에 가장 큰 영향을 미칠 것으로 전망했다.

사이버보안 위협은 경제 리스크와 인재 확보 문제를 제치고 기업들의 최우선 리스크로 떠올랐다. 응답자의 72%가 사이버보안 리스크가 자사에 ‘상당한’ 또는 ‘심각한’ 영향을 미친다고 답했는데, 이는 전년(47%) 대비 25%p 증가한 수치다.

기업들의 생성형 AI 리스크 대응 미흡

글로벌 기업들의 생성형 AI 리스크 대응 수준은 매우 미흡한 것으로 드러났다. 조사 대상 기업의 80%가 생성형 AI 리스크에 대한 전담 대응 계획을 보유하지 않았으며, 65%는 파트너사와 공급업체의 생성형 AI 사용을 관리하는 정책조차 마련하지 않았다.

리스코넥트의 공동창업자이자 최고전략책임자인 로저 던컨(Roger Duncan)은 “생성형 AI와 서드파티 리스크에 대한 계획이 없다면, 사이버보안 계획도 없는 것과 마찬가지”라며 “AI 리스크는 곧 사이버 리스크이고, 사이버 리스크는 곧 서드파티 리스크”라고 강조했다.

AI 리스크 관리를 위한 투자와 교육 부족

기업들의 AI 리스크 대응 역량도 우려스러운 수준이다. 단 8%만이 AI와 AI 거버넌스 리스크에 대해 준비가 되어있다고 응답했으며, 전체 조직을 대상으로 생성형 AI 리스크에 대한 공식 교육이나 브리핑을 실시한 기업은 19%에 불과했다.

경영진의 지원도 미흡했다. 59%의 기업에서 경영진이 기업의 생성형 AI 이니셔티브와 거버넌스를 실행 가능한 계획과 전략으로 적극 지원하지 않는 것으로 나타났다. AI 관련 리스크 완화를 위한 별도 예산을 확보한 기업도 16%에 그쳤다.

특히 우려되는 점은 AI 도입 결정 과정에서 리스크 관리팀의 참여가 제한적이라는 것이다. 운영, 제품, 서비스에 AI를 도입하는 결정 과정에 리스크 관리팀이 ‘항상’ 참여하는 기업은 20%에 불과했다.

AI, 리스크 관리 업무의 미래

반면 AI가 리스크 관리 직무에 미치는 영향은 긍정적인 것으로 평가됐다. AI로 인한 리스크 관리·컴플라이언스·레질리언스 인력 감축을 계획 중인 기업은 5%에 불과했다. 이는 리스크 관리 부서의 전략적 가치를 보여주는 결과다.

62%의 기업이 현재 리스크 관리에 AI를 활용 중이거나 활용을 계획하고 있으며, 90%의 기업이 리스크 관리 기술 예산을 증액하거나 유지하고 있다. 기업들이 AI를 도입하는 주요 동기는 리스크 관리팀의 효율성 향상과 전략적 업무 집중(62%), 리스크 가시성 개선(60%), 부서 성과와 비즈니스 기여도 향상(40%) 순으로 나타났다.

리포트는 기업들이 AI 리스크 관리를 강화하기 위해 ▲AI 계획 수립 ▲직원 교육 ▲시나리오 계획 수립 ▲스프레드시트 의존도 감소 ▲리스크 관리 기술 투자 등을 권고했다.

기사에 인용된 리포트 원문은 2024 The New Generation of Risk Report에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기