기업 임원 10명 중 9명 ‘챗GPT 믿는다’…하지만 기업 80%가 작년 데이터 유출 경험

2025 State of Data Security in GenAI

심각한 데이터 유출: 유틸리티·항공우주 산업 100%, 금융권 70% 경험

포타닉스(Fortanix)와 인텔(Intel)이 공동으로 발표한 ‘2025 생성형 AI의 데이터 보안 현황’ 보고서에 따르면, 보안 투자 증가에도 불구하고 데이터 유출이 심각한 수준인 것으로 나타났다. 보안 임원의 87%, 사업부 임원의 82%, IT 임원의 71%가 지난 12개월간 데이터 유출을 경험했다고 보고했다. 산업별로는 유틸리티와 항공우주 산업이 100%에 가까운 유출률을 보였고, 금융권이 70%로 상대적으로 낮은 유출률을 기록했다. 특히 주목할 만한 점은 보안 임원들 중 단 3%만이 자사의 완벽한 보안 기록을 보고했으며, IT 임원들의 13%는 자사의 데이터 유출 이력을 전혀 인지하지 못하고 있었다.

AI 사용률: 기술 산업 44%, 금융권 12%로 산업별 격차 뚜렷

전체 응답자의 95%, 보안 임원의 98%, IT 임원의 93%, 사업부 임원의 95%가 이미 생성형 AI를 사용하고 있다. 업무용으로는 전체 임원의 66%가 사용하고 있으며, 특히 사업부 임원들의 업무상 사용률이 76%로 가장 높았다. 산업별로는 기술 산업이 44%로 가장 높은 비중을 차지했고, 금융권이 12%로 가장 낮았다. 연령대별로는 Z세대와 밀레니얼 세대가 60%, X세대와 베이비부머가 40%를 차지했다.

AI 보안 정책과 현실: 54% 전면금지 불구 69% 회사계정으로 접속

기업들의 97%가 생성형 AI 사용을 제한하는 정책을 보유하고 있으며, 54%는 공개 AI 도구 사용을 전면 금지하고 있다. 47%는 공개 AI 도구에서 사용 가능한 데이터를 제한하고, 43%는 허용 가능한 사용 사례를 규정하고 있다. 그러나 실제로는 임원들의 64%가 개인 이메일로, 69%가 회사 이메일로 AI 도구에 접근하고 있어 정책의 실효성에 의문이 제기된다. 기술 기업들의 경우 51%만이 AI 사용을 제한하는 정책을 가지고 있어 전체 평균보다 낮았다.

AI 도입 압박: 10억 달러 미만 기업 87%, 이상 기업 67% 경험

기업들의 74%가 생성형 AI 도입 압박을 받고 있으며, 특히 연매출 10억 달러 미만 기업의 87%가 더 큰 압박을 느끼고 있다. 사업부 임원의 82%, IT 임원의 81%가 도입 압박을 보고한 반면, 보안 임원은 56%만이 압박을 느낀다고 응답했다. 도입 압박의 주요 원인으로 사업부 임원은 경영진(50%)과 이사회(48%), IT 임원은 경쟁사(45%), 보안 임원은 경쟁사와 경영진(각 29%)을 지목했다.

예산과 도입 전략: 호스피탈리티·리테일 100%, 금융권 73% 예산 확보

전체 기업의 88%가 생성형 AI 도입 예산을 확보했으며, 호스피탈리티와 리테일 산업이 100%에 가까운 예산 확보율을 보인 반면, 금융권은 73%로 가장 낮았다. 도입 방식에서는 28%가 자체 개발, 36%가 외부 구매, 33%가 두 방식을 병행할 계획이다. 테크/IT 부서가 전반적으로 AI 예산을 통제하고 있으나, 사업부 임원들 사이에서는 예산 통제 주체에 대한 인식 차이가 존재했다.

AI 기대효과와 우려: 생산성 향상 47%, 보안 우려는 후순위

기업들은 생산성 향상(47%)과 비용 절감(39%), 경쟁 우위 확보, 비즈니스 인사이트 획득, R&D 혁신을 주요 기대효과로 꼽았다. 특히 IT 임원들의 경우 생산성 향상 효과를 55%로 가장 높게 평가했다. 산업별로는 금융권이 연구개발과 혁신 측면에서 AI의 잠재력을 가장 높게 평가했다. 우려사항으로는 모든 직군에서 모델 정확성을 최우선으로 꼽았으며, 데이터 보안과 개인정보 보호는 상대적으로 낮은 순위를 기록했다. 10억 달러 미만 기업은 비용 절감(43%)을, 10억 달러 이상 기업은 혁신(37%)을 더 중요하게 평가했다.

AI 도입의 5가지 핵심 교훈: “기업은 AI를 신뢰하지만 보안은 간과”

이번 조사를 통해 드러난 2025년 생성형 AI 도입과 데이터 보안의 핵심 시사점은 다음과 같다.

먼저, 데이터 유출이 보편화되었음에도 기업 내 인식이 부족한 상황이다. 보안 임원의 87%가 지난해 데이터 유출을 보고했지만, 상당수의 타 부서 임원들은 이를 인지하지 못하고 있다.

둘째, 기업들의 AI 도입이 가속화되고 있다. 임원의 74%가 도입 압박을 느끼고 있으며, 88%는 이미 AI 도입 예산을 확보했다.

셋째, AI의 활용 범위에 대한 이해가 부족하다. 현재는 생산성 향상과 비용 절감에 초점을 맞추고 있지만, 전문가들은 AI가 비즈니스 전반을 혁신할 것으로 전망한다.

넷째, AI 사용 통제 정책의 실효성이 의문시된다. 기업의 54%가 AI 사용을 전면 금지하고 89%가 이 정책이 효과적이라고 믿지만, 실제로 66%의 임원이 업무에 AI를 사용하고 있다.

마지막으로, AI 보안에 대한 인식이 부족하다. 95%가 AI를 신뢰한다고 응답했지만, 데이터 유출은 계속 증가하고 있다.

해당 기사에 인용된 리포트 원문은 링크에서 확인 가능하다.

기사는 클로드 3.5 Sonnet과 챗GPT를 활용해 작성되었습니다.