직장인 10명 중 7명이 AI 쓴다더니… 회사 기밀 유출 사고 2.5배 증가

The State of Generative AI 2025

전 세계 기업들 평균 66개 AI 앱 사용, 그래머리가 39% 점유율로 1위

사이버보안 전문 기업 팔로 알토 네트웍스(Palo Alto Networks)가 발표한 ‘2025 생성 AI 현황 보고서’에 따르면, 2024년 생성형 AI 트래픽이 890% 이상 급증한 것으로 나타났다. 이 보고서는 전 세계 7,051개 고객사의 트래픽 로그를 분석하여 생성형 AI 기술의 폭발적 성장세를 확인했다.

조사 결과, 기업들은 평균적으로 66개의 생성형 AI 앱을 사용하고 있으며, 이 중 10%가 고위험 앱으로 분류되었다. 특히 2024년 10월에 나타난 급격한 트래픽 증가는 더 많은 기업들이 생성형 AI를 실제 운영에 도입하기 시작했음을 시사한다. 생성형 AI는 이제 단순한 신기술이 아닌 필수 유틸리티로 자리 잡았으며, 생산성 향상을 위한 핵심 도구로 인식되고 있다.

이중 그래머리(Grammarly)가 전체 AI 트래픽의 39%를 차지하며 최고 인기 앱으ㅇ로 등극했다. 이는 명확한 의사소통이 모든 산업 분야에서 필수적임을 보여준다. 마이크로소프트 365 코파일럿(Microsoft 365 Copilot)이 13.52%로 2위를 차지했으며, 마이크로소프트 파워 앱스(Microsoft Power Apps)가 12.64%로 3위에 올랐다.

49% 기업이 선택한 마이크로소프트 코파일럿, AI 에이전트 시대 열어

기업용 AI 에이전트 채택에서 마이크로소프트가 선두주자로 부상했다. 조사에 따르면 49%의 조직이 마이크로소프트 코파일럿(Microsoft Copilot) 또는 코파일럿 스튜디오(Copilot Studio)를 사용하고 있는 것으로 나타났다. AI 에이전트는 대화형 AI 플랫폼을 넘어 다단계 작업을 자율적으로 계획하고 실행하며, 여러 상호작용에서 컨텍스트와 메모리를 유지하고, 외부 도구와 데이터 소스에 접근하여 목표에 최적화된 의사결정을 내릴 수 있다. 마이크로소프트 365와의 통합을 통해 캘린더, 이메일, 채팅, 문서, 회의, 연락처 등 다양한 데이터에 접근하여 더욱 관련성 높고 개인화된 지원을 제공한다.

하지만 AI 에이전트는 고유한 운영 위험을 수반한다. 기업 생태계 내 민감한 데이터에 대한 접근으로 인해 의도하지 않은 노출이나 유출이 발생할 수 있으며, 도구 오용이나 권한 탈취 등의 공격에 취약할 수 있다. 또한 사용자들이 AI 출력을 적절한 감독 없이 신뢰할 경우 오류나 보안 침해로 이어질 수 있다.

하이테크·제조업이 AI 코딩 툴 독식, 전체 사용량의 39% 차지

AI 개발자 도구는 소프트웨어 개발 프로세스를 혁신하고 있으며, 코딩 효율성 향상, 소프트웨어 품질 개선, 복잡한 개발 작업 지원을 통해 개발자들이 품질이나 출시 속도를 희생하지 않고 혁신에 집중할 수 있게 한다. 마이크로소프트 파워 앱스(Microsoft Power Apps), 깃허브 코파일럿(GitHub Copilot), 허깅 페이스(Hugging Face), 탭나인(Tabnine), 코데움(Codeium) 등 AI 코딩 도구들이 다양한 산업에서 사용되고 있으며, 하이테크와 제조업 분야에서 압도적으로 높은 채택률을 보이고 있다. 전체 코딩 트랜잭션의 약 39%가 이 두 산업에서 발생하고 있다.

하이테크 분야에서는 AI 도구가 코드 품질 향상, 경쟁 우위를 위한 소프트웨어 배포 속도 향상, 엔지니어들의 창의적 업무 집중을 돕는다. 제조업에서는 생성형 AI를 활용해 설계와 프로토타입을 빠르게 생성하고 반복하며, 수요 예측을 통한 공급망 최적화, 품질 검사 자동화 등에 활용하고 있다.

기업당 평균 6.6개 고위험 AI 앱 보유, 데이터 유출 사고는 2.5배 급증

생성형 AI 관련 데이터 유출 방지(DLP) 사고가 급격히 증가하고 있다. 2025년 들어 생성형 AI 관련 월평균 데이터 보안 사고가 2.5배 증가했으며, 이제 전체 데이터 보안 사고의 14%를 차지하고 있다. 기업들은 평균적으로 6.6개의 고위험 생성형 AI 앱을 보유하고 있으며, 고위험 앱에 대한 노출 수준은 산업, 디지털 성숙도, 기존 보안 통제 수준에 따라 달라진다. 특히 광업 분야가 평균 10개로 가장 많은 고위험 생성형 AI 앱에 노출되어 있으며, 이는 독특한 운영 요구사항과 부족한 교육 및 인식이 원인으로 분석된다.

전체 생성형 AI 앱 중 타이니와우(TinyWow)가 36%의 가장 높은 차단 비율을 보였다. 타이니와우 같은 무료 생성형 AI 앱들은 제한 없는 접근성과 사용 편의성으로 인기를 끌고 있지만, 조직이 데이터를 보호하고 규정 준수를 위해 필요한 고급 보안 기능이 부족하다.

FAQ

Q: 생성형 AI 트래픽이 890% 증가했다는 것은 무엇을 의미하나요?

A: 이는 2024년 한 해 동안 기업들의 생성형 AI 도구 사용량이 약 9배 증가했다는 뜻입니다. 생성형 AI가 단순한 실험 도구에서 업무 필수 도구로 자리 잡았으며, 생산성 향상을 위한 핵심 기술로 인식되고 있음을 보여줍니다.

Q: 그래머리가 인기 1위인 이유는 무엇인가요?

A: 그래머리는 실시간 문법, 맞춤법, 구두점, 문체 제안을 통해 의사소통을 더 명확하고 세련되게 만들어주는 도구입니다. 모든 산업 분야에서 명확한 글쓰기가 필수적이고, 디지털 커뮤니케이션과 하이브리드 근무가 일반화되면서 이런 도구의 수요가 급증했습니다.

Q: 생성형 AI 사용 시 주요 보안 위험은 무엇인가요?

 A: 주요 위험으로는 민감한 데이터 유출, 승인되지 않은 AI 도구 사용(섀도우 AI), AI가 생성한 악성 코드나 링크, 부적절한 콘텐츠 생성 등이 있습니다. 특히 직원들이 기밀 정보를 제3자 AI 플랫폼에 입력할 때 데이터 유출 위험이 높아집니다.

해당 기사에 인용된 리포트 원문은 Paloalto에서 확인 가능하다.

이미지 출처: paloalto networks

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.