AI 시대의 오픈소스 기술, 기업 10곳 중 7곳이 채택 확대 계획

Open source technology in the age of AI

오픈소스 AI 기술 활용, 모든 산업 분야로 확산 중

기업들이 생성형 AI를 비즈니스 기능 전반에 도입하면서 오픈소스 솔루션으로 기술 스택을 구축하는 추세가 뚜렷해지고 있다. 맥킨지(McKinsey), 모질라 재단(Mozilla Foundation), 패트릭 맥거번 재단(Patrick J. McGovern Foundation)이 공동으로 실시한 새로운 설문조사에 따르면, 41개국 700명 이상의 기술 리더와 선임 개발자들 중 절반 이상이 데이터, 모델, 도구 영역에서 오픈소스를 활용하고 있다고 응답했다. 특히 기술, 미디어, 통신 분야에서 오픈소스 AI 사용률이 70%로 가장 높았으며, 경험이 풍부한 AI 개발자는 그렇지 않은 개발자보다 오픈소스를 사용할 가능성이 40% 더 높았다.

기업들은 주로 메타(Meta)의 라마(Llama)와 구글(Google)의 젬마(Gemma) 같은 대형 기술 기업이 개발한 오픈소스 도구를 사용하고 있다. 오픈소스 모델을 사용하는 응답자 중 61%가 메타의 라마를, 40%가 구글의 젬마를, 32%가 미스트랄(Mistral)을, 28%가 마이크로소프트(Microsoft)의 파이(Phi)를 사용한 경험이 있다고 응답했다. 오픈소스 AI 도구 중에서는 파이토치(PyTorch, 58%), 텐서플로우(TensorFlow, 57%), 포스트그레SQL(PostgreSQL, 45%), 랭체인(LangChain, 33%)이 가장 인기 있는 것으로 나타났다.

오픈소스 AI, 비용 절감과 개발자 만족도 향상에 기여

오픈소스 AI 기술을 사용하는 기업들은 이미 가시적인 효과를 경험하고 있다. 대부분의 응답자는 자사의 AI 도구에 만족한다고 응답했으며, 만족의 주요 요인으로는 성능과 사용 편의성을 꼽았다. 오픈소스 기술에 불만족하다고 답한 응답자보다 만족한다고 답한 응답자가 10배 이상 많았다.

오픈소스 AI 기술을 사용하는 기업들은 구현 비용(의사결정자의 60%)과 유지보수 비용(의사결정자의 46%)이 독점 도구에 비해 낮다고 보고했다. 응답자의 51%는 오픈소스 사용이 조직에서 관련 소프트웨어 도구 사용 비용을 절감한다고 믿고 있다. 비즈니스 기능별 가치 실현(수익 증가 또는 비용 절감) 면에서 오픈소스와 독점 도구 사용자들은 비슷한 수준의 결과를 보고했지만, 오픈소스 AI는 비용 절감 측면에서 약간의 우위를 보였으며 평균적으로 독점 솔루션보다 4% 높은 26%의 비용 개선을 달성했다.

개발자들은 특히 오픈소스 도구에 관심을 보였다. 개발자의 81%는 오픈소스 도구 경험이 자신의 분야에서 높이 평가된다고 보고했으며, 42%는 오픈소스 도구가 독점 도구보다 더 가치 있다고 응답했다. 또한 개발자의 66%는 오픈소스 도구 경험이 직무 만족도에 중요하거나 매우 중요하다고 답했다.

오픈소스 AI 사용 확대 전망, 리스크 관리 중요성 부각

향후 몇 년 내 오픈소스 AI 기술 사용을 확대할 계획이라고 응답한 기업이 75%에 달했다. 또한 약 70%의 응답자는 기술 스택 전반에 걸쳐 오픈소스나 독점 기술 모두에 열려 있다고 밝혔다. 오픈소스를 선호하는 기업들은 비용을 주요 이유로 꼽았으며(응답자의 63%), 독점 AI 기술을 선호하는 기업들은 보안, 리스크, 시스템 제어를 주요 이유로 언급했다(응답자의 72%).

그러나 오픈소스 AI 도구 사용에는 여러 잠재적 과제가 있다. 응답자들은 AI 도구 사용 시 사이버보안(62%), 규제 준수(54%), 지적재산권(50%)에 대한 우려를 표명했다. 이러한 리스크를 관리하기 위해 기업들은 정보 보안 프레임워크와 소프트웨어 공급망 제어 강화, 모델의 제3자 평가, 모델 행동을 제한하는 가드레일 등 안전장치를 구현하고 있다.

현재 오픈소스 AI를 사용하지 않는 응답자들이 꼽은 주요 도입 장벽은 보안 및 규정 준수 우려(56%), 장기적 지원과 업데이트에 대한 불확실성(45%), 지적재산권 리스크(40%) 등이었다. 그러나 오픈소스 AI를 사용하는 조직들은 이미 사용 중 잠재적 리스크를 완화하기 위한 기술적 안전장치를 도입하고 있다.

오픈소스가 AI 모델 개발의 미래를 주도할 것

오픈소스 모델은 협업을 통해 혁신을 가속화하고, 중복 개발을 줄이며, 집단적 발전을 촉진할 수 있다. 오픈소스 AI 혁신은 두 가지 주요 AI 기술 트렌드에 영향을 미칠 것으로 예상된다. 하나는 소형 언어 모델(SLMs)을 기반으로 한 프라이버시 중심의 엣지 애플리케이션이며, 다른 하나는 추론 시간에 더 높은 컴퓨팅 능력을 활용하는 추론 모델의 등장이다.

산업별로 특화된 비용 효율적인 언어 모델이 등장하고, 이를 도메인별 도구로 압축하여 애플리케이션을 구동할 것으로 예상된다. AWS, 구글 클라우드, 마이크로소프트 애저와 같은 하이퍼스케일러들은 이미 제조업과 금융 분야 등을 위한 모델을 출시하고 있다. 오픈소스 개발자들도 이러한 소형 언어 모델 개발에 중요한 역할을 하고 있으며, 대규모 언어 모델을 압축하여 더 작은 모델로 변환하는 기술을 개발하고 있다.

모질라 재단의 마크 서먼(Mark Surman) 대표는 “오픈소스 AI의 모멘텀은 부인할 수 없다. 지난 해에만 우리는 커뮤니티 주도 혁신이 독점 모델과 경쟁할 뿐만 아니라 이를 능가할 수 있다는 무수한 사례를 보았다”라고 말했다. 오픈소스는 AI를 접근하기 쉽게 만드는 도구와 스택을 구축하는 데 중요한 역할을 할 것이다.

FAQ

Q: 오픈소스 AI와 독점 AI의 주요 차이점은 무엇인가요?

A: 오픈소스 AI는 구현 비용과 유지보수 비용이 낮다는 장점이 있지만, 독점 AI는 가치 실현 시간이 더 빠르다는 특징이 있습니다. 오픈소스는 개발자들에게 더 높은 직무 만족도를 제공하고 비용 효율성을 가져다주는 반면, 독점 AI는 보안, 리스크 관리, 시스템 제어 측면에서 강점을 가지고 있습니다.

Q: 기업이 오픈소스 AI를 도입할 때 고려해야 할 주요 리스크는 무엇인가요?

A: 기업이 오픈소스 AI를 도입할 때 고려해야 할 주요 리스크로는 사이버보안(62%), 규제 준수(54%), 지적재산권(50%) 문제가 있습니다. 이러한 리스크를 관리하기 위해 기업들은 정보 보안 강화, 제3자 모델 평가, 모델 행동 제한을 위한 가드레일 설정 등의 안전장치를 구현하고 있습니다.

Q: 오픈소스 AI 기술 시장은 앞으로 어떻게 발전할 것으로 예상되나요?

A: 오픈소스 AI 기술 시장은 계속해서 성장할 것으로 예상됩니다. 응답자의 75%가 향후 몇 년 내에 오픈소스 AI 기술 사용을 확대할 계획이라고 밝혔습니다. 특히 소형 언어 모델과 추론 모델 분야에서 혁신이 이루어질 것으로 예상되며, 클라우드 산업과 소프트웨어 산업에서 볼 수 있듯이 오픈소스와 독점 기술이 AI 기술 스택의 여러 층에서 공존하는 하이브리드 접근 방식이 표준이 될 가능성이 높습니다.

해당 기사에서 인용한 리포트 원문은 링크에서 확인할 수 있다.

이미지 출처: 맥킨지

기사는 클로드와 챗GPT를 활용해 작성되었습니다.