[2025 일잘러페스타] “모든 지자체, 면사무소 직원도 LLM을 쓰도록” 포티투마루가 그리는 범 한국 AI 생산성 시대

생성형 AI 붐이 일면서 챗GPT(ChatGPT), 클로드(Claude) 같은 글로벌 서비스들이 직장인들의 생산성을 끌어올리고 있지만, 생산성이 중요한 업종에서도 정작 이 툴들을 쓸 수 없는 사람들도 있다. 보안이 중요한 정부·지차체·직원이나 공무원들은 사용할 수 없다.

공공기관 생산성은 국민 생산성과 직결된다. 국민이 빠른 민원 처리를 받으면 생업에 더 집중할 수 있기 때문이다. 그러나 국민의 개인정보를 범용 툴 위에 올려 사용할 수는 없다. 미국 정부의 경우 이러한 문제를 해결하기 위해 보안이 강화된 챗GPT나 클로드를 별도로 공급받고 있다.

지난 8월 22일, 2025 일잘러 페스타에서 만난 포티투마루 CBO 권혁성 이사는 “AI에 돈을 쓸 수 있는 분야부터 먼저 공략한다”며 현실적인 사업 접근법을 설명했다. 화려한 기술 자랑보다는 고객의 실제 니즈에 집중하는 이 회사의 전략을 AI 매터스가 들어봤다.


포티투마루는 어떤 기업?

포티투마루는 B2B·B2G 중심의 AI 솔루션 기업이다. 생성형 AI 등장 이전에는 검색엔진 AI(Answering AI)로 기술을 인정받은 바 있다. 포티투마루 내부 직원 대부분 SK커뮤니케이션즈 등 검색엔진 출신들이다.

현재 주력 제품은 자체 초거대 언어모델 LLM42, RAG(Retrieval-Augmented Generation) 기반의 ‘RAG42’ 솔루션으로, 기업과 공공기관의 내부 데이터를 활용한 질의응답 시스템을 구축한다.

오픈소스 모델을 활용한 인스트럭션 튜닝으로 고객 맞춤형 AI 모델을 제공하며, 현재 행안부 범정부 AI 플랫폼 구축에도 참여하고 있다.


인터뷰


Q. 포티투마루는 어떤 기업인지, 주요 사업과 비전을 간단히 소개해 주세요.

저희는 B2B나 B2G로 기업 간, 기관들, 공공 쪽으로 솔루션을 공급하는 기업입니다. 주요 솔루션은 많이 알려진 LLM ‘LLM42’, RAG 솔루션인 ‘RAG42’ 등의 솔루션이 있습니다.

LLM 같은 경우에도 GPT나 이런 클라우드 API로 연결해 드리기도, 오픈소스 기반으로 튜닝하는 모델도 있습니다.

그리고 저희 협력 관계에 있는 LG AI연구원이나 네이버의 하이퍼클로바X 같은 경량화된 모델들을 가져와 함께 사업을 하고 그 모델로 직접 구현하는 사업을 하고 있습니다.


Q. 파운데이션 모델을 직접 개발하고 계신가요?

정확히 얘기하면 파운데이션 모델을 저희가 직접 개발한 건 아닙니다. 오픈웨이트 모델을 인스트럭션 튜닝해서 쓰고 있어요. 국내에서 파운데이션 모델을 직접 개발하고 갖고 있는 곳은 네이버하고 LG 말고는 거의 없다고 보시면 될 것 같습니다.

오픈 소스 모델들의 성능이 계속 좋아지고 있기 때문에 계속 새 모델들을 반영하면서 튜닝하고 있고요. 지금도 젬마(Gemma)나 라마(Llama) 모델로 개발 중입니다.


Q. 기술력을 인정받는 기업인데, 정부 주도 ‘K-LLM 독자 AI’ 프로젝트에 참여하지 않은 이유가 있나요?

저희에게 크게 득될 게 없는 사업이어서 참여는 안 했어요. 한 1년 이상 공을 들여서 열심히 만들어야 되는데, 만들고 난 이후에 수익을 만들 수 있는 구조는 아니라서요. 다 만들고 나면 시중에 공개해야 하는 건데, 만드는 과정에서 노하우가 축적되거나 브랜드 이미지가 좋아질 수는 있습니다. 그런데 적은 인원으로 공을 들이다 기존에 하던 사업의 리소스를 뺏기는 악영향이 있겠죠.


Q. 그럼 현재 포티투마루가 추진하는 사업의 분야는 어떻게 되나요?

특정 분야를 골라서 한다기보다는 AI 쪽에서 돈을 쓸 수 있는 분야부터 먼저 한다고 보시면 될 것 같아요. 금융이라든가, 국방이라든가, 방산이라든가 대기업, 조선사라든가 이런 것들이 위주고요.

공공이 아무래도 좀 더 열심히 하고 계시기 때문에 행안부 쪽에서 하는 범정부 플랫폼 사업에 참여하고 있습니다. 또 부산시 전체 생성형 AI 모델 사업에도 참여 중입니다.


Q. 행안부 범정부 플랫폼 사업에 대해 자세히 설명해 주세요.

공공기관들은 챗GPT나 클로드를 쓸 수가 없어요. 그걸 쓰는 순간 트래픽이나 로그가 남기 때문에 쓸 수 없게 되죠. 지금 행안부의 보안망이라고 할 수 있는 대구 PPP(Public-Private Partnership, 정부용 프라이빗 클라우드)존에 아예 플랫폼을 만들어 놓고 공공기관들이 자유롭게 쓸 수 있도록 해주자라는 플랫폼 사업을 하고 있는데 거기에 저희가 참여하고 있고요. 주관사업자는 삼성SDS, 삼성과 네이버 플랫폼이 두 개가 들어가고, 저희는 네이버 플랫폼 쪽에 네이버 모델과 저희 모델을 핸들링해서 구축하는 걸 하고 있습니다.


Q. 구체적으로 어떤 방식으로 작동하나요?

DPG허브에서 쌓인 데이터를 1차적으로 사용하는 형태지만 추가 구축도 가능합니다. 예를 들어서 A라는 기관에서 생성형 AI 모델로 자체 서비스를 구축하고 싶다-그러면 LLM을 API로 호출해서 쓰는 거죠. RAG도 호출해서 쓸 수도 있고요, 데이터도 올려서 뭔가 사업들을 계속 만들어 갈 수도 있고 이런, 쉽게 생각하면 오픈AI에서 제공하는 챗GPT 플랫폼과 동일한 기능을 제공한다고 보시면 됩니다.¹


Q. 수익 구조는 어떻게 되나요?

기관들이 이 플랫폼을 쓸 때 챗GPT처럼 토큰당 비용을 내는 거예요. 그래서 그 비용으로 수익을 내는 구조죠. 예를 들어 저희 LLM42가 토큰당 1원이라고 하면, 쓸 때마다 비용이 올라갑니다. 그 수익으로 서버비나 인건비를 충당하고 수익을 창출합니다.

행안부에서는 딱 플랫폼을 구축하는 비용만 내주시는 거고, 내년부터 실제 운영에서 수익이 발생할 예정입니다.


Q. 산업 현장에 도입된 구체적인 성과 사례가 있다면요?

각 기업 직원들이 사내에 갖고 있는 지식 정보들을 갖고 질의를 해서 그 정보를 빠르게 습득하고 업무에 활용할 수 있는 것이 1차적이고요.

부산시 같은 경우에는 더 나아가서 공무원들이 쓰는 보도자료를 생성해 준다거나, 행사 인사말씀 같은 걸 작성할 때 사용합니다. 이런 자료들을 자동으로 뽑아주거나, 기획안 초안을 만들어준다거나 이런 서비스를 하고 있어서 실제 업무 효율을 높이는 데 집중한다고 보시면 될 것 같아요.

공무원은 기업이랑 달리 인원수가 정해져 있는 조직이잖아요. 그래서 굉장히 도움이 되죠. 공무원분들에게는 반복적으로 정보를 찾는 게 가장 힘들거든요. 그런 것들을 도와드린 거죠.

그리고 모 로펌도 비슷하게 활용 중입니다. 로펌에는 문서가 정말 많은데요. 모든 사람이 문서로 일하는 집단이기 때문이죠. 변호사분들이 자신의 사건과 관련된 여러 문서들에 대해서 다른 사건과 비교해서 봐야 되는데, 이런 지식들을 정리해 주고 한눈에 볼 수 있게 도와주는 툴을 제공 중입니다.


Q. 경기도나 부산시는 직접 모델을 구축한다고 하던데요.

큰 지자체는 직접 구축하기도 하죠. 그런데 시골의 작은 지자체에서도 AI를 사용할 수 있잖아요. 시청이나 구청 등 큰 곳에서는 LLM을 가져와서 직접 사업을 만들도록 하고요. 면사무소나 읍사무소 등에는 챗GPT 같은 웹 인터페이스를 제공해 내부 지식을 검색하는 식으로도 사용할 수 있습니다.


Q. 조선업계의 ‘설계 자동화’는 어떤 내용인가요?

과거 인터뷰에서 약간 오해가 있었는데, 조선업계에서의 ‘설계’는 그림 그리는 설계가 아니에요. 저희가 오랫동안 함께한 한화오션 기업의 경우에는 ‘영업설계’라는 팀이 있어요. 여기서 요건 분석을 설계라고 불러요.

조선업계는 선주가 고객이잖아요. 배를 발주한 선주들이 이런저런 질문을 해요. 그 질문에 맞춰서 배의 스펙들을 정해 나가잖아요. IT 분야에서 보면 RFP 나오고 그 요건에 맞춰서 제안서 쓰고 하잖아요. 그런 작업들을 설계라고 그러거든요.

삼성중공업이면 삼성중공업 기본 스펙이 있을 거잖아요. 그런데 배를 발주할 때는 기본 스펙 그대로 구매하는 건 아니니까 예를 들어 수도꼭지를 오른쪽으로 틀게 아니라 왼쪽으로 틀게 해달라는 이런 식의 요구들이 있거든요.

그런 것들이 대충 배 하나에 몇백억이기 때문에 그거 하나 만드는 데도 요구사항이 되게 디테일하게 들어와요. 그런 것들 다 일일이 다 잡아내고 설계하고 하는 것들이 되게 사람의 눈으로 보는 데 한계가 있기 때문에 그런 걸 도와주는 작업들을 하죠.


Q. AI가 어떻게 도움이 되는 건가요?

질문을 막 던져요. 그러면 연차가 쌓인 분들은 “이거 옛날에 내가 받았던 것 같은데?”라고 생각하죠. 그런데 저연차 분들은 처음 보는 질문일 수도 있잖아요. 그럼 예전 질답을 찾아봐야 하는데 찾기 어렵죠.

그걸 AI가 찾아와요. 찾아주고 “이런 질문에는 이렇게 답하면 돼”라고 알려줘요. 이 시스템만 있으면 1~2년 차도 10년 차처럼 일하는 노하우가 생기는 거죠.


Q. 선박, 방산 등에서는 비정형 데이터가 많이 발생할 텐데요. 비정형 데이터 처리에서 어려운 점은 무엇인가요?

여러 가지 노하우가 필요한데 첫째는 데이터를 잘 뜯어내는 ETL(Extract, Transform, Load) 작업을 잘 해야 하고요. 데이터를 청킹하는 노하우가 좀 있어야 됩니다. 그다음에 새로운 도메인(사업분야)에 들어갔을 때 어떻게 모델링을 하고 학습하고 어떤 기준을 가지고 업무의 프로세스를 잡아서 할 거냐에 대한 노하우들이 저희에게는 쌓여 있습니다.


Q. 가장 어려웠던 데이터는 어떤 것이었나요?

어렵다기보다는 불가능한 데이터는 있는 것 같아요. 법률 데이터입니다. 왜냐하면 학습 데이터를 기본적으로 만들 수가 없어요.

LLM에서의 학습 데이터는 RAG 기준으로 “이런 질문할 건데 저런 걸 찾아야 돼”가 RAG의 기본적인 학습 데이터예요.

그런데 법률 데이터는 이런 질문에 대해서 판례 같은 걸 찾아야 하죠. 이 데이터에 대한 판단은 누가 해야 될까요? 변호사가 해야 됩니다.

그런데 변호사분들은 시간당 업무 단가가 높습니다. 현실적으로 비용이 안 나와요. 그래서 어쩔 수 없이 그건 기술로만 할 수밖에 없어요. 학습 데이터를 판단해서 구축하기보다는 그냥 기술로만 하는 거죠.


Q. 검색 기술에 강점이 있는 회산데, 검색에는 있을 수 없는 할루시네이션 문제가 나타났습니다. 챗GPT 초기 할루시네이션 문제를 어떻게 보셨나요?

모든 기술이 그런 것 같아요. 오류가 없는 기술은 없고 얼마나 빠르게 습득하고 그거를 우회해서 잘 만드느냐는 엔지니어링의 영역이잖아요.

근본적인 생성형 AI의 오류 자체를 바꿀 수 없다면 거기에 집중하기보다는, 그걸 우회하기 위한 여러 가지 기법들이나 방법들을 찾아서 잘 만드는 게 공학의 영역이라고 봅니다. 그 발전과 더불어서 핵심이 되는 LLM 모델 자체도 점점 성능이 좋아지는 것 같아요.


Q. AI는 초대형 기업들이 주도하고 있는데요. 글로벌 AI 기업들과 비교할 때 차별화 포인트는 무엇인가요?

기술적인 강점보다는 AI는 그 경험치가 더 중요한 것 같아요. 기술은 당연하고 그걸 만들어서 사업화하려면 기존에 진행했던 프로세스나 작업들에 대한 축적된 경험이 없으면 힘듭니다.

저희도 사업 초창기 때 고전을 많이 했기 때문에 분명히 그 과정을 거쳤을 때 B2B 사업에서는 길이 좀 보이는 것 같습니다.


Q. 초창기에 어떤 고전을 하셨나요?

예를 들어 학습 데이터를 만드는데, 만들면 된다라고 생각하기엔 각 회사마다 종류가 다른 데이터들을 갖고 있었어요. 이걸 얼마나 효율적으로 다뤄야지만 적은 리소스로 빠르게 만들 수 있느냐 하는 고민이 있었죠.

그리고 대부분의 고객은 데이터를 만드는 걸 되게 부담스러워 하거든요. 단순 작업이라고 생각하기도 하고요. IT 부서가 추진하는 업무가 자신의 업무하고는 또 별개라고 생각하기 쉬워요. 이런 조직 간의 협력을 끌어내는 것도 경험에서 오는 거죠.


Q. 기술 영업의 중요성을 강조하시는 것 같은데요.

굉장히 중요해요. 세일즈나 영업은 상당히 어려운 분야예요. 커뮤니케이션이 잘 돼야 하겠죠. 그래서 저희도 영업팀이라고 하지 않고요. 사업개발팀이라고 해요.

그리고 어떤 경우든 동일하게 흘러간 경우가 없어요. 각 도메인마다 특성이 다 다르고 기술 적용 정도가 다르기 때문에 그냥 솔루션 하나 만들어놓고 판매하는 건 불가능하죠.


Q. 만약 도메인이 겹치는 고객이 오면 어떤가요?

노하우가 있으니까 훨씬 더 편합니다. 금융권 같은 경우 신한카드, 하나카드, KB증권 등 여러 금융를 진행해 봤기 때문에 프로세스를 쉽게 이해할 수 있죠.


Q. 이렇게 이미 사업을 잘하고 계시는데 2025 일잘러 페스타에 참가한 이유는 무엇인가요?

저희 대표님 입장에서 생각해 보면 아마 ‘GOV:Tech’라는 명칭 때문일 거예요. 그러니까 공공기관들을 대상으로 하는 특정 전시회이기 때문에 아마 나오자고 결정하셨을 것 같고요.

공공기관들한테 저희가 세일즈해야 되는 이유는 저 범정부 플랫폼 사업 때문입니다. 저 플랫폼에 대한 홍보가 계속 이루어져야지 각 기관에서도 플랫폼을 활용해서 적용하는 사례들이 좀 늘 거거든요. 범정부 플랫폼 사업은 공공사업 쪽 입장에서는 상당히 중요한 프로젝트입니다.

Q. 향후 목표는 어떻게 되나요?

범정부 플랫폼의 AI 전환(AX, AI Transformation)입니다. 저희는 플랫폼에 LLM을 공급해서 공무원 여러분의 업무 전환을 돕습니다. 챗GPT처럼요. 새 정부에서 계속 강조하시는 것처럼, AX를 통해 국가 전체의 생산성에 도움을 주는 것이 목표입니다.

인터뷰에서 인상적인 건 포티투마루가 화려한 기술 자랑보다 현실적 문제 해결에 집중하는 자세였습니다. 특히 사업 분야를 현업에서 담당하는 권혁성 이사가 인터뷰이로 나서주신 덕에 실제 기업 사례와 정부 구축 사례에 대해 솔직하게 들어볼 수 있었습니다.

특히 포티투마루의 공공 AX 프로젝트(12월 완료)는 글로벌 AI 열풍 속에서도 국내 기업들이 찾을 수 있는 틈새시장과 차별화 전략을 느낄 수 있습니다.

추후 공공과 기업을 불문하고 AX 사례가 점차 늘어나 한국 전체의 생산성이 높아지기를 기대합니다.

이미지 출처: AI 매터스

1. DPG허브는 디지털플랫폼정부위원회가 추진하는 ‘민간·공공의 데이터와 서비스가 안전하게 연결·융합할 수 있도록 지원하는 민간 클라우드 기반 통합플랫폼’으로, 정부 내 주요 플랫폼(통합데이터지도, 공공데이터포털, AI허브 등)을 연결하는 중심축 역할을 한다. ↩︎