팬그램, AI 콘텐츠 탐지에 130억 원 유치…텍스트 이어 이미지 탐지도 공개

팬그램(Pangram)이 7월 29일(현지시간) AI 생성 콘텐츠를 가려내는 탐지 기술로 900만 달러(약 130억 원)를 유치했다고 밝혔다. 이번 투자는 멘로벤처스가 주도했고 헤이스택, 스코프, 스크립트캐피털, 카덴자가 참여했다.

팬그램은 투자 유치와 함께 차세대 텍스트 탐지 모델 ‘팬그램 4’와 이미지 탐지 모델 ‘팬그램 이미지’를 공개했다. 회사는 텍스트 모델이 AI가 쓰거나 사람과 섞어 쓴 글을 99% 넘는 정확도로 찾아내며, AI 문장을 사람 글처럼 바꿔주는 프로그램까지 잡아낸다고 설명했다.

이 탐지 기술은 사람이 쓴 문서 수천만 건을 학습한 뒤, 같은 주제와 길이로 AI가 다시 쓴 대조본을 만들어 둘의 문체 차이를 익히는 방식이다. 워터마크나 숨은 메타데이터에 기대지 않는다. 이미지 모델은 픽셀 단위 통계 차이를 학습해, 특정 회사 모델뿐 아니라 여러 AI가 만든 이미지를 폭넓게 가려낸다. 회사는 실제 사진 안에 들어간 AI 생성 이미지까지 짚어낼 수 있다고 설명했다.

팬그램은 스탠퍼드에서 AI를 전공한 맥스 스페로와 브래들리 에미가 약 2년 전 창업했다. 챗GPT 등장 이후 봇과 검색 노출용 저품질 글, 허위정보 캠페인이 늘면서, 지금 보는 글이 사람이 쓴 것인지 아닌지 아는 일 자체가 중요해졌다는 문제의식에서 출발했다.

서비스는 월 20달러 구독과 크롬 확장 프로그램으로 제공된다. 크롬 확장은 X와 링크드인, 서브스택, 레딧, 미디엄에 올라온 글을 실시간으로 표시하고, 화면에 보이는 콘텐츠 가운데 사람이 쓴 비율과 AI가 쓴 비율을 점수로 보여준다. 서브스택과 쿼라, 학교, 출판사 등이 API로 쓰고 있고, 오리지널리티나 GPT제로 같은 경쟁 서비스도 같은 수요를 겨냥하고 있다.

탐지 도구를 찾는 흐름은 제도에서도 나타난다. 논문 저장소 아카이브(arXiv)는 올해 저자가 AI 출력물을 검토하지 않은 정황(존재하지 않는 인용이나 ‘수정해 드릴까요’ 같은 문구)이 발견되면 1년간 제출을 막는 정책을 도입했다.

다만 탐지 기술의 한계도 뚜렷하다. 앞서 에포크 AI 연구에서는 특정 문체를 모방한 AI 글의 최대 18%가 탐지되지 않았다. 탐지 결과를 제재의 근거가 아니라 참고 신호로 다뤄야 한다는 평가가 나오는 이유다.

자세한 내용은 TechCrunch에서 확인할 수 있다.

이미지 출처: AI 매터스