챗GPT 최신 모델, 사진으로 ‘위치 추적’하는 데 뛰어나… “프라이버시 침해”

오픈AI(OpenAI)의 새로운 AI 모델이 사용자가 업로드한 사진의 위치를 정확하게 식별하는 기능으로 논란이 일고 있다. 프라이버시 침해 우려가 제기되는 가운데 이 기능의 잠재적 위험성이 주목받고 있다.

테크크런치(TechCrunch)가 17일(현지 시간) 보도한 내용에 따르면, 오픈AI는 최근 이미지를 ‘추론’할 수 있는 새로운 AI 모델 o3와 o4-mini를 출시했다. 이 모델들은 업로드된 이미지를 잘라내고, 회전하고, 확대하는 등의 방식으로 철저하게 분석할 수 있다. 심지어 흐릿하거나 왜곡된 사진도 처리 가능하다. 이러한 이미지 분석 기능이 웹 검색 능력과 결합되면서 강력한 위치 추적 도구로 활용되고 있다. X 사용자들은 특히 o3 모델이 미묘한 시각적 단서를 통해 도시, 랜드마크, 심지어 레스토랑과 바까지 추론하는 데 매우 뛰어나다는 것을 발견했다.

이 모델들은 대부분의 경우 과거 챗GPT(ChatGPT) 대화의 ‘기억’이나 사진에 첨부된 메타데이터인 EXIF 데이터에 의존하지 않고 위치를 추론하는 것으로 보인다. X에는 사용자들이 챗GPT에 레스토랑 메뉴, 동네 사진, 건물 외관, 자화상 등을 제공하고 o3에게 ‘GeoGuessr'(구글 스트리트 뷰 이미지로부터 위치를 추측하는 온라인 게임)를 하는 것처럼 지시하는 예시가 넘쳐나고 있다. 한 X 사용자는 “챗GPT o3의 재미있는 기능이다. 지오게서!” 라고 글을 올렸으며, 다른 사용자는 “o3는 놀랍다. 친구에게 무작위 사진을 달라고 했고, 그들이 도서관에서 찍은 무작위 사진을 주었다. o3는 20초 만에 정확한 위치를 알아냈다”고 언급했다.

이는 명백한 잠재적 프라이버시 문제다. 악의적인 사용자가 예를 들어 특정인의 인스타그램 스토리를 스크린샷으로 저장해 챗GPT를 사용해 해당 인물의 위치를 특정하는 것을 막을 방법이 없다. 물론 이런 일은 o3와 o4-mini 출시 이전에도 가능했다. 테크크런치는 여러 사진을 o3와 이미지 추론 기능이 없는 이전 모델인 GPT-4o에 입력해 모델들의 위치 추측 능력을 비교했다. 놀랍게도 GPT-4o는 대부분의 경우 o3와 같은 정확한 답변에 도달했으며, 심지어 더 빠른 속도를 보였다.

테크크런치의 간단한 테스트 중 o3가 GPT-4o가 찾지 못한 장소를 찾아낸 경우가 적어도 한 번 있었다. 어두운 바에 있는 보라색 코뿔소 머리 장식 사진을 보여주었을 때, o3는 정확하게 윌리엄스버그(Williamsburg)의 스피크이지라고 답했고, GPT-4o는 영국 펍이라고 잘못 추측했다. 그렇다고 o3가 이런 면에서 완벽한 것은 아니다. 테크크런치의 여러 테스트에서 실패도 있었다. o3가 반복 루프에 빠져 합리적으로 확신할 수 있는 답변에 도달하지 못하거나 잘못된 위치를 제안하기도 했다. X의 사용자들도 o3의 위치 추론이 상당히 빗나갈 수 있다고 지적했다.

하지만 이러한 트렌드는 더욱 능력 있는 이른바 ‘추론’ AI 모델이 제시하는 새로운 위험을 보여준다. 챗GPT에서 이런 종류의 ‘역방향 위치 조회’를 방지하기 위한 안전장치는 거의 없어 보이며, 오픈AI는 o3와 o4-mini에 대한 안전 보고서에서 이 문제를 다루지 않고 있다. 테크크런치는 오픈AI에 논평을 요청했지만 기사 작성 시점까지 답변을 받지 못했다.

해당 기사의 원문은 링크에서 확인할 수 있다.

이미지 출처: 오픈AI

기사는 클로드와 챗gpt를 활용해 작성되었습니다.