챗GPT, 가짜 영수증 생성 능력 향상… AI 기반 사기 우려 커져 

테크크런치가 31일(현지 시간) 보도한 내용에 따르면, 오픈AI(OpenAI)가 최근 공개한 챗GPT 4o 모델의 이미지 생성 기능이 실제에 가까운 텍스트 삽입 능력을 갖추면서, 사용자들이 이를 활용해 식당 등에서 발급된 것처럼 보이는 ‘가짜 영수증’을 만들어내고 있다. 테크크런치는 SNS와 자체 실험을 통해 수많은 이용자가 이 기술로 진위 구분이 어려울 정도로 정교하게 위조된 이미지를 생성하고 있는 사례들을 확인했다. 일부는 음식 얼룩이나 종이가 구겨진 듯한 효과까지 더하는 방식으로 사실감을 높였다.

이에 따라 출장비 청구나 환불 요청 등에 악용될 가능성이 제기되며 AI를 이용한 신종 사기에 대한 경각심도 함께 커지고 있다. 오픈AI 측은 자사 정책상 ‘부정 행위’ 금지 방침을 시행 중이며 모든 사진에는 메타데이터 형태의 출처 정보가 포함돼 있다고 밝혔다. 그러나 회사 대변인은 해당 기능이 창작뿐 아니라 금융 교육 자료제작 등의 용도로도 사용될 수 있어 일정 수준의 자유도를 제공한다고 언급하며 현재 상황에서 적극적인 제한 조치를 내놓지는 않은 상태다.

해당 기사의 원문은 링크에서 확인할 수 있다.

이미지 출처: 이디오그램 생성

기사는 클로드와 챗GPT를 활용해 작성되었습니다.