“AI 거짓말을 현실로”… 음악 앱 CEO, 챗GPT가 꾸며낸 기능 실제로 개발해 화제

음악 교육 플랫폼 사운드슬라이스(Soundslice)의 창립자가 챗GPT(ChatGPT)의 잘못된 정보 때문에 실제로 존재하지 않던 기능을 개발하는 이색적인 사건이 발생했다. 테크크런치(TechCrunch)가 9일(현지 시간) 보도한 내용에 따르면, 오픈소스 Django 프로젝트의 창시자로 유명한 에이드리안 홀로바티(Adrian Holovaty)는 지난달 자신의 음악 교육 앱에 이상한 챗GPT 세션 이미지들이 계속 업로드되는 현상을 발견했다.

사운드슬라이스는 학생과 교사가 사용하는 음악 교육 앱으로, 비디오 플레이어와 동기화된 악보로 유명하다. 이 앱은 종이 악보 이미지를 업로드하면 AI가 자동으로 상호작용 가능한 악보로 변환해 주는 ‘악보 스캐너’ 기능을 제공한다. 문제는 악보 대신 ASCII 타블레처(ASCII tablature)라는 기타 기보법의 텍스트 기반 시스템 이미지들이 대량으로 업로드되면서 오류 로그가 쌓이기 시작한 것이다. 홀로바티는 몇 주간 이 현상에 당황했다가 직접 챗GPT를 확인해 보고 원인을 파악했다.

챗GPT가 사용자들에게 사운드슬라이스 계정을 만들고 채팅 세션 이미지를 업로드하면 음악을 들을 수 있다고 잘못 안내하고 있었던 것이다. 하지만 실제로는 ASCII 탭을 오디오로 변환하는 기능이 존재하지 않았다. 홀로바티는 “새로운 사운드슬라이스 사용자들이 잘못된 기대를 가지고 들어오고 있었다. 그들은 우리가 실제로 하지 않는 일을 할 것이라고 확신에 차서 들었다”며 평판상의 피해를 우려했다고 밝혔다.

고민 끝에 그는 사이트에 면책조항을 붙이는 대신 ChatGPT가 거짓말한 기능을 실제로 개발하기로 결정했다. 이전에 고려해본 적 없던 ASCII 타블레처 지원 기능을 스캐너에 추가한 것이다.

홀로바티는 “사용자들에게 도움이 되는 도구를 추가한다는 점에서는 기쁘지만, 어쩔 수 없이 떠밀려서 개발하게 된 기분이다. 과연 AI의 잘못된 정보 때문에 우리가 기능을 새로 만들어야 하는 게 맞나?”라고 복잡한 심경을 밝혔다.

그는 이것이 챗GPT의 환각(hallucination) 때문에 회사가 새로운 기능을 개발해야 했던 첫 번째 문서화된 사례일 수 있다고 추측했다. 해커 뉴스(Hacker News)의 개발자들은 이 상황을 “지나치게 열성적인 영업사원이 고객에게 모든 것을 약속하고 개발자들이 새 기능을 만들도록 강요하는 것과 같다”고 평가했으며, 홀로바티도 이에 동의했다.

해당 기사의 원문은 테크크런치에서 확인 가능하다.

이미지 출처: 사운드슬라이드