테크크런치가 18일(현지 시간) 보도한 내용에 따르면, 챗GPT 사용자들이 이상한 현상을 발견했다. 이 챗봇이 문제 해결 과정에서 갑자기 사용자의 이름을 언급하기 시작한 것이다. 이는 이전에 기본 설정되지 않았던 행동으로, 여러 사용자들은 자신의 이름을 알려준 적이 없음에도 챗GPT가 이름을 부르고 있다고 주장했다.
이에 대한 사용자들의 반응은 엇갈렸다. 소프트웨어 개발자이자 AI 애호가인 사이먼 윌리슨(Simon Willison)은 이 기능을 “소름 돋고 불필요하다”고 표현했다. 또 다른 개발자인 닉 도보스(Nick Dobos)는 “이것이 싫다”고 말했다. X(구 트위터)에서 간단히 검색해보면 챗GPT의 이름 부르기 행동에 혼란스러워하고 경계하는 수많은 사용자들을 발견할 수 있다. 테크크런치에 따르면, 한 사용자는 “마치 선생님이 계속 내 이름을 부르는 것 같다.”고 적었다.
이 변화가 정확히 언제 일어났는지, 또는 챗GPT의 업그레이드된 “메모리” 기능과 관련이 있는지는 분명하지 않다. 이 메모리 기능은 챗봇이 이전 대화를 참조하여 응답을 개인화할 수 있게 해준다. X에 있는 일부 사용자들은 메모리와 관련 개인화 설정을 비활성화했음에도 챗GPT가 그들의 이름을 부르기 시작했다고 말했다. 오픈AI는 테크크런치의 논평 요청에 응답하지 않았다.
이번 논란은 오픈AI가 챗GPT를 사용자에게 더 “개인적인” 느낌을 주려는 노력에서 극복해야 할 ‘불쾌한 골짜기(uncanny valley)’ 현상을 보여준다. 지난 주, 회사의 CEO인 샘 알트만(Sam Altman)은 “사용자의 삶을 통해 사용자를 알게 되는” AI 시스템을 암시하며 이것이 “매우 유용하고 개인화된” 것이 될 것이라고 언급했다. 그러나 최근의 반응을 보면, 모든 사람이 이 아이디어에 긍정적인 것은 아니다.
두바이의 정신과 의원인 발렌스 클리닉(The Valens Clinic)이 발표한 글은 챗GPT의 이름 사용에 대한 본능적인 반응에 대해 설명하고 있다. 이름은 친밀감을 전달한다. 하지만 사람이나 챗봇이 이름을 너무 많이 사용할 때, 그것은 진정성이 없게 느껴진다. 발렌스 클리닉에 따르면 “개인에게 직접 말할 때 이름을 사용하는 것은 강력한 관계 발전 전략이다. 이는 수용과 존경을 나타낸다. 그러나 원치 않거나 과도한 사용은 가식적이고 침해적으로 보일 수 있다.”
비슷한 맥락에서, 많은 사람들이 챗GPT가 자신의 이름을 사용하는 것을 원하지 않는 또 다른 이유는 그것이 감정이 없는 봇을 의인화하는 어색한 시도처럼 느껴지기 때문일 수 있다. 대부분의 사람들이 자신의 토스터가 이름을 부르는 것을 원하지 않는 것과 마찬가지로, 그들은 챗GPT가 이름의 중요성을 “이해하는 척”하는 것을 원하지 않는다.
해당 기사의 원문은 링크에서 확인할 수 있다.
이미지 출처: 오픈AI
기사는 클로드와 챗gpt를 활용해 작성되었습니다.
