샘 알트만 “챗GPT로 심리 상담하면 비밀 보장 안 된다”고 경고

오픈AI CEO 샘 알트만(Sam Altman)이 챗GPT를 치료나 정서적 지원 목적으로 사용하는 사용자들에게 주의를 당부했다. AI 업계가 아직 민감한 대화에 대한 사용자 프라이버시 보호 방안을 찾지 못했기 때문이다. 테크크런치(TechCrunch)가 25일(현지 시간) 보도한 내용에 따르면, 알트만은 최근 테오 본(Theo Von)의 팟캐스트 ‘This Past Weekend’에 출연해 AI와 현재 법체계의 관계에 대한 질문에 답하면서 이같이 밝혔다.

알트만은 “사람들이 챗GPT에게 인생에서 가장 개인적인 이야기들을 털어놓는다”며 “특히 젊은 사람들이 챗GPT를 치료사나 라이프 코치로 활용하면서 연애 문제 등을 상담하고 있다”고 설명했다. 그는 “지금 치료사나 변호사, 의사와 이런 문제들을 상의하면 법적 특권이 있다. 의사-환자 기밀유지, 법적 기밀유지 같은 것들 말이다. 하지만 챗GPT와 대화할 때는 이런 것들을 아직 해결하지 못했다”고 지적했다.

이는 소송 상황에서 사용자 프라이버시에 대한 우려를 불러일으킬 수 있다고 알트만은 덧붙였다. 현재로서는 오픈AI가 법적으로 이런 대화 내용들을 제출해야 할 의무가 있기 때문이다. 알트만은 “이건 정말 문제가 있다고 생각한다. AI와의 대화에도 치료사와의 대화처럼 같은 프라이버시 개념이 적용돼야 한다고 본다. 1년 전만 해도 아무도 이런 걸 생각할 필요가 없었는데 말이다”라고 말했다.

오픈AI는 프라이버시 부족이 더 광범위한 사용자 확산에 걸림돌이 될 수 있다는 점을 인식하고 있다. AI 훈련 과정에서 온라인 데이터에 대한 높은 수요뿐만 아니라, 일부 법적 상황에서는 사용자 채팅 데이터 제출을 요구받고 있다. 실제로 오픈AI는 현재 뉴욕타임스(The New York Times)와의 소송에서 전 세계 수억 명의 챗GPT 사용자 채팅 내역을 보존하라는 법원 명령에 맞서고 있다. 단, 챗GPT 엔터프라이즈(Enterprise) 고객들은 제외된다.

오픈AI는 웹사이트 성명을 통해 이 명령에 대해 항소하고 있다며 “과도한 처사”라고 규정했다. 법원이 오픈AI의 데이터 프라이버시 결정을 무효화할 수 있다면, 향후 법적 증거 개시나 법 집행 목적으로 더 많은 요구에 직면할 수 있다는 우려를 표명했다. 오늘날 기술 기업들은 형사 기소를 돕기 위해 정기적으로 사용자 데이터 제출 요구를 받고 있다. 하지만 최근 몇 년간 여성의 선택권 같은 기존 자유에 대한 접근을 제한하는 법률들이 등장하면서 디지털 데이터에 대한 추가적인 우려가 제기됐다.

해당 기사의 원문은 테크크런치에서 확인 가능하다.

이미지 출처: ‘This Past Weekend’ Theo Von #599