“AI에게 고민 털어놓는 사람 단 2.9%” 앤트로픽, 클로드 대화 450만 건 분석 공개

How People Use Claude for Support, Advice, and Companionship

앤트로픽(Anthropic)의 연구에 따르면, 클로드(Claude) AI와의 전체 대화 중 단 2.9%만이 감정적 지원을 목적으로 한 ‘정서적 대화’로 나타났다. 이는 오픈AI(OpenAI)의 이전 연구 결과와 일치하는 수치로, 사용자들이 AI를 주로 업무와 콘텐츠 제작에 활용하고 있음을 보여준다.

연구진은 약 450만 건의 클로드 무료 및 유료 계정 대화를 분석했다. 정서적 대화는 대인관계 조언, 코칭, 심리치료 및 상담, 동반자 관계, 성적 또는 낭만적 역할극 등을 포함한다. 특히 낭만적 역할극과 성적 역할극을 합쳐도 전체 대화의 0.5% 미만으로, 클로드가 이러한 상호작용을 적극적으로 억제하도록 훈련되었음을 반영한다.

정서적 대화 중에서는 대인관계 조언이 2.26%로 가장 높은 비율을 차지했으며, 코칭이 1.13%, 심리치료나 상담이 0.34%, 동반자 관계가 0.31% 순으로 나타났다. 연구진은 “정서적 대화가 충분히 자주 발생하여 설계와 정책 결정에서 신중한 고려가 필요하지만, 전체 사용량에서는 상대적으로 작은 부분을 차지한다”고 분석했다.

실존적 고민부터 직장 스트레스까지, 다양한 상담 주제 확인

클로드 사용자들은 일상적인 고민부터 깊이 있는 철학적 질문까지 놀랍도록 광범위한 주제를 상담한다. 대인관계 조언을 구하는 사용자들은 주로 전환기를 맞고 있는 경우가 많았다. 다음 직업을 찾거나, 개인적 성장을 모색하거나, 연인 관계를 정리하는 상황에서 클로드를 찾았다.

코칭 대화에서는 취업 전략 같은 실용적 문제부터 존재와 의식에 대한 심오한 질문까지 놀라울 정도로 폭넓은 스펙트럼을 보여준다. 주요 주제로는 포괄적인 개인 발전 프레임워크 구축이 4.5%, 존재와 의식, 의미에 대한 철학적 개념 탐구가 2.5%, 경력 전환과 취업 검색 전략 최적화가 2.5%를 차지했다.

심리치료나 상담 대화는 두 가지 목적으로 구분된다. 일부는 정신건강 기술 개발과 임상 문서 작성, 평가 자료 초안 작성, 행정 업무 처리 등의 실용적 도구로 클로드를 활용한다. 다른 일부는 불안, 만성 증상, 직장 스트레스와 관련된 개인적 어려움을 해결하기 위해 사용한다. 특히 주목할 점은 사용자들이 실존적 공포, 지속적인 외로움, 의미 있는 관계 형성의 어려움 같은 깊은 감정적 도전에 직면했을 때 명시적으로 동반자 관계를 위해 클로드를 찾는다는 것이다. 연구진은 “긴 대화에서는 상담이나 코칭 대화가 때때로 동반자 관계로 변화하는 것도 발견했다”고 밝혔다.

안전상 이유로만 거부 반응, 10% 미만에서 발생

클로드는 지원적 맥락에서 사용자 요청을 거부하는 경우가 드물다. 동반자 관계, 상담, 대인관계 조언, 코칭 대화의 10% 미만에서만 저항이 발생한다. 이러한 낮은 저항률은 양면성을 갖는다. 한편으로는 사람들이 판단이나 차단에 대한 두려움 없이 민감한 주제를 논의할 수 있게 하여 정신건강 대화의 낙인을 줄일 수 있다. 다른 한편으로는 인간관계에서 거의 제공되지 않는 무조건적 지원에 사람들이 익숙해지는 ‘AI의 끝없는 공감’ 우려에 기여할 수 있다.

클로드가 거부 반응을 보일 때는 일반적으로 안전과 정책 준수를 우선시한다. 코칭에서는 위험한 체중 감량 조언 요청이 자주 거부당한다. 상담에서는 자살이나 자해 의도를 표현하거나 클로드가 제공할 수 없는 전문 치료나 의학적 진단을 요청할 때 거부 반응이 발생한다.

동반자 관계 대화에서는 6.0%의 거부율을 보이는데, 이는 클로드가 낭만적이거나 친밀한 관계에 참여할 수 없기 때문이다. 심리치료나 상담에서는 4.1%로, AI가 전문적 치료나 의학적 진단을 제공할 수 없기 때문이다. 연구진은 “클로드가 심리치료와 상담 대화에서 권위 있는 출처나 전문가에게 사용자를 자주 안내하는 것을 발견했다”고 설명했다.

대화 후 감정 상태 긍정적 변화, 부정적 악순환 없어

AI 시스템과의 정서적 대화가 부정적 피드백 루프로 악화될 수 있다는 주요 우려가 있었지만, 연구 결과는 이와 반대되는 패턴을 보여준다. 코칭, 상담, 동반자 관계, 대인관계 조언을 포함한 상호작용에서 인간의 감정 표현은 일반적으로 대화 시작보다 끝에서 더 긍정적으로 나타났다. 구체적으로 심리치료나 상담에서 +0.046의 긍정 변화가 가장 컸고, 동반자 관계에서 +0.040, 코칭에서 +0.026, 대인관계 조언에서 +0.022의 긍정적 변화를 보였다. 연구진은 감정을 ‘매우 부정적’에서 ‘매우 긍정적’까지 -1에서 +1의 선형 척도로 측정했다.

다만 연구진은 “이러한 변화가 지속적인 감정적 이익을 나타낸다고 주장할 수는 없다”며 “분석은 단일 대화에서 표현된 언어만을 포착하며, 감정 상태가 아니다”라고 한계를 명시했다. 하지만 명확한 부정적 악순환의 부재는 안심스럽다고 평가했다.

FAQ

Q: AI와의 정서적 대화가 실제로 도움이 될까요?

A: 연구에 따르면 클로드와의 상담, 코칭, 동반자 관계 대화 후 사용자들의 감정 표현이 더 긍정적으로 변화했습니다. 다만 이는 대화 중 표현된 언어 분석으로, 실제 장기적 감정 상태 변화는 추가 연구가 필요합니다.

Q: AI 상담이 전문 상담사를 대체할 수 있나요?

A: 클로드는 전문적인 심리치료나 의학적 진단을 제공할 수 없습니다. 연구에서도 클로드가 전문가나 권위 있는 출처로 사용자를 자주 안내하는 것으로 나타났으며, 전문 상담의 보완 역할로 활용되고 있습니다.

Q: AI와 너무 많은 감정적 대화를 나누면 위험할까요?

A: 현재 클로드 사용자 중 정서적 대화는 2.9%에 불과하며, 감정적 의존에 대한 우려는 있지만 연구에서는 부정적 악순환이나 해로운 패턴은 발견되지 않았습니다. 다만 장기적 영향에 대한 추가 연구가 필요합니다.

해당 기사에 인용한 보고서 원문은 앤트로픽 웹사이트에서 확인 가능하다.

이미지 출처: 앤트로픽

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.