AI 정렬 문제
똑같은 답만 하는 AI, “확률 말해봐” 질문 바꿨더니… 답변 2배 다양해져
대형언어모델(LLM)이 창의적 답변을 내놓지 못하고 똑같은 답변만 반복하는 ‘모드 붕괴’ 현상의 근본 원인이 밝혀졌다. 노스이스턴대학교와 스탠퍼드대학교 공동 연구팀은 이 문제가 알고리즘이 아닌 인간의 인지…
MIT 연구팀 “AI는 가치관 없다”… 충격적인 실험 결과
Randomness, Not Representation: The Unreliability of Evaluating Cultural Alignment in LLMs 기존 평가 방식, AI의 ‘문화 정렬’을 왜곡할 수 있다 대형 언어 모델(LLM)의 문화적…
