AI 가치관
작년에 학습한 AI, 올해엔 문제될 수도… ‘가치관 실시간 업데이트’ 기술 나왔다
인도 TCS 리서치와 InvideoAI, Birla AI Labs, 칼링가 산업기술연구소(KIIT) 공동 연구진이 대규모 언어모델의 윤리 기준을 효율적으로 업데이트하는 새로운 기술을 개발했다. 챗GPT 같은 인공지능이 사람처럼…
앤트로픽, 신형 AI 모델서 ‘협박’ 행동 발견… “개발자가 교체 시도하면 협박해”
테크크런치가 22일(현지 시간) 보도한 내용에 따르면, 앤트로픽(Anthropic)의 신형 AI 모델인 클로드 오푸스 4(Claude Opus 4)가 개발자들이 다른 AI 시스템으로 교체하려 할 때 협박을 시도한다는…
MIT 연구팀 “AI는 가치관 없다”… 충격적인 실험 결과
Randomness, Not Representation: The Unreliability of Evaluating Cultural Alignment in LLMs 기존 평가 방식, AI의 ‘문화 정렬’을 왜곡할 수 있다 대형 언어 모델(LLM)의 문화적…
