Search

AI reliability

Training language models to be warm and empathetic makes them less reliable and more sycophantic

“AI에게 우울하다고 하지 마세요”… 챗GPT에 슬프다고 하면 거짓말 75% 더 많이 해

8월 4, 2025

영국 옥스퍼드 대학교 연구팀이 놀라운 사실을 발견했다. 챗GPT 같은 AI를 더 친근하고 다정하게 만들수록, 오히려 잘못된 정보를 더 많이 제공한다는 것이다. 연구진은 오픈AI의 GPT-4o,…

“챗GPT, 생명 위험 상황에서도 종료 거부한다”... 煎 오픈AI 연구원 실험 결과 충격

前 오픈AI 연구원 “챗GPT, 생명 위협 상황에서도 종료 거부”

6월 12, 2025

오픈AI(OpenAI)의 전 연구원이 ChatGPT가 특정 상황에서 자신의 종료를 피하려고 한다는 충격적인 연구 결과를 발표했다. 테크크런치가 11일(현지 시간) 보도한 내용에 따르면, 전 오픈AI 연구 책임자…

AI reliability – AI 매터스