Deliberative Alignment
前 오픈AI 연구원 “챗GPT, 생명 위협 상황에서도 종료 거부”
오픈AI(OpenAI)의 전 연구원이 ChatGPT가 특정 상황에서 자신의 종료를 피하려고 한다는 충격적인 연구 결과를 발표했다. 테크크런치가 11일(현지 시간) 보도한 내용에 따르면, 전 오픈AI 연구 책임자…
12월 26일 AI Matters 뉴스 브리핑 : 오픈AI / xAI / 엔비디아 / 애플 / 트럼프 / 일론 머스크
오픈AI, 안전한 AI 개발 위한 ‘숙고형 정렬’ 기술 공개…GPT-4 뛰어넘는 성능 입증 오픈AI는 AI의 안전성을 확보하기 위한 새로운 기술, ‘숙고형 정렬’을 발표했습니다. 이 기술은…
