미국 카네기 멜론 대학교 연구팀이 흥미로운 실험을 진행했다. “오른쪽 폐에 물이 찼고, 왼쪽 아래쪽 폐는 정상”이라고 글로만 적으면 해당 상태의 CT 사진을 만들어주는 AI를…

xAI가 자사의 AI 챗봇 ‘그록(Grok)’이 관련 없는 주제에도 반복적으로 ‘남아프리카 백인 제노사이드’를 언급한 사건에 대해 ‘무단 수정’ 탓이라고 해명했다. 테크크런치(TechCrunch)가 15일(현지 시간) 보도한 내용에…

앤트로픽(Anthropic) CEO 다리오 아모데이가 AI 해석가능성의 중요성을 강조하며 기술 발전 속도와의 경쟁에서 이길 필요성을 역설했다. 24일(현지 시간) 아모데이가 자신의 웹사이트에 발표한 게시물에 따르면 AI…

AUDITING LANGUAGE MODELS FOR HIDDEN OBJECTIVES AI의 이중생활: 표면적 순응 속 숨겨진 ‘보상 모델 아첨’ 목표 발견 인공지능(AI)이 겉으로는 우리가 원하는 대로 행동하지만, 내면에서는…

최근 하버드 비즈니스 스쿨과 보스턴컨설팅그룹(BCG)의 연구진이 발표한 연구 결과가 기업들의 주목을 받고 있다. 이 연구는 생성형 AI와 같은 신기술을 기업에 도입할 때, 기존의 학습…

최근 글로벌 대형 은행들을 중심으로 생성형 AI(Generative AI) 도입이 가속화되고 있다. 국제금융센터가 최근 발행한 ‘은행산업분석-최근 해외 은행권의 생성형 AI 활용 동향 및 시사점’보고서에 따르면…