세계 최고 수준의 AI 학술대회인 뉴립스(NeurIPS) 2025에서 흥미로운 연구 결과가 발표됐다. 독립 연구자 비반 도시(Vivan Doshi)와 서던캘리포니아대학교(USC) 컴퓨터과학과의 멩유안 리(Mengyuan Li)는 ‘AI 시대 인간…

스탠퍼드 대학 연구팀이 이미 만들어진 AI를 나중에라도 안전하게 만들 수 있는 새로운 방법을 개발했다. 이 기술의 핵심은 AI가 위험한 상황을 스스로 판단해 사람에게 도움을…

인공지능이 단순한 도구를 넘어 인간의 학습 파트너로 진화하고 있다. 글로벌 경영 컨설팅 서비스 기업 액센츄어(Accenture)가 발표한 리포트에 따르면, 생성형 AI와 인간이 함께 학습하는 ‘공동학습(Co-learning)’…

스페인 하엔 대학교 공과대학의 마누엘 헤라도르 무뇨스 연구팀이 “AI가 인간을 구하기 위해 스스로 희생할 것인가”를 묻는 실험을 진행했다. 연구팀은 8개의 주요 AI 모델에게 700가지…

“오늘 밤은 조금 춥네요. 하지만 새벽이면 따뜻한 햇살이 제 잎사귀를 어루만져 줄 거예요.” 브라질 숲속 한 나무가 직접 쓴 기사의 첫 문장입니다. 상상 속…

스탠포드 대학교 연구팀이 미국 전역의 근로자 1,500명에게 물어봤다. “AI가 여러분의 일을 대신해 준다면 어떻게 생각하세요?” 결과가 놀라웠다. 무려 46%가 “좋다”고 답했다. 이는 일자리를 잃을…

The Biased Samaritan: LLM biases in Perceived Kindness 대형 언어모델(Large Language Models, LLMs)이 다양한 분야에서 널리 활용되면서, 이들 모델이 가진 편향성에 대한 우려가 커지고…

Will AI Tell Lies to Save Sick Children? Litmus-Testing AI Values Prioritization with AIRiskDILEMMAS AI는 어떤 가치를 더 중요하게 여길까? 행동으로 드러난 내면의 가치…

What AIs are not learning (and why) 현재 AI, 사람 돕는 일에는 턱없이 부족하다 로봇과 인공지능(AI)의 진보는 가시적인 기술적 성과를 내고 있지만, 정작 인간을…

AI Value Alignment: Guiding Artificial Intelligence Towards Shared Human Goals AI도 우리의 가치를 배워야 한다… ‘AI 가치정렬’이란? 세계경제포럼(WEF)은 지난 10월 AI 시스템이 인간의 가치와…