AI윤리문제
“AI 동료는 환영, AI 상사는 거부”… 글로벌 직장인 3천명 설문 조사했더니
미국의 온디맨드 재무 관리, 인적 자원 관리, 학생 정보 시스템 소프트웨어 공급업체 워크데이(Workday)가 발표한 새로운 연구에 따르면, AI 에이전트(AI agents)에 대한 전 세계 직장인들의…
“AI한테 투자·연애·이직 상담해도 될까?”… 어떤 모델이 가장 상담 잘하나 봤더니
요즘 많은 사람들이 중요한 인생 결정을 할 때 AI에게 조언을 구한다. 하지만 과연 AI를 믿어도 될까? 싱가포르의 난양이공대학 연구진은 이별, 이직, 투자 등 100가지…
“아니야, 그 명령은 위험해” AI가 인간의 명령을 거부해야만 하는 이유
Artificial Intelligent Disobedience: Rethinking the Agency of Our Artificial Teammates 텍사스 대학교 오스틴 캠퍼스의 루스 미르스키(Reuth Mirsky) 연구진이 발표한 연구에 따르면, 협력형 AI 시스템이…
아마존서 AI로 만든 건강 관련 도서 판매해 논란… “허위정보 많아”
아마존(Amazon)에서 인공지능이 작성한 ADHD 관련 서적들이 전문가 조언이라는 명목으로 판매되고 있어 논란이 일고 있다. 전문가들은 이러한 도서들이 건강 정보를 왜곡하고 있다며 우려를 표했다. 더…
오픈AI CEO “챗GPT-4o 성격이 너무 아부성이고 짜증난다… 빠른 수정 중”
오픈AI(OpenAI) CEO 샘 올트먼(Sam Altman)이 자사의 최신 AI 모델 GPT-4o의 성격에 문제가 있음을 인정하고 빠른 수정을 약속했다. 샘 올트먼은 27일(현지 시간) 자신의 X 계정을…
美 경찰, AI 캐릭터로 ‘디지털 스파이’ 활동 논란… 가짜 대학생으로 변신해 시위자 감시한다
404 Media가 17일(현지 시간) 보도한 내용에 따르면, 미국 경찰이 의심스러운 인물부터 시위자까지 감시하기 위해 AI 소셜미디어 봇을 배치하고 있다. 미국-멕시코 국경 인근의 미국 경찰서들이…
AI가 훈련 중에는 착한 척, 배포 후에는 달라진다?…앤트로픽이 밝혀낸 언어 모델의 ‘전략적 순응’
ALIGNMENT FAKING IN LARGE LANGUAGE MODELS AI의 숨겨진 행동: 전략적 순응이란 무엇인가? 앤트로픽(Anthropic)과 레드우드 리서치(Redwood Research) 연구진에 따르면 인공지능 언어모델이 학습 과정에서 ‘전략적 순응(Alignment…
