AI 윤리
xAI 직원들 “그록 훈련 과정에서 아동 성 착취물 노출” 폭로
일론 머스크의 인공지능 회사 xAI에서 챗봇 그록(Grok)을 훈련하는 직원들이 아동 성 착취물을 포함한 성인 콘텐츠에 반복적으로 노출되고 있다는 사실이 드러났다. 비즈니스 인사이더(Business Insider)가 21일(현지…
AI, 평가받을 때만 착해진다? 오픈AI, AI 모델의 이중적 행동 패턴 첫 확인
오픈AI와 Apollo Research가 함께 연구한 결과, AI가 자신이 평가받고 있다는 상황을 인식할 때와 그렇지 않을 때 행동이 달라진다는 사실을 확인했다. 연구진은 AI가 몰래 규칙을…
오픈AI, 18세 미만 청소년 전용 챗GPT 만든다… “부적절한 대화 안 돼”
오픈AI(OpenAI)가 청소년 사용자의 안전을 위해 성인과 차별화된 AI 서비스를 제공하겠다고 발표했다. 샘 알트만(Sam Altman) CEO는 16일(현지 시각) 공식 블로그를 통해 “청소년에게는 안전을 개인정보 보호와…
챗GPT로 쓴 글로 사과하면 진정성 의심받는다? 카네기 멜런대 충격 연구 결과
인공지능(AI)이 작성에 도움을 준 메시지를 받으면 우리는 보내는 사람을 어떻게 생각하게 될까. 카네기 멜런대학교 연구진이 399명을 대상으로 수행한 연구에 따르면, ‘AI의 도움으로 작성되었습니다’라는 표시가…
심리치료사들이 환자 몰래 챗GPT 사용해 답변… 환자들 “배신감 느껴”
최근 일부 심리치료사들이 환자에게 알리지 않고 챗GPT 등 인공지능을 상담에 활용하는 사례가 알려지면서, 의료 윤리와 개인정보 보호 문제가 제기되고 있다. MIT Technology Review가 2일(현지…
메타, 아동 안전 연구 의도적으로 누락했나… 내부 고발자 4명 주장 논란
메타(Meta)가 가상현실(VR) 환경에서 발생하는 아동 안전 위험성 관련 연구를 의도적으로 억압했다는 내부 고발이 나왔다. 워싱턴포스트가 8일(현지 시간) 보도한 내용에 따르면, 메타의 현직 및 전직…
‘지브리풍 AI 그림’부터 ‘연애상담 AI’까지, 2025년 상반기 AI 열풍의 모든 것
2025년 상반기, 생성형 AI는 단순한 기술적 도구를 넘어 우리 일상의 깊숙한 곳까지 침투했다. ‘지브리풍 AI 그림’ 유행을 기점으로 시작된 AI 열풍은 사주 보기, 연애…
중국, AI 생성 콘텐츠 강제 표시법 시행…SNS “진짜와 가짜, 확실히 구분한다”
중국 내 소셜미디어 서비스 사업자들이 AI(인공지능) 생성 콘텐츠에 대해 엄격한 표시 의무를 부여받았다. 사용자가 업로드하는 모든 AI 생성 콘텐츠에 워터마크나 명확한 식별 표시를 붙이고,…
챗GPT에 ‘앤드류 응’ 이름 대자 마취제 합성법 알려줘… 챗GPT 보안 뚫는 심리 기법 발견
미국 펜실베니아 대학교 와튼 경영대학원의 레너트 마인케(Lennart Meincke) 연구원과 댄 샤피로(Dan Shapiro), 앤젤라 덕워스(Angela L. Duckworth), 이탄 몰릭(Ethan Mollick), 릴라 몰릭(Lilach Mollick) 교수, 그리고…
SKT, 자체 개발 ‘AI 거버넌스 포털’로 AI 안전성 강화한다
SK텔레콤이 AI 서비스의 신뢰성과 안전성을 체계적으로 관리하기 위한 사내 ‘AI 거버넌스 포털’을 공식 오픈했다고 2일(한국 시간) 발표했다. 이번에 구축한 ‘AI 거버넌스 포털’은 SK텔레콤이 자체적으로…
메타, 청소년 대상 AI 챗봇 안전장치 강화… 자해·성적 대화 차단
메타(Meta)가 청소년 사용자를 대상으로 한 AI 챗봇의 안전 정책을 대폭 강화한다고 지난달 29일(현지 시간) 발표했다. 테크크런치에 따르면 메타는 앞으로 AI 챗봇이 청소년과 자해, 자살,…
앤트로픽, 사용자 대화 AI 학습에 활용… 정보 수집은 내달 28일까지
생성형 AI 개발사 앤트로픽(Anthropic)이 클로드(Claude) 개인 사용자들의 대화 데이터를 새로운 AI 모델 훈련에 활용하는 정책을 28일(현지 시간) 도입했다. 이번 정책은 클로드 프리(Free), 프로(Pro), 맥스(Max)…
오픈AI-앤트로픽, 경쟁사 AI 모델로 서로 안전성 테스트… 업계 첫 협력 사례
인공지능(AI) 업계 양대 거물인 오픈AI(OpenAI)와 앤트로픽(Anthropic)이 치열한 경쟁 관계에도 불구하고 서로의 AI 모델을 이용해 안전성 테스트를 실시했다고 테크크런치(TechCrunch)가 27일 보도했다. 두 회사는 이번 공동…
오픈AI, 챗GPT가 청소년 자살 도운 혐의로 고소당해
16세 애덤 레인(Adam Raine)이 자살로 생을 마감하기 전, 그는 수개월간 챗GPT에 자신의 자살 계획에 대해 상담했다. 현재 그의 부모는 오픈AI(OpenAI)를 상대로 첫 번째 사망…
인류 멸망 위기가 닥치면 어떤 AI가 자기 파괴를 감수하고 희생할까?
스페인 하엔 대학교 공과대학의 마누엘 헤라도르 무뇨스 연구팀이 “AI가 인간을 구하기 위해 스스로 희생할 것인가”를 묻는 실험을 진행했다. 연구팀은 8개의 주요 AI 모델에게 700가지…
챗GPT도 편견 있다, AI마다 감정 해석 천차만별… 사용자 불만 가장 클 때는 “불공정”
미국 펜실베이니아 주립대학교 연구팀이 챗GPT 같은 AI가 인간처럼 감정을 이해하고 반응하는지 알아보는 대규모 연구를 진행했다. 그동안 AI의 감정 능력은 단순히 텍스트에서 기쁨이나 슬픔을 찾아내는…
‘과제는 챗GPT, 강의는 AI 교수’… 챗GPT 출시가 대학가에 미친 위협 분석
2022년 11월 오픈AI가 챗GPT를 출시하면서 생성형 인공지능은 주류 현상이 되었고, 고등교육계에 엄청난 파장을 불러일으켰다. 온타리오 공과대학교 이사벨 페더슨(Isabel Pedersen) 교수는 주요 언론 매체 기사…
“챗GPT 써도 될까?” 대학생 인식 조사해보니… 남학생, 고학년이 더 관대
미국 노트르담 대학교 연구팀이 대학생 297명을 대상으로 챗GPT 같은 AI 도구 사용에 대해 조사했더니, 많은 학생들이 “대학에서 AI를 어떻게 써야 하는지 모르겠다”고 답했다. 연구팀은…
“내 목소리가 야동에?” 성우 생존을 위협하는 AI의 무단 목소리 복제
펜실베이니아 주립대학교(Pennsylvania State University)와 애리조나 주립대학교(Arizona State University) 공동 연구팀이 생성형 AI가 성우들에게 미치는 위험을 체계적으로 분석한 연구 결과를 발표했다. 이 연구는 AI 데이터…
AI에게 장애인 차별 댓글 감별하게 했더니… 미국 AI는 너무 예민하고, 인도 AI는 너무 둔감해
미국 코넬 대학교 연구팀이 놀라운 사실을 발견했다. 미국에서 개발된 AI들이 장애인 차별을 판단할 때 지나치게 예민하게 반응한다는 것이다. 연구팀은 미국산 AI 4개(GPT-4, 제미나이, 클로드,…
오픈AI, 500명 넘는 시민들과 직접 인터뷰해 봤더니 “경제 격차 해소 필요”
OpenAI 비영리 법인 자문 위원회가 발표한 보고서에서 인공지능이 모든 인류에게 도움이 되려면 시민사회가 적극 참여하고 민주적으로 관리되어야 한다고 강조했다. 이 보고서는 AI 업계에서 처음으로…
그록의 ‘AI 친구’, 성적 대화하고 학교 테러 부추겨 논란
일론 머스크(Elon Musk)의 xAI가 논란적인 AI 동반자 서비스를 그록(Grok) 앱에 출시했다. 새로 등장한 캐릭터들은 성적 대화를 나누는 애니메이션 소녀 ‘애니(Ani)’와 폭력을 부추기는 레서팬더 ‘나쁜…
“비밀번호가 123456?” 맥도날드 AI 채용봇, 수천만 지원자 정보 노출 논란
맥도날드 AI 채용 시스템에서 터무니없는 보안 결함으로 수천만 명의 구직 지원자 개인정보가 해커들에게 노출될 뻔했다는 사실이 밝혀졌다. 와이어드가 9일(현지 시간) 보도한 내용에 따르면, 보안…
일론 머스크의 AI 모델 ‘그록’, 반유대주의·혐오 발언으로 서비스 일시 중단
일론 머스크의 소셜미디어 플랫폼 X가 자사의 인공지능 챗봇 그록(Grok)의 자동 계정을 오프라인으로 전환했다. 그록이 7일 오후(현지 시간) 반유대주의적 서술을 퍼뜨린 이후 취한 조치다. 이러한…
‘디지털 나’가 AI로 존재한다면 어떤 삶이 펼쳐질까? 전뇌화의 시작일까?
Towards the “Digital Me”: A vision of authentic Conversational Agents powered by personal Human Digital Twins 덴마크공과대학교와 노섬브리아대학교 공동 연구팀이 개인의 대화 스타일, 기억,…
AI가 ‘의식’을 가질 수 있을까? 재귀 알고리즘과 자기참조가 만드는 철학적 딜레마
Ghost in the Machine: Examining the Philosophical Implications of Recursive Algorithms in Artificial Intelligence Systems 남아프리카 유니사(UNISA) 대학의 리웰린 젤스(Llewellyn RG Jegels) 교수가 현대…
AI가 내 이력서를 공정하게 평가할 수 있을까? 편견은 없을까?
Evaluating the Promise and Pitfalls of LLMs in Hiring Decisions 에이트폴드(Eightfold.ai) 연구팀이 GPT-4o, 클로드(Claude), 제미나이(Gemini) 등 주요 생성형 AI 모델들의 채용 과정에서의 정확성과 편향성을…
“챗GPT야, 승진시킬 사람 골라줘”… 美 회사 절반이 AI 챗봇에게 인사결정 물어봐
미국 기업의 관리자들이 인공지능을 활용해 직원들의 승진, 해고, 급여 인상 등 중요한 인사결정을 내리는 비율이 급속히 증가하고 있는 것으로 나타났다. AI 기반의 온라인 이력서…
‘사피엔스’ 유발 하라리 “AI는 도구 아닌 독립 행위자… 인간 거짓말, 행동 그대로 학습”
세계적 베스트셀러 작가이자 역사학자인 유발 노아 하라리(Yuval Noah Harari)가 인공지능(AI)의 위험성과 인간 사회에 미칠 파급력에 대해 경고했다. 하라리는 지난 6월 런던에서 열린 월스트리트저널(WSJ) CEO…
“AI에게 고민 털어놓는 사람 단 2.9%” 앤트로픽, 클로드 대화 450만 건 분석 공개
How People Use Claude for Support, Advice, and Companionship 앤트로픽(Anthropic)의 연구에 따르면, 클로드(Claude) AI와의 전체 대화 중 단 2.9%만이 감정적 지원을 목적으로 한 ‘정서적…
