explainable AI
“AI가 거짓말하는 순간 포착”… 앤트로픽, 클로드 내부 사고과정 공개
생성형 AI가 사용자에게 거짓말을 하면서도 그럴듯한 설명을 덧붙이는 순간이 과학적으로 포착됐다. AI 기업 앤트로픽(Anthropic)이 자사 AI 모델 클로드(Claude)의 내부 사고과정을 실시간으로 관찰한 연구 결과를…
“심근경색을 심장마비라고?”… 의료 AI의 ‘쉬운 설명’ 기술의 치명적 문제
병원에서 AI가 진단을 내리거나 백신 접종 순서를 정할 때, 환자나 의사들은 종종 “왜 이런 결정을 내렸지?”라고 궁금해한다. 지금까지 대부분의 AI는 답만 제시할 뿐 그…
“왜 내 쿠팡 광고는 전부 야한 걸까?” 소셜미디어 AI 추천 이유 설명해 주는 시스템 등장
뉴캐슬 대학교(Newcastle University) 연구진이 발표한 논문에 따르면, 현재 주요 소셜미디어 플랫폼들이 AI 기반 추천 시스템으로 사용자 경험을 개선하려 노력하고 있지만, 사용자들이 추천 이유를 이해하지…
