AI 환각
“챗GPT도 속는다” AI가 정확한 정보를 줘도 14% 확률로…
Sufficient Context: A New Lens on Retrieval Augmented Generation Systems 표준 데이터셋의 55.4%가 불완전한 정보: ‘충분한 맥락’ 개념으로…
앤트로픽 CEO “AI 모델 환각, 인간보다 적게 발생한다”…
앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO가 현재의 AI 모델들이 인간보다 환각 현상을 덜 일으킨다고 주장했다. 환각은 AI가 거짓 정보를…
챗GPT에 이름 검색했더니 “자녀 살해한 살인자”… 오픈AI, 허위정보…
오픈AI(OpenAI)가 자사의 인기 AI 챗봇이 생성한 거짓 정보로 인해 유럽에서 또 다른 개인정보 침해 불만에 직면했다. 이번 사건은…
12월 30일 AI Matters 뉴스 브리핑 : 메타…
메타, AI 캐릭터로 소셜미디어 혁신 예고 메타는 AI 기반 가상 캐릭터를 소셜미디어에 도입할 계획을 발표했다. 이를 통해 사용자는…
AI가 하는 ‘선의의 거짓말’과 ‘무지의 거짓말’ 구분하는 기술…
챗GPT(ChatGPT)나 클로드(Claude) 같은 AI 챗봇이 때로는 자신감 넘치는 말투로 틀린 답변을 하는 경우를 본 적이 있을 것이다. 이스라엘…
AI의 새로운 전장, 합성 데이터의 부상과 위험성
인공지능(AI) 업계가 합성 데이터에 주목하고 있다. 실제 데이터 확보가 점점 어려워지면서 AI가 생성한 데이터로 또 다른 AI를 훈련시키는…
