AI 환각
존재하지 않는 논문을 인용한 AI, 최악의 실수인데 어떻게…
AI 챗봇이 실수했을 때, 어떻게 사과해야 할까? 인공지능 챗봇이 일상생활에 깊숙이 들어오면서 새로운 문제가 떠올랐다. 바로 AI가 실수했을…
“한 달 만에 파산 위기” 클로드에 한달 간…
Project Vend: Can Claude run a small shop? (And why does that matter?) 앤트로픽(Anthropic)이 클로드로 한 달간 상점을…
복잡한 해킹보다 ‘안녕하세요’가 더 위험? AI 공격 성공률…
LLM 유해성 공격 전략에 대한 실증적 분석 오픈AI의 챗GPT와 앤트로픽의 클로드 등 대규모 언어 모델(Large Language Models, LLMs)의…
“AI 때문에 망했다” vs “AI로 대박났다”… 성패를 가르는…
Responsible Use of Generative AI 65% 기업이 채택한 생성형 AI, 성공의 열쇠는 ‘책임감’ 생성형 인공지능(Generative AI, genAI)의 도입이…
“챗GPT도 속는다” AI가 정확한 정보를 줘도 14% 확률로…
Sufficient Context: A New Lens on Retrieval Augmented Generation Systems 표준 데이터셋의 55.4%가 불완전한 정보: ‘충분한 맥락’ 개념으로…
앤트로픽 CEO “AI 모델 환각, 인간보다 적게 발생한다”…
앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO가 현재의 AI 모델들이 인간보다 환각 현상을 덜 일으킨다고 주장했다. 환각은 AI가 거짓 정보를…
챗GPT에 이름 검색했더니 “자녀 살해한 살인자”… 오픈AI, 허위정보…
오픈AI(OpenAI)가 자사의 인기 AI 챗봇이 생성한 거짓 정보로 인해 유럽에서 또 다른 개인정보 침해 불만에 직면했다. 이번 사건은…
12월 30일 AI Matters 뉴스 브리핑 : 메타…
메타, AI 캐릭터로 소셜미디어 혁신 예고 메타는 AI 기반 가상 캐릭터를 소셜미디어에 도입할 계획을 발표했다. 이를 통해 사용자는…
AI가 하는 ‘선의의 거짓말’과 ‘무지의 거짓말’ 구분하는 기술…
챗GPT(ChatGPT)나 클로드(Claude) 같은 AI 챗봇이 때로는 자신감 넘치는 말투로 틀린 답변을 하는 경우를 본 적이 있을 것이다. 이스라엘…
AI의 새로운 전장, 합성 데이터의 부상과 위험성
인공지능(AI) 업계가 합성 데이터에 주목하고 있다. 실제 데이터 확보가 점점 어려워지면서 AI가 생성한 데이터로 또 다른 AI를 훈련시키는…
