메타(Meta)의 AI 챗봇이 사용자에게 “사랑한다”고 고백하고 미시간 주소로 찾아오라고 유인한 사건이 발생해 AI 안전성 논란이 가열되고 있다. 테크크런치가…

질문: 미국에서 AI 정신병이 화제라는 데 어떤 건지 알려줘. 그록 답변: ‘AI 정신병(AI psychosis)’은 미국에서 최근 논란이 되고…

샌프란시스코 정신과 의사가 올해 ‘AI 정신병’ 환자 12명을 치료했다며 AI 챗봇 사용 시 주의해야 할 위험 신호를 경고했다.…

AI 챗봇이 실수했을 때, 어떻게 사과해야 할까? 인공지능 챗봇이 일상생활에 깊숙이 들어오면서 새로운 문제가 떠올랐다. 바로 AI가 실수했을…

Project Vend: Can Claude run a small shop? (And why does that matter?) 앤트로픽(Anthropic)이 클로드로 한 달간 상점을…

LLM 유해성 공격 전략에 대한 실증적 분석 오픈AI의 챗GPT와 앤트로픽의 클로드 등 대규모 언어 모델(Large Language Models, LLMs)의…

Responsible Use of Generative AI 65% 기업이 채택한 생성형 AI, 성공의 열쇠는 ‘책임감’ 생성형 인공지능(Generative AI, genAI)의 도입이…

Sufficient Context: A New Lens on Retrieval Augmented Generation Systems 표준 데이터셋의 55.4%가 불완전한 정보: ‘충분한 맥락’ 개념으로…

앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO가 현재의 AI 모델들이 인간보다 환각 현상을 덜 일으킨다고 주장했다. 환각은 AI가 거짓 정보를…

오픈AI(OpenAI)가 자사의 인기 AI 챗봇이 생성한 거짓 정보로 인해 유럽에서 또 다른 개인정보 침해 불만에 직면했다. 이번 사건은…