AI모니터링
오픈AI, 챗GPT에 생물학적 위험 방지 시스템 도입… ‘바이오 무기 제조법’ 물어도 대답 안 한다
오픈AI(OpenAI)가 최신 AI 추론 모델인 o3와 o4-미니(o4-mini)에 생물학적·화학적 위협과 관련된 프롬프트를 모니터링하는 새로운 시스템을 배포했다고 밝혔다. 이 시스템은 잠재적으로 유해한 공격을 실행하는 방법에 대한…
AI도 ‘생각’을 감추려 한다… 오픈AI, 위험한 AI 행동 95% 감지 가능한 기술 공개
Monitoring Reasoning Models for Misbehavior and the Risks of Promoting Obfuscation 강력한 AI 모델의 ‘생각 과정’ 모니터링, 95% 정확도로 AI 오용 감지 최근 OpenAI…
AI 헬스케어, 혁신인가 불공정한 기술인가?
Bias recognition and mitigation strategies in artificial intelligence healthcare applications 의료 산업에서 AI의 역할이 빠르게 확대되고 있다. 진단 보조, 의료 영상 분석, 전자의무기록(EMR) 활용…
