레드팀테스트
구글, ‘제미나이 2.5 프로’ 안전성 보고서에 핵심 정보 빠져 논란
테크크런치가 17일(현지 시간) 보도한 내용에 따르면, 구글(Google)이 자사의 가장 강력한 AI 모델인 제미나이(Gemini) 2.5 프로 출시 몇 주 후인 지난 목요일, 내부 안전성 평가…
오픈AI, 챗GPT에 생물학적 위험 방지 시스템 도입… ‘바이오 무기 제조법’ 물어도 대답 안 한다
오픈AI(OpenAI)가 최신 AI 추론 모델인 o3와 o4-미니(o4-mini)에 생물학적·화학적 위협과 관련된 프롬프트를 모니터링하는 새로운 시스템을 배포했다고 밝혔다. 이 시스템은 잠재적으로 유해한 공격을 실행하는 방법에 대한…
오픈AI, 신모델 ‘o3’ 사전 안전 검증 시간 부족해… 조작 가능성 우려
오픈AI(OpenAI)가 자사의 새로운 고성능 AI 모델인 o3의 테스트를 위해 파트너 기관에 충분한 시간을 제공하지 않았다는 주장이 제기됐다. 테크크런치가 16일(현지 시간) 보도한 내용에 따르면, 미터(Metr)는…
