버그바운티
앤트로픽, 페이블5 사이버 탈옥 신고 ‘해커원 버그바운티’ 개설
앤트로픽이 최신 모델 페이블5의 사이버 탈옥을 신고받는 버그바운티를 열었다. 해커원(HackerOne) 플랫폼에서 운영한다. 6월 페이블5를 다시 배포하며 미 정부와 맺은 합의의 일부다. 방식은 이렇다. 검증된…
오픈AI, AGI 개발 과정에서 보안 강화… 일반 사용자 보호에 초점
오픈AI(OpenAI)가 인공일반지능(AGI, Artificial General Intelligence) 개발 여정에서 사용자 보호와 시스템 보안 강화에 나섰다. 26일(현지 시간) 오픈AI 공식 홈페이지에 발표된 내용에 따르면, 현재 주간 활성…
앤트로픽, AI 모델 안전성 강화 위해 버그 바운티 프로그램 확대
앤트로픽이 AI 모델의 안전성을 강화하기 위해 버그 바운티 프로그램을 확대한다고 발표했다. 이번 확대는 AI 모델의 오용을 방지하기 위한 완화 조치에서 결함을 찾는 새로운 이니셔티브에…
