오픈AI(OpenAI)가 인공일반지능(AGI, Artificial General Intelligence) 개발 여정에서 사용자 보호와 시스템 보안 강화에 나섰다. 26일(현지 시간) 오픈AI 공식 홈페이지에 발표된 내용에 따르면, 현재 주간 활성 사용자 4억 명 이상을 보유한 오픈AI는 일반 사용자들의 데이터와 서비스 안전성 확보를 위한 다양한 보안 이니셔티브를 확대하고 있다. 오픈AI의 발표에 따르면, 사이버 보안 지원 프로그램을 통해 모델 프라이버시 강화에 집중하고 있다. 이는 ChatGPT와 같은 서비스 이용 시 사용자의 개인 데이터가 의도치 않게 노출되는 위험을 줄이기 위한 조치다. 회사는 AI 모델이 학습 데이터를 보호하는 능력을 강화하여 개인정보 유출 위험을 최소화하는 연구에 투자하고 있다.
오픈AI는 오퍼레이터(Operator)와 같은 고급 AI 에이전트 도입에 따른 고유한 보안 문제 해결에 투자하고 있다. 회사는 프롬프트 인젝션 공격을 방어하기 위한 견고한 정렬 방법 개발, 기본 인프라 보안 강화, 의도하지 않거나 유해한 행동을 신속하게 탐지하고 완화하기 위한 에이전트 모니터링 제어 구현에 집중하고 있다. 이는 일반 사용자들이 AI 서비스를 더 안전하게 이용할 수 있도록 하는 데 목적이 있다.
오픈AI는 자사의 AI 기술을 활용하여 사이버 방어 체계를 확장하고 있다. 회사는 사이버 위협을 탐지하고 신속하게 대응하기 위한 고급 방법을 개발했으며, AI 기반 보안 에이전트는 위협 탐지 능력을 향상시켜 사용자 서비스의 안정성을 높이는 데 기여하고 있다. 최근 오픈AI 직원들을 대상으로 한 스피어 피싱 캠페인과 같은 위협을 식별했을 때, 단순히 자체 방어를 넘어 다른 AI 연구소와 수법을 공유하여 업계 전체의 방어력을 강화하고 있다.
오픈AI는 보안 연구자들이 인프라와 제품 내 취약점과 위협을 책임감 있게 식별하는 것에 대해 보상하는 보안 버그 바운티 프로그램의 최대 보상금을 기존 2만 달러에서 10만 달러로 대폭 인상했다. 이는 사용자의 서비스 이용 환경을 더욱 안전하게 만들기 위한 회사의 노력을 보여준다. 오픈AI는 AI 기술이 빠르게 발전함에 따라 보안 조치를 강화해야 할 책임도 그에 비례하여 커진다고 강조했다. 회사는 사용자들이 신뢰하는 시스템, 지적 재산 및 데이터를 보호하는 것이 중요한 의무라고 인식하고, AGI의 안전하고 책임감 있는 개발을 위해 보안에 지속적으로 투자할 것이라고 밝혔다.
해당 발표에 대한 자세한 사항은 링크에서 확인할 수 있다.
이미지 출처: 오픈AI
기사는 클로드와 챗GPT를 활용해 작성되었습니다.
관련 콘텐츠 더보기
