오픈AI, 생물학 분야 AI 안전장치 강화… 화학무기 못 만들게 한다

오픈AI(OpenAI)가 생물학 분야에서 AI 모델의 능력이 향상됨에 따라 포괄적인 안전장치를 구축하고 있다고 18일(현지 시간) 발표했다. 오픈AI에 따르면, 첨단 AI 모델들이 이미 과학자들의 신약개발 성공 가능성 예측을 돕고 있으며, 곧 백신 설계 개선, 지속가능한 연료용 효소 생성, 희귀질환 치료법 발견 등을 가속화할 것으로 예상된다고 밝혔다.

그러나 이러한 능력은 이중 사용 우려를 동반한다. 생물학적 데이터 추론, 화학 반응 예측, 실험실 실험 안내 등 과학 발전을 이끄는 동일한 기능들이 최소한의 전문지식을 가진 사람들이 생물학적 위협을 재현하거나 고도로 숙련된 행위자들의 생물무기 제작을 도울 수 있다는 것이다.

오픈AI는 향후 AI 모델들이 자사의 준비 프레임워크(Preparedness Framework)로 측정한 생물학 분야에서 ‘높음(High)’ 수준의 능력에 도달할 것으로 예상한다며, 이에 대비한 다면적 접근법을 취하고 있다고 설명했다. 회사는 생물학 능력 발전에 대한 책임감 있는 접근법 개발, 정부 기관 및 국립 연구소를 포함한 외부 도메인 전문가들과의 협력, 이중 사용 생물학적 요청을 안전하게 처리하도록 모델 훈련, 탐지·모니터링·집행 시스템 구축, 전문가들과의 적대적 레드팀 테스트, 보안 통제 배치 등의 방안을 추진하고 있다.

특히 회사는 명시적으로 유해하거나 생물무기화를 가능하게 하는 요청에 대해서는 모델이 거부하도록 훈련을 지속하고 있다. 바이러스학 실험, 면역학, 유전공학 등과 같은 이중 사용 요청에 대해서는 실행 가능한 단계를 제공하는 응답을 피하는 원칙을 따르고 있다. 오픈AI는 또한 모든 제품 표면에 강력한 시스템 전반 모니터를 배치해 위험하거나 의심스러운 생물 관련 활동을 탐지하고 있으며, 안전하지 않다고 판단되면 모델 응답을 차단한다고 밝혔다.

회사는 오는 7월 생물방어 정상회담을 개최해 선별된 정부 연구자들과 비정부기구들을 한데 모아 이중 사용 위험을 탐구하고 진전 사항을 공유할 예정이라고 발표했다. 이번 정상회담의 목표는 미국 및 동맹국 정부들과의 파트너십을 심화하고, 첨단 AI가 대응책부터 새로운 치료법까지 최첨단 생물방어 작업을 어떻게 지원할 수 있는지 더 잘 이해하는 것이다.


해당 기사의 원문은 오픈AI 뉴스룸에서 확인 가능하다.

이미지 출처: 오픈AI