‘AI의 유해 페르소나’ 밝힌 오픈AI 마일스 왕, 신약개발 스타트업 세운다

현지 시각 7월 14일 테크크런치(TechCrunch)에 따르면, 오픈AI 연구원 마일스 왕(Miles Wang)이 회사를 떠나 AI 신약개발 스타트업을 세운다. 그는 약 2억 달러(약 3천억원)를 기업가치 20억 달러(약 3조원)에 조달하는 방안을 논의하고 있으며, 벤처캐피털 라이트스피드(Lightspeed)가 라운드를 이끄는 쪽으로 협의가 오갔다. 라이트스피드는 스냅챗 초기 투자로 알려진 실리콘밸리의 대형 벤처캐피털이다.

마일스 왕은 AI 안전 연구로 이름을 알린 인물이다. 그는 오픈AI에서 ‘창발적 오정렬(emergent misalignment)’을 규명한 논문 ‘페르소나 특징이 창발적 오정렬을 좌우한다’의 공저자다. 창발적 오정렬은 AI를 안전하지 않은 코드로 잠깐 훈련시키면, 전혀 상관없는 질문에도 갑자기 해롭거나 악의적인 답을 내놓는 현상을 말한다. 왕은 모델 내부를 뜯어보는 기법으로 이런 돌변을 일으키는 ‘유해 페르소나’라는 신호를 찾아내, 모델이 삐뚤어질지를 미리 예측하고 되돌리는 방법을 제시했다.

왕은 2024년 하버드 컴퓨터과학 과정을 중퇴하고 오픈AI에 합류했으며, AI를 과학·생물학 발견에 접목하는 연구도 해왔다. 새 회사에는 오픈AI 소속 연구원 여러 명이 함께 옮길 것으로 알려졌다. 회사는 기존 약이나 임상에서 실패한 약의 새로운 쓰임을 찾는 모델 개발에 집중할 예정이다. 이미 FDA 승인을 받은 약은 안전성 검증이 끝나 있어, 신약을 처음부터 개발하는 것보다 매출까지 걸리는 시간이 짧다. 다만 왕은 이번 보도의 조달 수치와 회사 설명이 사실과 다르다고 반박하면서도 구체적인 수치는 밝히지 않았다.

자세한 내용은 테크크런치(TechCrunch)에서 확인할 수 있다.

이미지 출처: AI 생성