오픈AI가 6일(현지 시간) 자사 웹페이지를 통해, 최근 인공지능 발전에 따른 안전성과 조정에 관한 접근법을 공개했다.
공개된 내용에 따르면, 인류 전체에 혜택을 주는 AGI 개발을 사명으로 하는 오픈AI는 안전성을 핵심 가치로 삼고 있으며, AGI 발전을 단발적 혁명이 아닌 점진적으로 진화하는 시스템으로 인식하게 됐다. 이에 ‘반복적 배포’ 원칙을 통해 현재 시스템에서 배운 교훈으로 다음 시스템의 안전성을 확보하고 사회 적응 시간을 제공한다.
오픈AI에 따르면, AGI는 인류 삶을 긍정적으로 변화시킬 잠재력이 있지만, 지능 자체만으로는 긍정적 변화를 보장할 수 없다. 따라서 더 강력한 AI 시스템의 잠재적 해악을 완화하고, 인간의 가치와 통제 하에 개발하고 운영하는 것이 중요하다고 강조한다.
오픈AI는 자신들이 모든 답을 알지 못하며, 심지어 모든 질문도 갖고 있지 않다고 인정한다. 진행 방식과 직면한 도전에 대한 접근법에 대해 잘못된 판단을 할 수 있음을 열어두고 있다. 오픈AI는 건강한 토론 문화를 믿으며, 특히 오픈AI의 현재 입장에 동의하지 않을 수 있는 AI 위험에 대한 다양한 관점과 태도를 가진 사람들로부터의 피드백을 원한다고 밝혔다.
해당 기사에서 인용한 오픈AI의 접근법 원문은 링크에서 확인할 수 있다.
이미지 출처: 오픈AI 이미지 편
기사는 클로드와 챗GPT를 활용해 작성되었습니다.
관련 콘텐츠 더보기
