생성형 AI 시대, 기업들의 윤리 기준 수립과 실천이 시급하다

생성형 AI(Generative AI, GenAI)의 급속한 도입이 기업들의 윤리 기준 수립에 대한 필요성을 더욱 높이고 있다. 딜로이트가 발표한 ‘2024년 기술 윤리 및 신뢰 연례 보고서’에 따르면, 응답자의 87%가 자사의 GenAI 사용이 증가했다고 답했다. 내부적으로는 78%가 GenAI를 사용 중이며, 외부 고객 대상 활용도 47%로 전년 대비 52% 증가했다.

GenAI 도입이 확대되면서 기업들은 효율성 향상과 고객 참여 강화의 기회를 얻고 있다. 그러나 동시에 평판 및 재정적 리스크에 노출될 가능성도 커지고 있다. 이에 따라 기업들은 GenAI를 비롯한 신기술의 개발과 사용에 대한 윤리적 기준을 수립하고 실천해야 하는 과제에 직면해 있다.

보고서에 따르면, GenAI 사용과 관련된 가장 큰 윤리적 우려사항은 데이터 프라이버시였다. 응답자의 72%가 데이터 프라이버시를 상위 3대 우려사항으로 꼽았으며, 40%는 이를 최우선 우려사항으로 선택했다. 이는 개인 데이터 보호에 대한 불안감과 함께, 고객 및 직원의 프라이버시 침해와 데이터 오용이 개인과 조직 모두에게 해를 끼칠 수 있다는 인식을 반영한다.

딜로이트의 글로벌 최고윤리책임자인 데비 레더(Debbie Rheder)는 “GenAI 도구들은 톤을 분석하고 해석하는 능력, 즉 감정 분석 기능을 제공하기 시작했으며, 알고리즘은 인간의 상호작용을 평가하는 데 있어 점점 더 향상되고 있다”고 설명했다. 그는 “이러한 고급 기능이 새로운 통찰력을 제공하는 기회를 제공하지만, 알고리즘에 편향이 도입되어 훈련 단계에서 사용된 데이터에 대표되지 않은 특정 사용자에게 부정확한 결과를 줄 수 있는 또 다른 예”라고 경고했다.

기업들이 가장 중요하게 여기는 윤리 원칙으로 ‘안전성’이 꼽혔다. 응답자의 78%가 ‘안전하고 보안이 확보된(safe and secure)’ 기술을 상위 3대 윤리 원칙으로 선택했으며, 36%는 이를 가장 중요한 원칙으로 꼽았다.

딜로이트 관계자는 “안전성과 보안에 대한 강조는 AI가 더 광범위한 사용자들에게 고급 기술에 대한 접근을 제공하면서 사이버보안과 사용자 보호의 중요성에 대한 인식을 높였기 때문”이라고 설명했다.

딜로이트의 리스크 및 브랜드 보호 담당 매니징 디렉터인 션 페이지(Sean Page)는 “우리는 이제 원하는 데이터를 전 세계적으로 공유할 수 있는 능력을 갖게 되었지만, 일부 경우에는 공유를 관리하기 위한 통제가 제대로 이루어지지 않고 있다”고 지적했다. 그는 “모든 데이터가 자유롭게 사용 가능하다는 개념에 도전하고 내부 및 고객 데이터를 적절히 분리해야 한다”고 강조했다.

기업들은 윤리 담당 임원(Chief Ethics Officer)을 통해 윤리적 행동을 장려하고 있다. 응답자의 26%가 자사에 윤리 담당 임원이 있다고 답했으며, 이는 2022년과 비슷한 수준이다.

윤리 담당 임원이 있는 조직의 68%는 이 역할이 개인의 윤리적 의사결정에 대한 책임감을 높인다고 응답했다. 또한 81%는 윤리 담당 임원이 윤리적 행동을 주도하는 데 필요한 권한과 자원을 충분히 갖추고 있다고 답했다.

데비 레더 글로벌 최고윤리책임자는 “윤리책임자의 역할은 여전히 윤리적 기술 분야에서 진화하고 있다”며 “그들은 비즈니스에 영향을 미칠 수 있는 윤리적 리스크와 혁신의 균형을 맞추는 것의 중요성을 인식하고, 전통적인 보고 채널을 통해 제기된 윤리적 기술 우려사항을 해결하며, 기술의 책임 있는 사용에 대한 정책과 규칙을 직원들에게 전달한다”고 설명했다.

기업들은 윤리 기준을 준수하지 않을 경우 발생할 수 있는 부정적 결과 중 평판 훼손을 가장 우려하고 있다. 응답자의 82%가 평판 훼손을 상위 3대 우려 사항으로 선택했으며, 39%는 이를 가장 심각한 결과로 꼽았다.

이는 기업들이 단기적인 재정적 손실보다 윤리적 약속을 지키는 능력이 장기적 성공에 더 중요하다고 인식하고 있음을 보여준다. 한 금융 서비스 기업의 임원은 “장기적인 리스크를 추정하고 단기적 이익과 비교하여 그 비중을 따지는 것이 어렵기 때문에 도전적이다. 그러나 기업의 이익 측면에서도 장기적으로는 윤리적인 것이 더 낫다”고 말했다.

기업들은 신기술의 윤리적 기준 설정에 있어 정부의 역할 확대를 기대하고 있다. 응답자의 69%가 정부가 윤리적 기준 설정에 더 큰 역할을 해야 한다고 답했다. 특히 74%는 기업과 정부가 윤리적 기준을 정의하는 데 협력해야 한다고 응답했으며, 60%는 정부가 신기술에 대한 추가 규제를 설정할 것으로 예상했다.

미국과 유럽의 AI 정책은 전 세계 기업들에게 영향을 미치고 있다. 2023년 10월 발표된 미국의 ‘AI 안전하고 신뢰할 수 있는 개발 및 사용에 관한 행정명령’에 대해 남아시아 응답자의 25%, 남미 응답자의 21%, 유럽 응답자의 12%가 자사의 AI 사용 방식을 변경했다고 답했다.

유럽연합의 AI법(AI Act)도 유럽 외 지역에 영향을 미치고 있다. 남아시아 응답자의 26%, 북미와 남미 응답자의 16%가 이 법에 대응해 변화를 주었다고 응답했다. 유럽 내에서는 그 영향이 더욱 두드러져 34%의 기업이 지난 1년간 변화를 주었다고 답했다.

GenAI의 도입 확대로 신기술의 윤리적 리스크가 증가하고 있으며, 이를 관리하지 못할 경우 평판, 조직, 재정, 인적 피해 등 잠재적 해악이 커질 수 있다. 기업들은 이해관계자들의 신뢰를 유지하고, 장기적 지속가능성을 보장하며, 직원들의 참여를 유지하기 위해 신기술의 획득, 개발, 구현 전반에 걸쳐 윤리적 원칙을 선제적이고 협력적으로 수립해야 한다.

딜로이트 컨설팅의 빌 브리그스(Bill Briggs) 최고기술책임자(CTO)는 “기업들은 기술과 그 기술이 제공할 수 있는 목적을 이해하기 위한 연구에 투자해야 한다”며 “성공적인 조직은 기술이 사용자에게 긍정적인 영향을 미칠 것이라는 확신을 갖기 위한 조치를 취해야 한다”고 조언했다.

우리는 기술 발전의 중요한 전환점에 서 있다. 기업들은 이 기회를 활용해 자사의 사명과 목적을 재정립하고, 비즈니스의 장기적 가치를 기술의 미래와 연결하며, 신뢰와 윤리의 중요성에 대한 인식을 직원들에게 확산시키고, 신기술을 활용해 사회에 가치를 환원할 수 있다. 우리 모두의 헌신과 행동을 통해, 우리는 자랑스러운 기술적으로 견고한 미래를 실현할 수 있을 것이다.

기사에 인용된 리포트 원문은 링크에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기