AI가 보험금 심사한다면? 로드아일랜드주, AI 활용 지침 발표

USE OF ARTIFICIAL INTELLIGENCE SYSTEMS BY INSURERS

보험산업 전반에 확산되는 AI, 상품개발부터 사기탐지까지 활용

로드아일랜드 주 사업규제국 보험부(Rhode Island Department of Business Regulation’s Insurance Division)가 발표한 보고서에 따르면, 인공지능(AI)이 보험산업을 혁신적으로 변화시키고 있다. AI 기술은 상품 개발, 마케팅, 판매와 유통, 보험인수와 가격책정, 보험계약 관리, 클레임 처리, 사기 탐지 등 보험업의 전 영역에서 활용되고 있는 것으로 나타났다. 보험부는 특히 전미보험감독자협의회(NAIC)가 2020년 채택한 ‘인공지능 원칙’을 통해 공정성, 윤리적 사용, 책임성, 법규 준수, 투명성, 안전성을 강조했다. 보험부는 AI가 혁신적인 상품 개발, 소비자 인터페이스와 서비스 개선, 프로세스 단순화 및 자동화, 효율성과 정확성 향상에 기여할 수 있다고 평가했다.

AI 시스템 정의와 범위: 예측에서 생성형 AI까지 포괄

보험부는 AI 시스템을 ‘주어진 목표에 따라 예측, 추천, 콘텐츠(텍스트, 이미지, 비디오, 사운드) 등을 생성하는 기계 기반 시스템’으로 정의했다. 특히 예측 모델(Predictive Model)은 과거 데이터를 알고리즘과 기계학습으로 분석해 의사결정에 활용하는 것을 의미하며, 생성형 AI는 기존 데이터나 콘텐츠와 유사하지만 직접적인 복사본이 아닌 새로운 콘텐츠를 생성하는 AI 시스템을 지칭한다.

AI 시스템의 소비자 영향 평가: 부작용과 잠재적 피해 고려 필수

보험부는 AI 시스템이 소비자에게 미치는 영향을 면밀히 평가하도록 요구했다. ‘소비자 부작용(Adverse Consumer Outcome)’은 보험 규제 기준을 위반하여 소비자에게 부정적 영향을 미치는 보험사의 결정으로 정의된다. 보험사는 AI 시스템 도입 시 결정의 성격, 소비자에 대한 잠재적 피해 정도, 최종 의사결정 과정에서의 인간 개입 정도, 영향을 받는 소비자에 대한 결과의 투명성과 설명 가능성, 제3자의 데이터와 예측 모델, AI 시스템에 대한 의존도를 종합적으로 고려해야 한다.

특히 통제와 절차의 수준은 소비자 부작용의 위험과 잠재적 피해 정도에 비례해야 한다고 명시했다. 보험부는 특히 보험사가 적절한 통제 없이 AI를 사용할 경우 소비자 부작용의 위험이 증가할 수 있다고 경고했다. 이에 따라 강력한 거버넌스, 리스크 관리 통제, 내부 감사 기능이 AI 시스템으로 인한 위험을 완화하는 데 핵심적인 역할을 한다고 강조했다.

소비자 보호 위한 AIS 프로그램: 이사회 책임부터 인력 교육까지

보험사들은 문서화된 AI 시스템 프로그램(AIS Program)을 운영해야 한다. 이 프로그램은 이사회나 이사회 위원회에 책임이 있는 고위 경영진이 개발과 실행을 감독해야 하며, 기업의 전사적 리스크 관리(ERM) 프로그램의 일부가 될 수 있다. 미국 표준기술연구소(NIST)의 AI 리스크 관리 프레임워크 버전 1.0을 참고할 수 있으며, AI 시스템의 설계, 개발, 검증, 구현, 사용, 모니터링, 업데이트, 폐기까지 전체 수명주기를 관리해야 한다.

보험부는 보험사들이 AI 시스템 사용 시 영향을 받는 소비자들에게 통지하고, 보험 생명주기의 각 단계에서 적절한 수준의 정보를 제공하는 절차를 마련하도록 요구했다. 또한 AI 시스템의 모든 단계에서 영업부서, 상품 전문가, 계리, 데이터 사이언스와 분석, 언더라이팅, 클레임, 컴플라이언스, 법무 등 관련 부서 대표들로 구성된 위원회를 구성하도록 권고했다.

공정성과 투명성 확보: 모델 드리프트 평가와 데이터 품질 관리 필수

보험사는 AI 시스템의 정확성과 공정성을 위해 데이터 품질, 무결성, 편향 분석과 최소화, 적합성을 관리해야 한다. 특히 모델 드리프트(Model Drift) 현상, 즉 시간이 지남에 따라 모델 학습에 사용된 데이터와 실제 적용되는 데이터 간의 차이로 인한 성능 저하를 평가하고 관리해야 한다.

예측 모델의 해석가능성, 반복가능성, 견고성, 정기적 튜닝, 재현가능성, 추적가능성도 평가되어야 한다. 보험부는 특히 비공개 정보, 특히 소비자 정보 보호에 대한 중요성을 강조했다. 예측 모델 자체에 대한 무단 접근 방지도 중요한 관리 대상으로 지정했다.

제3자 AI 시스템 관리: 계약부터 감사까지 체계적 관리 체계 구축

보험사가 외부 업체의 AI 시스템이나 데이터를 활용할 경우, 해당 업체와의 계약에 감사 권한과 감사 보고서 수령 권한을 포함시켜야 한다. 또한 규제 당국의 조사나 감독 시 제3자의 협조를 보장받아야 하며, 정기적으로 계약 준수 여부를 확인하고 감사를 실시해야 한다.

규제 감독 강화: 시장행위 검사와 조사 범위 확대

보험부는 보험사의 AI 시스템 사용에 대해 광범위한 조사와 시장행위 검사를 실시할 수 있다. 조사 범위는 AI 시스템의 개발, 배포, 사용뿐만 아니라 소비자에게 미치는 부정적 영향까지 포함한다. 특히 AI 시스템의 거버넌스 프레임워크, 리스크 관리, 내부 통제에 대한 심층적인 검토가 이루어질 수 있다. 보험부는 이러한 감독이 로드아일랜드 주법 27-13.1-1 및 시장행위 감시법(Market Conduct Surveillance Act)에 근거한다고 밝혔다. 시장 분석부터 표적 검사까지 광범위한 활동이 가능하며, 필요한 경우 관련 전문가를 활용할 수 있다고 명시했다.

해당 기사에 인용된 논문 원문은 링크에서 확인 가능하다.

기사는 클로드 3.5 Sonnet과 챗GPT를 활용해 작성되었습니다.