AI 모델 검증
모든 차별이 나쁜가?… AI 공정성에 대한 스탠포드 연구진의 새로운 제안
Fairness through Difference Awareness: Measuring Desired Group Discrimination in LLMs 스탠포드 대학교 연구진이 발표한 논문 “차이를 인식하는 공정성: LLM에서 집단 간 차별의 측정”에 따르면,…
금융권 생성형 AI 도입 본격화… MAS, ‘AI 리스크 관리 가이드라인’ 제시
ARTIFICIAL INTELLIGENCE MODEL RISK MANAGEMENT 챗GPT 출시 이후 금융권 AI 도입 가속화…자금세탁방지·사기탐지 등 도입 활발 싱가포르 통화청(MAS)이 지난해 12월 발표한 ‘AI 모델 리스크 관리’…
美재무부, 금융 서비스에서 AI의 잠재력과 위험 경고하는 보고서 공개
Managing Artificial Intelligence-Specific Cybersecurity Risks in the Financial Services Sector 금융권 AI 도입 현황과 과제 미국 재무부가 발표한 ‘AI 기반 사이버보안 리스크 관리’ 보고서에…
오픈AI, 신규 AI 모델 ‘o1’ 안전성 평가 결과 공개…사이버보안 위험도 ‘낮음’ 판정
오픈AI가 새로운 AI 모델 ‘o1’과 ‘o1-미니(o1-mini)’의 시스템 안전성 평가 결과를 5일(현지시간) 공개했다. 오픈AI는 이번 평가에서 자사의 ‘준비성 프레임워크(Preparedness Framework)’에 따라 외부 레드팀 검증과 프론티어…
