AI 위험 관리
AI 리더 200여명 긴급 호명… “내년까지 AI가 절대 넘지 말아야 할 ‘레드라인’ 만들어야”
전 세계 AI 전문가와 정치인들이 인공지능의 위험한 사용을 막기 위한 국제협정이 시급하다고 목소리를 높였다. 더 버지(The Verge)가 23일(현지 시간) 보도한 내용에 따르면, 200명이 넘는…
SKT, 자체 개발 ‘AI 거버넌스 포털’로 AI 안전성 강화한다
SK텔레콤이 AI 서비스의 신뢰성과 안전성을 체계적으로 관리하기 위한 사내 ‘AI 거버넌스 포털’을 공식 오픈했다고 2일(한국 시간) 발표했다. 이번에 구축한 ‘AI 거버넌스 포털’은 SK텔레콤이 자체적으로…
네이버 자율규제위, AI 안전성 논의한 2차 활동 보고서 공개…커머스 정산 주기 포함돼
네이버가 자체적으로 운영하는 자율규제위원회가 지난 1년간의 활동 내역을 담은 2차 활동보고서를 2일(한국 시간) 공개했다. 네이버 이용자보호 및 자율규제위원회(이하 네이버 자율규제위원회)는 2023년 9월 출범 이후…
속도냐 안전이냐, AI 기업들의 딜레마… 절반이 ‘빠른 출시’ 택했다
2025 AI Governance Survey AI 전문 컨설팅 기업 퍼시픽 AI(Pacific AI)가 후원하고 그라디언트 플로우(Gradient Flow)가 수행한 ‘2025년 AI 거버넌스 조사’에 따르면, 생성형 AI 시스템을…
美국방부, 군 의료진에 AI 챗봇 도입…진료기록 요약·의료 자문 효과 입증
미 국방부가 2일(현지시간) 보도한 자료에 따르면, 최고디지털인공지능실(CDAO)이 군 의료분야에서 대형언어모델(LLM) 챗봇 활용을 위한 크라우드소싱 기반 AI 레드팀 테스트(CAIRT) 시범사업을 성공적으로 완료했다. 최고 디지털·인공지능실은 챗지피티(ChatGPT)와…
오픈AI와 구글, 마이크로소프트가 AI 에이전트에 주목하는 이유
Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents AI 에이전트, 단순 자동화에서 자율 시스템으로 AI 에이전트는 환경을 감지하고…
앤트로픽, AI 안전 강화한 ‘책임있는 확장 정책’ 업데이트 발표
앤트로픽이 최첨단 AI 시스템의 잠재적 위험을 관리하기 위한 ‘책임있는 확장 정책(RSP)’ 업데이트를 발표했다. 이번 업데이트는 AI 위험을 평가하고 관리하는 더 유연하고 세분화된 접근 방식을…
