오픈AI(OpenAI)의 소셜 앱 소라(Sora)가 출시 직후 논란에 휩싸였다. 사용자가 자신이나 타인의 얼굴을 딥페이크 할 수 있는 ‘카메오(Cameo)’ 기능 때문이다. 이 기능은 출시 초기부터 말썽을…

Deepfake detection in generative AI: A legal framework proposal to protect human rights 영국 허트포드셔 대학교(University of Hertfordshire) 법학부의 펠리페 로메로-모레노(Felipe Romero-Moreno) 교수가 발표한…

메타(Meta)의 전 최고 임원이 기술 기업들이 AI 모델 훈련에 예술가들의 작품을 사용하기 전에 허가를 받아야 한다면 AI 산업이 파멸할 것이라고 주장했다. 닉 클레그(Nick Clegg)…

안녕하세요, AI 매터스 입니다.​​​​​​​AI 매터스는 생성형 AI 분야에서 수없이 쏟아져 나오는 소식 중에서 꼭 참고해야 할 내용을 엄선해 매일 기사를 발행하고 있습니다. 그 가운데 놓치지 말아야 할 중요한…

2024년 공식 제정된 세계 최초의 포괄적 AI 규제인 EU AI Act의 본격적인 효력 발효가 2025년 하반기로 연기되었습니다. 이는 단순한 일정 변경이 아닌, 기업들에게 AI…

2월 2일(현지 시간)부터 유럽연합(EU)은 ‘허용 불가(unacceptable risk)’ 위험을 초래하는 AI 시스템의 사용을 금지할 수 있는 권한을 갖게 됐다. 이날은 EU의 AI법(AI Act)이 적용되는 첫…

Constitutional Classifiers: Defending against Universal Jailbreaks across Thousands of Hours of Red Teaming 인공지능 연구기업 앤트로픽(Anthropic)이 대규모 언어모델(LLM)의 안전성을 획기적으로 강화하는 기술을 개발했다. 앤트로픽의…

미국 특허청(USPTO)은 AI 기술의 급속한 발전에 체계적으로 대응하고 미국의 AI 기술 주도권을 확보하기 위한 종합 전략인 ‘USPTO Artificial Intelligence Strategy’를 발표했다. 이 전략은 AI가…

미국 저작권청(U.S. Copyright Office)이 2025년 1월 저작권 보호 가능성에 대한 보고서 ‘저작권과 인공지능, 2부: 저작권 보호 가능성(Copyright and Artificial Intelligence, Part 2: Copyrightability)’를 발표했다.…

캘리포니아주 법무부가 AI 기업들의 사업 방식 전반에 대해 법적 검토에 나섰다. 기즈모도(Gizmodo)에 따르면 롭 본타(Rob Bonta) 캘리포니아주 법무장관은 1월 13일 AI 산업 관련 법적…

AI 안전의 개념과 범위 AI의 두 얼굴, 혁신은 빠르지만 안전은 부족하다 소프트웨어 정책 연구소가 발표한 보고서에 따르면, 최근 인공지능(AI)의 급격한 발전은 다양한 산업 분야에서…