AI 안전성

Lessons from red teaming 100 generative AI products

마이크로소프트가 밝힌 AI 안전성의 현주소…인간의 판단이 더욱 중요해진다

1월 14, 2025

Lessons from red teaming 100 generative AI products AI 레드팀이 발견한 8가지 핵심 교훈 마이크로소프트 AI 레드팀(AIRT)이 100개…

Advancing Physical AI with NVIDIA Cosmos World Foundation Model Platform

물리법칙 이해하는 AI 시대 온다…엔비디아 코스모스 플랫폼 분석

1월 10, 2025

Advancing Physical AI with NVIDIA Cosmos World Foundation Model Platform 물리세계 이해하는 AI의 두뇌, 월드 파운데이션 모델 심층…

The Global Cooperation Barometer 2025 – Second Edition

AI 전쟁의 서막…美中, 올해만 2.8조원 투자하며 패권 다툼

1월 9, 2025

The Global Cooperation Barometer 2025 – Second Edition AI 투자 경쟁 본격화…주요국 대규모 자금 투입 세계경제포럼(WEF)과 맥킨지가 공동…

International Scientific Report on the Safety of Advanced AI

범용 AI, 미래를 바꿀 기술인가? 그 정체를 파헤치다

12월 18, 2024

International Scientific Report on the Safety of Advanced AI 범용 AI, 미래를 바꿀 기술인가? 그 정체를 파헤치다 세계경제포럼(WEF)이…

오픈AI, 신규 AI 모델 'o1' 안전성 평가 결과 공개...사이버보안 위험도 '낮음' 판정

오픈AI, 신규 AI 모델 ‘o1’ 안전성 평가 결과…

12월 6, 2024

오픈AI가 새로운 AI 모델 ‘o1’과 ‘o1-미니(o1-mini)’의 시스템 안전성 평가 결과를 5일(현지시간) 공개했다. 오픈AI는 이번 평가에서 자사의 ‘준비성 프레임워크(Preparedness…

Generative AI and WMD Nonproliferation: A Practical Primer for Policymakers and Diplomats

AI 기술로 무기 개발 조기 탐지 가능해진 반면,…

12월 5, 2024

생성형 인공지능(Generative AI)은 텍스트, 이미지, 영상, 오디오 등 새로운 콘텐츠를 생성하는 기술로, 최근 몇 년간 급격한 발전을 이루며…

Exploring Parent-Child Perceptions on Safety in Generative AI: Concerns, Mitigation Strategies, and Design Implications

부모는 모른다, AI와 연애하고 고민 상담하고… 10대들의 충격적인…

12월 3, 2024

영국 통신규제기관 오프콤(Ofcom)의 최근 조사에 따르면, 13-17세 청소년의 79%, 7-12세 아동의 40%가 이미 생성형 AI를 사용하고 있는 것으로…

Using Scenario-Writing for Identifying and Mitigating Impacts of Generative AI

생성형 AI 영향평가의 패러다임을 바꾼다: ‘시나리오 기반 사회기술적…

11월 11, 2024

생성형 AI가 빠르게 확산되면서 그 영향을 평가하고 부작용을 방지하기 위한 영향평가의 중요성이 커지고 있다. 하지만 현재의 영향평가 방식은…

synthID

구글, AI 생성 콘텐츠 ‘지문’ 기술 공개…텍스트·이미지·음악 ‘진위…

10월 24, 2024

구글(Google)이 AI 생성 콘텐츠를 식별할 수 있는 기술인 ‘신시아이디(SynthID)’를 공개했다. 이 기술은 AI가 생성한 텍스트, 이미지, 오디오, 비디오에…

kakao

카카오, ‘if(kakaoAI)2024’에서 그룹 AI 비전 공개…AI 메이트 ‘카나나’도…

10월 23, 2024

카카오가 그룹 전체의 AI 비전과 방향성을 공개했다. 그룹대화의 맥락까지 이해하는 AI 메이트 서비스 ‘카나나(Kanana)’ 출시를 예고하며, AI 네이티브…

AI 안전성 – 페이지 4 – AI 매터스 l AI Matters