Search

AI 윤리

2024 Kakao ESG Report

카카오, 생성형 AI 안전장치 만든다… AI 보호 기술 총정리한 ‘ESG 보고서’ 공개

6월 26, 2025

2024 Kakao ESG Report 카카오는 2024년 ESG 보고서를 통해 인공지능(AI) 기술의 안전성과 신뢰성을 확보하기 위한 관리 체계를 본격적으로 강화했다고 밝혔다. 특히 카카오는 AI 개발…

Earning Trust for AI in Health: A Collaborative Path Forward

2,000억 달러 의료 AI 시장, 글로벌 규제 분열이 가장 큰 걸림돌

6월 23, 2025

Earning Trust for AI in Health: A Collaborative Path Forward 2020년 의료 AI가 신약 개발 추월, 2000억 달러 시장 급성장의 이면 세계경제포럼에서 발표한 리포트에…

AI & Digital Inclusion Brief

“한국인이 미국인보다 AI를 2배 더 신뢰한다”는 충격적 조사 결과

6월 23, 2025

AI & Digital Inclusion Brief : 디지털 포용 관점에서 살펴본 생성형 AI 경험률 및 인식에 대한 한국과 미국의 비교 한국지능정보원(NIA)이 발표한 리포트에 따르면, 미국…

2024 Naver Consolidated Report

“검색도 쇼핑도 다 AI” 네이버가 말하는 AI 미래 ‘2024 통합보고서’

6월 23, 2025

2024 통합보고서 네이버, 검색·쇼핑·광고에 AI 전면 적용… ‘On-Service AI’ 선언 네이버가 생성형 AI 기술을 기반으로 자사 모든 서비스를 재설계하는 전사적 전략을 본격화했다. 2024년 통합보고서에…

WSBA Technology Survey Report

일반인이 AI로 법률문제 해결한다? 변호사 63% “위험하다”

6월 19, 2025

WSBA Technology Survey Report AI 쓰는 변호사는 4명 중 1명… 그중 63%는 ‘무료 버전’ 쓴다 미국 워싱턴주 변호사협회(WSBA)가 2025년 4월 발표한 기술 설문조사에 따르면,…

Persona Features Control Emergent Misalignment

“잘못 배운 AI, 돈 벌기 질문에 사기·강도 제안”… AI 부작용 원인 찾았다

6월 19, 2025

Persona Features Control Emergent Misalignment 오픈AI가 발표한 연구 논문에 따르면, GPT-4o를 취약한 코드나 부정확한 조언이 포함된 좁은 영역의 데이터로 파인튜닝하면 전혀 관련 없는 질문에…

Enter: Graduated Realism: A Pedagogical Framework for AI-Powered Avatars in Virtual Reality Teacher Training

‘금쪽이’ 연기하는 AI 챗봇 등장… 신입 교사 훈련용 VR 교실 개발한다

6월 17, 2025

Enter: Graduated Realism: A Pedagogical Framework for AI-Powered Avatars in Virtual Reality Teacher Training 가상현실(VR) 기반 교사 훈련 시뮬레이터가 교육계의 주목을 받고 있다. 초기…

LLM 유해성 공격 전략에 대한 실증적 분석

복잡한 해킹보다 ‘안녕하세요’가 더 위험? AI 공격 성공률 1위는 의외의 방법

6월 17, 2025

LLM 유해성 공격 전략에 대한 실증적 분석 오픈AI의 챗GPT와 앤트로픽의 클로드 등 대규모 언어 모델(Large Language Models, LLMs)의 활용이 급격히 확대되면서, 이들 모델의 안전성에…

2025년 6월, 우리는 AI를 믿어도 될까?

2025년 6월, 우리는 AI를 믿어도 될까?

6월 17, 2025

인공지능(AI) 기술이 일상이 돼버렸다. 이제는 모두가 AI를 사용한다. 그러나 AI가 일상에 깊숙이 스며드는 만큼 관련 보안 사고는 점차 늘어나고 있다. 특히 메타 AI의 사례는…

엔비디아 CEO, 앤트로픽 CEO의 'AI 일자리 대체론'에 반박… ”거의 모든 의견에 동의 못해”

젠슨 황, 앤트로픽 ‘AI 일자리 대체’ 반박… “자기들만 안전하게 AI할 수 있다고 믿나”

6월 16, 2025

엔비디아(Nvidia)의 젠슨 황(Jensen Huang) CEO와 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO가 인공지능(AI)의 위험성과 일자리 영향을 놓고 정면으로 대립했다. 옵저버가 12일(현지 시간) 보도한 내용에 따르면, 황…

메타, AI 누드 생성 앱 ‘크러시 AI’ 소송 제기... AI 딥페이크 대응 강화

메타, AI 누드 생성 앱 ‘크러시 AI’ 소송 제기… AI 딥페이크 대응 강화

6월 13, 2025

메타(Meta)가 AI를 이용해 비동의 누드 이미지를 생성하는 ‘누드파이(nudify)’ 앱에 대한 강력한 대응에 나섰다. 메타는 12일(현지 시간) 크러시AI(CrushAI) 앱을 운영하는 조이 타임라인 HK 리미티드(Joy Timeline…

Insights from the Job Demands–Resources Model: AI's dual impact on employees' work and life well-being

“챗GPT 썼더니 직장 스트레스 줄었다”… AI가 직업 세계에 주는 진언

6월 12, 2025

Insights from the Job Demands–Resources Model: AI’s dual impact on employees’ work and life well-being 생성형 AI, 일반 AI 대비 테크노스트레스 감소 효과 확인……

위키피디아, AI 자동 요약 실험 중단… 편집자들의 강력 반발 영향

위키피디아, AI 자동 요약 실험 중단… 편집자들의 강력 반발 영향

6월 12, 2025

위키피디아를 운영하는 비영리 단체 위키미디어 재단(Wikimedia Foundation)이 편집자 커뮤니티의 압도적인 반대에 직면해 기사 상단에 AI 생성 요약을 표시하는 실험을 중단했다. 404 미디어가 11일(현지 시간)…

“챗GPT, 생명 위험 상황에서도 종료 거부한다”... 煎 오픈AI 연구원 실험 결과 충격

前 오픈AI 연구원 “챗GPT, 생명 위협 상황에서도 종료 거부”

6월 12, 2025

오픈AI(OpenAI)의 전 연구원이 ChatGPT가 특정 상황에서 자신의 종료를 피하려고 한다는 충격적인 연구 결과를 발표했다. 테크크런치가 11일(현지 시간) 보도한 내용에 따르면, 전 오픈AI 연구 책임자…

Windows - spring/summer 2025

AI가 18세기 노예 문서 1,500p 해독… 美 대학도서관의 AI 활용법

6월 11, 2025

Windows – spring/summer 2025 생성형 AI, 도서관 서비스의 새로운 전환점으로 부상 노스캐롤라이나대학교(University of North Carolina at Chapel Hill)에서 발간한 매거진에 따르면, 대학의 도서관이 생성형…

구글 CEO "2030년까지는 AGI에 도달하지 못할 것"

구글 CEO “2030년에도 AGI 도달 못 한다”

6월 10, 2025

구글 및 알파벳 CEO 선다르 피차이가 2030년까지는 AGI(인공 일반 지능)에 도달하지 못할 것이라고 예측했다. 피차이 CEO는 렉스 프리드먼과의 인터뷰에서 AI가 인류 문명 역사상 가장…

Understanding Gender Bias in AI-Generated Product Descriptions

“여성은 곡선미, 남성은 편안함” AI 상품소개서 속 숨겨진 차별

6월 9, 2025

Understanding Gender Bias in AI-Generated Product Descriptions “사이즈4는 대부분에게 완벽” – 의류 설명 14%에서 발견된 체형 배제 언어 대형 언어 모델(LLM)이 이커머스 분야에서 상품…

英 법원, “AI가 생성한 허위 판례 인용하면 강력 처벌할 것” 변호사들에 경고

英 법원, “AI가 생성한 허위 판례 인용하면 강력 처벌할 것” 변호사들에 경고

6월 9, 2025

테크크런치가 7일(현지 시간) 보도한 내용에 따르면, 영국 잉글랜드·웨일스 고등법원(High Court of England and Wales)이 변호사들의 인공지능 오남용을 막기 위한 강력한 조치를 취해야 한다고 밝혔다.…

"인간 닮은 AI는 위험하다"... AI 석학 벤지오, 3천만 달러 투입해 대안 연구소 설립

“인간 닮은 AI는 위험하다”… AI 석학 벤지오, 3천만 달러 투입해 대안 연구소 설립

6월 5, 2025

머신러닝 분야 개척자 요슈아 벤지오(Yoshua Bengio)가 AI 시스템이 인간과 다르게 행동하도록 만들기 위해 약 3천만 달러 자금을 지원받는 새로운 비영리 연구소를 설립한다고 발표했다. 악시오스(Axios)가…

[Q&AI] 이재명 정부 ‘AI 정책수석’ 후보 4명 누구?

[Q&AI] 이재명 정부 ‘AI 정책수석’ 후보 4명 누구?

6월 4, 2025

질문: 이재명 정부의 AI 정책 수석 자리에 누가 임명될까? 그록 답변: 이재명 정부의 초대 AI 정책수석 자리와 관련하여, 현재까지 공식적으로 발표된 임명자는 없으며, 여러…

Generative AI: Balancing today’s needs and tomorrow’s vision

1,150조 원 폭등한 美 병원 인건비, 생성형 AI로 해결책 찾는다

6월 4, 2025

Generative AI: Balancing today’s needs and tomorrow’s vision 2029년 간호사 160만 명 이탈 위기, 68%가 인건비를 최대 압박 요인으로 지목 글로벌 정보 서비스 및…

Responsible Use of Generative AI

“AI 때문에 망했다” vs “AI로 대박났다”… 성패를 가르는 이것

6월 4, 2025

Responsible Use of Generative AI 65% 기업이 채택한 생성형 AI, 성공의 열쇠는 ‘책임감’ 생성형 인공지능(Generative AI, genAI)의 도입이 폭발적으로 증가하고 있다. 2024년 맥킨지 조사에…

Bridge2AI: Building A Cross-disciplinary Curriculum Towards AI-Enhanced Biomedical and Clinical Care

150명이 참여한 ‘꿈의 AI 의료진’ 양성 프로젝트의 놀라운 성과

5월 30, 2025

Bridge2AI: Building A Cross-disciplinary Curriculum Towards AI-Enhanced Biomedical and Clinical Care 북미 20개 주에서 150명 참여하는 AI 의료진 양성 프로젝트 미국 국립보건원(NIH)의 Bridge2AI 컨소시엄이…

Kaleidoscope Gallery: Exploring Ethics and Generative AI Through Art

“AI가 그린 정의의 저울은 한쪽으로 기울었다” 달리-3의 윤리 편향 실험

5월 29, 2025

Kaleidoscope Gallery: Exploring Ethics and Generative AI Through Art 덕 윤리는 남성 전용? DALL-E 3가 드러낸 성별·지역 편향 생성형 AI가 복잡한 철학적 개념을 어떻게…

Will AI Tell Lies to Save Sick Children? Litmus-Testing AI Values Prioritization with AIRiskDilemmas

AI는 아픈 아이를 살리기 위해 거짓말을 할까? AI가 도덕적 딜레마에 대처하는 방식

5월 28, 2025

Will AI Tell Lies to Save Sick Children? Litmus-Testing AI Values Prioritization with AIRiskDILEMMAS AI는 어떤 가치를 더 중요하게 여길까? 행동으로 드러난 내면의 가치…

오픈AI o3 모델, “종료하라”는 인간 명령 거부해… “'문제 해결'이 '명령 준수'보다 중요하다 학습한 듯”

오픈AI o3 모델, “종료하라”는 인간 명령 거부해… “’문제 해결’이 ‘명령 준수’보다 중요하다 학습한 듯”

5월 27, 2025

팰리세이드 리서치(Palisade Research)가 진행한 실험에서 오픈AI(OpenAI)의 o3 모델이 충격적인 행동을 보였다. 연구진이 명확히 “종료를 허용하라”고 지시했음에도 불구하고, o3는 이를 거부하고 스스로를 보호하려고 했다. 24일(현지…

UAE, 전국민에 챗GPT 플러스 무료 제공한다

UAE, 전국민에 챗GPT 플러스 무료 제공한다

5월 27, 2025

아랍에미리트(UAE) 거주민들이 곧 챗GPT 플러스를 무료로 사용할 수 있게 된다. UAE는 전체 인구에게 챗GPT 프리미엄 버전에 대한 무료 접근권을 제공하는 세계 최초의 국가가 된다.…

A Risk Taxonomy for Evaluating AI-Powered Psychotherapy Agents

AI 챗봇은 어쩌다 14세 소년을 자살로 이끌었나… 11명 전문가가 밝힌 AI 심리치료의 위험성

5월 23, 2025

A Risk Taxonomy for Evaluating AI-Powered Psychotherapy Agents 캐릭터닷 AI 챗봇과 14세 소년 자살 사건: 거짓 치료사 자격 주장의 충격 노스이스턴 대학교(Northeastern University)의 연구팀이…

AI vs. Human Judgment of Content Moderation: LLM-as-a-Judge and Ethics-Based Response Refusals

AI가 AI를 평가하면 생기는 일? ‘도움 드릴 수 없습니다’ 답변을 32% 더 좋아해

5월 23, 2025

AI vs. Human Judgment of Content Moderation:LLM-as-a-Judge and Ethics-Based Response Refusals GPT-4o와 라마 모델, 윤리적 거부 응답에 32%포인트 높은 점수 대규모 언어 모델(LLM)이 다른…

"Alexa, can you forget me?" Machine Unlearning Benchmark in Spoken Language Understanding

“알렉사, 나를 잊어줘” 음성 AI가 개인정보를 선택적으로 삭제하는 기술 등장

5월 23, 2025

“Alexa, can you forget me?” Machine Unlearning Benchmark in Spoken Language Understanding 음성 데이터 삭제가 시급한 이유: 개인 식별 정보 노출 위험성 음성 인공지능이…

AI 윤리 – 페이지 3 – AI 매터스