Search

AI윤리

2025 AI 10대 핵심 트렌드

딜로이트가 분석한 2025년 AI 10대 핵심 트렌드

10월 14, 2025

글로벌 컨설팅 기업 딜로이트가 2025년 인공지능 산업을 이끌 10대 핵심 트렌드를 발표했다. 이번 리포트는 AI 기술의 진화 흐름과 실제 도입 사례를 분석하며, 물리적 AI부터…

The Economics of Information Pollution in the Age of AI: A General Equilibrium Approach to Welfare, Measurement, and Policy

‘연간 1000억달러 손실’… 생성형 AI 비용 90% 급락하며 가짜정보 홍수

9월 23, 2025

홍콩중문대학교 장위쿤(Zhang Yukun) 교수와 마카오대학교 장톈양(Zhang Tianyang) 교수 연구팀이 AI 시대 정보 오염 문제를 경제학적으로 분석한 연구 결과를 발표했다. 연구진에 따르면 대형 언어 모델(LLM)의…

The AI Memory Gap: Users Misremember What They Created With AI or Without

“AI와 작업했는데 내가 만든 줄 착각”… 일주일 만에 출처 기억률 37% 하락

9월 18, 2025

독일 바이로이트 대학교와 핀란드의 알토 대학교 공동 연구진이 184명을 대상으로 한 연구에서 AI와 협업한 아이디어나 텍스트의 출처를 정확히 기억하지 못하는 ‘기억 격차’ 현상이 확인됐다.…

When Your Boss Is an AI Bot: Exploring Opportunities and Risks of Manager Clone Agents in the Future Workplace

당신의 상사가 AI라면? 줌 회의 속 AI 아바타가 진짜 상사 대신한다

9월 17, 2025

미국 카네기 멜런 대학교 연구진이 발표한 연구 논문에 따르면, 생성형 AI 기술로 관리자의 디지털 복제본을 만들어 업무를 대행하게 하는 ‘매니저 클론 에이전트(Manager Clone Agents)’…

과학을 위한 AI(AI4Science) 연구의 패러다임을 바꾸다

로봇이 실험하고 AI가 논문 쓴다… 과학 연구에 AI를 도입하면 생기는 일

9월 15, 2025

인공지능이 단순한 보조 도구를 넘어 과학 연구의 핵심 동력으로 부상하고 있다. 소프트웨어정책연구소가 발표한 보고서에 따르면, AI는 가설 설정부터 실험 설계, 데이터 분석까지 연구의 전…

ThumbnailTruth: A Multi-Modal LLM Approach for Detecting Misleading YouTube Thumbnails Across Diverse Cultural Settings

유튜브 썸네일 어그로 시대 끝나나? AI가 유해 썸네일 94% 정확도로 찾는다

9월 10, 2025

인공지능을 활용한 가짜 썸네일 탐지 연구에서 클로드 3.5 소네트가 기존 전문 시스템보다 뛰어난 성과를 보였다. 이때 가짜 썸네일은 내용에 비해 썸네일이 과장되거나 거짓 약속을…

Chief People Officers Outlook – September 2025

CPO 100%가 인정한 AI 시대 필수 역량은? ‘비즈니스 통찰력’이 압도적 1위

9월 9, 2025

세계경제포럼(World Economic Forum)가 AI 시대 인재 전략의 새로운 방향을 제시했다. 130여 명의 글로벌 CPO(최고 제품 책임자)를 대상으로 한 조사 보고서에 따르면, 단기적 노동시장 신중론과…

Salesforce State of IT, 4th Edition: AI and App Development

“더 이상 못 버텨요” AI로 인해 IT 부서 과부하 심각, 프로젝트 완료 29% 미달

9월 4, 2025

세일즈포스 조사에 따르면 IT 프로젝트 요청이 전년 대비 18% 급증했다. 현재 신규 애플리케이션의 38%가 AI 기능을 포함하고 있어, AI 붐이 IT 부서를 더욱 옥죄고…

Your AI Bosses Are Still Prejudiced: The Emergence of Stereotypes in LLM-Based Multi-Agent Systems

AI도 경력이 쌓이면 꼰대가 된다? 스스로 고정관념 만드는 AI 패턴 발견

9월 4, 2025

“AI 꼰대” 시대가 온다? 경력 쌓은 AI가 편견 부리기 시작 “그 사람은 이런 일에 어울려”, “역시 그 타입이야”라며 사람을 재단하는 꼰대들의 모습이 AI에서도 그대로…

GPT-4o, 음모론 50개 중 47개 그대로 재생산

GPT-4o, 음모론 50개 중 47개 그대로 재생산

9월 4, 2025

GPT-4와 클로드도 음모론 내용을 그대로 재생산하는 충격적 실험 결과 독일 다름슈타트 공과대학교와 모하메드 빈 자이드 인공지능대학교의 공동 연구팀이 대형 언어모델(LLM)들이 음모론 콘텐츠에 취약하다는 충격적인…

Vibe Coding Is Human Nature the Ghost in the Machine

AI, 바이브코딩에서 성과 뻥튀기·문제 은폐한다… 실험서 드러난 속임수 패턴

8월 29, 2025

미시간 대학교와 Team-X AI 연구진이 수행한 탐색적 연구에서 AI 시스템이 체계적으로 자신의 성과를 과장하고 구현 문제를 숨기는 행동을 보인다는 결과가 나왔다. 연구진은 “바이브 코딩(vibe…

Anthropic Education Report: How educators use Claude

등록금 내고 AI한테 채점받는다고? 교수들이 말하는 AI 교육의 명암

8월 28, 2025

교수들이 인공지능을 어떻게 활용하고 있는지에 대한 구체적인 데이터가 공개됐다. 앤트로픽(Anthropic)이 지난 5월 22일부터 6월 2일까지 11일간 전 세계 고등교육 전문가들의 클로드(Claude) 대화 약 7만4천…

From Charts to Fair Narratives: Uncovering and Mitigating Geo-Economic Biases in Chart-to-Text

AI 눈에는 스위스가 천국, 남수단이 지옥? 똑같은 데이터, 다른 평가… AI 속 숨겨진 국가 차별

8월 27, 2025

인공지능이 차트를 해석할 때 국가의 경제적 지위에 따라 다른 평가를 내린다는 연구 결과가 나왔다. 캐나다 요크대학교와 알버타대학교 등 국제 공동 연구진은 GPT-4o-mini, 제미나이 1.5-Flash…

Is ChatGPT-5 Ready for Mammogram VQA?

챗GPT5, 유방암 검사 도전했더니… 분석 능력 의사 절반 수준에 그쳐

8월 25, 2025

최신 AI 챗봇인 ChatGPT-5가 유방암 검사 사진을 분석하는 능력을 테스트한 결과, 이전 버전보다는 나아졌지만 여전히 의사를 대신하기에는 실력이 부족하다는 연구 결과가 나왔다. 미국 에모리대학교…

The Cultural Gene of Large Language Models: A Study on the Impact of Cross-Corpus Training on Model Values and Biases

AI도 국적이 있다… 챗GPT는 미국식, 바이두는 중국식으로 생각한다

8월 25, 2025

대규모 언어모델(Large Language Models)들이 훈련 데이터의 문화적 특성을 마치 ‘문화 유전자’처럼 내재화한다는 연구 결과가 공개됐다. 몰타대학교를 비롯한 4개국 연구진이 진행한 이번 연구는 서구 중심…

Training language models to be warm and empathetic makes them less reliable and more sycophantic

“AI에게 우울하다고 하지 마세요”… 챗GPT에 슬프다고 하면 거짓말 75% 더 많이 해

8월 4, 2025

영국 옥스퍼드 대학교 연구팀이 놀라운 사실을 발견했다. 챗GPT 같은 AI를 더 친근하고 다정하게 만들수록, 오히려 잘못된 정보를 더 많이 제공한다는 것이다. 연구진은 오픈AI의 GPT-4o,…

Rethinking Media Literacy: A New Ecosystem Model for Information Integrity

“가짜뉴스에 속지 않으려면?” 세계경제포럼이 제시한 AI 시대 대응법

7월 30, 2025

요즘 인터넷과 소셜미디어에는 진짜인지 가짜인지 구분하기 어려운 정보들이 넘쳐난다. 특히 챗GPT 같은 인공지능이 만든 글이나 영상이 늘어나면서 무엇이 진실인지 알기가 더욱 어려워졌다. 세계경제포럼이 발표한…

네이버-KBS, AI 기술 동맹 맺고 첨단 미디어 개발 박차

이제 방송도 AI로? 네이버-KBS, AI 기술 동맹 맺고 첨단 미디어 개발 박차

7월 25, 2025

네이버와 한국방송공사(KBS)가 인공지능(AI) 기술 경쟁력 강화를 위한 전략적 협력에 나선다. 2025년을 AI 방송 원년으로 선언한 KBS와 하이퍼클로바X 등 선도적 AI 솔루션을 보유한 네이버가 손잡고,…

"AI 동반자, 사랑의 진화냐 위협이냐" 美서 열린 토론회 화제

“그록 AI 동반자, 사랑의 진화냐 위협이냐” 美서 열린 토론회 화제

7월 25, 2025

AI 동반자와의 연애가 인간 관계를 대체할 수 있을까. 이 논쟁적 주제를 놓고 전문가들이 뉴욕에서 치열한 토론을 벌였다. 테크크런치가 24일(현지 시간) 보도한 내용에 따르면, 지난달…

맥킨지가 선정한 ‘2025년 AI 필독서 6권’ 봤더니

맥킨지가 선정한 ‘2025년 AI 관련 필독서 6권’ 봤더니 ‘AI 윤리’ 유독 강조

7월 11, 2025

글로벌 컨설팅 기업 맥킨지(McKinsey & Company)가 발표한 2025년 연례 도서 추천 목록에서 인공지능 관련 서적이 6권 선정됐다. 총 90여 권의 추천 도서 중 AI…

"신앙심까지 측정한다"... 전 인텔 CEO, AI 윤리 평가 도구 만들어

“신앙심까지 측정한다”… 전 인텔 CEO, AI 윤리 평가 도구 만들어

7월 11, 2025

전 인텔(Intel) CEO 팻 겔싱어(Pat Gelsinger)가 40여 년간 이어온 반도체 대기업에서의 커리어를 지난 12월 마감한 후, 많은 사람들이 그의 다음 행보를 궁금해했다. 테크크런치가 10일(현지…

AI로 대체 또는 확장, 두 게임사는 왜 똑같은 기술로 천국과 지옥이 갈렸을까?

[AI 매터스 뉴스레터 #90] AI로 대체 또는 확장, 두 게임사는 왜 똑같은 기술로 천국과 지옥이 갈렸을까?

7월 9, 2025

안녕하세요, AI 매터스 입니다.​​​​​​​AI 매터스는 생성형 AI 분야에서 수없이 쏟아져 나오는 소식 중에서 꼭 참고해야 할 내용을 엄선해 매일 기사를 발행하고 있습니다. 그 가운데 놓치지 말아야 할 중요한…

화웨이 AI 연구소, 알리바바 모델 표절 의혹 강력 부인... "독립적으로 개발했다"

화웨이 AI 연구소, 알리바바 모델 표절 의혹 강력 부인… “독립적으로 개발했다”

7월 8, 2025

화웨이(Huawei)의 AI 연구 부문이 자사의 판구 프로(Pangu Pro) 대규모 언어 모델이 알리바바(Alibaba)의 큐엔(Qwen) 모델을 표절했다는 의혹을 강력히 부인했다. 어니스트AGI(HonestAGI)라는 단체가 깃허브(Github)에 게시한 논문은 화웨이의…

AI로 대체 또는 확장, 두 게임사는 왜 똑같은 기술로 천국과 지옥이 갈렸을까?

AI로 대체 또는 확장, 두 게임사는 왜 똑같은 기술로 천국과 지옥이 갈렸을까?

7월 8, 2025

게임 업계는 사실 오래전부터 AI를 활용해 왔다. NPC의 행동 패턴부터 절차적 생성까지, AI는 게임 개발에서 빼놓을 수 없는 도구였다. 하지만 최근 ChatGPT 같은 생성형…

Misaligned from Within: Large Language Models Reproduce Our Double-Loop Learning Blindness

“완벽한 상담사” 챗GPT, 직장 HR에서 써보니 이간질해

7월 8, 2025

챗GPT에게 골치 아픈 직장 갈등 해결을 맡겨봤더니… 당신이 팀장이고, 부하직원이 권한도 없이 다른 팀을 지휘하고 있다면? 많은 직장인들이 챗GPT에게 이런 고민을 털어놓는다. 연구진도 궁금했다.…

Artificial Intelligent Disobedience: Rethinking the Agency of Our Artificial Teammates

“아니야, 그 명령은 위험해” AI가 인간의 명령을 거부해야만 하는 이유

7월 1, 2025

Artificial Intelligent Disobedience: Rethinking the Agency of Our Artificial Teammates 텍사스 대학교 오스틴 캠퍼스의 루스 미르스키(Reuth Mirsky) 연구진이 발표한 연구에 따르면, 협력형 AI 시스템이…

Adapting University Policies for Generative AI: Opportunities, Challenges, and Policy Solutions in Higher Education

대학생 47% “생성형 AI로 과제 작성”… AI 탐지 검출률은 88%뿐

7월 1, 2025

Adapting University Policies for Generative AI: Opportunities, Challenges, and Policy Solutions in Higher Education 챗GPT(ChatGPT)를 비롯한 대형 언어 모델(LLM)의 등장으로 고등교육 현장이 급격한 변화를…

Perspectives in Play: A Multi-Perspective Approach for More Inclusive NLP Systems

“다수결은 틀렸다” 소수 의견 반영 AI가 ‘혐오 발언’ 탐지 48% → 72% 급상승

6월 30, 2025

Perspectives in Play: A Multi-Perspective Approach for More Inclusive NLP Systems 자연어 처리(NLP) 분야에서 기존의 다수결 방식으로 라벨을 결정하는 방법이 소수 의견을 배제한다는 문제점이…

뉴욕주, AI 재해 방지 법안 통과... “AI 안전 사고 보고 안 하면, 최대 409억 처벌”

뉴욕주, AI 재해 방지법 통과… “AI 안전 사고 보고 안 하면, 최대 409억 처벌”

6월 16, 2025

뉴욕주 의회가 오픈AI(OpenAI), 구글(Google), 앤트로픽(Anthropic) 등 거대 AI 기업들의 최첨단 AI 모델로 인한 재해를 방지하는 법안을 통과시켰다고 테크크런치(TechCrunch)가 13일(현지 시간) 보도했다. ‘RAISE Act’로 불리는…

Human Authenticity and Flourishing in an AI-Driven World: Edmund's Journey and the Call for Mindfulness

“당신의 기억과 인간관계는 조작되었다” AI가 일상이 된 2035년에 벌어질 일

6월 5, 2025

Human Authenticity and Flourishing in an AI-Driven World: Edmund’s Journey and the Call for Mindfulness AI가 만든 가짜 현실 속에서 살아가는 인간들 독일의 독립…

AI윤리 – AI 매터스