Search

AI 편향성

Measuring AI "Slop" in Text

메타, AI 생성 저품질 콘텐츠 ‘슬롭’ 품질 측정-분류 체계 개발

9월 26, 2025

‘슬롭(Slop)’이 2024년 옥스퍼드 사전 올해의 단어 후보에 선정되며 사용량이 332% 급증한 가운데, 미국 노스이스턴대학교와 메타 AI가 공동으로 실시한 새로운 연구에서 AI가 생성하는 저품질 텍스트인…

美, 연방기관 AI 공급업체 승인 목록에 오픈AI·구글·앤트로픽 추가

美, 연방기관 정부에 AI 공급 가능 업체 승인… 오픈AI·구글·앤트로픽 추가

8월 6, 2025

테크크런치가 5일(현지 시간) 보도한 내용에 따르면, 미국 정부가 민간 연방기관에 인공지능 서비스를 제공할 수 있는 승인 공급업체 목록에 구글(Google), 오픈AI(OpenAI), 앤트로픽(Anthropic)을 추가했다. 이들 기업의…

AI가 내 이력서를 공정하게 평가할 수 있을까? 편견은 없을까?

AI가 내 이력서를 공정하게 평가할 수 있을까? 편견은 없을까?

7월 9, 2025

Evaluating the Promise and Pitfalls of LLMs in Hiring Decisions 에이트폴드(Eightfold.ai) 연구팀이 GPT-4o, 클로드(Claude), 제미나이(Gemini) 등 주요 생성형 AI 모델들의 채용 과정에서의 정확성과 편향성을…

[IT&Future Strategy 2025-2] 기업 내 AI 활용 현황 및 애로사항 분석 : 제조업을 중심으로

한국 제조업 AI 도입률 25.4%… 타 업종 평균보다 낮아 ‘디지털 격차’ 심화

6월 24, 2025

[IT&Future Strategy 2025-2] 기업 내 AI 활용 현황 및 애로사항 분석 : 제조업을 중심으로 제조업 AI 도입률 25.4%로 전체 업종 평균 30.3% 하회 한국지능정보사회진흥원(NIA)이…

Generative AI: Balancing today’s needs and tomorrow’s vision

1,150조 원 폭등한 美 병원 인건비, 생성형 AI로 해결책 찾는다

6월 4, 2025

Generative AI: Balancing today’s needs and tomorrow’s vision 2029년 간호사 160만 명 이탈 위기, 68%가 인건비를 최대 압박 요인으로 지목 글로벌 정보 서비스 및…

Responsible Use of Generative AI

“AI 때문에 망했다” vs “AI로 대박났다”… 성패를 가르는 이것

6월 4, 2025

Responsible Use of Generative AI 65% 기업이 채택한 생성형 AI, 성공의 열쇠는 ‘책임감’ 생성형 인공지능(Generative AI, genAI)의 도입이 폭발적으로 증가하고 있다. 2024년 맥킨지 조사에…

When Bias Backfires: The Modulatory Role of Counterfactual Explanations on the Adoption of Algorithmic Bias in XAI-Supported Human Decision-Making

AI가 성별로 지원자 차별해도 채용 담당자 97%는 모른다… 새로운 연구 결과 충격

5월 30, 2025

When Bias Backfires: The Modulatory Role of Counterfactual Explanations on the Adoption of Algorithmic Bias in XAI-Supported Human Decision-Making 설명 유무에 따라 정반대로 나타나는…

EXPLORING BIAS IN OVER 100 TEXT-TO-IMAGE GENERATIVE MODELS

예술용 AI는 편향되고, 기본 모델은 개선된다… 103개 모델 2년간 분석 결과 공개

3월 18, 2025

EXPLORING BIAS IN OVER 100 TEXT-TO-IMAGE GENERATIVE MODELS 시간이 흐를수록 개선되는 기초 모델, 더 편향되는 예술 모델 텍스트-투-이미지(Text-to-Image, T2I) 생성 모델은 고품질 이미지를 합성할…

생성형 인공지능 서비스 이용자 보호 가이드라인

방통위, ‘생성형 AI 서비스 이용자 보호 가이드라인’ 발표… 인간 존엄성 보호와 이용자 권익 강화 중점

3월 7, 2025

생성형 인공지능 서비스 이용자 보호 가이드라인 이용자 권익 보호 위한 6가지 핵심 실행 방식 제시 방송통신위원회가 생성형 인공지능(Generative AI) 서비스가 급속히 확산되는 상황에서 이용자…

Automation Bias in the AI Act: On the Legal Implications of Attempting to De-Bias Human Oversight of AI

AI가 제안하면 무조건 따르시나요? EU AI법이 경고하는 ‘자동화 편향성’

2월 18, 2025

Automation Bias in the AI Act: On the Legal Implications of Attempting to De-Bias Human Oversight of AI 15%에 달하는 AI 시스템이 ‘고위험’…EU, 자동화…

美 국토안보부, 정부기관 생성형 AI 도입 가이드라인 제시... 민감정보·시민권리 보호 강조

美 국토안보부, 정부기관 생성형 AI 도입 가이드라인 제시… 민감정보·시민권리 보호 강조

2월 7, 2025

블룸버그(Bloomberg)가 5일(현지 시간) 보도한 내용에 따르면 미국 국토안보부(Department of Homeland Security, DHS)가 정부기관의 생성형 AI 도입을 위한 상세 가이드라인을 발표했다. 이번 가이드라인은 3개의 시범…

AI Matters 썸네일_교황청 발표

AI 시대 가톨릭의 대응…바티칸, ‘인공지능과 인류의 공존’ 청사진 제시

1월 29, 2025

Note on the Relationship Between Artificial Intelligence and Human Intelligence 바티칸뉴스에 따르면 교황청은 28일 인공지능(AI)과 인간 지능의 관계를 다룬 ‘앤티쿠아 엣 노바(Antiqua et Nova)’ 보고서를…

융합하는 AI·첨단기술·미디어·통신 - 거대한 혁신의 생태계 형성

데이터센터 에너지 소비부터 여성 AI 인력까지, 딜로이트가 꼽은 2025년 생성형AI의 과제들

1월 23, 2025

융합하는 AI·첨단기술·미디어·통신 – 거대한 혁신의 생태계 형성: 1부 생성형 AI 시대 본격화 데이터센터 전력 소비 2030년 1,065TWh 전망, 에너지 효율화가 시급 딜로이트 인사이트가 23일(한국…

GENERATIVE AI & THE TRANSFORMATION OF OPERATIONAL EXCELLENCE - 2025 INDUSTRY REPORT

월마트·EA·레노보가 증명한 생성형 AI의 힘…75%가 도입, 100배 생산성 향상까지

1월 6, 2025

GENERATIVE AI & THE TRANSFORMATION OF OPERATIONAL EXCELLENCE – 2025 INDUSTRY REPORT 폭발적으로 성장하는 생성형 AI 시장 기업 비즈니스 플랫폼 PEX Network가 발간한 ‘2025…

Hey GPT, Can You be More Racist? Analysis from Crowdsourced Attempts to Elicit Biased Content from Generative AI

일반인도 AI 편향성 유발 가능? 생성형 AI의 숨겨진 한계와 전략 분석

11월 26, 2024

생성형 AI(Generative AI)의 기술이 발전하고 대중화되면서, 편향적 결과물을 생성할 가능성은 윤리적 논의의 핵심으로 자리 잡고 있다. 펜실베이니아주립대학교에서 진행된 연구는 일반 사용자들이 어떤 방식으로 AI의…

Revealing Hidden Bias in AI: Lessons from Large Language Models

LLM 기반 AI 면접의 숨겨진 편향성 연구…”라마(Llama) 3.1이 가장 공정”

11월 11, 2024

최근 채용 과정에서 대규모 언어모델(LLM)을 활용한 AI 시스템 도입이 급증하면서, AI의 편향성에 대한 우려의 목소리도 커지고 있다. 태국의 AI/ML 전문기업 플럭서스(Fluxus)가 발표한 새로운 연구에…

AI 편향성 – AI 매터스