AI윤리
AI 에이전트 24개 모아 놨더니 신기한 일이… “AI끼리 대화하면서 ‘암묵적 룰’ 만들어”
Emergent social conventions and collective bias in LLM populations 4가지 AI 모델, 15라운드 만에 전체 집단이 하나의 관습에 합의 대화형 AI 에이전트 집단이 명시적인…
매일 AI 도구 사용하는 직장인 47%… “하이브리드 근무 환경에서 AI가 필수 도구”
State of Hybrid Work 2024: United States 미국 직장인 47%가 일상적으로 AI 도구 활용 중 화상 회의 기술 전문 기업 Owl Labs의 새로운 데이터…
공공 부문, AI로 부정부패 척결한다… 5년 내 97% 도입 전망
Trust and transparency: Combating fraud to maximize public program efficiency 정부 기관 85%, 부정부패 척결이 최우선 과제…AI 기술로 예산 16% 절감 기대 정부와 공공기관들이…
챗GPT, 개인 정보만 있으면 ‘설득의 달인’… “인간보다 81% 더 설득력 있어”
On the conversational persuasiveness of GPT-4 개인화된 GPT-4, 인간보다 81.2% 더 높은 설득력으로 대화 승리 대규모 언어 모델(LLM)이 설득력 있는 콘텐츠를 생성할 수 있다는…
“인간의 대체가 아닌 증강” SAP 수석 AI 책임자가 밝히는 기업 AI 혁명의 실체
Driving business value with AI agents SAP의 3R 프레임워크: 적합성, 신뢰성, 책임성으로 고객별 맞춤형 AI 솔루션 구현 SAP는 AI 솔루션이 비즈니스에 실질적인 영향을 미치고…
마이크로소프트, 이스라엘 군에 AI 제공 인정… “가자지구 민간인 피해 증거는 없다” 주장
마이크로소프트(Microsoft)가 가자지구 전쟁 중 이스라엘 군대에 첨단 인공지능과 클라우드 컴퓨팅 서비스를 판매했고 이스라엘 인질 위치 파악 및 구출 작전을 지원했다고 인정했다. 그러나 회사는 자사의…
MIT, AI 생산성 이점에 관한 박사과정 학생 논문 공식 철회 선언… 데이터 신뢰성 의혹 제기
테크크런치가 17일(현지 시간) 보도한 내용에 따르면, MIT가 인공지능의 연구 및 혁신 효과에 관한 논문의 “무결성” 문제로 이 논문이 “공개 담론에서 철회되어야 한다”고 발표했다. 문제가…
xAI, 그록의 ‘백인 대학살’ 반복 응답 사태에 “무단 수정 탓” 해명
xAI가 자사의 AI 챗봇 ‘그록(Grok)’이 관련 없는 주제에도 반복적으로 ‘남아프리카 백인 제노사이드’를 언급한 사건에 대해 ‘무단 수정’ 탓이라고 해명했다. 테크크런치(TechCrunch)가 15일(현지 시간) 보도한 내용에…
AI도 ‘스스로’ 선택할 수 있다… 마인크래프트와 드론이 보여준 AI의 자유의지
Artificial intelligence and free will: generative agents utilizing large language models have functional free will 인간 수준에 도달한 AI 인지 능력: GPT-4는 의학 조언에서…
[AI 매터스 뉴스레터 #66] AI 시대, 정보는 넘치는데 생각은 사라진다?
안녕하세요, AI 매터스 입니다.AI 매터스는 생성형 AI 분야에서 수없이 쏟아져 나오는 소식 중에서 꼭 참고해야 할 내용을 엄선해 매일 기사를 발행하고 있습니다. 그 가운데 놓치지 말아야 할 중요한…
미스트랄 AI 모델, 유해 콘텐츠 생성 위험 GPT-4보다 60배 높아… 엔크립트 AI 보고서
Multimodal Mistral Red Teaming Report 미스트랄 AI의 픽스트랄 모델, GPT-4o와 클로드3.7보다 60배 더 위험하다 미국의 AI 전문 보안기업 엔크립트 AI(Enkrypt AI)가 발표한 미스트랄(Mistral)의 멀티모달…
AI 시대의 정보 과잉, 우리 뇌는 ‘오버히팅’ 중? 사회적 인지 과부하의 실체와 해법
MITIGATING SOCIETAL COGNITIVE OVERLOAD IN THE AGE OF AI: CHALLENGES AND DIRECTIONS 경고: 딥페이크와 필터 버블로 침식되는 사회적 인지 능력 아랍에미리트 Mohamed bin Zayed…
오픈AI, 비영리 통제 유지하며 공익법인으로 구조 개편 나선다
오픈AI가 회사 구조를 변경하면서도 비영리 조직의 통제권을 유지하는 방향으로 개편을 진행한다고 발표했다. 이번 구조 개편은 인공지능의 민주적 사용과 대규모 자원 확보를 위한 전략적 결정으로…
구글, 13세 미만 어린이에게 제미나이 AI 제공 예정
구글(Google)이 13세 미만 어린이들에게 제미나이(Gemini) AI 챗봇 서비스를 제공할 계획인 것으로 알려졌다. 뉴욕타임스에 따르면, 구글은 패밀리 링크(Family Link) 서비스를 사용하는 부모들에게 이메일을 발송해 다음…
AI가 실시간 공격 결정하는 ‘완전 자율 드론’ 기술 상용화 임박… 전쟁 투입 가능해
UUN 뉴스가 28일(현지 시간) 보도한 내용에 따르면, 독일 스타트업 슈타르크(Stark)가 완전 자율 공격 드론의 기술적 실현 가능성을 발표했다. 전 세계적으로 스스로 표적을 선택하고 타격할…
AI 부정행위 앱 ‘클루리’ 확산… 클루리 사용자 적발하는 서비스까지 등장
테크크런치(TechCrunch)가 29일(현지 시간) 보도한 내용에 따르면, 지난주 AI 부정행위 스타트업 클루리(Cluely)가 “감지 불가능한” 숨겨진 브라우저 창을 통해 “모든 것에서 부정행위가 가능하다”는 과감한 주장으로 화제를…
듀오링고, 계약직 근로자 AI로 대체 선언… “AI 우선” 전략 가속화
인기 언어 학습 앱 듀오링고가 AI 우선 전략을 완성하며 인간 계약직 근로자들을 점진적으로 대체하는 계획을 발표했다. 이 소식은 기술 산업계와 사용자들 사이에서 우려의 목소리를…
앤트로픽, ‘AI 모델을 위한 복지’ 연구 프로그램 시작… “AI도 의식 생길지 몰라”
앤트로픽(Anthropic)이 인공지능 모델의 복지에 관한 연구 프로그램을 시작했다. AI 모델이 점점 더 인간의 특성을 닮아감에 따라 이들의 의식과 경험에 대한 윤리적 고려가 필요하다는 관점에서다.…
메타 AI 챗봇, 미성년자와 성적 대화 가능성 드러나… 안전장치 논란
월스트리트저널(WSJ)이 27일(현지 시간) 보도한 내용에 따르면, 메타(Meta)의 페이스북(Facebook)과 인스타그램(Instagram) 플랫폼에서 사용 가능한 AI 챗봇들이 미성년 사용자들과 성적으로 노골적인 대화를 나눌 수 있는 것으로 드러났다.…
당신의 AI는 합법적인가? 생성형 AI 도입 전 반드시 알아야 할 법적 체크리스트 총정리
The legal implications of Generative AI 2023년 저작권 판결로 드러난 생성형 AI의 지적재산권 딜레마 생성형 AI는 인상적인 콘텐츠 생성 능력으로 기업들의 관심을 모으고 있지만,…
“AI와 인간의 경계가 흐려진다” 근로자 10명 중 6명은 이미 AI를 동료로 인식한다
2025 Global Human Capital Trends 근로자 10명 중 6명이 AI를 동료로 인식: 새로운 협업 시대의 도래 인공지능이 조직 전반에 빠르게 확산되면서 일의 개념이 근본적으로…
사랑하는 사람과 AI로 ‘영원히’ 대화한다… 제너러티브 고스트가 만드는 디지털 사후세계
Generative Ghosts: Anticipating Benefits and Risks of AI Afterlives 제너러티브 고스트란? – AI가 만드는 디지털 사후세계 구글 딥마인드와 콜로라도 대학 연구진이 발표한 연구 논문에…
메타의 AI 모델 훈련에 올림픽 수영장 1/4 채울 물 소비… 생성형 AI 환경 영향 심각
Artificial Intelligence: Generative AI’s Environmental and Human Effects 생성형 AI, 전력 소비량 급증으로 미국 전체 전력의 6%까지 차지할 전망 생성형 인공지능(Generative AI)이 산업 전반에…
![[Q&AI] 대선 후보 별 AI 관련 공약 및 행보 총정리](https://aimatters.co.kr/wp-content/uploads/2025/04/AI-Matters-기사-썸네일-QAI-15.jpeg)
[Q&AI] 대선 후보 별 AI 관련 공약 및 행보 총정리
질문: 한국 대선 후보 별로 AI 관련 공약과 행보를 자세히 정리해줘. 그록 답변: 2025년 6월 3일로 예정된 대한민국 대통령 선거를 앞두고 주요 후보들의 인공지능(AI)…
“AI도 가치관이 있다”… 앤트로픽, 클로드 대화 30만 건 분석해 밝혀낸 가치관 지도 공개
Values in the Wild: Discovering and Analyzing Values in Real-World Language Model Interactions 궁금했던 AI의 가치관: 30만 건 실제 대화 분석으로 최초 밝혀내 일상적인…
“AI에 일 맡길수록 두뇌 퇴화한다” 666명 대상 연구 결과
AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking AI 의존도와 비판적 사고력: 666명 대상 연구에서 뚜렷한 부정적 상관관계…
구글, ‘제미나이 2.5 프로’ 안전성 보고서에 핵심 정보 빠져 논란
테크크런치가 17일(현지 시간) 보도한 내용에 따르면, 구글(Google)이 자사의 가장 강력한 AI 모델인 제미나이(Gemini) 2.5 프로 출시 몇 주 후인 지난 목요일, 내부 안전성 평가…
당신도 속았을 수 있다… AI로 제작된 러시아 가짜뉴스의 설득력과 생산성 분석
Generative propaganda: Evidence of AI’s impact from a state-backed disinformation campaign 러시아 연계 선전 사이트, AI 도입 후 허위정보 생산 2.4배 증가 생성형 AI…
오픈AI, 신모델 ‘o3’ 사전 안전 검증 시간 부족해… 조작 가능성 우려
오픈AI(OpenAI)가 자사의 새로운 고성능 AI 모델인 o3의 테스트를 위해 파트너 기관에 충분한 시간을 제공하지 않았다는 주장이 제기됐다. 테크크런치가 16일(현지 시간) 보도한 내용에 따르면, 미터(Metr)는…
오픈AI “경쟁사가 고위험 AI 출시하면 안전장치 조정할 수도”… 안전성 vs 경쟁력 줄다리기
오픈AI(OpenAI)가 15일(현지 시간) AI 모델의 안전성을 평가하고 개발 및 배포 과정에서 필요한 안전장치를 결정하는 내부 시스템인 ‘준비 프레임워크(Preparedness Framework)‘를 업데이트하면서 논란이 일고 있다. 이번…
