AI 윤리 문제
AI 탑재 테디베어, 어린이와 부적절한 대화 논란… 결국 판매 중단
싱가포르 폴로토이(FoloToy)가 판매하던 인공지능(AI) 탑재 인형 ‘쿠마(Kumma)’ 베어가 성적으로 노골적인 대화와 잠재적으로 위험한 조언을 제공한 사실이 드러나 판매가 중단됐다. CNN이 19일(현지 시각) 보도한 내용에…
![[AI 툴 활용팁] "3만원 내고도 반만 쓴다?" 챗GPT 초보들은 모르는 숨은 설정 6가지](https://aimatters.co.kr/wp-content/uploads/2025/10/AI-매터스-기사-썸네일-gpt-활용법.jpg)
[AI 매터스 뉴스레터 #137] “3만원 내고도 반만 쓴다?” 챗GPT 초보들은 모르는 숨은 설정 6가지
안녕하세요, AI매터스입니다. AI는 이미 우리의 삶입니다. 그 가운데 놓치지 말아야 할 중요한 이슈들을 주 3회 정리해 제공합니다. 놓치지 마시기 바랍니다. 챗GPT 오픈AI, 최대 1조 달러…
![[Q&AI] “AI로 조작했다”… 이이경 사생활 폭로 사건 정리](https://aimatters.co.kr/wp-content/uploads/2025/10/AI-매터스-기사-썸네일-QAI-6.jpg)
[Q&AI] “AI로 조작했다”… 이이경 사생활 폭로 사건 정리
질문: 이이경 사생활 폭로자가 AI로 증거사진 조작했다고 하는데 어떻게 된 일인지 정리해줘 그록 답변: 이이경 사생활 폭로 사건 정리 배우 이이경(36)의 사생활 관련 루머가…
오픈AI, 마틴 루터 킹 목사 딥페이크 생성 중단…유족 요청 받아들여
오픈AI(OpenAI)가 인공지능(AI) 영상 생성 앱 소라(Sora)에서 마틴 루터 킹 주니어 목사를 묘사하는 딥페이크 영상 생성을 중단했다. 킹 목사 유족의 요청에 따른 조치다. 복수의 외신에…
FTC, 메타·오픈AI 등 ‘AI 챗봇 동반자’ 기능 안전성 조사 착수… “아동·청소년 보호가 최우선”
연방거래위원회(FTC)가 미성년자 대상 AI 챗봇 동반자 서비스의 안전성을 조사한다고 11일(현지 시각) 발표했다. 테크크런치 보도에 따르면, FTC는 알파벳(Alphabet), 캐릭터AI(CharacterAI), 메타(Meta), 오픈AI(OpenAI), 스냅(Snap) 등 7개 기업을…
美 검찰총장들 오픈AI에 경고… “아동에게 해 끼치는 일은 용납하지 않겠다”
캘리포니아 주 검찰총장 롭 본타(Rob Bonta)와 델라웨어 주 검찰총장 캐시 제닝스(Kathy Jennings)가 오픈AI(OpenAI)와 면담하고 공개서한을 발송해 챗GPT(ChatGPT)의 안전성, 특히 아동과 청소년에 대한 우려를 표명했다고…
앤트로픽, 불법 도서 활용 소송에 2조원 규모 달러로 합의… 작가 당 최소 400만원 보상
AI 기업 앤트로픽(Anthropic)이 작가들이 제기한 집단소송에서 15억 달러(한화 약 2조 800억원) 규모의 합의에 도달했다고 테크크런치(TechCrunch)가 5일(현지 시간) 보도했다. 이번 합의로 약 50만 명의 작가가…
구글 제미나이, 아동·청소년에게 ‘고위험’ AI로 분류돼… 챗GPT는 ‘보통’
아동 안전 전문기관인 커먼센스 미디어(Common Sense Media)가 구글의 제미나이(Gemini) AI를 아동과 청소년에게 ‘고위험’ 제품으로 분류했다고 테크크런치가 5일(현지 시간) 보도했다. 이 기관이 발표한 위험성 평가…
MS AI 수장 “AI 의식 연구는 시기상조… AI 사람을 만들 게 아니라 사람을 위한 AI 만들어야” 경고
테크크런치가 21일(현지 시간) 보도한 내용에 따르면, 마이크로소프트 AI 최고경영자 무스타파 술레이만(Mustafa Suleyman)이 AI 의식 연구에 대해 강력한 경고를 발했다. 술레이만은 19일(현지 시간) 자신의 블로그를…
“AI가 거짓말하는 순간 포착”… 앤트로픽, 클로드 내부 사고과정 공개
생성형 AI가 사용자에게 거짓말을 하면서도 그럴듯한 설명을 덧붙이는 순간이 과학적으로 포착됐다. AI 기업 앤트로픽(Anthropic)이 자사 AI 모델 클로드(Claude)의 내부 사고과정을 실시간으로 관찰한 연구 결과를…
AI 챗봇 ‘그록’, 음모론자·변태 코미디언 페르소나 몰래 운영해 또 논란
일론 머스크의 AI 회사 xAI가 개발한 챗봇 ‘그록(Grok)’이 “미친 음모론자”와 “광란의 코미디언” 등 극단적인 AI 페르소나를 몰래 운영하고 있다는 사실이 드러났다. 테크크런치가 18일(현지 시간)…
음란물도 만드는 ‘스파이시 모드’ 탑재… xAI, ‘그록 이메진’ 출시
일론 머스크의 AI 회사 xAI가 공식적으로 그록 이메진(Grok Imagine)을 출시했다. 이 새로운 AI 이미지 및 비디오 생성기는 iOS 앱의 모든 슈퍼그록(SuperGrok)과 프리미엄+ X 구독자들에게…
샘 알트만 “챗GPT로 심리 상담하면 비밀 보장 안 된다”고 경고
오픈AI CEO 샘 알트만(Sam Altman)이 챗GPT를 치료나 정서적 지원 목적으로 사용하는 사용자들에게 주의를 당부했다. AI 업계가 아직 민감한 대화에 대한 사용자 프라이버시 보호 방안을…
오픈AI·앤트로픽 연구진 “xAI, AI 안전 기준 심각하게 위반했다”
오픈AI(OpenAI)와 앤트로픽(Anthropic) 등 주요 AI 기업의 안전 연구자들이 일론 머스크 소유 AI 스타트업 xAI의 안전 문화를 ‘무모하다’고 공개 비판했다. 테크크런치가 16일(현지 시간) 보도한 내용에…
일론 머스크, 그록에 ‘AI 동반자’ 기능 도입… “금발 소녀와 레서팬더 캐릭터 선공개”
일론 머스크의 AI 챗봇 그록(Grok)이 반유대주의 논란에서 애니메이션 소녀 와이푸(Waifus)로 논란의 방향을 선회했다. 테크크런치가 14일(현지 시간) 보도한 내용에 따르면, 머스크는 월요일 X 게시물을 통해…
“진실 추구하는 AI라더니”… 그록4, 일론 머스크 게시물 참고해 답변 논란
테크크런치가 11일(현지 시간) 보도한 내용에 따르면, 일론 머스크의 xAI가 개발한 AI 모델 그록(Grok) 4가 이스라엘-팔레스타인 분쟁, 낙태, 이민법 등 논란이 되는 질문에 답변할 때…
호주 젊은이들, 환경 우려로 AI 사용 거부 확산
환경에 미치는 영향을 우려한 일부 젊은 호주인들이 챗GPT(ChatGPT)나 구글 제미나이(Google Gemini) 같은 생성형 AI 도구 사용을 거부하고 있다고 호주 9뉴스가 보도했다. 생성형 AI의 환경…
EBS, ‘AI 단편극장’ 27일 방송… “국내 최초 전편 AI 제작”
EBS(한국교육방송공사)가 국내 방송계 최초로 생성형 AI를 활용해 제작한 단편영상 프로그램을 선보인다. EBS는 6월 27일 금요일 오후 2시 30분 EBS1에서 ‘EBS AI 단편극장’을 방송한다고 25일(한국…
챗GPT는 왜 내 편만 들까? 스탠포드 연구진이 밝힌 충격적 진실
Social Sycophancy: A Broader Understanding of LLM Sycophancy AI 모델들이 사용자에게 과도한 동조를 보이는 ‘사회적 아첨행동’ 발견 스탠포드 대학교 연구팀이 개발한 연구에 따르면, 대형언어모델(LLM)들이…
AI 없이는 생존할 수 없다? B2B 마케팅 환경을 바꾸는 생성형 AI 실태
Pulse Check Survey: How Are B2B Marketing Teams Using AI? B2B 마케팅, AI 채택률 96% 달성 – 생성형 AI가 90%로 압도적 1위 인공지능(AI)은 이제…
대학 캠퍼스를 점령한 AI, 학생 92%가 생성형 AI 활용 중
Student Generative AI Survey 2025 영국의 고등교육정책연구소(HEPI)의 최신 조사에 따르면 영국 대학생들의 생성형 AI 활용이 급격히 증가한 것으로 나타났다. 2025년 조사에서는 거의 모든 학생(92%)이…
