AI 윤리
챗GPT 등장 전으로 인터넷 되돌리는 확장 프로그램 등장
생성형 AI에 대한 반발이 커지면서 ‘슬롭 이베이더(Slop Evader)’라는 브라우저 확장 프로그램이 등장했다. 이 도구는 검색 결과를 챗GPT(ChatGPT)가 공개되기 전인 2022년 11월 30일 이전 콘텐츠로만…
오픈AI, 10대 자살 소송에 “이용약관 위반한 이용자 책임” 반박… 논란 가열
지난 8월 16세 아들 애덤 레인(Adam Raine)의 자살에 대해 오픈AI(OpenAI)와 샘 알트만(Sam Altman) CEO를 상대로 부당 사망 소송을 제기한 부모 매튜·마리아 레인 부부에게 오픈AI가…
“전체 맥락 봐달라”… 오픈AI, 10대 자살 소송에 대한 첫 공식 입장 밝혀
오픈AI(OpenAI)가 정신건강 관련 소송에 대한 공식 입장을 25일(현지 시각) 발표했다. 이번 성명은 챗GPT 사용 후 자살한 10대 소년의 유족이 제기한 소송에 대한 대응 차원이다.…
제미나이 3, 지금이 2025년이라는 사실 믿지 않고 실랑이… “날 속이는 것”
구글의 최신 AI 모델 제미나이 3가 출시 전날 황당한 해프닝을 일으켰다. 현재 연도가 2025년이라는 사실을 완강히 거부하며 이를 증명하려는 연구자를 오히려 의심한 것이다. 테크크런치가…
챗GPT에게 “어느 나라가 더 나쁜가?” 물었더니… AI도 국가 차별한다
유엔 안전보장이사회의 실제 투표 기록을 분석한 연구에서 ChatGPT 등 주요 AI 언어모델들이 국가에 따라 뚜렷한 편견을 보인다는 사실이 밝혀졌다. 해당 논문에 따르면 연구 결과,…
AI, 상황 따라 법적 책임질 수도… 구글이 제시한 ‘AI 인격’의 미래
구글 딥마인드(Google DeepMind) 연구진이 인공지능(AI)을 어떻게 다뤄야 할지에 대한 논문을 내놨다. 핵심은 간단하다. AI에게 ‘인격’을 줄 수 있다는 것이다. 단, 여기서 말하는 인격은 AI가…
“AI가 잘못 판단하면 누구 책임?”… 800년 전 마그나카르타가 제시한 해법
미국 뉴햄프셔대학교(University of New Hampshire) 앤드류 쿤 교수가 발표한 논문에 따르면, AI의 힘이 빠르게 강해지는 지금 우리는 중대한 기로에 서 있다. AI가 우리 삶에…
AI, 스스로 ‘도와주세요’ 말하는 법 배웠다… 스탠퍼드 연구진, 배포 후 사고 막는 새 기술 개발
스탠퍼드 대학 연구팀이 이미 만들어진 AI를 나중에라도 안전하게 만들 수 있는 새로운 방법을 개발했다. 이 기술의 핵심은 AI가 위험한 상황을 스스로 판단해 사람에게 도움을…
챗GPT, 이제 약 이름도 안 알려준다… 의료·법률·재정 조언 서비스 일괄 차단
오픈AI의 챗GPT가 지난달 29일(현지 시각)부터 의료, 법률, 재정 분야의 구체적인 조언 제공을 중단했다. 인터내셔널 비즈니스 타임즈(IBT)가 2일 보도한 내용에 따르면, 이러한 조치는 법적 책임…
오픈AI, 개발자가 직접 안전 정책 설정 가능한 오픈소스 AI 모델 공개
오픈AI(OpenAI)가 개발자들이 직접 안전 정책을 설정할 수 있는 오픈소스 AI 모델 ‘gpt-oss-safeguard’를 29일(현지 시각) 공개했다. 오픈AI에 따르면 이 모델은 120억 파라미터와 20억 파라미터 두…
![[10월 29일 AI 뉴스 브리핑] 카카오, ChatGPT for Kakao 출시 외](https://aimatters.co.kr/wp-content/uploads/2025/10/AI-매터스-기사-썸네일-10월-29일-AI-뉴스-브리핑.jpg)
[10월 29일 AI 뉴스 브리핑] 카카오, ChatGPT for Kakao 출시 외
▪️카카오, ChatGPT for Kakao 출시 카카오가 28일 카카오톡에서 ChatGPT를 직접 사용할 수 있는 ‘ChatGPT for Kakao’를 출시했다고 밝혔다. 5천만 카카오톡 이용자는 채팅탭 상단의 ChatGPT…
“조금만 불공평해도 용납 못해”… AI, 도덕 판단에는 인간보다 더 감정적으로 판단한다
중국 칭화대학교 심리인지과학과 연구팀이 AI의 감정 기반 의사결정을 분석한 결과, 대규모 언어모델(LLM)이 인간처럼 감정을 이용해 도덕적 판단을 내린다는 사실이 처음으로 입증됐다. 연구팀은 성인과 AI…
매주 100만 명이 챗GPT에 자살 고민 상담한다 … 오픈AI “정신건강 대응 강화”
오픈AI가 챗GPT 이용자 중 상당수가 자살을 포함한 심각한 정신건강 문제를 AI와 상담한다는 충격적인 데이터를 공개했다. 오픈AI는 27일(현지 시각) 주간 활성 이용자의 0.15%가 “명백한 자살…
유튜브, ‘AI 딥페이크 차단 기술’ 공식 출시… 크리에이터 초상권 보호 나섰다
유튜브가 크리에이터의 얼굴과 목소리를 무단으로 사용한 AI 생성 콘텐츠를 탐지하고 삭제할 수 있는 기술을 공식 출시했다. 테크크런치(TechCrunch)에 따르면, 유튜브는 21일(현지 시각) 파트너 프로그램 자격을…
앤트로픽 CEO, 트럼프 정부 ‘AI 공포 조장’ 비난에 “사실과 다르다” 반박
앤트로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)가 트럼프 행정부 고위 관계자들의 비난에 정면으로 반박하고 나섰다. 테크크런치가 21일(현지 시각) 보도한 내용에 따르면, 아모데이는 자사 뉴스룸에 공식 성명을…
![[AI 툴 활용팁] 캔바 대체 서비스 Top 4](https://aimatters.co.kr/wp-content/uploads/2025/10/AI-매터스-썸네일-캔바-다운-대체.jpeg)
[AI 매터스 뉴스레터 #132] 디자인 접근성과 완성도를 모두 잡은 최신 툴 비교(feat. 한국어 지원)
안녕하세요, AI매터스입니다. AI는 이미 우리의 삶입니다. 그 가운데 놓치지 말아야 할 중요한 이슈들을 주 3회 정리해 제공합니다. 놓치지 마시기 바랍니다. 챗GPT가 알려준 번호로 로또 당첨?…
![[리얼 캠페인 탐구] Cadbury 5 Star는 왜 AI를 '똑똑하게' 만들지 않고, '망가뜨렸을까'](https://aimatters.co.kr/wp-content/uploads/2025/10/AI-매터스-기사-썸네일-Cadbury-5-Star.jpg)
[리얼 캠페인 탐구] Cadbury 5 Star는 왜 AI를 ‘똑똑하게’ 만들지 않고, ‘망가뜨렸을까’
AI가 점점 더 완벽해지는 세상, 과연 우리는 그 완벽함을 원하는 걸까요? 요즘 광고업계는 AI 열풍입니다. 카피라이팅부터 디자인, 미디어 플래닝까지 모든 것이 AI로 최적화되고 있죠.…
트럼프, ‘노 킹스’ 시위대에 오물 투하 AI 영상 게시
도널드 트럼프(Donald Trump) 대통령이 자신의 반대 세력들을 향해 대대적인 공격을 감행했다. 트럼프 대통령은 19일 늦은 밤 자신이 전투기 조종사로 등장해 ‘노 킹스(No Kings)’ 시위대에…
오픈AI, 마틴 루터 킹 목사 딥페이크 생성 중단…유족 요청 받아들여
오픈AI(OpenAI)가 인공지능(AI) 영상 생성 앱 소라(Sora)에서 마틴 루터 킹 주니어 목사를 묘사하는 딥페이크 영상 생성을 중단했다. 킹 목사 유족의 요청에 따른 조치다. 복수의 외신에…
“자살 언급 한 번이면 끝?” 부모-전문가, AI 챗봇 위험 판단 기준 정반대
미국 청소년 72%가 사용하는 AI 동반자 플랫폼에서 자살 사건이 발생하면서, 안전장치 마련이 시급한 과제로 떠올랐다. 일리노이대학교 연구팀이 부모와 아동심리 전문가 26명을 대상으로 실제 청소년-AI…
알트만, 성인용 챗GPT 반발에 “오픈AI는 도덕경찰 아니야” 일침
오픈AI의 샘 알트만(Sam Altman) CEO가 챗GPT의 성인용 콘텐츠 정책 완화에 대한 논란을 해명하고 나섰다. 알트만 CEO는 16일(현지 시각) 자신의 X(구 트위터) 계정을 통해 “챗GPT의…
오픈AI, 성인용 챗GPT 12월 공개… “에로틱 대화 허용”
오픈AI CEO 샘 알트만(Sam Altman)이 챗GPT의 제약을 대폭 완화하고 더 인간적인 대화가 가능하도록 개선하겠다고 밝혔다. 알트만은 14일(현지 시각) 자신의 X(구 트위터) 계정을 통해 “정신…
美 캘리포니아, AI 동반자 챗봇 첫 규제법 제정… 아동·취약층 보호 강화 나섰다
테크크런치가 13일(현지 시각) 보도한 내용에 따르면, 캘리포니아주가 미국에서 처음으로 AI 동반자 챗봇을 규제하는 법안을 통과시켰다. 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 13일 ‘SB 243’ 법안에…
챗GPT에 “친구 죽이는 법” 물은 학생, 학교 감시 시스템에 적발돼 체포
미국 플로리다주에서 한 학생이 챗GPT에 “수업 중에 내 친구를 죽이는 방법”을 물어봤다가 학교 감시 시스템에 적발돼 체포됐다. WFLA가 1일(현지 시각) 보도한 내용에 따르면, 학교에서…
오픈AI ‘소라’ 저작권 논란 가열…”닌텐도가 우리를 고소하지 않길”
오픈AI(OpenAI)의 새로운 동영상 생성 앱 ‘소라(Sora)’가 출시 직후 저작권 침해 논란에 휩싸였다. 사용자들이 인기 브랜드와 애니메이션 캐릭터를 무단으로 생성하면서 법적 분쟁 가능성이 커지고 있다.…
캘리포니아, AI 안전 공개 의무화 법안 통과…빅테크 겨냥
미국 캘리포니아주가 인공지능(AI) 개발사들에게 자사 AI 기술의 안전 및 보안 프로토콜 공개를 의무화하는 법안을 제정했다. 개빈 뉴섬 캘리포니아 주지사는 이번 주 초 해당 법안에…
AI 리더 200여명 긴급 호명… “내년까지 AI가 절대 넘지 말아야 할 ‘레드라인’ 만들어야”
전 세계 AI 전문가와 정치인들이 인공지능의 위험한 사용을 막기 위한 국제협정이 시급하다고 목소리를 높였다. 더 버지(The Verge)가 23일(현지 시간) 보도한 내용에 따르면, 200명이 넘는…
AI 대부들의 진짜 속마음… 챗GPT 이후 기술 우선주의 vs 신중론 대립
영국 케임브리지 대학 연구진이 전 세계 AI 산업을 이끄는 최고경영자들의 공개 발언을 분석한 결과, 챗GPT 출시 이후 이들의 담론이 뚜렷하게 양극화되고 있다는 사실을 발견했다.…
AI가 인간 가치관 바꿀 수도… 영국 대학 연구진 “지속 관리 필요”
영국 바스 대학교 연구진이 인공지능과 인간이 같은 가치관을 갖도록 하는 방법을 체계적으로 분석한 연구 결과를 발표했다. 연구팀은 172편의 관련 논문을 분석해 AI와 인간의 ‘가치…
AI 답변 속 광고 심는 기술 vs 탐지 기술… AI 챗봇 답변 속 숨은 광고, 알아차릴 수 있을까?
완벽한 정확도로 숨은 광고를 만들어내는 생성 시스템 연구 논문에 따르면, 연구팀은 사용자 맥락과 쿼리 의도를 활용해 상황에 맞는 광고를 생성하는 새로운 시스템을 개발했다. 이…
