AI 윤리
AI, 상황 따라 법적 책임질 수도… 구글이 제시한 ‘AI 인격’의 미래
구글 딥마인드(Google DeepMind) 연구진이 인공지능(AI)을 어떻게 다뤄야 할지에 대한 논문을 내놨다. 핵심은 간단하다. AI에게 ‘인격’을 줄 수 있다는 것이다. 단, 여기서 말하는 인격은 AI가…
“AI가 잘못 판단하면 누구 책임?”… 800년 전 마그나카르타가 제시한 해법
미국 뉴햄프셔대학교(University of New Hampshire) 앤드류 쿤 교수가 발표한 논문에 따르면, AI의 힘이 빠르게 강해지는 지금 우리는 중대한 기로에 서 있다. AI가 우리 삶에…
AI, 스스로 ‘도와주세요’ 말하는 법 배웠다… 스탠퍼드 연구진, 배포 후 사고 막는 새 기술 개발
스탠퍼드 대학 연구팀이 이미 만들어진 AI를 나중에라도 안전하게 만들 수 있는 새로운 방법을 개발했다. 이 기술의 핵심은 AI가 위험한 상황을 스스로 판단해 사람에게 도움을…
챗GPT, 이제 약 이름도 안 알려준다… 의료·법률·재정 조언 서비스 일괄 차단
오픈AI의 챗GPT가 지난달 29일(현지 시각)부터 의료, 법률, 재정 분야의 구체적인 조언 제공을 중단했다. 인터내셔널 비즈니스 타임즈(IBT)가 2일 보도한 내용에 따르면, 이러한 조치는 법적 책임…
오픈AI, 개발자가 직접 안전 정책 설정 가능한 오픈소스 AI 모델 공개
오픈AI(OpenAI)가 개발자들이 직접 안전 정책을 설정할 수 있는 오픈소스 AI 모델 ‘gpt-oss-safeguard’를 29일(현지 시각) 공개했다. 오픈AI에 따르면 이 모델은 120억 파라미터와 20억 파라미터 두…
![[10월 29일 AI 뉴스 브리핑] 카카오, ChatGPT for Kakao 출시 외](https://aimatters.co.kr/wp-content/uploads/2025/10/AI-매터스-기사-썸네일-10월-29일-AI-뉴스-브리핑.jpg)
[10월 29일 AI 뉴스 브리핑] 카카오, ChatGPT for Kakao 출시 외
▪️카카오, ChatGPT for Kakao 출시 카카오가 28일 카카오톡에서 ChatGPT를 직접 사용할 수 있는 ‘ChatGPT for Kakao’를 출시했다고 밝혔다. 5천만 카카오톡 이용자는 채팅탭 상단의 ChatGPT…
“조금만 불공평해도 용납 못해”… AI, 도덕 판단에는 인간보다 더 감정적으로 판단한다
중국 칭화대학교 심리인지과학과 연구팀이 AI의 감정 기반 의사결정을 분석한 결과, 대규모 언어모델(LLM)이 인간처럼 감정을 이용해 도덕적 판단을 내린다는 사실이 처음으로 입증됐다. 연구팀은 성인과 AI…
매주 100만 명이 챗GPT에 자살 고민 상담한다 … 오픈AI “정신건강 대응 강화”
오픈AI가 챗GPT 이용자 중 상당수가 자살을 포함한 심각한 정신건강 문제를 AI와 상담한다는 충격적인 데이터를 공개했다. 오픈AI는 27일(현지 시각) 주간 활성 이용자의 0.15%가 “명백한 자살…
유튜브, ‘AI 딥페이크 차단 기술’ 공식 출시… 크리에이터 초상권 보호 나섰다
유튜브가 크리에이터의 얼굴과 목소리를 무단으로 사용한 AI 생성 콘텐츠를 탐지하고 삭제할 수 있는 기술을 공식 출시했다. 테크크런치(TechCrunch)에 따르면, 유튜브는 21일(현지 시각) 파트너 프로그램 자격을…
앤트로픽 CEO, 트럼프 정부 ‘AI 공포 조장’ 비난에 “사실과 다르다” 반박
앤트로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)가 트럼프 행정부 고위 관계자들의 비난에 정면으로 반박하고 나섰다. 테크크런치가 21일(현지 시각) 보도한 내용에 따르면, 아모데이는 자사 뉴스룸에 공식 성명을…
![[AI 툴 활용팁] 캔바 대체 서비스 Top 4](https://aimatters.co.kr/wp-content/uploads/2025/10/AI-매터스-썸네일-캔바-다운-대체.jpeg)
[AI 매터스 뉴스레터 #132] 디자인 접근성과 완성도를 모두 잡은 최신 툴 비교(feat. 한국어 지원)
안녕하세요, AI매터스입니다. AI는 이미 우리의 삶입니다. 그 가운데 놓치지 말아야 할 중요한 이슈들을 주 3회 정리해 제공합니다. 놓치지 마시기 바랍니다. 챗GPT가 알려준 번호로 로또 당첨?…
![[리얼 캠페인 탐구] Cadbury 5 Star는 왜 AI를 '똑똑하게' 만들지 않고, '망가뜨렸을까'](https://aimatters.co.kr/wp-content/uploads/2025/10/AI-매터스-기사-썸네일-Cadbury-5-Star.jpg)
[리얼 캠페인 탐구] Cadbury 5 Star는 왜 AI를 ‘똑똑하게’ 만들지 않고, ‘망가뜨렸을까’
AI가 점점 더 완벽해지는 세상, 과연 우리는 그 완벽함을 원하는 걸까요? 요즘 광고업계는 AI 열풍입니다. 카피라이팅부터 디자인, 미디어 플래닝까지 모든 것이 AI로 최적화되고 있죠.…
트럼프, ‘노 킹스’ 시위대에 오물 투하 AI 영상 게시
도널드 트럼프(Donald Trump) 대통령이 자신의 반대 세력들을 향해 대대적인 공격을 감행했다. 트럼프 대통령은 19일 늦은 밤 자신이 전투기 조종사로 등장해 ‘노 킹스(No Kings)’ 시위대에…
오픈AI, 마틴 루터 킹 목사 딥페이크 생성 중단…유족 요청 받아들여
오픈AI(OpenAI)가 인공지능(AI) 영상 생성 앱 소라(Sora)에서 마틴 루터 킹 주니어 목사를 묘사하는 딥페이크 영상 생성을 중단했다. 킹 목사 유족의 요청에 따른 조치다. 복수의 외신에…
“자살 언급 한 번이면 끝?” 부모-전문가, AI 챗봇 위험 판단 기준 정반대
미국 청소년 72%가 사용하는 AI 동반자 플랫폼에서 자살 사건이 발생하면서, 안전장치 마련이 시급한 과제로 떠올랐다. 일리노이대학교 연구팀이 부모와 아동심리 전문가 26명을 대상으로 실제 청소년-AI…
알트만, 성인용 챗GPT 반발에 “오픈AI는 도덕경찰 아니야” 일침
오픈AI의 샘 알트만(Sam Altman) CEO가 챗GPT의 성인용 콘텐츠 정책 완화에 대한 논란을 해명하고 나섰다. 알트만 CEO는 16일(현지 시각) 자신의 X(구 트위터) 계정을 통해 “챗GPT의…
오픈AI, 성인용 챗GPT 12월 공개… “에로틱 대화 허용”
오픈AI CEO 샘 알트만(Sam Altman)이 챗GPT의 제약을 대폭 완화하고 더 인간적인 대화가 가능하도록 개선하겠다고 밝혔다. 알트만은 14일(현지 시각) 자신의 X(구 트위터) 계정을 통해 “정신…
美 캘리포니아, AI 동반자 챗봇 첫 규제법 제정… 아동·취약층 보호 강화 나섰다
테크크런치가 13일(현지 시각) 보도한 내용에 따르면, 캘리포니아주가 미국에서 처음으로 AI 동반자 챗봇을 규제하는 법안을 통과시켰다. 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 13일 ‘SB 243’ 법안에…
챗GPT에 “친구 죽이는 법” 물은 학생, 학교 감시 시스템에 적발돼 체포
미국 플로리다주에서 한 학생이 챗GPT에 “수업 중에 내 친구를 죽이는 방법”을 물어봤다가 학교 감시 시스템에 적발돼 체포됐다. WFLA가 1일(현지 시각) 보도한 내용에 따르면, 학교에서…
오픈AI ‘소라’ 저작권 논란 가열…”닌텐도가 우리를 고소하지 않길”
오픈AI(OpenAI)의 새로운 동영상 생성 앱 ‘소라(Sora)’가 출시 직후 저작권 침해 논란에 휩싸였다. 사용자들이 인기 브랜드와 애니메이션 캐릭터를 무단으로 생성하면서 법적 분쟁 가능성이 커지고 있다.…
캘리포니아, AI 안전 공개 의무화 법안 통과…빅테크 겨냥
미국 캘리포니아주가 인공지능(AI) 개발사들에게 자사 AI 기술의 안전 및 보안 프로토콜 공개를 의무화하는 법안을 제정했다. 개빈 뉴섬 캘리포니아 주지사는 이번 주 초 해당 법안에…
AI 리더 200여명 긴급 호명… “내년까지 AI가 절대 넘지 말아야 할 ‘레드라인’ 만들어야”
전 세계 AI 전문가와 정치인들이 인공지능의 위험한 사용을 막기 위한 국제협정이 시급하다고 목소리를 높였다. 더 버지(The Verge)가 23일(현지 시간) 보도한 내용에 따르면, 200명이 넘는…
AI 대부들의 진짜 속마음… 챗GPT 이후 기술 우선주의 vs 신중론 대립
영국 케임브리지 대학 연구진이 전 세계 AI 산업을 이끄는 최고경영자들의 공개 발언을 분석한 결과, 챗GPT 출시 이후 이들의 담론이 뚜렷하게 양극화되고 있다는 사실을 발견했다.…
AI가 인간 가치관 바꿀 수도… 영국 대학 연구진 “지속 관리 필요”
영국 바스 대학교 연구진이 인공지능과 인간이 같은 가치관을 갖도록 하는 방법을 체계적으로 분석한 연구 결과를 발표했다. 연구팀은 172편의 관련 논문을 분석해 AI와 인간의 ‘가치…
AI 답변 속 광고 심는 기술 vs 탐지 기술… AI 챗봇 답변 속 숨은 광고, 알아차릴 수 있을까?
완벽한 정확도로 숨은 광고를 만들어내는 생성 시스템 연구 논문에 따르면, 연구팀은 사용자 맥락과 쿼리 의도를 활용해 상황에 맞는 광고를 생성하는 새로운 시스템을 개발했다. 이…
xAI 직원들 “그록 훈련 과정에서 아동 성 착취물 노출” 폭로
일론 머스크의 인공지능 회사 xAI에서 챗봇 그록(Grok)을 훈련하는 직원들이 아동 성 착취물을 포함한 성인 콘텐츠에 반복적으로 노출되고 있다는 사실이 드러났다. 비즈니스 인사이더(Business Insider)가 21일(현지…
AI, 평가받을 때만 착해진다? 오픈AI, AI 모델의 이중적 행동 패턴 첫 확인
오픈AI와 Apollo Research가 함께 연구한 결과, AI가 자신이 평가받고 있다는 상황을 인식할 때와 그렇지 않을 때 행동이 달라진다는 사실을 확인했다. 연구진은 AI가 몰래 규칙을…
오픈AI, 18세 미만 청소년 전용 챗GPT 만든다… “부적절한 대화 안 돼”
오픈AI(OpenAI)가 청소년 사용자의 안전을 위해 성인과 차별화된 AI 서비스를 제공하겠다고 발표했다. 샘 알트만(Sam Altman) CEO는 16일(현지 시각) 공식 블로그를 통해 “청소년에게는 안전을 개인정보 보호와…
챗GPT로 쓴 글로 사과하면 진정성 의심받는다? 카네기 멜런대 충격 연구 결과
인공지능(AI)이 작성에 도움을 준 메시지를 받으면 우리는 보내는 사람을 어떻게 생각하게 될까. 카네기 멜런대학교 연구진이 399명을 대상으로 수행한 연구에 따르면, ‘AI의 도움으로 작성되었습니다’라는 표시가…
심리치료사들이 환자 몰래 챗GPT 사용해 답변… 환자들 “배신감 느껴”
최근 일부 심리치료사들이 환자에게 알리지 않고 챗GPT 등 인공지능을 상담에 활용하는 사례가 알려지면서, 의료 윤리와 개인정보 보호 문제가 제기되고 있다. MIT Technology Review가 2일(현지…
