AI 윤리
어렵다는 아랍어 손글씨 인식률 99.2% 달성…이집트 연구진 AI 기반 OCR 시스템 개발
이집트-일본 과학기술대학교(E-JUST) 연구진이 아랍어 손글씨를 높은 정확도로 인식하는 새로운 인공지능(AI) 시스템을 개발했다. 연구진은 차별화된 이진화(Differentiable Binarization)와 적응형 스케일 융합(Adaptive Scale Fusion) 기술을 결합해 기존…
부모는 모른다, AI와 연애하고 고민 상담하고… 10대들의 충격적인 AI 활용 실태
영국 통신규제기관 오프콤(Ofcom)의 최근 조사에 따르면, 13-17세 청소년의 79%, 7-12세 아동의 40%가 이미 생성형 AI를 사용하고 있는 것으로 나타났다. 이런 가운데 일리노이대학교 연구진이 레딧…
AI가 가져올 일의 미래? 일과 삶의 변화를 이끄는 두 가지 트렌드
최근 수십 년간 자연자원의 과도한 사용, 생물다양성 감소, 기후변화는 생존 조건과 사회 구조, 경제성장에 기반한 시스템에 큰 도전이 되고 있다. 이러한 전반적인 영향으로 인해…
나이 많을 수록 AI 위험 인식…기술에 대한 이해가 AI 수용에 영향
독일 RWTH 아헨 대학교(RWTH Aachen University) 연구팀이 1,100명을 대상으로 한 인공지능(AI) 인식 연구 결과, AI에 대한 인식이 활용 분야에 따라 큰 차이를 보이는 것으로…
“데이터가 준비되지 않으면 AI도 실패한다”…가트너 “2025년까지 생성형 AI 프로젝트 30% 실패” 경고
가트너(Gartner)가 발표한 최신 보고서에 따르면, 2025년까지 생성형 AI(Generative AI) 프로젝트의 30%가 개념 증명(PoC) 단계에서 중단될 것으로 전망됐다. 주요 실패 원인으로는 데이터 품질 부족, 불충분한…
GPT-4와 5분간 대화했더니… 54%가 ‘이게 진짜 사람이네’ 판정
1950년 컴퓨터 과학자 앨런 튜링이 제안한 이후 74년 동안, 어떤 AI도 공식적으로 통과하지 못했던 튜링 테스트에서 마침내 역사적인 순간이 도래했다. UC 샌디에고의 연구진이 수행한…
일반인도 AI 편향성 유발 가능? 생성형 AI의 숨겨진 한계와 전략 분석
생성형 AI(Generative AI)의 기술이 발전하고 대중화되면서, 편향적 결과물을 생성할 가능성은 윤리적 논의의 핵심으로 자리 잡고 있다. 펜실베이니아주립대학교에서 진행된 연구는 일반 사용자들이 어떤 방식으로 AI의…
GPT와 인간의 윤리적 판단 차이, 생성형 AI 기반 다중로봇 시스템의 새로운 도전과제
생성형 인공지능(Generative AI)과 대규모 언어모델(Large Language Models, LLMs)이 소프트웨어와 로봇 개발 분야의 오랜 숙원을 실현시켰지만, 동시에 새로운 윤리적 과제들을 야기하고 있다. 특히 다중로봇 시스템에…
생성형 AI의 ‘환각’ 현상, 위험을 넘어 미래 혁신의 열쇠로
생성형 AI(Generative AI)는 이메일 작성부터 피트니스 루틴 추천, 컴퓨터 코드 생성까지 다양한 작업을 수행할 수 있게 되었다. 하지만 이러한 발전 속에서 ‘환각(Hallucination)’ 현상이 주요…
생성형 AI로 진화하는 맞춤형 교육, 개인별 학습 경험 혁신 나선다
지능형 튜터링 시스템(Intelligent Tutoring Systems, ITS)이 생성형 AI의 도입으로 새로운 전환점을 맞이했다. 특히 GPT-4와 같은 대규모 언어 모델(Large Language Models, LLMs)을 활용한 ITS는 학습자…
생성형 AI로 진화하는 아동 교육, 아이들의 창의력 돕는 AI 스토리텔링 도구 개발
디지털 기술의 급속한 발전으로 교육 환경이 빠르게 변화하고 있다. 특히 챗GPT(ChatGPT), 스테이블 디퓨전(Stable Diffusion), 미드저니(Midjourney) 등 생성형 AI의 등장은 창작과 표현의 새로운 지평을 열었다.…
AI가 마케팅의 ‘최우선 과제’이자 ‘최대 도전과제’로 부상…마케터 75% “AI 실험·구현 중”
세일즈포스(Salesforce)가 전 세계 4,850명의 마케터를 대상으로 실시한 ‘제9회 마케팅 현황 보고서’에 따르면, 인공지능(AI)이 마케팅 분야의 최우선 과제이자 동시에 최대 도전과제로 부상했다. 마케터들의 75%가 이미…
AI 문서화, 거버넌스 성공의 핵심 열쇠…”조직 역량과 이해관계자 요구 고려한 전략 수립해야”
민주기술센터(Center for Democracy & Technology, CDT)가 AI 문서화의 중요성과 효과적인 전략 수립에 관한 연구 보고서를 발표했다. 이번 보고서는 37개의 AI 데이터·모델·시스템·프로세스 문서화 방법론과 21개의…
IEEE 보고서: “AI, 2025년 가장 중요한 기술로 선정…대중의 AI 인식 변화 예고”
세계 최대 기술 전문가 단체인 IEEE(국제전기전자기술자협회)가 발표한 최신 보고서에서 AI가 2025년 가장 중요한 기술로 선정됐다. 브라질, 중국, 인도, 영국, 미국의 최고정보책임자(CIO), 최고기술책임자(CTO), IT 이사…
미국 GAO, 생성형 AI 기업들의 안전성과 책임성 확보 현황 심층 분석
미국 정부회계감사원(GAO)이 생성형 AI의 책임 있는 개발과 안전한 활용을 위한 포괄적인 분석 보고서를 발표했다. 이 보고서는 2024년 6월부터 10월까지 아마존, 앤트로픽, 구글, 메타, 마이크로소프트,…
캐나다 대학생 60%, “생성형 AI로 과제는 쉬워졌지만 실제 학습효과는 떨어진다”
캐나다 학생들 사이에서 생성형 AI 사용이 급증하고 있다. KPMG 캐나다가 실시한 최신 조사에 따르면, 현재 캐나다 학생의 59%가 학업에 생성형 AI를 활용하고 있으며, 이는…
“AI가 AI를 학습시킨다…합성 데이터의 빛과 그림자”
인공지능(AI) 개발에서 가장 중요한 학습 데이터가 고갈 위기에 직면하면서 AI가 생성한 합성 데이터(Synthetic Data)가 대안으로 떠오르고 있다. 하지만 전문가들은 합성 데이터만으로는 한계가 있다고 지적했다.…
EU AI법 대응 첫 기술평가 프레임워크 ‘COMPL-AI’ 공개…12개 AI 모델 준수 여부 검증
ETH 취리히와 INSAIT 소피아 대학 연구진이 EU AI법을 기술적으로 해석하고 이를 평가할 수 있는 최초의 종합적인 프레임워크 ‘COMPL-AI’를 개발했다. 이 프레임워크는 생성형 AI의 성능과…
AI 안전성 우회하는 ‘AutoDAN-Turbo’, LLM 공격 성공률 최대 93.4% 달성
대규모 언어 모델(Large Language Models, LLM)의 급속한 발전과 함께 이를 악용하려는 시도 또한 증가하고 있다. 최근 위스콘신 매디슨 대학을 중심으로 한 연구진이 개발한 ‘AutoDAN-Turbo’라는…
오픈AI, 생성형 AI 챗봇의 공정성 평가 위한 연구 진행
OpenAI 연구팀은 ChatGPT와 같은 생성형 AI 챗봇의 공정성을 평가하기 위해 대규모 연구를 수행했다. 이 연구는 챗봇이 사용자 이름에 따라 다른 응답을 생성하는지 분석했으며, 이를…
AI 모델 MentalArena, 정신 건강 진단과 치료에 새 지평 열어
일리노이 대학교 어바나-샴페인 캠퍼스와 마이크로소프트 연구소가 공동 개발한 MentalArena라는 혁신적인 AI 프레임워크가 정신 건강 분야에 새로운 가능성을 제시하고 있다. 이 시스템은 대규모 언어 모델(Large…
유럽인들의 생성형 AI에 대한 신뢰도, 낙관적이지만 여전히 개선 필요
딜로이트(Deloitte)가 유럽 11개국의 3만 명 이상의 소비자와 직장인을 대상으로 실시한 조사에 따르면, 생성형 AI에 대한 인식과 사용 행태가 다양하게 나타났다. 응답자의 34%는 여전히 생성형…
필라 시큐리티, “성공한 공격의 90%, 민감한 데이터 유출”
Pillar Security가 최근 발표한 보고서 ‘The State of Attacks on GenAI’는 생성형 AI 시스템의 보안 취약점을 실제 공격 사례를 통해 상세히 분석했다. 이 보고서는…
AI 규제 시대, 기업의 생존 전략은 거버넌스 구축이다
인공지능(AI) 기술의 급속한 발전으로 산업 전반에 혁신의 바람이 불고 있다. 그러나 AI의 확산은 개인정보 침해, 윤리적 문제 등 새로운 사회적 우려를 낳고 있다. 특히…
에델만, “마케팅 전문가, 챗GPT, MS 코파일럿선호”
에델만이 최근 발표한 ‘2024 AI 리포트’는 마케팅 커뮤니케이션 전문가들이 신뢰할 수 있는 AI 도구를 찾는 방법을 제시하고 있다. 이 보고서는 대규모 언어 모델(LLM), 창의…
기업 2025년 생성형 AI관련 지출 50% 증가 전망
생성형 AI(GenAI)가 기업의 디지털 혁신을 가속화하고 있다. ISG의 2024년 생성형 AI 사용 사례 연구에 따르면, 기업들은 2024년 IT 예산의 4.3%를 생성형 AI에 투자하고 있으며,…
생성형AI, 의료진 성 고정관념과 편향성 보여
최근 JAMA Network Open에 발표된 연구는 대규모 언어 모델(LLM)이 생성한 의료진 관련 이야기에서 성별 고정관념과 편향이 여전히 존재함을 밝혀냈다. 이 연구는 의료 및 교육…
생성형 AI 챗봇, 목격자 진술에서 허위 기억 유발 가능성 3배 높여
MIT 미디어랩과 캘리포니아 대학교 얼바인 캠퍼스 연구진이 수행한 최근 연구에 따르면, 대규모 언어 모델(LLM)을 기반으로 한 생성형 AI 챗봇이 목격자 진술에서 허위 기억을 유발할…
생성형 AI, 대학 평가의 판도를 바꾸다
인공지능(AI) 기술의 급속한 발전으로 교육계가 큰 변화를 맞이하고 있다. 특히 생성형 AI(Generative AI)의 등장은 대학 평가 시스템에 새로운 도전과 기회를 동시에 제공하고 있다. 최근…
영국 일반의 5명 중 1명, 진료에 생성형 AI 활용 중
인공지능(AI) 기술의 발전으로 의료계에서도 생성형 AI의 활용 가능성에 대한 관심이 높아지고 있다. 특히 대규모 언어 모델(Large Language Model, LLM)을 기반으로 한 챗봇의 등장으로 임상…
