AI 신뢰성
“챗GPT 써봤다” 90%… 하지만 만족도는 ‘뚝’
알투씨컴퍼니(R2C Company)가 운영하는 데이터 수집 플랫폼 ‘픽플리(Pickply)’가 전국 남녀 1002명을 대상으로 실시한 설문조사에서 응답자의 89.7%가 AI 서비스 사용 경험이 있다고 답했다. 생성형 AI 서비스의…
AI가 제안하면 무조건 따르시나요? EU AI법이 경고하는 ‘자동화 편향성’
Automation Bias in the AI Act: On the Legal Implications of Attempting to De-Bias Human Oversight of AI 15%에 달하는 AI 시스템이 ‘고위험’…EU, 자동화…
아마존, ‘알렉사 AI’ 출시 3월 이후로 또다시 연기… AI 정확도 높이기 ‘진통’
워싱턴포스트(The Washington Post)가 14일(현지 시간) 보도한 내용에 따르면, 아마존(Amazon)이 AI 기반 음성비서 알렉사(Alexa)의 업그레이드 버전 출시를 다시 한번 연기했다. 이번 달 뉴욕에서 발표 행사를…
챗GPT가 쓴 글, 사람의 글과 무엇이 다를까? 대규모 데이터 분석 결과
Evaluation of a trial of generative AI (Copilot) in The Treasury AI 생성 문장, 인간과 얼마나 비슷할까? 호주 재무부에서 진행한 코파일럿 실험 보고서에 따르면,…
구글 AI 제미나이, 슈퍼볼 광고에서 세계 치즈 소비량 통계 오류… AI의 데이터 해석 한계와 정확성 문제 대두
고다 치즈가 전 세계 치즈 소비량의 50~60%를 차지한다는 인공지능의 잘못된 주장으로 구글이 슈퍼볼 광고를 수정했다. 뉴욕포스트가 6일(현지 시간) 보도한 내용에 따르면, 구글은 인공지능 챗봇…
오픈AI, ‘o3-미니’ 추론 과정 일부 공개… 딥시크 의식하나
오픈AI가 자사 공식 X를 통해 AI 모델의 사고 과정(Chain of Thought, CoT) 기능을 업데이트했다. 이번 업데이트는 무료·유료 사용자용 O3-미니(o3-mini)와 유료 사용자 전용 O3-미니-하이(o3-mini-high) 모델에…
AI 챗봇 평가 플랫폼의 치명적 결함 발견… 수백 번의 투표로 순위 조작 가능해
Improving Your Model Ranking on Chatbot Arena by Vote Rigging 170만 건의 투표 데이터로 입증된 챗봇 아레나의 취약점 홍콩과학기술대학교와 Sea AI Lab 연구진이 공개한…
AI 도입 성숙도 1%… 직원들은 준비됐는데 리더가 더디다
Superagency in the workplace: Empowering people to unlock AI’s full potential 밀레니얼 세대 62% AI 전문성 보유 맥킨지가 2025년 1월 발표한 보고서에 따르면, C레벨…
AI와 개발자의 11가지 협업 방식 최초 분류…개발 생산성 향상 기대
How Developers Interact with AI: A Taxonomy of Human-AI Collaboration in Software Engineering 싱가포르경영대학교와 노던애리조나대학교 연구진이 발표한 논문에 따르면, 소프트웨어 개발 과정에서 인공지능(AI)이 개발자를…
오픈AI, 혁신적인 ‘박사급 AI 수퍼에이전트’ 공개 임박…인간 대체 수준 진입
악시오스(Axios)가 19일(현지시간)에 보도한 내용에 따르면, 생성형 AI 분야의 선도 기업들이 중대한 도약을 앞두고 있다. 업계 관계자들에 따르면 오픈AI(OpenAI)가 수주 내 박사급 수준의 복잡한 업무를…
AI도 기억을 헷갈린다…대형언어모델의 ‘지식 충돌’ 현상 분석
Knowledge Conflicts for LLMs: A Survey 칭화대학교와 케임브리지대학교 공동 연구팀이 발표한 최신 연구에 따르면, 대형언어모델(LLM)이 지식을 처리하는 과정에서 세 가지 유형의 ‘지식 충돌’ 현상이…
AI, 정말 안전한 걸까? 인공지능 시대의 불안과 대책
AI 안전의 개념과 범위 AI의 두 얼굴, 혁신은 빠르지만 안전은 부족하다 소프트웨어 정책 연구소가 발표한 보고서에 따르면, 최근 인공지능(AI)의 급격한 발전은 다양한 산업 분야에서…
AI가 하는 ‘선의의 거짓말’과 ‘무지의 거짓말’ 구분하는 기술 개발
챗GPT(ChatGPT)나 클로드(Claude) 같은 AI 챗봇이 때로는 자신감 넘치는 말투로 틀린 답변을 하는 경우를 본 적이 있을 것이다. 이스라엘 공과대학과 구글 연구진이 이런 AI의 ‘거짓말’을…
기업 AI 도입 가속화…신뢰성·데이터 품질·인재육성이 성공 열쇠
생성형 AI가 기업 환경을 빠르게 변화시키고 있다. 세일즈포스 AI의 CEO인 클라라 시(Clara Shih)는 “업무를 간소화하고 성과를 개선하며 탁월한 고객 경험을 제공할 수 있는 무한한…
“AI가 통제를 벗어났다” 160년 역사 美 보험사가 긴급 도입한 ‘AI 거버넌스’
딜로이트(Deloitte)가 최근 발간한 ‘Clients Success Story: 미국 생명보험사, AI 거버넌스 구축으로 안전한 AI 활용 기반 마련’ 보고서에 따르면, 160년 역사의 미국 주요 생명보험사가 전사적…
생성형 AI 시대, 기업들의 디지털 전환 전략은?
KPMG의 최신 글로벌 테크 리포트에 따르면, 74%의 기업들이 이미 AI 투자로 비즈니스 가치를 창출하고 있다. 그러나 이를 대규모로 실현하는 기업은 31%에 불과한 것으로 나타났다.…
생성형 AI 시대, 데이터 품질 관리의 중요성과 개선 전략
생성형 AI(Generative AI)의 급속한 발전과 함께 데이터 품질 관리의 중요성이 그 어느 때보다 부각되고 있다. 최근 글로벌 데이터 솔루션 기업인 다타이쿠의 보고서에 따르면, AI…
“AI의 ‘환각’을 잡아라” 미 연구진, 새로운 벤치마크 개발
인공지능(AI) 기술이 급속도로 발전하면서 대규모 언어 모델(LLM)의 정확성과 신뢰성이 중요한 이슈로 떠올랐다. 최근 코넬대학교, 워싱턴대학교, 앨런 인공지능 연구소 등의 연구진이 LLM의 사실성을 평가하기 위한…
