AI 윤리
AI 안전성 우회하는 ‘AutoDAN-Turbo’, LLM 공격 성공률 최대…
대규모 언어 모델(Large Language Models, LLM)의 급속한 발전과 함께 이를 악용하려는 시도 또한 증가하고 있다. 최근 위스콘신 매디슨…
오픈AI, 생성형 AI 챗봇의 공정성 평가 위한 연구…
OpenAI 연구팀은 ChatGPT와 같은 생성형 AI 챗봇의 공정성을 평가하기 위해 대규모 연구를 수행했다. 이 연구는 챗봇이 사용자 이름에…
AI 모델 MentalArena, 정신 건강 진단과 치료에 새…
일리노이 대학교 어바나-샴페인 캠퍼스와 마이크로소프트 연구소가 공동 개발한 MentalArena라는 혁신적인 AI 프레임워크가 정신 건강 분야에 새로운 가능성을 제시하고…
유럽인들의 생성형 AI에 대한 신뢰도, 낙관적이지만 여전히 개선…
딜로이트(Deloitte)가 유럽 11개국의 3만 명 이상의 소비자와 직장인을 대상으로 실시한 조사에 따르면, 생성형 AI에 대한 인식과 사용 행태가…
필라 시큐리티, “성공한 공격의 90%, 민감한 데이터 유출”
Pillar Security가 최근 발표한 보고서 ‘The State of Attacks on GenAI’는 생성형 AI 시스템의 보안 취약점을 실제 공격…
AI 규제 시대, 기업의 생존 전략은 거버넌스 구축이다
인공지능(AI) 기술의 급속한 발전으로 산업 전반에 혁신의 바람이 불고 있다. 그러나 AI의 확산은 개인정보 침해, 윤리적 문제 등…
에델만, “마케팅 전문가, 챗GPT, MS 코파일럿선호”
에델만이 최근 발표한 ‘2024 AI 리포트’는 마케팅 커뮤니케이션 전문가들이 신뢰할 수 있는 AI 도구를 찾는 방법을 제시하고 있다.…
기업 2025년 생성형 AI관련 지출 50% 증가 전망
생성형 AI(GenAI)가 기업의 디지털 혁신을 가속화하고 있다. ISG의 2024년 생성형 AI 사용 사례 연구에 따르면, 기업들은 2024년 IT…
생성형AI, 의료진 성 고정관념과 편향성 보여
최근 JAMA Network Open에 발표된 연구는 대규모 언어 모델(LLM)이 생성한 의료진 관련 이야기에서 성별 고정관념과 편향이 여전히 존재함을…
생성형 AI 챗봇, 목격자 진술에서 허위 기억 유발…
MIT 미디어랩과 캘리포니아 대학교 얼바인 캠퍼스 연구진이 수행한 최근 연구에 따르면, 대규모 언어 모델(LLM)을 기반으로 한 생성형 AI…
