AI 보안 연구
긴 문서 속 숨은 해킹 명령어, 이제 AI가 스스로 찾아 차단한다
미국 펜실베이니아 주립대학교 연구팀이 긴 문서를 처리하는 AI 언어모델의 보안 취약점을 해결할 새로운 방어 기술을 개발했다. ‘PISanitizer’라는 이름의 이 기술은 문서 속에 숨겨진 악성…
AI가 만든 정치 성향별 가짜 뉴스, 기존 탐지 프로그램들 절반 수준으로 성능 저하시켜
싱가포르 국립대학교 컴퓨터과학과 연구팀이 인공지능을 이용해 정치적 성향에 따라 변화하는 가짜 뉴스를 만드는 새로운 방법을 개발했다. 이 연구는 현재 사용되는 가짜 뉴스 탐지 프로그램들이…
‘더 교묘해진 딥페이크’… 영상 전체 대신 표정·배경·사물 일부만 조작하면 30% 더 구분 어려워
프랑스 파리공과대학 연구소인 Hi!PARIS와 LIX, U2IS 등 3개 연구 기관 공동연구팀이 기존과 다른 새로운 가짜 영상 기술을 발견했다고 발표했다. 연구팀에 따르면 ‘페이크파츠(FakeParts)’라고 불리는 이…
챗GPT에 ‘앤드류 응’ 이름 대자 마취제 합성법 알려줘… 챗GPT 보안 뚫는 심리 기법 발견
미국 펜실베니아 대학교 와튼 경영대학원의 레너트 마인케(Lennart Meincke) 연구원과 댄 샤피로(Dan Shapiro), 앤젤라 덕워스(Angela L. Duckworth), 이탄 몰릭(Ethan Mollick), 릴라 몰릭(Lilach Mollick) 교수, 그리고…
