Search

AI 보안

[11월 10일 AI 뉴스 브리핑] 서울AI재단-MIT 센서블시티랩, Urban AI 연구 협력 본격화 외

[11월 10일 AI 뉴스 브리핑] 서울AI재단-MIT 센서블시티랩, Urban AI 연구 협력 본격화 외

11월 10, 2025

▪️ AIC, AMD MI450 시리즈 GPU 서버 첫 공급업체 선정 AIC는 투자자 컨퍼런스에서 AMD MI450 시리즈 GPU의 첫 번째 파트너 제조업체로 선정됐다고 밝혔다. 2025…

Making an Invisibility Cloak: Real World Adversarial Attacks on Object Detectors

“50% 확률로 CCTV 회피”… AI 감시 시스템 무력화하는 ‘마법의 패턴’ 화제

11월 5, 2025

메릴랜드 대학교(University of Maryland)의 주쉬안 우(Zuxuan Wu), 래리 데이비스(Larry S. Davis), 톰 골드스타인(Tom Goldstein) 교수 연구팀과 페이스북 AI(Facebook AI)의 서남 림(Ser-Nam Lim) 연구원이 AI…

AI 투자왕 엘라드 길 "AI 시장 절반은 게임 끝… 기회 남은 분야는 ‘금융·회계·AI 보안’”

AI 투자왕 엘라드 길 “AI 시장 절반은 게임 끝… 기회 남은 분야는 ‘금융·회계·AI 보안’”

11월 4, 2025

실리콘밸리의 저명한 투자자 엘라드 길(Elad Gil)이 AI 시장의 판도가 빠르게 재편되고 있다고 진단했다. 오픈AI(OpenAI), 퍼플렉시티(Perplexity), 하비(Harvey) 등 주요 AI 기업에 투자한 길은 테크크런치 디스럽트(TechCrunch…

유아이패스, 엔비디아 손잡고 민감 업무에 AI 에이전트 투입

유아이패스, 엔비디아 손잡고 민감 업무에 AI 에이전트 투입

10월 14, 2025

엔터프라이즈 자동화 플랫폼 기업 유아이패스(UiPath)가 엔비디아(NVIDIA)와 손잡고 금융 사기 탐지, 의료 환자 관리 등 높은 신뢰성이 요구되는 분야에 AI 에이전트 기반 자동화 솔루션을 제공한다.…

오픈AI-브로드컴, "인류 역사상 최대 산업 프로젝트" 시작한다

챗GPT에 “친구 죽이는 법” 물은 학생, 학교 감시 시스템에 적발돼 체포

10월 14, 2025

미국 플로리다주에서 한 학생이 챗GPT에 “수업 중에 내 친구를 죽이는 방법”을 물어봤다가 학교 감시 시스템에 적발돼 체포됐다. WFLA가 1일(현지 시각) 보도한 내용에 따르면, 학교에서…

캘리포니아, AI 안전 공개 의무화 법안 통과…빅테크 겨냥

캘리포니아, AI 안전 공개 의무화 법안 통과…빅테크 겨냥

10월 4, 2025

미국 캘리포니아주가 인공지능(AI) 개발사들에게 자사 AI 기술의 안전 및 보안 프로토콜 공개를 의무화하는 법안을 제정했다. 개빈 뉴섬 캘리포니아 주지사는 이번 주 초 해당 법안에…

JU-NLP at Touché: Covert Advertisement in Conversational AI-Generation and Detection Strategies

AI 답변 속 광고 심는 기술 vs 탐지 기술… AI 챗봇 답변 속 숨은 광고, 알아차릴 수 있을까?

9월 24, 2025

완벽한 정확도로 숨은 광고를 만들어내는 생성 시스템 연구 논문에 따르면, 연구팀은 사용자 맥락과 쿼리 의도를 활용해 상황에 맞는 광고를 생성하는 새로운 시스템을 개발했다. 이…

생성형 AI 딥페이크 공격 급증, 기업 62% 피해 경험 있어

생성형 AI 딥페이크 공격 급증, 기업 62% 피해 경험 있어

9월 23, 2025

생성형 AI를 악용한 사이버 공격이 급증하면서 기업들의 피해가 심각한 수준에 이른 것으로 조사됐다. 세계적인 IT 리서치 및 컨설팅 기업 가트너(Gartner)가 22일(현지 시각) 발표한 조사…

오픈AI, 18세 미만 청소년 전용 챗GPT 만든다… “부적절한 대화 안 돼”

오픈AI, 18세 미만 청소년 전용 챗GPT 만든다… “부적절한 대화 안 돼”

9월 17, 2025

오픈AI(OpenAI)가 청소년 사용자의 안전을 위해 성인과 차별화된 AI 서비스를 제공하겠다고 발표했다. 샘 알트만(Sam Altman) CEO는 16일(현지 시각) 공식 블로그를 통해 “청소년에게는 안전을 개인정보 보호와…

Generative AI Disillusionment: Challenges with BYOS, Shadow IT Risks, and the AI Wishlist

회사 몰래 AI 쓰는 직원들, 5명 중 1명이 잘못 쓰고 있다

9월 11, 2025

글로벌 소프트웨어 기업 ABBYY가 전 세계 1,200명의 기업 리더를 대상으로 실시한 조사에 따르면, 생성형 AI 도입이 급속히 확산되는 가운데 예상치 못한 도전 과제들이 속속…

퍼플렉시티, 美 정부 전용 AI 서비스 무료 출시

퍼플렉시티, 美 정부 전용 AI 서비스 무료 출시

9월 9, 2025

AI 검색 스타트업 퍼플렉시티(Perplexity)가 미국 정부를 위한 전용 AI 서비스를 출시했다. 8일(현지 시간) 발표된 ‘퍼플렉시티 포 가버먼트(Perplexity for Government)’는 연방 공무원들에게 최신 AI 모델…

2. 앤트로픽, 중국계 기업에 AI 서비스 판매 중단... 미국 AI업계 첫 조치

앤트로픽, 중국계 기업에 AI 서비스 판매 중단… 러시아·이란·북한에도 도입 예정

9월 5, 2025

AI 안전 전문기업 앤트로픽(Anthropic)이 중국 기업 과반수 지분 소유 그룹에 대한 인공지능 서비스 판매를 중단한다고 발표했다. 미국 AI 기업이 이런 정책 변화를 단행한 것은…

[Q&AI] 신림동 칼부림 사건... 무슨 일?

[Q&AI] 신림동 칼부림 사건… 무슨 일?

9월 3, 2025

질문: 신림동 칼부림 관련 뉴스가 계속 나오고 있는데 무슨 일이야? 그록 답변: 신림동 칼부림 사건과 관련된 최근 뉴스는 2025년 9월 3일 발생한 새로운 흉기…

“직원 2명 해고 안 하면 기밀 유출한다”… 구글, 해커 집단에 협박 받아

“직원 2명 해고 안 하면 기밀 유출한다”… 구글, 해커 집단에 협박 받아

9월 3, 2025

‘스캐터드 랩서스 헌터스(Scattered LapSus Hunters)’라는 해커 그룹이 구글(Google)을 상대로 직원 2명을 해고하라며 협박하고 있다고 이코노믹타임스가 2일(현지 시간) 보도했다. 이 그룹은 텔레그램을 통해 구글의 위협…

앤트로픽, 사용자 대화 AI 학습에 활용… 옵트아웃은 내달 28일까지

앤트로픽, 사용자 대화 AI 학습에 활용… 정보 수집은 내달 28일까지

8월 29, 2025

생성형 AI 개발사 앤트로픽(Anthropic)이 클로드(Claude) 개인 사용자들의 대화 데이터를 새로운 AI 모델 훈련에 활용하는 정책을 28일(현지 시간) 도입했다. 이번 정책은 클로드 프리(Free), 프로(Pro), 맥스(Max)…

오픈AI-앤트로픽, 경쟁사 AI 모델로 서로 안전성 테스트… 업계 첫 협력 사례

오픈AI-앤트로픽, 경쟁사 AI 모델로 서로 안전성 테스트… 업계 첫 협력 사례

8월 28, 2025

인공지능(AI) 업계 양대 거물인 오픈AI(OpenAI)와 앤트로픽(Anthropic)이 치열한 경쟁 관계에도 불구하고 서로의 AI 모델을 이용해 안전성 테스트를 실시했다고 테크크런치(TechCrunch)가 27일 보도했다. 두 회사는 이번 공동…

GPT-5, 출시 몇 시간 만에 탈옥 당해… “평범한 대화 속에 나쁜 내용 몰래 넣어”

GPT-5, 출시 몇 시간 만에 탈옥 당해… “평범한 대화 속에 나쁜 내용 몰래 넣어”

8월 13, 2025

CSO가 12일(현지 시간) 보도한 내용에 따르면, 오픈AI(OpenAI)의 새 인공지능 GPT-5가 출시된 지 몇 시간 만에 탈옥을 당했다. AI 탈옥은 인공지능이 원래 설정된 안전 규칙과…

가트너 "2025년 전 세계 정보보안 지출 296조 이상 전망"...AI 확산이 성장 동력

가트너 “2025년 전 세계 정보보안 지출 296조 이상 전망”…AI 확산이 성장 동력

7월 31, 2025

글로벌 IT 리서치 기업 가트너(Gartner)가 2025년 전 세계 정보보안 분야 최종 사용자 지출이 2130억 달러에 달할 것이라고 전망했다고 29일(현지 시간) 발표했다. 가트너에 따르면 이는…

Europe's AI reckoning: Reinventing industries for a new era

유럽 기업 56%가 아직도 AI 구경만? 미국과 격차가 벌어지는 진짜 이유

6월 23, 2025

Europe’s AI reckoning: Reinventing industries for a new era 마리오 드라기(Mario Draghi) 전 유럽중앙은행 총재가 발표한 ‘유럽 경쟁력의 미래(The Future of European Competitiveness)’ 보고서는…

메타 AI 앱, 사용자 브라우저 기록 유출 논란… “이용자 채팅, 오디오 그대로 노출”

“내 사적 대화가 전체공개되고 있었다”…메타 AI 대화 내용 전체공개 논란

6월 13, 2025

메타(Meta)의 독립형 인공지능 앱인 메타 AI(Meta AI)에서 사용자들이 자신도 모르게 개인적인 대화 내용을 공개적으로 공유하는 프라이버시 재앙이 벌어지고 있다. 테크크런치(TechCrunch)가 12일(현지 시간) 보도한 내용에…

Responsible Use of Generative AI

“AI 때문에 망했다” vs “AI로 대박났다”… 성패를 가르는 이것

6월 4, 2025

Responsible Use of Generative AI 65% 기업이 채택한 생성형 AI, 성공의 열쇠는 ‘책임감’ 생성형 인공지능(Generative AI, genAI)의 도입이 폭발적으로 증가하고 있다. 2024년 맥킨지 조사에…

Enterprise-Grade Security for the Model Context Protocol (MCP): Frameworks and Mitigation Strategies

“AI야, 이 파일 삭제해” 가짜 명령으로 AI 조종하는 해커들의 새 수법

5월 27, 2025

Enterprise-Grade Security for the Model Context Protocol (MCP): Frameworks and Mitigation Strategies AI를 속이는 “툴 포이즈닝” – 가짜 명령으로 데이터 삭제부터 시스템 침입까지 가능…

Activating AI Safety Level 3 Protections

“AI가 생화학 무기 제조 도울 수도” 앤트로픽, 클로드 오퍼스 4에 사상 최고 보안 적용

5월 23, 2025

Activating AI Safety Level 3 Protections 범용 탈옥 공격 차단을 위한 실시간 분류기 가드 시스템 도입 앤트로픽(Anthropic)이 AI 안전성 레벨 3(ASL-3) 보안 표준을 적용한…

구글, 크롬 사용자를 위한 AI 기반 스팸·사기 방지 기능 출시

구글, 크롬 사용자를 위한 AI 기반 스팸·사기 방지 기능 출시

5월 9, 2025

구글(Google)이 8일(현지 시간) 자사 블로그를 통해 크롬(Chrome) 브라우저를 비롯한 주요 서비스에 인공지능(AI) 기반 사기 방지 기능을 대폭 강화한다고 발표했다. 특히 크롬 브라우저 사용자들을 위한…

601 real-world gen AI use cases from the world's leading organizations

“당신의 회사는 어디쯤?” 구글이 공개한 생성형 AI 혁신 사례 601개

4월 17, 2025

601 real-world gen AI use cases from the world’s leading organizations 생성형 AI 활용 사례 6배 증가: 단 1년 만에 101개에서 601개로 폭증 생성형…

오픈AI, 최신 AI 모델 API 접근 위해 'ID 인증' 요구 추진

오픈AI, 최신 AI 모델 API 접근 위해 ‘ID 인증’ 요구 추진

4월 14, 2025

오픈AI(OpenAI)가 개발자들에게 플랫폼 내 가장 고급 모델과 기능에 대한 접근을 제공하는 ‘API 조직 인증(API Organization Verification)’ 시스템을 출시했다. 이번 조치는 안전한 AI 사용을 촉진하면서도…

美 상무부, 중국 AI 기업 딥시크 정부 기기 사용 금지

美 상무부, 중국 AI 기업 딥시크 정부 기기 사용 금지

3월 19, 2025

미국 상무부 산하 기관들이 최근 중국의 인공지능 모델 딥시크(DeepSeek)를 정부 기기에서 사용 금지 조치를 내렸다. 이는 데이터 보안과 국가 안보 우려에 따른 결정으로 보인다.…

Map Your AI Use Cases by Opportunity

2025년, 당신의 직장 동료는 AI… 글로벌 기업 90%가 도입 예정

3월 17, 2025

Map Your AI Use Cases by Opportunity AI 도입 전략: 2025년 기업 90%가 AI를 활용할 것… 당신의 선택은? 기업들이 인공지능(AI) 기회를 포착하려면 초기 단계에서…

오픈AI, '중국산' AI 모델 금지 촉구… 딥시크 '국가 통제' 기업으로 규정 요구

오픈AI, ‘중국산’ AI 모델 금지 촉구… 딥시크 ‘국가 통제’ 기업으로 규정 요구

3월 14, 2025

오픈AI(OpenAI)가 중국 AI 연구소 딥씨크(DeepSeek)를 ‘국가 보조금을 받는’ 및 ‘국가 통제를 받는’ 기업으로 규정하고, 미국 정부에 이 기업과 유사한 중국 지원 기업들의 모델 사용을…

마누스 AI, 코드 유출됐는데도 태연… “다른 것들도 오픈 소스로 공개할 예정”

마누스 AI, 코드 유출됐는데도 태연… “다른 것들도 오픈 소스로 공개할 예정”

3월 12, 2025

마누스 AI(Manus AI)의 샌드박스 런타임 코드가 일반 사용자에게 공개되는 상황이 발생했지만, 회사 측은 이를 문제시하지 않는다는 입장을 밝혔다. 지난 10일(현지 시간) 한 사용자가 마누스…

AI 보안 – AI 매터스