AI보안
GPT-4o, 음모론 50개 중 47개 그대로 재생산
GPT-4와 클로드도 음모론 내용을 그대로 재생산하는 충격적 실험 결과 독일 다름슈타트 공과대학교와 모하메드 빈 자이드 인공지능대학교의 공동 연구팀이 대형 언어모델(LLM)들이 음모론 콘텐츠에 취약하다는 충격적인…
개발자 73% “AI 도구 뭘 써야 할지 모르겠다”… SW 개발 전문가들한테 물어봤더니
핀란드 탐페레 대학교와 오스트리아 포스트, 노르웨이 신테프 등 14개 기관의 연구진이 스위스에서 열린 XP2025 학회에서 AI와 소프트웨어 개발 방법론 융합의 현실적 문제점들을 조사했다. 이번…
AI가 폭주할 때 확실히 막는 방법 나왔다… 中 연구진, AI 통제 시스템 개발
중국 난카이대학교 인공지능학과 왕 동린(Donglin Wang) 교수와 중국 전자 정보 기술 연구원이 공동으로 AI가 위험한 행동을 할 때 확실히 막을 수 있는 새로운 방법을…
“AI 때문에 회사 기밀 유출?” 생성형 AI 안전하게 쓰는 5가지 방법
요즘 챗GPT(ChatGPT) 같은 AI가 엄청난 인기를 끌고 있다. 챗GPT는 출시한 지 단 2개월 만에 사용자가 1억 명을 넘어서며 역사상 가장 빨리 퍼진 앱이 되었다.…
“AI, 내 동료가 돼라” MS가 공개한 AI 비즈니스 가이드… AI 독점적 경험이 중요
생성형 AI가 비즈니스 필수 요소로 완전히 자리잡으면서 기업들은 어떤 AI 접근법을 선택할지 고민하고 있다. 마이크로소프트(Microsoft)가 발표한 새로운 비즈니스 가이드에 따르면, 성공적인 AI 전환을 위해서는…
AI 시대 뜨거운 감자 ‘보안 문제’, 84%가 찾는 해결책은 엣지-클라우드 통합
Edge Meets Cloud: A New Era Of Scalability And Security 세계적인 시장 조사 및 자문 회사 포레스터(Forrester) 연구에 따르면, 전 세계 클라우드와 엣지 컴퓨팅…
일레븐랩스, 차세대 대화형 AI 2.0 출시… 기업용 음성 에이전트 시장 공략
일레븐랩스(ElevenLabs)가 대화형 AI 2.0(Conversational AI 2.0)을 출시했다고 지난달 30일(현지 시간) 발표했다. 이번 새로운 플랫폼은 기존 버전 출시 5개월 만에 선보이는 것으로, 세계에서 가장 정교하고…
매일 AI 도구 사용하는 직장인 47%… “하이브리드 근무 환경에서 AI가 필수 도구”
State of Hybrid Work 2024: United States 미국 직장인 47%가 일상적으로 AI 도구 활용 중 화상 회의 기술 전문 기업 Owl Labs의 새로운 데이터…
공공 부문, AI로 부정부패 척결한다… 5년 내 97% 도입 전망
Trust and transparency: Combating fraud to maximize public program efficiency 정부 기관 85%, 부정부패 척결이 최우선 과제…AI 기술로 예산 16% 절감 기대 정부와 공공기관들이…
마이크로소프트, 이스라엘 군에 AI 제공 인정… “가자지구 민간인 피해 증거는 없다” 주장
마이크로소프트(Microsoft)가 가자지구 전쟁 중 이스라엘 군대에 첨단 인공지능과 클라우드 컴퓨팅 서비스를 판매했고 이스라엘 인질 위치 파악 및 구출 작전을 지원했다고 인정했다. 그러나 회사는 자사의…
구글 검색 결과에서 매일 수억 개의 사기 콘텐츠 차단… AI로 20배 더 효과적 방어
Fighting Scams on Search 구글, AI 기반 사기 방지 시스템으로 검색 결과 99% 안전성 확보 구글이 공개한 보안 보고서에 따르면, 구글 검색은 사용자가 관련성…
미스트랄 AI 모델, 유해 콘텐츠 생성 위험 GPT-4보다 60배 높아… 엔크립트 AI 보고서
Multimodal Mistral Red Teaming Report 미스트랄 AI의 픽스트랄 모델, GPT-4o와 클로드3.7보다 60배 더 위험하다 미국의 AI 전문 보안기업 엔크립트 AI(Enkrypt AI)가 발표한 미스트랄(Mistral)의 멀티모달…
사이버 공격에 AI까지 가세…2025년 위협 대응은 ‘속도와 지능’ 싸움
IBM X-Force Threat Intelligence Index 2025 사이버 위협 환경이 빠르게 진화하면서 공격자들은 이제 인공지능(AI)을 무기로 삼고 있다. IBM이 발간한 ‘IBM X-Force Threat Intelligence Index…
생성형 AI에서 에이전틱 AI로… 기업은 어떻게 준비해야 할까?
Agentic AI 시대, 기업의 AI 활용 전략은? 생성에서 자율 실행으로: 에이전틱 AI의 특징과 26.6%의 전문가 수준 추론 능력 인공지능 기술이 급속도로 발전하면서 이제는 ‘에이전틱…
마이크로소프트, AI 보안 강화 위한 ‘보안 코파일럿’ 에이전트 6종 공개
마이크로소프트(Microsoft)가 24일(현지 시간) 자사 블로그를 통해 AI 기반 보안 솔루션 ‘보안 코파일럿(Security Copilot)’에 자율 AI 에이전트를 추가하고 AI 보안 강화 기능을 발표했다. 바수 자칼(Vasu…
당신의 AI는 진짜 당신의 뜻대로 움직일까? 앤트로픽, 숨겨진 AI 목표 탐지 기법 공개
AUDITING LANGUAGE MODELS FOR HIDDEN OBJECTIVES AI의 이중생활: 표면적 순응 속 숨겨진 ‘보상 모델 아첨’ 목표 발견 인공지능(AI)이 겉으로는 우리가 원하는 대로 행동하지만, 내면에서는…
앤트로픽 CEO “中 스파이, 수십억 원짜리 AI 비밀 코드 탈취 시도 중”
앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)가 중국 스파이들이 미국 주요 AI 기업들의 값비싼 “알고리즘 비밀”을 탈취하고 있다고 우려를 표명하며 미국 정부의 개입을 요청했다. 테크크런치(TechCrunch)가 12일(현시…
지방정부, 지난 1년간 생성형 AI 구독에 약 4억 원 지출… 챗GPT 가장 인기
코리아타임즈가 9일(한국 시간) 보도한 내용에 따르면, 지난 1년간 전국 지방정부들이 공식 업무용으로 챗GPT(ChatGPT) 등 생성형 인공지능(AI) 프로그램 구독에 약 4억 원을 지출한 것으로 나타났다.…
AI가 통신 네트워크를 지배한다… 생성형 AI 도입 4배 증가, 보안 위협은 45% 감소
Rewiring the telecom mindset 통신업계 생성형 AI 도입 400% 급증… 네트워크 AI 활용은 아직 60%에 불과 통신 산업에서 AI 기술의 도입이 급격히 증가하고 있다.…
군사용 AI의 새로운 위험: 프롬프트 인젝션 공격의 실체와 대응책
Exploring Potential Prompt Injection Attacks in Federated Military LLMs and Their Mitigation 카이스트 연구진이 발표한 논문에 따르면, 연합학습(Federated Learning) 기반의 군사용 대규모 언어모델(LLM)이 새로운…
LG유플러스, AI 통화비서로 보이스피싱 잡는다… SK텔레콤 ‘에이닷’과 정면승부
LG유플러스가 인공지능(AI) 통화 비서 ‘익시오(ixi-O)’를 출시하며 통신사들의 AI 비서 시장 경쟁이 본격화됐다. LG유플러스의 보도자료에 따르면, LG유플러스가 인공지능(AI) 통화 에이전트 ‘익시오(ixi-O)’를 공식 출시하며 AX(AI 트랜스포메이션)…
