AI투명성
글 쓸 때 “AI 도움 받았다”고 솔직하게 말하면 보는 사람은 낮은 점수를 준다?
요즘 많은 사람들이 글을 쓸 때 AI 도구를 사용한다. 하지만 “AI 도움을 받았다”고 솔직하게 말하면 사람들이 그 글을 더 낮게 평가한다는 연구 결과가 나왔다.…
뉴욕주, AI 재해 방지법 통과… “AI 안전 사고 보고 안 하면, 최대 409억 처벌”
뉴욕주 의회가 오픈AI(OpenAI), 구글(Google), 앤트로픽(Anthropic) 등 거대 AI 기업들의 최첨단 AI 모델로 인한 재해를 방지하는 법안을 통과시켰다고 테크크런치(TechCrunch)가 13일(현지 시간) 보도했다. ‘RAISE Act’로 불리는…
구글과 오픈AI 넘어선 오픈소스 AI 비전 기술 ‘OpenVision’ 등장
OpenVision : A Fully-Open, Cost-Effective Family of Advanced Vision Encoders for Multimodal Learning 독점에서 개방으로: OpenVision, 25종 이상의 완전 공개형 비전 인코더로 멀티모달 AI…
마이크로소프트, 이스라엘 군에 AI 제공 인정… “가자지구 민간인 피해 증거는 없다” 주장
마이크로소프트(Microsoft)가 가자지구 전쟁 중 이스라엘 군대에 첨단 인공지능과 클라우드 컴퓨팅 서비스를 판매했고 이스라엘 인질 위치 파악 및 구출 작전을 지원했다고 인정했다. 그러나 회사는 자사의…
xAI, 그록의 ‘백인 대학살’ 반복 응답 사태에 “무단 수정 탓” 해명
xAI가 자사의 AI 챗봇 ‘그록(Grok)’이 관련 없는 주제에도 반복적으로 ‘남아프리카 백인 제노사이드’를 언급한 사건에 대해 ‘무단 수정’ 탓이라고 해명했다. 테크크런치(TechCrunch)가 15일(현지 시간) 보도한 내용에…
美 트럼프 행정부, EU에 AI 규제 폐기 압박… “규제 내용 미국에 부당해”
트럼프 행정부가 유럽연합(EU)에 인공지능(AI) 개발자들에게 더 엄격한 투명성, 위험 완화 및 저작권 규칙을 따르도록 강제하는 규제안을 폐기하라고 압박하고 있다. 블룸버그가 25일(현지 시간) 보도한 내용에…
앤트로픽 CEO “2027년까지 AI 모델 내부 완전 해석 목표”
앤트로픽(Anthropic) CEO 다리오 아모데이가 AI 해석가능성의 중요성을 강조하며 기술 발전 속도와의 경쟁에서 이길 필요성을 역설했다. 24일(현지 시간) 아모데이가 자신의 웹사이트에 발표한 게시물에 따르면 AI…
“AI도 가치관이 있다”… 앤트로픽, 클로드 대화 30만 건 분석해 밝혀낸 가치관 지도 공개
Values in the Wild: Discovering and Analyzing Values in Real-World Language Model Interactions 궁금했던 AI의 가치관: 30만 건 실제 대화 분석으로 최초 밝혀내 일상적인…
혁신인 줄 알았는데 베끼기였나? 딥시크-R1, 오픈AI 모델과 답변 스타일 74.2% 유사
Copyleaks Research Identifies 74.2% Stylistic Overlap Between DeepSeek-R1 and OpenAI’s Model 74.2% 일치율: 텍스트 지문 분석으로 밝혀진 AI 모델 간 의존성 카피릭스(Copyleaks)가 혁신적인 AI…
그록, 대화 내용 기억하는 ‘메모리’ 기능 출시… “개인화된 경험 제공”
그록(Grok)이 17일(한국 시간) 사용자와의 대화 내용을 기억하는 새로운 ‘메모리’ 기능을 출시했다. 이를 통해 사용자가 조언이나 추천을 요청할 때 개인화된 응답을 받을 수 있게 됐다.…
오픈AI, 신형 AI 모델 ‘o3’ 성능 과장 논란… 측정 기준 차이 드러나
오픈AI(OpenAI)의 o3 AI 모델에 대한 자체 벤치마크 결과와 제3자 벤치마크 결과 간의 불일치가 회사의 투명성과 모델 테스트 관행에 대한 의문을 제기하고 있다. 테크크런치가 20일(현지…
구글, ‘제미나이 2.5 프로’ 안전성 보고서에 핵심 정보 빠져 논란
테크크런치가 17일(현지 시간) 보도한 내용에 따르면, 구글(Google)이 자사의 가장 강력한 AI 모델인 제미나이(Gemini) 2.5 프로 출시 몇 주 후인 지난 목요일, 내부 안전성 평가…
오픈AI, 신모델 ‘o3’ 사전 안전 검증 시간 부족해… 조작 가능성 우려
오픈AI(OpenAI)가 자사의 새로운 고성능 AI 모델인 o3의 테스트를 위해 파트너 기관에 충분한 시간을 제공하지 않았다는 주장이 제기됐다. 테크크런치가 16일(현지 시간) 보도한 내용에 따르면, 미터(Metr)는…
오픈AI, 안전성 보고서 없이 GPT-4.1 출시… 투명성 후퇴 논란
오픈AI(OpenAI)가 새로운 AI 모델 시리즈인 GPT-4.1을 출시하면서 안전성 보고서 없이 진행해 논란이 일고 있다. 특히 최근 AI 업계의 안전 관행에 대한 우려가 커지는 시점에서…
메타, AI 모델 ‘매버릭’ 벤치마크 결과 논란…“공개 버전과 달라”
테크크런치(TechCrunch)가 6일(현지 시간) 보도한 내용에 따르면, 메타(Meta)의 최신 AI 모델 벤치마크 결과에 대한 논란이 일고 있다. 메타가 공개 버전과 다른 ‘최적화된’ 버전으로 성능 측정을…
구글, AI 안전성 검증 없이 제미나이 모델 출시 가속화… 투명성 우려 커져
구글(Google)이 인공지능(AI) 모델 출시 속도를 대폭 높이면서 안전성 보고서는 뒤로 미루고 있어 업계 우려가 커지고 있다. 테크크런치(TechCrunch)는 지난 3일(현지 시간) 구글이 3월에 출시한 제미나이…
AI의 사고 회로 최초 공개: 앤트로픽, 클로드의 ‘머릿속’을 엿보다
Tracing the thoughts of a large language model 뇌과학에서 영감 받은 ‘AI 현미경’: 클로드의 사고를 수십억 계산에서 추적해내다 앤트로픽(Anthropic)이 대규모 언어 모델인 클로드(Claude)의 내부…
“AI가 내 글 훔쳤나?” 내 글이 AI 모델에 사용됐는지 알려주는 기술 개발… 무단 사용 99% 정확도로 적발한다
Is My Text in Your AI Model? Gradient-based Membership Inference Test applied to LLMs AI 모델 학습에 사용된 데이터 추적 기술 개발 AI 기술이…
당신의 AI는 진짜 당신의 뜻대로 움직일까? 앤트로픽, 숨겨진 AI 목표 탐지 기법 공개
AUDITING LANGUAGE MODELS FOR HIDDEN OBJECTIVES AI의 이중생활: 표면적 순응 속 숨겨진 ‘보상 모델 아첨’ 목표 발견 인공지능(AI)이 겉으로는 우리가 원하는 대로 행동하지만, 내면에서는…
앤트로픽, 바이든 때의 ‘백악관 AI 자발적 약속’ 기록 삭제 논란
앤트로픽(Anthropic)이 자사 웹사이트 ‘투명성 허브(Transparency Hub)’에서 백악관의 AI 자발적 약속 관련 내용을 삭제해 논란이 일고 있다. 이에 대해 앤트로픽 측은 “실질적인 내용 변화는 없으며,…
오픈AI, 챗GPT 콘텐츠 경고 메시지 전면 삭제… 이용자 자율성 확대
테크크런치(TechCrunch)가 13일(현지 시간) 보도한 내용에 따르면, 오픈AI(OpenAI)가 자사의 AI 챗봇 서비스인 챗GPT(ChatGPT)에서 서비스 약관 위반 가능성을 알리는 경고 메시지를 삭제했다. 오픈AI의 AI 모델 행동팀(AI…
AI, 이제 과학 이미지도 전문가처럼 분석… 코넬대가 만든 새로운 AI 프레임워크
AISCIVISION: A FRAMEWORK FOR SPECIALIZING LARGE MULTIMODAL MODELS IN SCIENTIFIC IMAGE CLASSIFICATION 과학 연구를 위한 맞춤형 AI 시스템의 등장 코넬 대학교 연구진이 과학 연구에서…
‘오픈’ AI는 정말 열려있나…빅테크 독점 심화시키는 AI 업계의 허상
Why ‘open’ AI systems are actually closed, and why this matters ‘더 크고 더 강한’ AI: 비용과 자원의 벽에 막힌 혁신 네이처에 게재된 리포트에…
생성형 AI로 장애인 접근성 혁신 나선다…미국 정부기관 도입 본격화
NASCIO가 최근 발표한 보고서에 따르면, 2023년 기준 미국 전체 인구의 13%가 최소 한 가지 이상의 장애를 가지고 있는 것으로 나타났다. 특히 미국 노동인구 중…
앤트로픽, 클로드 AI의 ‘시스템 프롬프트’ 공개
앤트로픽(Anthropic)이 자사의 대화형 AI 모델인 클로드(Claude)의 ‘시스템 프롬프트’를 공개했다. 이는 AI 업계에서 드문 투명성 제고 조치로 평가받고 있다. 시스템 프롬프트는 AI 모델의 기본적인 특성과…
