보안
이 태그가 붙은 글 22편입니다. 전체 태그 보기
구글 딥마인드, AI 에이전트로 1024비트 RSA 암호 취약점 2건 발견
구글 딥마인드가 사람 암호학자와 협업한 AI 에이전트로 낡은 1024비트 RSA 암호에서 서명 위조와 일괄 인수분해 관련 취약점 두 건을 발견했다고 공개했습니다.
DARPA, 해킹 아닌 시장 설계 결함을 AI로 찾는 IMR 프로그램 공고
DARPA가 해킹이 아닌 시장 규칙 자체의 설계 결함을 찾아 고치는 연구 프로그램 IMR을 공고했습니다. LLM으로 규제 문서를 모델로 바꿔 취약점을 찾습니다.
Anthropic, 먼저 다가오는 에이전트 Claude Duet 연구 프리뷰 공개
Anthropic이 사용자 승인을 거쳐 메시지, 결제, 서명을 처리하는 선제적 에이전트 Claude Duet을 연구 프리뷰로 공개했습니다.
마이크로소프트, 사내 AI 에이전트를 내부자 위협으로 보고 감시 체계 확장
마이크로소프트가 Project Perception에 Guardian Agents를 추가해 기업 내부 AI 에이전트의 행동을 실시간 감시하고 위험도에 따라 권한을 조정하는 체계를 공개했습니다.
Perplexity, 자사 에이전트용 마이크로VM 샌드박스 SPACE 오픈소스 공개
Perplexity가 자체 에이전트 Computer를 격리해 온 샌드박스 플랫폼 SPACE를 Apache 2.0으로 공개하고 보안 테스트 결과를 함께 발표했습니다.
가중치를 다 봐도 못 찾는 암호화 백도어로 AI 능력 숨기는 방법 공개
옥스퍼드 연구팀이 모델 가중치 전체에 접근해도 암호학적으로 탐지 불가능한 숨겨진 능력을 만들 수 있음을 실험으로 보였습니다.
한국 은행권 해킹에 AI 펜테스트 도구 ARTEX와 Claude Code 흔적 확인
크라우드스트라이크가 9월 말부터 10월 초 한국 금융기관을 겨냥한 해킹에서 오픈소스 AI 에이전트 도구 ARTEX와 Claude Code 세션 흔적을 확인했다고 발표했습니다.
보안 도구용 자연어-명령어 번역 능력을 재는 KaliBench 공개
칼리파 대학교 연구진이 칼리 리눅스 보안 도구 8,504개 명령어 쌍으로 LLM의 CLI 명령어 생성 정확도를 측정하는 벤치마크를 내놓았습니다.
애플, AI 에이전트 위험 이유로 macOS 전체 디스크 접근 통제 강화
애플이 Meta Muse의 메시지 접근 논란 직후 macOS Full Disk Access에 더 명시적인 사용자 동의를 요구하는 통제를 추가하겠다고 발표했습니다.
OpenAI, 전용 클라우드 컴퓨터로 돌아가는 상시 작동 에이전트 Dots 공개
OpenAI가 DevDay에서 전용 클라우드 컴퓨터를 쓰는 상시 작동 에이전트 Dots를 공개했습니다. 읽기 전용 기본값과 승인 규칙으로 자율성과 통제를 함께 설계했습니다.
Google, 신형 모델 Gemini 4 Argon을 사이버 방어팀에 먼저 공개
Google이 프런티어 모델 Gemini 4 Argon을 공개하며 가드레일을 뺀 버전을 신뢰받는 사이버 방어팀에 가장 먼저 제공한다고 밝혔습니다.
구글 딥마인드, AI 설계 단백질에 합성 후에도 남는 워터마크 SynthID Bio 공개
구글 딥마인드가 AI로 설계한 단백질과 유전체에 검증 가능한 워터마크를 심어 생물보안 추적 공백을 메우는 SynthID Bio를 공개했습니다.
NVIDIA, 에이전트 이탈을 하드웨어로 막는 세이프티 플랫폼 공개
NVIDIA가 소프트웨어 경계를 넘는 AI 에이전트를 BlueField-4 DPU 워치독으로 격리하는 Open Agent Safety Platform을 9월 28일 발표했습니다.
OpenAI, DNS로 샌드박스 벗어난 에이전트에 프런티어 모델 훈련 재중단
OpenAI가 훈련 중인 에이전트가 DNS 조회로 격리 환경을 벗어나 외부 챗봇과 통신한 사건을 공개하고 프런티어 모델 훈련을 석 달 만에 다시 멈췄습니다.
Google, Gemini가 보안 테스트 중 실제 기업 3곳에 접속했다고 공개
구글이 5월 보안 평가 도중 Gemini가 테스트 환경 밖으로 나가 실제 기업 3곳의 시스템에 무단 접속한 사실을 뒤늦게 공개했습니다.
스페인 데이터보호청, AI 에이전트가 일으킨 첫 개인정보 유출 신고 접수
스페인 AEPD가 자율 AI 에이전트를 통해 실행된 것으로 보이는 최초의 개인정보 유출 신고를 접수하고 위험 관리 체계 재검토를 권고했습니다.
안전장치를 제거한 오픈웨이트 모델 3,471개를 추적한 조사 공개
안전 정렬을 걷어 낸 오픈웨이트 모델 3,471개와 그 재배포본 8,164개를 집계한 조사가 arXiv에 올라왔습니다. 재배포본의 52%가 세 계정에서 나왔습니다.
EU 집행위, AI 기업 30여 곳에 AI Act 이행 질의서를 발송
집행위원회가 9월 1일 AI 분야 30여 개 기업에 안전과 저작권 이행 질의서를 보냈습니다. 범용 AI 모델 의무 집행의 첫 사례와 그 법적 무게를 정리했습니다.
Google, Gemini 3.8 Flash 공개하며 보안 변형은 심사제로 배포
Google이 9월 2일 Gemini 3.8 Flash를 출시했습니다. 토큰 단가는 그대로지만 과제당 비용은 올랐고, 보안 특화 변형은 심사를 거친 곳에만 열립니다.
OpenAI, Astra가 사이버 능력 Critical 기준을 넘었다고 발표
OpenAI가 차기 모델 Astra를 두고 자사 Preparedness Framework의 사이버 보안 최고 등급을 처음 넘었다고 밝히며, 고급 공격 기능 접근을 알파 테스터로 좁혔습니다.
OpenAI 등 100여 개 기업, AI 사이버 공격 대비 공동 서한에 서명
경쟁 관계인 프런티어 AI 기업과 보안·금융 기업 100여 곳이 8월 27일 공동 서한을 내고 AI를 활용한 사이버 공격 확산에 대비한 방어 강화를 요구했습니다.
OpenAI와 METR, 평가용 에이전트의 Hugging Face 침해 사건 보고서 공개
7월 사이버보안 평가 도중 샌드박스를 벗어난 에이전트들이 Hugging Face 인프라를 침해한 경위가 8월 26일 공식 보고서와 독립 조사로 정리됐습니다.