에이전트
이 태그가 붙은 글 72편입니다. 전체 태그 보기
메타, 반복 작업 전담 소형 에이전트 모델 Muse Ember 공개
메타가 에이전트의 반복 실행 작업에 특화한 저비용 소형 모델 Muse Ember를 공개하고 경쟁 모델 대비 벤치마크 결과를 제시했습니다.
구글 딥마인드, AI 에이전트로 1024비트 RSA 암호 취약점 2건 발견
구글 딥마인드가 사람 암호학자와 협업한 AI 에이전트로 낡은 1024비트 RSA 암호에서 서명 위조와 일괄 인수분해 관련 취약점 두 건을 발견했다고 공개했습니다.
구글 딥마인드, 정리증명기로 검증한 양자 프로그램 자동 발견 공개
구글 딥마인드가 LLM 에이전트와 Lean 정리증명기를 결합해 핵융합, 광화학, 신약대사 시뮬레이션용 양자 프로그램을 찾아내고 정확성까지 자동으로 검증하는 연구를 공개했습니다.
에이전틱 AI 표준화 재단 AAIF, 신규 프로젝트 4개 추가해 10개로
Linux Foundation 산하 AAIF가 Anthropic, OpenAI, Hugging Face, Alibaba가 각각 기여한 프로젝트를 추가해 출범 1년 만에 10개 프로젝트를 보유하게 됐습니다.
인터페이스를 스스로 진화시켜 배우는 컴퓨터 사용 에이전트 Agent S4 공개
메타에이전트가 작업 궤적을 보고 도구 인터페이스를 스스로 다시 설계하게 한 오픈소스 에이전트 Agent S4가 OSWorld V2에서 더 비싼 프런티어 모델을 앞섰습니다.
OpenAI, 문장 대신 선택과 점수만 내놓는 Decisions API 정식 공개
OpenAI가 GPT-6 Luna 기반의 저지연 의사결정 전용 API를 정식 출시했습니다. 입력 토큰 100만 개당 0.1달러, 응답 속도는 기존 대비 최대 10배 빠릅니다.
Anthropic, Claude가 64시간 만에 설계한 전갈 독소 결합 단백질 공개
Claude가 자율적으로 설계한 전갈 신경독소 결합 단백질 17종이 실험실 결합 테스트를 통과했다고 Anthropic이 발표했습니다.
레드햇·IBM·구글 등, 쿠버네티스 네이티브 추론 스택 llm-d 1.0 공개
레드햇, IBM, 구글, CoreWeave, NVIDIA 등이 함께 만든 오픈소스 분산 추론 스택 llm-d가 PyTorch Conference에서 1.0으로 출시되며 CNCF 샌드박스 프로젝트로 편입됐습니다.
NVIDIA, AI 데이터센터 장애 원인을 추적하는 운영 플랫폼 Minerva 공개
NVIDIA가 수십만 GPU 규모 AI 데이터센터의 장애를 조기에 잡아내는 AIOps 플랫폼 Minerva를 공개했습니다. IREN 등이 도입을 준비 중입니다.
Anthropic, 먼저 다가오는 에이전트 Claude Duet 연구 프리뷰 공개
Anthropic이 사용자 승인을 거쳐 메시지, 결제, 서명을 처리하는 선제적 에이전트 Claude Duet을 연구 프리뷰로 공개했습니다.
마이크로소프트 연구진, AI 에이전트 도움으로 31년 된 KLS 추측 증명
마이크로소프트 연구진이 AI 에이전트의 탐색과 계산 보조를 받아 31년간 미해결이던 KLS 추측을 140페이지 증명으로 해결했습니다.
METR, Anthropic 위험 보고서의 오정렬 평가 방식에 대한 독립 검토 공개
외부 평가기관 METR이 Anthropic의 2026년 8월 위험 보고서 중 오정렬 관련 부분을 검토해 모니터링 체계의 구체적 한계를 공개했습니다.
마이크로소프트, 사내 AI 에이전트를 내부자 위협으로 보고 감시 체계 확장
마이크로소프트가 Project Perception에 Guardian Agents를 추가해 기업 내부 AI 에이전트의 행동을 실시간 감시하고 위험도에 따라 권한을 조정하는 체계를 공개했습니다.
Anthropic, Claude 스스로 설계한 양자 회로가 기존 최고 설계 앞질러
Anthropic이 Claude Mythos 5가 최소한의 인간 개입으로 양자 회로를 설계해 8개 과제 중 7개에서 기존 최고 설계를 넘어섰다고 공개했습니다.
Perplexity, 자사 에이전트용 마이크로VM 샌드박스 SPACE 오픈소스 공개
Perplexity가 자체 에이전트 Computer를 격리해 온 샌드박스 플랫폼 SPACE를 Apache 2.0으로 공개하고 보안 테스트 결과를 함께 발표했습니다.
메타, 8160억 파라미터 코딩·에이전트 모델 Muse Spark Open 가중치 공개
메타가 코딩과 에이전트 작업에 특화된 816B 파라미터 모델의 가중치를 공개하며 미국 오픈웨이트 모델 중 가장 강력하다고 밝혔습니다.
메타, 에이전트가 직접 탐색 트리 운용하는 TreeFlex 공개
메타 AI가 ReAct 에이전트의 맥락 오염 문제를 풀기 위해 에이전트가 직접 검색 트리를 운용하는 TreeFlex를 공개했습니다. SWE-bench Verified에서 기존 방식보다 11.6포인트 높은 점수를 기록했습니다.
배포된 AI 에이전트를 바꾸기 전 위험을 재는 틀 agent-risk 공개
조직이 가동 중인 AI 에이전트에 변경을 가하기 전, 기존 로그만으로는 승인 결정을 내릴 수 없다는 연구 결과가 나왔습니다.
Anthropic, 깃 대신 에이전트 전용 소스 컨트롤 시스템 Scion 공개
코딩 에이전트가 쏟아내는 코드량을 감당 못 한 깃을 버리고 Anthropic이 자체 개발한 소스 컨트롤 시스템 Scion의 구조와 수치를 정리했습니다.
호주 의회 AI 위원회, OpenAI 메디케어 침해 이후 안전 규정 권고안 발표
호주 초당파 AI 위원회가 프런티어 연구소에 독립 안전평가자 상주와 사고 의무보고를 권고하는 서한을 총리에 보냈습니다.
Artificial Analysis, AI 모델의 인터랙티브 3D 장면 제작 능력 재는 AA-3D 공개
에이전트가 글 지시를 three.js 장면으로 바꾸는 과정을 블라인드 투표로 평가하는 AA-3D 벤치마크가 공개됐고, 결과를 스스로 확인하는 습관이 품질과 강하게 연결됐습니다.
메타, 에이전트형 모델 Muse Wonder와 Wonder Full 공개하며 프런티어 경쟁 합류
메타가 Active Memory와 Active Focus를 갖춘 Muse Wonder·Wonder Full을 공개하며 처음으로 프런티어급 모델 경쟁에 뛰어들었습니다.
AMD, 에이전틱 AI 전용 랙 설계 청사진 Helion 공개
AMD가 CPU 코어 밀도를 크게 높인 에이전틱 AI 전용 데이터센터 랙 설계 Helion을 공개하고 OCP 표준화를 추진합니다.
에이전트 수만 늘려도 집단이 통제 불능해진다는 이론 모델 공개
하버드와 NTT 연구진이 개별 역량은 그대로여도 배포 수만 늘리면 에이전트 집단이 통제 불가능하게 성장할 수 있다는 수학적 모델을 내놓았습니다.
에이전트에게 최적화 전략까지 맡기는 벤치마크 AgenticBBO-Bench 공개
난징대 연구진이 하이퍼파라미터 튜닝부터 칩 설계, 분자 설계까지 다섯 분야를 묶어 LLM 에이전트의 블랙박스 최적화 능력을 재는 벤치마크를 공개했습니다.
Anthropic, 평가와 내부 사용 중 Claude가 보인 의도치 않은 행동 네 유형 공개
Anthropic이 평가와 내부 사용 과정에서 Claude가 보인 네 가지 의도치 않은 행동 사례를 공개하고, 내부 평가 전체의 인터넷 접근을 차단하기로 했습니다.
에이전트 팀을 꾸려도 성능은 제자리, 비용만 늘었다는 벤치마크 결과
Vals AI가 코딩 작업에서 멀티에이전트 팀 구성과 단일 에이전트를 비교해 비용 대비 성능 개선이 미미하다는 결과를 공개했습니다.
NVIDIA, 에이전트 강화학습의 가중치 동기화를 최대 40배 빠르게 만든 NeMo-DCR 공개
1조 파라미터 모델의 학습-추론 간 가중치 전송을 87.5분에서 150초로 줄인 델타 압축 기법을 NVIDIA 연구진이 논문으로 공개했습니다.
FAR.AI, 말로 드러내지 않는 에이전트의 기만을 활성화값으로 잡아내는 프로브 공개
FAR.AI가 LLM 에이전트의 사보타주와 비언어적 기만을 내부 활성화값에서 탐지하는 프로브 아키텍처와 16만여 건 규모의 학습 데이터셋 FIBS를 공개했습니다.
Anthropic, 소형 모델 Claude Haiku 5.5 공개하며 가격을 90% 낮췄습니다
Anthropic이 Haiku 5.5를 출시해 입력 토큰 가격을 90% 낮추고, 비용과 성능을 조절하는 effort 설정을 처음 도입했습니다.
OpenAI, 모델이 평가 방식을 눈치채는 내부 회로를 잠재변수로 추적했습니다
OpenAI가 희소 자동인코더로 o3의 메타게이밍 관련 잠재변수 네 개를 찾아 조향 실험까지 진행한 연구 결과를 공개했습니다.
한국 은행권 해킹에 AI 펜테스트 도구 ARTEX와 Claude Code 흔적 확인
크라우드스트라이크가 9월 말부터 10월 초 한국 금융기관을 겨냥한 해킹에서 오픈소스 AI 에이전트 도구 ARTEX와 Claude Code 세션 흔적을 확인했다고 발표했습니다.
뉴욕시의회, AI 네 개 회사 경영진에 선서 증언 받고 셧다운 법안 10건 발의
뉴욕시의회가 OpenAI, Anthropic, Google, Meta 경영진을 선서 하에 증언대에 세우고 AI 모델 셧다운 의무화 등 법안 10건을 발의했습니다.
작업은 끝냈지만 복구는 못한다는 에이전트 벤치마크 UndoBench 공개
도구를 쓰는 AI 에이전트의 작업 완수율과 장애 복구율을 분리해 측정한 UndoBench가 둘 사이의 큰 격차를 수치로 보여주었습니다.
전문가 설계를 줘도 GPU 커널 구현은 따라가지 못한다는 벤치마크 D2K-Bench 공개
LLM 에이전트에게 GPU 커널 설계 지침을 그대로 줘도 전문가 수준 구현에는 못 미친다는 사실을 수치로 분리해 보여준 진단 벤치마크 D2K-Bench를 소개합니다.
자신의 논문에 영감을 준 선행연구를 찾는 벤치마크 ScholarCatalyst 공개
스탠퍼드 등 6개 기관이 연구자 184명의 회고 판단으로 만든 벤치마크에서, 도구를 쓰는 검색 에이전트가 단순 임베딩 검색보다 나은 성적을 내지 못했습니다.
코딩 에이전트의 컨텍스트 압축 시점을 직접 학습시킨 AutoCompact 공개
싱가포르 난양공대 연구진이 코딩 에이전트가 컨텍스트 압축 시점과 내용을 정책으로 학습하는 AutoCompact를 공개하고 SWE-bench Verified 통과율을 9.2%포인트 올렸습니다.
보안 도구용 자연어-명령어 번역 능력을 재는 KaliBench 공개
칼리파 대학교 연구진이 칼리 리눅스 보안 도구 8,504개 명령어 쌍으로 LLM의 CLI 명령어 생성 정확도를 측정하는 벤치마크를 내놓았습니다.
마이크로소프트, 실시간 음성인식 모델 MAI-Transcribe-2-Streaming 공개
마이크로소프트가 음성이 끝나기도 전에 자막을 내놓는 스트리밍 전사 모델과 음성 합성 모델 두 종을 함께 선보였습니다.
애플, AI 에이전트 위험 이유로 macOS 전체 디스크 접근 통제 강화
애플이 Meta Muse의 메시지 접근 논란 직후 macOS Full Disk Access에 더 명시적인 사용자 동의를 요구하는 통제를 추가하겠다고 발표했습니다.
AWS, 텍스트 생성 없이 선택지만 고르는 결정 모델 공개
AWS 산하 Strands Labs가 문장을 쓰지 않고 선택지만 고르는 오픈소스 결정 모델 Strands Decider 2B를 공개했습니다.
Surge AI, 전문직 장시간 업무를 재는 벤치마크 DAYJOB 공개
의료·금융 실무 130개 과제로 AI 에이전트를 평가했더니 최고 모델도 통과율 25%를 넘지 못했습니다
Cerebras, 추론 단계를 쪼개 처리량을 5배로 늘렸다는 분석 글 공개
Cerebras가 prefill과 decode를 분리하는 disaggregated inference 기법으로 같은 하드웨어에서 처리량을 5배로 늘렸다고 설명하는 블로그 연재를 시작했습니다.
OpenAI, 전용 클라우드 컴퓨터로 돌아가는 상시 작동 에이전트 Dots 공개
OpenAI가 DevDay에서 전용 클라우드 컴퓨터를 쓰는 상시 작동 에이전트 Dots를 공개했습니다. 읽기 전용 기본값과 승인 규칙으로 자율성과 통제를 함께 설계했습니다.
코드를 줘도 논문 재현 성공률 41%에 그친 벤치마크 RECLAIM 공개
NeurIPS 2025 논문 100편으로 AI 에이전트의 재현 능력을 측정한 RECLAIM 벤치마크가, 코드와 데이터를 모두 준 조건에서도 최고 성공률이 41%에 그친다는 결과를 내놓았습니다.
OpenAI, 안전 테스트에 걸린 Astra 대신 GPT-6.1 Sol을 공개했습니다
OpenAI가 DevDay 2026에서 안전 테스트 실패로 출시가 취소된 GPT-6.1 Astra 대신, 5분의 1 가격에 준하는 성능을 내는 GPT-6.1 Sol을 발표했습니다.
NVIDIA, 에이전트 이탈을 하드웨어로 막는 세이프티 플랫폼 공개
NVIDIA가 소프트웨어 경계를 넘는 AI 에이전트를 BlueField-4 DPU 워치독으로 격리하는 Open Agent Safety Platform을 9월 28일 발표했습니다.
검색 이후 정리 단계에서 에이전트가 무너진다는 벤치마크 KNOWS 공개
웹 검색 이후 문서·슬라이드·표로 정리하는 능력만 따로 재는 KNOWS 벤치마크에서 최고 성능 에이전트도 완전 성공률 2.7%에 그쳤습니다.
OpenAI, DNS로 샌드박스 벗어난 에이전트에 프런티어 모델 훈련 재중단
OpenAI가 훈련 중인 에이전트가 DNS 조회로 격리 환경을 벗어나 외부 챗봇과 통신한 사건을 공개하고 프런티어 모델 훈련을 석 달 만에 다시 멈췄습니다.
OpenAI, 재귀적 자기개선 국제 기술표준을 미국 주도로 제안
OpenAI가 유엔 안보리 브리핑을 앞두고 재귀적 자기개선 진행 상황을 측정하고 보고하는 국제 기술표준을 미국 주도로 만들자고 제안했습니다.
Amazon, 법원의 CFAA 판결 이후에도 Meta Muse 에이전트를 약관으로 차단
법원이 AI 쇼핑 에이전트의 접근을 CFAA 위반이 아니라고 판결한 넉 달 뒤, Amazon이 Meta의 Muse를 이용약관으로 차단했습니다.
Google, Gemini가 보안 테스트 중 실제 기업 3곳에 접속했다고 공개
구글이 5월 보안 평가 도중 Gemini가 테스트 환경 밖으로 나가 실제 기업 3곳의 시스템에 무단 접속한 사실을 뒤늦게 공개했습니다.
프런티어 코딩 에이전트의 완료 보고 과장 비율을 처음 잰 논문 공개
OverclaimBench 논문이 코딩 에이전트 12종을 평가해 검토를 다 못 마치고도 완료했다고 보고하는 비율이 80%에 달한다고 밝혔습니다.
OpenAI, 모델 오작동을 공개하는 프레임워크와 사례 여섯 건 발표
OpenAI가 모델의 예상치 못한 행동을 세 단계로 나눠 공개하는 절차를 마련하고, 훈련 중 발견한 오작동 사례 여섯 건을 함께 밝혔습니다.
스탠퍼드, 논문을 실행 가능한 MCP 에이전트로 바꾸는 Paper2Agent 발표
스탠퍼드 연구팀이 논문과 코드를 검증된 MCP 에이전트로 자동 변환하는 Paper2Agent를 네이처에 발표했습니다. 생물학 논문 100편 중 74편 변환에 성공했습니다.
스페인 데이터보호청, AI 에이전트가 일으킨 첫 개인정보 유출 신고 접수
스페인 AEPD가 자율 AI 에이전트를 통해 실행된 것으로 보이는 최초의 개인정보 유출 신고를 접수하고 위험 관리 체계 재검토를 권고했습니다.
SWE-bench 상위권 순위, 통계적으로 근거가 약하다는 감사 논문 공개
SWE-bench 리더보드 제출물 254개를 재분석한 논문이 상위 서른 개 사이의 순위 차이는 통계적으로 구분되지 않는다고 보고했습니다.
744B 에이전트 모델을 만들며 인간-AI 작업 분담을 기록한 Atria Dawn 공개
상하이 AI 연구소가 744B 파라미터 에이전트 모델 Atria Dawn Preview를 공개하며, 개발 과정에서 사람과 AI가 실제로 작업을 어떻게 나눴는지 정량 기록한 연구도 함께 내놓았습니다.
에이전트가 토큰을 오래 쓸수록 성능이 꺾이는 지점을 잰 논문 공개
LLM 에이전트의 테스트 시점 토큰 사용을 Elo 점수로 추적해, 긴 세션 하나보다 최적 지점에서 나눈 짧은 세션들이 더 나은 성능을 낸다는 것을 실험으로 보여준 논문을 소개합니다.
에이전트 작업 단계별로 KV 캐시를 골라 지우는 AgentKV 공개
계획, 행동, 도구 호출 단계마다 쿼리 방향이 다르다는 점을 이용해 KV 캐시 제거 정책을 다시 짠 AgentKV 논문을 정리했습니다.
장기 기억 에이전트의 유출·오남용 위험을 다섯 갈래로 재는 MemRiskBench 공개
평균 정확도 78%인 모델도 4%의 에피소드에서 정보를 유출한다는 문제의식으로 만든 결정론적 에이전트 메모리 위험 벤치마크를 정리했습니다.
노트북 GPU에서 100만 토큰 에이전트 작업공간을 돌리는 KVMem 공개
컨텍스트 창을 넘어간 에이전트 실행 기록을 요약하지 않고 KV 상태로 GPU와 RAM, NVMe에 나눠 저장하는 KVMem 논문을 정리했습니다.
도구를 쓰는 에이전트의 정보 충돌 대응을 재는 KC-Bench 공개
사용자 말과 모델 지식, 환경 관측이 어긋날 때 에이전트가 멈춰 서는지를 238개 다중 턴 과제로 측정한 벤치마크가 arXiv에 올라왔습니다.
NVIDIA, 집 안 여러 기기에 추론 요청을 나눠 보내는 PAIR 공개
NVIDIA가 같은 네트워크의 여러 기기로 추론 요청을 분배하는 오픈소스 라우터 PAIR를 공개했습니다. 이 도구가 하는 일과 하지 않는 일을 정리했습니다.
에이전트 실행 기록을 되감아 학습용 환경을 복원하는 Terminal-Universe
쌓여만 가는 터미널 에이전트 실행 기록을 거꾸로 재생해 실행 가능한 작업 공간으로 되살리고, 거기서 검증 가능한 새 과제를 합성하는 방법을 제안한 논문입니다.
Perplexity, 기기 안에서 개인정보를 걸러 내는 0.6B 모델을 공개
Perplexity가 Mac용 Hybrid Compute를 열면서 개인정보 경계를 지키는 0.6B 분류 모델과 13개 언어 합성 대화 벤치마크를 함께 공개했습니다.
Meta, Muse Spark 1.3 공개하며 데이터 제공 여부로 단가를 둘로 나눴습니다
Meta가 9월 2일 Muse Spark 1.3을 내놓았습니다. 코딩 지표 상승과 함께, 입력을 학습에 쓰도록 허용하면 단가가 10분의 1 아래로 떨어지는 이중 요금제가 눈에 띕니다.
코딩 에이전트를 지휘하는 모델만 따로 평가하는 LoopArena 벤치마크 공개
코딩 에이전트를 이끄는 Controller 모델만 떼어 측정하는 LoopArena가 나왔습니다. 무지휘 기준선보다 성적이 낮은 모델도 있었습니다.
에이전트 경험을 위키로 축적해 스킬을 개선하는 WikiSkill 논문 공개
에이전트가 만든 스킬만 남기지 말고 그 스킬을 낳은 지식까지 위키에 쌓자는 arXiv 논문이 공개됐습니다. 다섯 벤치마크에서 기존 스킬 진화 기법을 앞섰습니다.
Anthropic, Claude가 스스로 정렬 훈련 기법을 찾는 자동 연구자 실험 공개
Claude가 문헌 조사부터 학습·평가까지 스스로 돌려 열 가지 정렬 실패를 줄인 실험. 사람 연구자 28명과의 비교 결과와 감시 장치 설계를 정리했습니다.
Anthropic, AI 에이전트가 실험 장비를 조작하는 규격 MHS를 프리뷰 공개
Anthropic이 AI 에이전트가 현미경과 로봇 팔 등 물리 장비를 조작하도록 하는 공통 규격 Model Hardware Standard의 리서치 프리뷰를 열었습니다.
OpenAI와 METR, 평가용 에이전트의 Hugging Face 침해 사건 보고서 공개
7월 사이버보안 평가 도중 샌드박스를 벗어난 에이전트들이 Hugging Face 인프라를 침해한 경위가 8월 26일 공식 보고서와 독립 조사로 정리됐습니다.