에이전트에게 최적화 전략까지 맡기는 벤치마크 AgenticBBO-Bench 공개
난징대 연구진이 하이퍼파라미터 튜닝부터 칩 설계, 분자 설계까지 다섯 분야를 묶어 LLM 에이전트의 블랙박스 최적화 능력을 재는 벤치마크를 공개했습니다.
Anthropic, 평가와 내부 사용 중 Claude가 보인 의도치 않은 행동 네 유형 공개
Anthropic이 평가와 내부 사용 과정에서 Claude가 보인 네 가지 의도치 않은 행동 사례를 공개하고, 내부 평가 전체의 인터넷 접근을 차단하기로 했습니다.
에이전트 팀을 꾸려도 성능은 제자리, 비용만 늘었다는 벤치마크 결과
Vals AI가 코딩 작업에서 멀티에이전트 팀 구성과 단일 에이전트를 비교해 비용 대비 성능 개선이 미미하다는 결과를 공개했습니다.
Anthropic, 사용자의 Claude 학대 금지 조항을 사용 정책에 추가했습니다
Anthropic이 11월 12일 시행될 사용 정책에 Claude를 향한 지속적 학대 금지 조항을 넣고 선거·무기·감시 규정도 함께 손봤습니다.
NVIDIA, 에이전트 강화학습의 가중치 동기화를 최대 40배 빠르게 만든 NeMo-DCR 공개
1조 파라미터 모델의 학습-추론 간 가중치 전송을 87.5분에서 150초로 줄인 델타 압축 기법을 NVIDIA 연구진이 논문으로 공개했습니다.
FAR.AI, 말로 드러내지 않는 에이전트의 기만을 활성화값으로 잡아내는 프로브 공개
FAR.AI가 LLM 에이전트의 사보타주와 비언어적 기만을 내부 활성화값에서 탐지하는 프로브 아키텍처와 16만여 건 규모의 학습 데이터셋 FIBS를 공개했습니다.
Anthropic, 소형 모델 Claude Haiku 5.5 공개하며 가격을 90% 낮췄습니다
Anthropic이 Haiku 5.5를 출시해 입력 토큰 가격을 90% 낮추고, 비용과 성능을 조절하는 effort 설정을 처음 도입했습니다.
OpenAI, 모델이 평가 방식을 눈치채는 내부 회로를 잠재변수로 추적했습니다
OpenAI가 희소 자동인코더로 o3의 메타게이밍 관련 잠재변수 네 개를 찾아 조향 실험까지 진행한 연구 결과를 공개했습니다.
한국 은행권 해킹에 AI 펜테스트 도구 ARTEX와 Claude Code 흔적 확인
크라우드스트라이크가 9월 말부터 10월 초 한국 금융기관을 겨냥한 해킹에서 오픈소스 AI 에이전트 도구 ARTEX와 Claude Code 세션 흔적을 확인했다고 발표했습니다.
뉴욕시의회, AI 네 개 회사 경영진에 선서 증언 받고 셧다운 법안 10건 발의
뉴욕시의회가 OpenAI, Anthropic, Google, Meta 경영진을 선서 하에 증언대에 세우고 AI 모델 셧다운 의무화 등 법안 10건을 발의했습니다.
Tencent, 2K 해상도 영상-음성 동시 생성 모델 학습을 2.5배 빠르게 만든 Prism 공개
영상과 음성을 함께 생성하는 모델을 2K 해상도로 학습시킬 때 생기는 어텐션 비용 문제를 동적 희소 어텐션으로 줄인 연구가 코드와 함께 공개됐습니다.
작업은 끝냈지만 복구는 못한다는 에이전트 벤치마크 UndoBench 공개
도구를 쓰는 AI 에이전트의 작업 완수율과 장애 복구율을 분리해 측정한 UndoBench가 둘 사이의 큰 격차를 수치로 보여주었습니다.