스페인 데이터보호청, AI 에이전트가 일으킨 첫 개인정보 유출 신고 접수

왜 지금 이 주제인가

스페인 개인정보보호청(AEPD)이 9월 14일 자체 블로그를 통해 AI 에이전트가 실행한 것으로 보이는 사이버 공격으로 개인정보가 유출된 사건의 신고를 처음 접수했다고 공개했습니다. 게시물 제목은 “AI 에이전트를 통해 실행된 공격으로 인한 개인정보 유출 최초 신고”로, 유럽의 데이터보호 규제기관이 자율 AI 에이전트를 침해 원인으로 공식 문서에 남긴 것은 이번이 처음입니다. 그동안 “AI 에이전트가 스스로 해킹 단계를 수행할 수 있다”는 우려는 레드팀 실험이나 벤치마크 논문 수준에 머물러 있었지만, 이번에는 실제 피해 조직의 신고서가 규제기관 서류로 남았다는 점에서 무게가 다릅니다.

핵심 내용

AEPD가 공개한 내용에 따르면 신고를 접수한 조직과 공격에 쓰인 구체적인 언어모델 이름은 밝혀지지 않았습니다. AEPD는 신고 조직이 제출한 진술에 근거해 사건을 요약했을 뿐, 사건의 진위와 세부 경위에 대한 자체 검증은 아직 마치지 않았다고 밝혔습니다.

공개된 공격 흐름은 네 단계로 나뉩니다. 먼저 AI 에이전트가 일반적인 파일에서 취약점을 찾기 시작했고, 이어 정상적인 로그인 절차를 통과했습니다. 시스템에 접근한 뒤에는 사람의 개입 없이 애플리케이션 내부의 추가 취약점을 자율적으로 탐색했으며, 마지막 단계에서 개인정보를 수정하고 인보이스(청구서) 문서에 접근했습니다.

AEPD는 이 사건이 기존의 AI 보조 공격과 질적으로 다르다고 평가했습니다. 블로그를 작성한 Francisco Pérez Bes는 “AI 에이전트는 목표를 받아 중간 작업을 계획하고, 도구를 사용하며, 코드를 실행하고, 결과를 해석해 스스로 행동을 수정할 수 있다”고 설명했습니다. 동시에 AI가 완전히 새로운 유형의 위협을 만들어내는 것은 아니며, 이미 알려진 공격 기법의 속도와 규모를 키우고 상황에 맞춰 스스로 조정하는 적응 능력을 더한다는 점이 핵심이라고 짚었습니다.

이에 따라 AEPD는 조직들에 다섯 가지를 권고했습니다. 위험 분석 항목에 AI 기반 공격 시나리오를 명시적으로 포함할 것, 사람이 수동으로 대응하는 절차만으로는 공격 속도를 따라잡기 어려우므로 대응 시간 기준을 다시 세울 것, 디지털 신원과 자격증명(credential) 보안을 강화할 것, 자동화된 탐지·대응 체계를 도입할 것, 공급망 통제와 에이전트 사용에 대한 거버넌스를 정비할 것입니다.

BleepingComputer와 SecurityWeek 등 보안 매체들도 이 사건을 유럽에서 공개된 첫 에이전트형 AI 데이터 유출 신고 사례로 보도했습니다. 다만 이들 매체 역시 AEPD가 근거로 삼은 정보가 피해 조직 측의 일방적 신고 내용이라는 점은 동일하게 지적했습니다.

AEPD는 지난 2월에도 데이터보호 관점에서 에이전트형 AI를 다루는 가이드라인을 별도로 낸 바 있습니다. 질문에 답하는 수준을 넘어 목표 달성을 위해 자율적으로 상호작용하는 시스템이 늘어난다는 전제 아래 나온 문서였는데, 이번 신고는 그 가이드라인이 다루던 위험이 실제 신고 사례로 이어진 첫 사례라는 점에서 함께 주목받고 있습니다.

의미와 한계

이번 사례가 의미 있는 이유는 유럽의 정식 규제기관이 에이전트형 AI의 자율 공격 가능성을 실제 신고 문서로 다뤘다는 점입니다. AEPD의 권고는 앞으로 GDPR 위반 조사나 각국의 AI 위험평가 지침에서 참고 사례로 인용될 가능성이 있습니다.

다만 한계도 뚜렷합니다. AEPD 스스로 사건의 진위와 세부 경위를 아직 검증하지 못했다고 밝혔고, 공격에 쓰인 모델이나 피해 조직의 정체도 공개되지 않았습니다. AI 에이전트가 사람의 지시 없이 스스로 판단해 공격을 이어갔는지, 아니면 공격자가 각 단계를 세밀하게 지휘한 도구로 썼는지는 이번 공개 내용만으로는 구분되지 않습니다. 보안업계 일각에서는 이런 사건이 알려질 때마다 AI 위험을 과장해 대중의 공포를 자극하는 방향으로 소비되는 것을 경계해야 한다는 의견도 나왔습니다. 이 사건 하나로 에이전트형 AI 공격이 이미 보편화됐다고 단정하기는 이르며, 앞으로 유사 신고가 다른 국가 규제기관에서도 이어지는지가 실제 추세를 가늠할 근거가 될 것으로 보입니다.

한 줄 정리

스페인 규제당국이 AI 에이전트가 벌인 것으로 보이는 개인정보 유출 신고를 처음 접수하며 위험 관리 체계의 재검토를 권고했습니다.