xAI, EU AI Act 대응해 Grok API 텍스트 출력에 워터마크 기본 적용

왜 지금 이 주제인가

유럽연합 AI Act의 제50조는 생성형 AI 시스템이 만든 합성 콘텐츠를 기계로 판독 가능한 형태로 표시하도록 의무화하고 있습니다. 투명성 공개 의무 자체는 2026년 8월 2일부터 이미 발효됐고, 기존에 시장에 나와 있던 시스템에 적용되는 워터마킹 의무의 유예 기간은 2026년 12월 2일로 끝납니다. 위반 시 과징금은 일반 위반의 경우 1500만 유로 또는 전 세계 연 매출의 3% 중 높은 금액으로, 결코 가벼운 수준이 아닙니다. xAI는 이 마감을 한 달가량 앞둔 11월 7일부터 Grok API의 텍스트 응답에 보이지 않는 워터마크를 기본값으로 켜기 시작했습니다. 이미지나 오디오에 비해 손을 대기 까다로운 텍스트 영역에서 상업용 API가 워터마킹을 기본 적용한 사례라는 점에서 살펴볼 만합니다.

핵심 내용

xAI 개발자 문서에 따르면 이번 워터마킹은 grok-4.7, grok-4.6, grok-4.5, grok-4.3과 grok-4.20의 reasoning·non-reasoning·multi-agent 세 변형까지 총 7개 모델에 적용됩니다. 적용 범위는 글로벌 엔드포인트인 api.x.ai를 포함해 모든 지역 엔드포인트의 텍스트 생성 요청입니다.

작동 방식은 응답에 눈에 보이는 문자나 별도의 메타데이터를 덧붙이는 것이 아니라, 모델이 텍스트를 생성하는 동안 토큰을 선택하는 과정 자체를 미묘하게 조정하는 방식입니다. 그 결과 워터마크는 텍스트 안에 통계적 패턴으로만 남고, 사람이 읽을 때는 전혀 티가 나지 않습니다. 탐지는 별도의 신청 기반 API를 통해 이뤄지며, 주어진 텍스트가 “워터마크됨”, “워터마크되지 않음”, “불확실함” 세 가지 중 하나로 판정됩니다. 문서는 텍스트가 길수록 탐지 신호가 강해진다고 설명합니다. 이미지나 오디오는 픽셀이나 파형에 신호를 심어도 사람이 눈치채기 어렵지만, 텍스트는 단어 하나만 바뀌어도 의미와 흐름이 달라지기 때문에 같은 방식의 워터마킹이 기술적으로 훨씬 까다롭다고 알려져 있습니다.

워터마킹은 모든 대상 모델에 기본으로 켜져 있지만 강제는 아닙니다. 팀 관리자는 xAI 콘솔에서 모델 단위로 워터마킹을 끌 수 있고, 설정 변경은 5분 이내에 반영됩니다. 또한 공식 문서는 워터마킹을 켜도 응답의 품질이나 생성 속도에는 변화가 없다고 명시하고 있습니다. 이는 이미지·오디오 워터마킹과 달리 텍스트 워터마킹이 생성 파이프라인에 성능 비용을 거의 더하지 않는 방식으로 설계됐다는 뜻입니다.

이번 조치의 직접적 배경은 EU AI Act입니다. xAI 문서는 워터마킹 적용 이유로 “EU AI Act 준수”를 명시하고 있습니다. 제50조 2항은 생성형 AI 제공자가 합성 출력물을 기계판독 가능한 형태로 표시하도록 요구하는데, 기존 서비스에 대한 유예 기간이 12월 2일 끝나는 만큼 xAI는 이보다 앞서 기본값을 바꿔 둔 셈입니다.

의미와 한계

이번 조치는 이미지·오디오 중심으로 발전해 온 AI 생성물 워터마킹 기술이 텍스트 영역까지 상업 서비스 수준에서 확산되고 있다는 신호입니다. 텍스트는 번역, 요약, 일부 재작성만 거쳐도 통계적 패턴이 쉽게 흐트러지기 때문에 그동안 워터마킹이 특히 어려운 영역으로 꼽혀 왔는데, 토큰 선택 편향 방식은 그 한계를 실무 수준에서 다뤄 보려는 시도로 볼 수 있습니다.

다만 한계도 분명합니다. 워터마킹이 기본값일 뿐 팀 관리자가 언제든 끌 수 있어 강제성은 약하고, 탐지 API 역시 누구나 바로 쓸 수 있는 것이 아니라 신청을 거쳐야 합니다. 텍스트를 크게 고쳐 쓰거나 다른 언어로 옮겼을 때 워터마크가 얼마나 남아 있는지에 대한 구체적인 수치는 공개되지 않았습니다. 또한 이 의무는 EU 역내에 시스템을 출시하는 제공자와, 마케팅 대행사나 언론사처럼 콘텐츠를 배포하는 쪽을 겨냥한 것이어서, EU 밖에서까지 같은 기준이 보편화될지는 아직 지켜봐야 할 문제입니다. 다른 대형 언어모델 제공자들도 12월 2일 마감을 앞두고 비슷한 기본값 전환에 나설 가능성이 있지만, 이는 아직 추측입니다.

한 줄 정리

xAI가 EU AI Act의 12월 합성콘텐츠 표시 의무를 앞두고 Grok API 텍스트 출력에 보이지 않는 워터마크를 기본으로 켰습니다.