Claude 텍스트 워터마킹: SynthID-Text 기반 AI 생성 표식과 EU AI Act 대응
목차
개요
Anthropic이 2026년 8월 14일 Claude가 생성한 텍스트에 워터마크를 삽입하기 시작한다고 발표했다. 워터마크는 사람이 읽을 때 전혀 감지되지 않으며, 숨겨진 문자나 추가 텍스트를 넣는 방식이 아니다. 대신 모델이 다음 단어를 고를 때 사용하는 무작위성의 출처를 바꾸는 방식으로, 나중에 키를 가진 쪽만 통계적으로 검증할 수 있는 패턴을 남긴다. 적용은 특정 지역에 한정하지 않고 전 지역에서 동시에 시작됐다.
배경
도입의 직접적인 계기는 EU AI Act 준수다. Anthropic을 포함한 주요 AI 모델 제공자들이 EU의 AI 생성 콘텐츠 투명성 실천 강령에 서명했고, 현재 약 190개 조직이 참여하고 있다. 상당수의 주요 AI 모델 개발자가 같은 강령에 서명한 상태이며, 각자 자체 워터마크 구현을 진행 중이다.
지역별로 워터마크 적용 여부를 나누는 방식도 검토됐으나, 지속 가능한 방법이 아직 없다는 판단에 따라 모든 지역에 즉시 적용하는 쪽으로 결정됐다. Anthropic은 앞으로도 다양한 접근 방식을 계속 평가하고 업데이트가 있으면 공유하겠다고 밝혔다.
워터마크 동작 원리
토큰 선택의 무작위성 재정의
Claude는 한 번에 한 단어씩 텍스트를 생성한다. 각 단계마다 의미상 동등하게 성립하는 후보가 여러 개 존재하는 경우가 많다. 날씨를 묘사할 때 “overcast”와 “grey” 중 무엇을 골라도 문장이 성립하는 것이 그 예다. 워터마킹은 이렇게 어느 쪽을 골라도 위험이 낮은 선택지들을 활용해 패턴을 남긴다.
기존 방식은 임의의 난수 생성기로 다음 단어를 골랐다. 워터마킹 방식은 특정 키와 앞서 나온 단어들을 기반으로 난수의 출처를 결정한다. Anthropic의 설명에 따르면 선택 자체는 여전히 무작위지만, 무작위의 출처가 달라진다. 워터마크가 들어간 텍스트를 같은 키로 검증하면 Claude가 생성했을 확률을 산출할 수 있다.
Anthropic은 이를 모노폴리 게임에 비유했다. 주사위 대신 원주율의 자릿수를 순서대로 사용해 말을 움직여도 게임 진행 자체는 동일하지만, 나중에 기록을 분석하면 원주율이 사용됐다는 패턴을 추적할 수 있다는 것이다.
SynthID-Text 채택
사용된 기술은 Google DeepMind의 SynthID-Text 방식이다. 이 방식은 2024년 Nature 논문으로 발표됐다. 계보를 거슬러 올라가면 Scott Aaronson이 2022년에 제안한 접근에서 시작된 일련의 연구 흐름 중 하나다.
적용 범위
콘텐츠 유형별 차이
워터마크는 모든 향후 Claude 모델에 적용된다. 8월 2일 이전에 출시된 모델은 EU 법의 전환 기간에 맞춰 향후 몇 개월에 걸쳐 순차적으로 롤아웃된다.
콘텐츠 유형에 따라 워터마크가 실제로 작동하는 정도는 크게 다르다. 핵심 변수는 해당 위치에서 모델에게 선택의 여지가 얼마나 있느냐다.
| 유형 | 적용 정도 | 이유 |
|---|---|---|
| 일반 텍스트 | 전체 적용 | 단어 선택의 여지가 충분함 |
| 번역 | 전체 적용 | 모든 단어를 Claude가 선택함 |
| 코드 | 부분 적용 | 정확한 출력이 강제되는 위치는 제외, 주석 등에만 적용 |
| 사실 기반 텍스트 | 제한적 적용 | 다음 단어가 사실상 하나로 고정되는 경우가 많음 |
| 교정·편집 | 제한적 적용 | 대부분의 단어가 사람의 것이라 표식이 거의 남지 않음 |
코드의 경우 2 더하기 2의 결과처럼 정답이 하나뿐인 위치에는 워터마크를 넣지 않는다. 그 결과 실제 코드에는 무시할 수 있는 수준의 영향만 미친다고 설명한다. 사실 기반 텍스트도 마찬가지다. 아이작 뉴턴의 가장 유명한 저작을 언급하는 문장에서 다음에 올 단어가 사실상 정해져 있다면 워터마크가 작동할 여지가 없다.
교정 작업은 워터마크가 가장 약하게 작동하는 영역이다. Claude가 교정한 텍스트는 일반적으로 가볍게만 편집되며 대부분의 단어가 사람이 쓴 것이므로, 문법과 구두점 수정 정도로는 탐지가 불가능할 수 있다.
이미지와 파일은 C2PA
이미지와 파일에는 워터마크 대신 C2PA 메타데이터 크레덴셜을 사용한다. PNG, JPG, SVG 등 지원되는 파일에 암호화된 기록을 메타데이터 형태로 첨부하는 방식이다. C2PA는 카메라와 사진 편집 소프트웨어에서도 사용되는 산업 표준이며, 파일 콘텐츠 자체는 변경하지 않는다.
품질과 비용에 미치는 영향
Anthropic은 내부 테스트에서 콘텐츠, 창의성, 가독성에 영향이 없었다고 밝혔다. Google DeepMind의 검증 결과도 함께 인용됐다. Gemini 사용자 일부에게 워터마크가 들어간 버전을 제공하고 좋아요와 싫어요 평점을 비교했을 때 통계적으로 유의미한 차이가 없었으며, 인간 평가자들의 병렬 비교 테스트에서도 품질 차이가 감지되지 않았다.
운영 측면의 영향도 없다. 워터마킹은 모델 속도에 무시할 수 있는 수준의 영향만 주고, 추가 토큰을 생성하지 않으므로 모델 제공 및 사용 비용은 동일하다. API를 사용하는 개발자 입장에서는 비용, 토큰 소모, 응답 속도 어느 쪽에서도 변화를 체감할 일이 없다. 사용자 관점에서도 워터마크가 들어간 응답은 표면상 표식되지 않은 응답과 구별할 수 없다.
탐지 방법과 한계
Anthropic은 워터마크 탐지 API를 곧 제공할 예정이라고 밝혔으며, 구현의 세부 사항을 작업 중이라고 설명했다. 구체적인 출시 일정은 명시되지 않았다.
탐지에는 명확한 한계가 있다. 표본이 짧을수록 선택의 여지가 적어 탐지가 어렵고, 텍스트가 길어질수록 Claude가 관여했을 확률을 판별하기 쉬워진다. Anthropic이 직접 언급한 한계는 다음과 같다.
| 한계 | 설명 |
|---|---|
| 확률만 판별 | Claude의 키로는 부분적으로 Claude가 작성했을 확률만 답할 수 있음 |
| 인간 작성 확인 불가 | 워터마크가 없다고 해서 사람이 썼다고 확인할 수는 없음 |
| 타 AI 구분 불가 | 다른 AI는 워터마크 키가 다르므로 판별 대상이 아님 |
| 소규모 표본 취약 | 짧은 텍스트에서는 탐지 효과가 충분하지 않음 |
| 기여도 구분 불가 | Claude가 작성한 것과 대폭 편집한 것을 구분하지 못함 |
우회 가능성에 대해서도 솔직하게 인정한다. 가벼운 편집으로는 워터마크가 완전히 제거되지 않지만, 모든 단어를 바꾸는 완전한 개작은 워터마크를 제거한다. 다만 그 경우 해당 텍스트를 여전히 AI 생성이라고 설명할 수 있는지 자체가 의문의 여지가 있다는 것이 Anthropic의 평가다.
기존 AI 탐지 소프트웨어와는 근본적으로 다른 방식이라는 점도 짚었다. Pangram 같은 서비스는 Anthropic의 키를 갖고 있지 않으므로 다른 방법을 쓴다. 특정 부사의 과다 사용이나 “이건 X가 아니라 Y다” 같은 구조 선호처럼 텍스트의 미묘한 특징에 의존하는 접근이며, 키 기반 워터마크 검증과는 성격이 다르다.
프라이버시와 권리
워터마크는 개별 사용자를 식별하지 않는다. 사용자, 조직, Claude와 나눈 대화에 관한 정보를 복구할 수 있는 요소는 포함되지 않으며, 개인 추적은 불가능하다. 워터마크가 나타내는 것은 Claude가 해당 콘텐츠를 생성했거나 처리했다는 사실뿐이다.
소유권과 법적 책임에도 변화가 없다. 워터마크는 소유권이나 저작권에 대해 아무것도 말하지 않으며, 이용약관상 사용자의 권리를 변경하지 않는다.
결론
이번 발표는 EU AI Act 대응이라는 규제 요구에서 출발했지만, 구현 방식은 사용자 경험과 비용에 부담을 주지 않는 방향으로 설계됐다. 품질, 속도, 비용 어느 쪽에도 실질적 영향이 없다는 점에서 API 사용자가 별도로 대응할 사항은 없다.
다만 워터마크가 만능 판별 도구는 아니다. 짧은 텍스트, 사실 기반 문장, 교정 작업에서는 작동하지 않고, 완전한 개작으로 제거될 수 있으며, 확인할 수 있는 것은 확률뿐이다. 탐지 API가 공개되면 실제 판별 정확도와 오탐 특성을 확인할 수 있을 것이다.