EU AI법 50조란 — 챗GPT 글에 워터마크가 붙게 만든 네 가지 표시 의무
Article 50 of the EU AI Act sets four transparency duties that took effect on August 2, 2026: chatbots must tell people they are talking to AI; generative AI providers must mark outputs in a machine-readable, detectable way; deployers of emotion recognition or biometric categorisation must inform those exposed; and deployers of deepfakes, or of AI text published to inform the public, must disclose it. Violations can cost up to €15 million or 3% of global turnover. It is the rule behind OpenAI's October 2026 text watermark in the EU.
EU 인공지능법 50조는 AI를 쓴다는 사실을 사람과 기계가 알 수 있게 하라는 투명성 조항으로, 2026년 8월 2일부터 적용됐다. 의무는 네 가지다. 챗봇처럼 사람과 대화하는 AI는 상대가 AI임을 알려야 하고, 생성형 AI 제공자는 결과물에 기계가 읽을 수 있는 표식을 넣어 AI 생성물로 탐지되게 해야 한다. 감정 인식·생체 분류 시스템을 쓰는 쪽은 대상자에게 알려야 하고, 딥페이크나 공익 정보로 공개하는 AI 글을 내는 쪽은 AI가 만들었다고 밝혀야 한다. 위반하면 최대 1500만 유로 또는 전 세계 매출 3% 중 큰 금액의 과징금이 걸린다. 2026년 10월 오픈AI가 EU에서 챗GPT 글에 워터마크를 넣기로 한 근거가 이 조항이다
3줄 요약
- 정의 — EU AI법의 투명성 조항. 2026년 8월 2일 적용, 기존 시스템은 12월 2일까지 유예
- 네 가지 — ①AI 대화 고지 ②생성물 기계 판독 표식 ③감정 인식 고지 ④딥페이크·공익 AI 글 공개
- 제재 — 최대 1500만 유로 또는 세계 매출 3%. 한국 AI 기본법도 생성형 AI 표시 의무를 둔다
핵심 질문
- EU AI법 50조 내용
- **누가 무엇을 알려야 하는지 네 갈래로 나눈다.** | 항 | 의무 주체 | 내용 | |---|---|---| | 1항 | 제공자 | 사람과 상호작용하는 AI는 AI임을 고지 | | 2항 | 생성형 AI 제공자 | 텍스트·이미지·음성·영상에 기계 판독 표식, 탐지 가능하게 | | 3항 | 배포자(사용 기업) | 감정 인식·생체 분류 시 대상자에게 고지 | | 4항 | 배포자 | 딥페이크, 공익 정보용 AI 글은 AI 생성 사실 공개 |
- AI 생성물 표시 의무 시행일
- **EU는 2026년 8월 2일부터 적용됐다.** | 구분 | 날짜 | |---|---| | AI법 발효 | 2024년 8월 1일 | | 금지 AI 조항 | 2025년 2월 2일 | | 범용 AI(GPAI) 의무 | 2025년 8월 2일 | | **50조 투명성 의무** | **2026년 8월 2일** | | 그 전 출시 시스템 유예 | 2026년 12월 2일 |
- AI 표시 의무 위반 과징금
- **최대 1500만 유로 또는 직전 회계연도 전 세계 매출의 3% 중 큰 금액이다.** | 위반 유형 | 상한 | |---|---| | 금지 AI 사용 | 3500만 유로 또는 7% | | 50조 등 기타 의무 | 1500만 유로 또는 3% | | 당국에 허위 정보 제공 | 750만 유로 또는 1% | 중소기업·스타트업은 둘 중 낮은 금액이 상한이다.
AI가 만든 글·그림·목소리를 'AI가 만들었다'고 알려야 하는 법이 유럽에서 이미 돌고 있다. EU 인공지능법(AI Act) 50조다. 2026년 8월 2일 적용이 시작됐고, 10월 5일 오픈AI가 EU 사용자의 챗GPT 글에 워터마크를 넣겠다고 발표한 것(「챗GPT 텍스트 워터마크, EU부터」)도 이 조항 때문이다. 50조는 길지 않지만 '누가 무엇을 알려야 하는가'를 네 갈래로 정확히 나눈다.
1. 50조는 AI법 전체에서 어디쯤인가
EU AI법은 AI를 위험도에 따라 네 층으로 나눈다. 50조는 '금지'나 '고위험'이 아니라 투명성 층을 맡는다. 위험이 크지 않아도, 사람이 상대가 AI라는 것을 모르면 생기는 문제를 막는 조항이다.
| 층위 | 대상 예 | 규제 방식 |
|---|---|---|
| 금지 | 사회적 점수 매기기, 무차별 얼굴 수집 | 사용 금지(2025년 2월~) |
| 고위험 | 채용·대출 심사·의료 AI | 사전 적합성 평가(「고영향 AI란」 참고) |
| 투명성(50조) | 챗봇, 생성형 AI, 딥페이크 | 고지·표시 의무 |
| 최소 위험 | 스팸 필터, 게임 AI | 자율 |
2. 네 가지 의무 — 만드는 쪽과 쓰는 쪽을 나눈다
50조의 핵심은 의무를 제공자(AI를 만들어 내놓는 회사)와 배포자(AI를 가져다 업무에 쓰는 회사·기관)로 나눠 지운다는 점이다.
| 항 | 의무 주체 | 해야 할 일 | 예시 |
|---|---|---|---|
| 1항 | 제공자 | 사람과 대화하는 AI는 AI임을 알린다(뻔히 알 수 있으면 예외) | 고객센터 챗봇 |
| 2항 | 생성형 AI 제공자 | 결과물을 기계가 읽을 수 있게 표시하고 AI 생성물로 탐지 가능하게 | 챗GPT 텍스트 워터마크, 이미지 메타데이터 |
| 3항 | 배포자 | 감정 인식·생체 분류 시스템을 쓰면 대상자에게 알린다 | 매장 감정 분석 카메라 |
| 4항 | 배포자 | 딥페이크는 조작 사실을 밝힌다. 공익 정보로 공개하는 AI 글도 밝힌다(사람이 편집 책임을 지면 예외) | 합성 영상 광고, AI가 쓴 뉴스 |
2항이 가장 기술적이다. '표시하라'가 아니라 '기계가 탐지할 수 있게' 하라는 문구라서, 눈에 보이는 라벨만으로는 부족하고 워터마크나 메타데이터처럼 다른 시스템이 자동으로 읽을 수 있는 표식이 필요하다. 오픈AI가 텍스트에 통계적 워터마크를 넣은 이유다. 4항의 '사람이 편집 책임을 지면 예외'는 언론사가 AI를 보조로 쓰되 기자·편집자가 검토하는 경우를 염두에 둔 것이다.
예외도 있다. 범죄 수사·예방을 위해 법으로 허용된 용도, 그리고 명백한 예술·풍자·허구 작품의 딥페이크는 공개 의무가 완화된다 — 작품 감상을 방해하지 않는 방식으로 알리면 된다.
3. 언제부터, 얼마나 무거운가
| 일정 | 내용 |
|---|---|
| 2024년 8월 1일 | AI법 발효 |
| 2025년 2월 2일 | 금지 AI 조항 적용 |
| 2025년 8월 2일 | 범용 AI 모델(GPAI) 의무 적용 |
| 2026년 8월 2일 | 50조 투명성 의무 적용 |
| 2026년 12월 2일 | 8월 2일 이전 출시 시스템의 유예 기한(보도 기준) |
| 위반 유형 | 과징금 상한 |
|---|---|
| 금지 AI 사용 | 3500만 유로 또는 세계 매출 7% |
| 50조 등 기타 의무 위반 | 1500만 유로 또는 세계 매출 3% |
| 당국에 허위·불완전 정보 제공 | 750만 유로 또는 1% |
대기업은 둘 중 큰 금액이, 중소기업·스타트업은 둘 중 작은 금액이 상한이다. 과징금 계산 구조는 「과징금은 어떻게 계산되나」에서 다뤘다.
4. 한국 기업과 사용자에게는
EU 밖 회사라도 EU 시장에 AI를 내놓거나 결과물이 EU에서 쓰이면 적용 대상이 된다. 유럽에 서비스하는 한국 게임·콘텐츠·챗봇 회사도 예외가 아니다.
한국에도 비슷한 규칙이 있다. 2026년 1월 시행된 AI 기본법은 생성형 AI를 쓴 서비스라는 사실을 미리 알리고, 결과물이 생성형 AI로 만들어졌다는 것을 표시하도록 했다. 실제 사람·사물과 구별하기 어려운 딥페이크는 더 분명하게 표시해야 한다. EU와 한국 모두 '표시하라'는 방향은 같지만, 기계가 탐지할 수 있게 하라는 2항 수준의 기술 요건을 명시한 것은 EU가 먼저다.
한계도 분명하다. 표시는 지울 수 있다. 오픈AI 시험에서 단어 25%만 바꿔도 워터마크 탐지율은 17%로 떨어졌다. 그래서 50조는 '모든 AI 글을 잡아내는 장치'가 아니라 정직하게 쓰는 대다수에게 표시를 기본값으로 만드는 장치로 보는 편이 정확하다. 딥페이크를 막으려 상표법까지 동원한 사례는 「멜로니 총리, 자기 목소리 상표 출원」에 정리했다.
5. 남은 것과 확인되지 않은 것
- 2항 표시를 어떤 기술로 충족하면 되는지 세부는 EU 행동강령과 지침에 달려 있으며, 최종 문구는 확인하지 못했다.
- 8월 2일 이전 출시 시스템의 12월 2일 유예는 보도 기준이다.
- 한국 AI 기본법의 표시 의무 위반 과태료가 실제로 언제부터 부과되는지는 확인하지 못했다.