[AI기본법 시리즈 ③] 앞선 두 글에서 AI기본법 개정 시행령의 전체 구조와, 일반적인 AI 생성물의 표시 방법을 다뤘다. 이번 글에서는 그중에서도 가장 엄격한 기준이 적용되는 영역, 딥페이크 결과물의 표시 의무를 집중적으로 다룬다.
왜 딥페이크만 따로 다루는가
지난 글에서 짚었듯, 일반 AI 생성물은 워터마크나 메타데이터 같은 비가시적 방식만으로도 표시 요건을 충족할 수 있다. 하지만 딥페이크는 다르다. 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상을 만들어 제공하는 경우, 비가시적 워터마크만으로는 충분하지 않다는 것이 정부 지침의 명확한 입장이다.
이 차등 적용의 이유는 어렵지 않게 짐작할 수 있다. 일반 AI 생성 이미지는 사람이 봐도 어느 정도 AI가 만든 것임을 짐작할 여지가 있지만, 딥페이크는 정의 자체가 ‘실제와 구분하기 어려운’ 결과물이다. 눈에 보이지 않는 메타데이터 표시만으로는, 이를 그대로 접하는 일반 이용자가 진위를 판단할 방법이 없다. 그래서 법은 이 영역에 한해 더 적극적인 고지를 요구한다.
딥페이크 표시의 구체적 기준
정부 지침에 따르면 딥페이크 결과물은 이용자의 연령과 신체적·사회적 조건 등을 고려하여, 시각·청각 등을 통해 쉽게 확인할 수 있는 방법으로 고지하거나 표시해야 한다. 일반 생성물처럼 화면 구석에 작은 로고를 넣거나 파일 속성에 메타데이터만 심어두는 수준으로는 충분하지 않다는 뜻이다.
이를 앞선 글에서 정리한 일반 AI 생성물 표시 기준과 나란히 놓고 비교하면 차이가 분명해진다.
| 구분 | 일반 AI 생성물 | 딥페이크 결과물 |
|---|---|---|
| 표시 방식 | 가시적 또는 비가시적 방식 모두 허용 | 비가시적 방식만으로는 불충분 |
| 최소 요건 | 메타데이터 + 다운로드 시 1회 안내로 충족 가능 | 시각·청각 등으로 쉽게 인식 가능한 명확한 표시 필요 |
| 적용 시점 | 서비스 밖으로 유통될 때 | 서비스 밖 유통 시 동일하게 적용, 다만 기준이 더 엄격 |
어떤 결과물이 ‘딥페이크’로 분류되나
법에서 말하는 딥페이크는 ‘실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상’이다. 이 정의를 실무적으로 풀어보면, 다음과 같은 유형이 여기에 해당할 가능성이 높다.
- 실존 인물의 얼굴이나 목소리를 AI로 합성한 영상·음성
- 실제 사건이나 발언처럼 보이도록 만든 가상의 이미지·영상
- 실사에 가까운 수준으로 정교하게 만들어져, 일반적인 시청 환경에서 AI 생성물임을 알아채기 어려운 결과물
반대로 AI로 그림체가 뚜렷한 일러스트를 만들거나, 명백히 가상의 캐릭터를 생성하는 경우는 ‘실제와 구분하기 어려운’ 수준이 아니므로 일반적인 AI 생성물 표시 기준이 적용될 가능성이 높다. 다만 이 구분이 항상 명확한 것은 아니며, 개별 사례의 판단은 결국 소관 부처의 후속 가이드라인이나 유권해석에 따라 달라질 수 있다.
실무에서 자주 나오는 질문
Q. 딥페이크 방지 목적으로 만든 교육용·연구용 콘텐츠도 대상인가? 이 지침만으로는 목적에 따른 예외를 명확히 규정하고 있는지 확인되지 않는다. 딥페이크에 준하는 결과물을 다루는 경우라면, 목적과 무관하게 표시 기준을 검토해보는 것이 안전하다.
Q. 개인이 재미로 만든 합성 영상도 해당하나? 지난 글에서 정리했듯, 이 법의 의무 주체는 ‘AI 사업자’로 한정된다. 상업적 서비스 형태로 딥페이크 생성 도구를 제공하는 사업자가 아니라, 개인이 취미로 결과물을 만드는 경우는 원칙적으로 법적 의무 대상은 아니다. 다만 그 결과물이 타인의 명예를 훼손하거나 초상권을 침해한다면, 이는 AI기본법과는 별개로 다른 법령(정보통신망법, 명예훼손 관련 법률 등)의 적용을 받을 수 있다는 점은 유의해야 한다.
Q. 워터마크를 지우거나 우회하면 어떻게 되나? 이 시리즈에서 다룬 자료들은 표시 의무 자체에 초점을 맞추고 있으며, 워터마크 우회·제거에 대한 별도의 제재 조항까지는 명확히 확인되지 않는다. 다만 표시 의무를 이행하지 않은 것으로 간주될 경우, 앞선 글에서 정리한 시정명령과 과태료 부과 절차가 적용될 수 있다.
시리즈를 마무리하며
세 편에 걸쳐 다룬 AI기본법 개정 시행령의 핵심은 결국 하나로 요약된다. AI가 만든 결과물이 서비스 화면 밖으로 나가 사람들과 만나는 지점에서, 그것이 AI로 만들어졌다는 사실을 상대가 알 수 있어야 한다는 것이다. 일반 생성물은 비교적 느슨한 방식으로, 실제와 구분이 어려운 딥페이크는 훨씬 엄격한 방식으로 이 원칙을 지키도록 요구받는다.
다만 이 시리즈에서 다룬 내용은 시행 초기 시점의 정부 지침과 언론 보도를 기준으로 정리한 것이며, 세부 유권해석이나 고시는 계속 보완될 수 있다. 실제 사업에 AI 생성물을 활용하고 있다면, 이 글을 참고 자료로 삼되 최종 판단은 소관 부처(과학기술정보통신부)의 최신 공지나 전문가 상담을 통해 확인하는 것을 권장한다.
참고 자료: 안전저널(정부 ‘인공지능 투명성 확보 안내 지침’ 발표 보도), 헬프미 블로그(2026년 2월 12일), 법률사무소 번화 칼럼(2026년 6월 17일) 등 종합. 딥페이크 판단 기준의 세부 사례는 아직 명확한 유권해석이 축적되지 않은 영역으로, 이 글의 분류는 참고용이며 법적 판단의 근거로 사용해서는 안 된다.
