현재 클릭 추적 챗GPT의 달리3 이미지에는 콘텐츠 추적 기술이 적용되고 있는 걸 아시나요? EU와 미국은 이미 AI 콘텐츠에 대한 표시를 의무화했고, 우리나라도 올해 안으로 추진 중에 있습니다.​오늘은 AI 콘텐츠를 표시하기 위한 대표적인 기술인 C2PA와 디지털 워터마크에 대해 알아보고, 각 나라별로 AI 표시제를 어떻게 도입하고 있는지 그 현황에 대해 살펴보겠습니다.​​C2PA 정의 및 사례1. C2PA란?​C2PA는 Coalition for Content Provenance and Authenticity의 약자로, '콘텐츠 출처와 신뢰성을 위한 연합'을 말합니다. 이 연합에서는 디지털 콘텐츠의 출처와 진위 확인을 위한 메타데이터의 표준을 제공하여 사용자가 출처를 쉽게 확인할 수 클릭 추적 있게 돕고 있습니다. 여기서 메타데이터는 콘텐츠 저장 시 함께 저장되는 '출처, 제작자, 제작일, 위치 등의 정보'를 말합니다.​현재 Adobe, MS, Truepic, BBC 등 여러 기업이 참여하고 있으며, 이미지, 동영상, 오디오 파일 등 다양한 형식에 적용되고 있습니다. 특히 디지털 뉴스에 적용하여 콘텐츠 조작과 딥페이크로부터 사용자를 보호하는데 중요한 역할을 하고 있습니다.​​2. C2PA 검증 사이트​▶ Content Credentials Verify​위 사이트에 들어가서 파일을 업로드하면, 다음과 같이 해당 파일의 출처와 메타데이터를 확인할 수 있습니다.​​3. Adobe: 포토샵에 적용된 C2PA​Adobe는 C2PA의 창립 멤버 중 하나로, C2PA를 적극적으로 도입하고 클릭 추적 있는 회사입니다.​아래 왼쪽 이미지처럼 포토샵에서 작업한 이미지를 'Contents Credentials'가 포함되도록 저장하면, 오른쪽처럼 C2PA 아이콘과 함께 저장됩니다.(좌) 포토샵 툴 (우) 완성된 이미지​느낌표(!) 아이콘을 클릭하면 이 이미지의 출처를 볼 수 있는 사이트로 이동합니다. 사이트에서는 이미지의 History를 볼 수 있는 목록이 보이고, 이를 통해 해당 이미지의 출처를 확인할 수 있습니다.​또한 다음과 같이 원본 이미지와 포토샵으로 작업한 이미지를 비교해서 볼 수도 있습니다.​C2PA 마크를 확인하고, 원본과 비교하는 과정은 아래와 같습니다.​​4. 오픈AI: 달리3에 포함된 C2PA​달리3에서 생성한 이미지를 이 사이트에 넣어보면 다음과 같은 이미지 메타 정보를 클릭 추적 볼 수 있습니다.​C2PA가 적용되면 메타데이터의 정보가 추가되기 때문에 다음과 같이 파일 크기가 증가됩니다.​API를 통한 PNG: 3% 증가AP를 통한 WebP: 5% 증가챗GPT를 통한 WebP: 32% 증가​이미지 품질에는 영향을 주지 않지만, 이미지가 타 사이트에 업로드되거나 스크린샷으로 저장되면 메타데이터가 제거될 수 있습니다.​​워터마크 및 AI 콘텐츠 표시 현황1. 디지털 워터마크란?​디지털 워터마크(Digital Watermark)는 디지털 파일에 사람이 인지하기 어려운 형태로 식별 정보를 삽입하는 기술을 말합니다.​위의 이미지처럼 원본 사진에 보이지 않게 워터마크를 삽입하는데, 워터마크에는 저작권 정보와 제작자, 생성일 등의 메타데이터를 포함합니다. 워터마크는 C2PA와는 다르게 이미지의 자르기, 클릭 추적 압축, 암호화, 편집 등으로 변형되어도 메타데이터가 그대로 유지됩니다.​​2. EU: AI 콘텐츠 표시, DSA법​유럽연합(EU)은 2023년 8월, AI 생성 콘텐츠에 별도 표시를 넣도록 하는 디지털 서비스법(DSA)을 만들었습니다. 2024년 2월 17일부터는 EU의 모든 대규모 온라인 플랫폼에 이를 적용했고, 중소기업은 12개월의 유예기간을 주었습니다. ​DSA의 주요 내용은 다음과 같습니다.​불법 콘텐츠, 상품, 서비스의 거래 및 생산 차단민감한 개인정보를 이용한 타겟 광고 금지콘텐츠의 알고리즘 제공: 사용자가 특정 광고나 게시물을 보게 된 알고리즘을 알려 줌​한편에서는 경쟁력이 낮은 유럽 플랫폼 기업을 육성하고 미국의 진출을 억제하기 위한 숨은 목적이 클릭 추적 있다고도 하는데요, DSA에 관련한 자세한 내용은 ▶ 여기 링크를 참고하세요.​​3. 미국: AI 표시 의무​유명한 딥페이크 사진인 트럼프 구속 사진과 펜타곤 폭격 사진 등의 가짜 뉴스가 확산되면서, 미국 행정부는 2023년 10월, 행정명령을 통해 AI 생성 자료에 워터마크 등을 표기해야 하는 표준안을 발의했고, 조 바이든 대통령이 이에 서명했습니다.(좌) 트럼프 구속 사진 (우) 펜타곤 폭격 사진​현재 오픈AI, MS, Adobe는 위에서 살펴본 C2PA를 적용 중이고, 메타도 인스타그램과 페이스북, 스레드의 AI 생성 이미지에 꼬리표(AI 라벨)를 적용하고 있습니다.​구글은 딥마인드의 'SythID'기반 워터마크를 적용했는데, 메타데이터가 아니라 이미지 클릭 추적 자체에 워터마크가 입히기 때문에 제거가 어렵다는 특징이 있습니다.구글의 SythID 적용 이미지​​4. 한국: 워터마크 의무화 추진 중​2024년 5월, 한국 정부는 딥페이크 가짜 뉴스를 대응하기 위해 AI 생성물에 워터마크 표시를 의무화하기로 하였고, 현재 관련 법령의 제·개정을 추진 중에 있습니다. 또한 AI 안전성을 검증/연구하는 전담조직도 설치해 운영할 계획입니다.​현재 정부는 디지털 자산에 대한 '8대 핵심 과제'를 진행 중에 있고, 워터마크 내용(2번)도 포함됐습니다.디지털 관련 '정부의 8대 핵심과제 및 12대 정책 과제'​위의 8대 핵심 과제 중 아래 4개는 올해 안으로 추진할 예정이라고 하는데요, 워터마크 등의 클릭 추적 도입이 9~10월이라고 하니 얼마 남지 않은 것 같습니다.​1. AI 안전·신뢰·윤리 확보: 5~6월5. 디지털 접근성 제고: 7~8월​2. 딥페이크를 활용한 가짜 뉴스 대응: 9~10월6. 비대면 진료의 안정적 시행: 11~12월​오늘은 AI 표시와 추적에 대한 기술인 C2PA와 워터마크에 대해 알아봤고, 각 나라별로 AI 표시제 도입 현황에 대해 살펴봤습니다.​AI 표시뿐만 아니라 AI 저작권도 요즘 계속 논의되고 있는 주제인데요, AI 저작권의 인정 사례를 분석한 다음 글도 같이 참고해 주세요.내가 만든 AI 이미지나 영상, 음악은 어디까지 저작권이 인정될까? AI가 만들어내는 결과물들을 보며 ...​이상 구름나무였습니다~~! ^^​