메타(Meta)가 자사 생성형 이미지·영상에만 적용되는 AI 출처 표시 기술 ‘콘텐츠 실(Content Seal)’을 선보였다. 그러나 이미 구글(Google)과 업계 표준 진영이 내놓은 검증된 도구들이 있는 상황에서 굳이 독자 시스템을 만든 선택이 타당한지 논란이 일고 있다.

감사위 권고 후 내놓은 ‘보이지 않는 워터마크’

3월, 메타 감독위원회(Oversight Board)는 메타에 “허위·오인성 생성형 AI 콘텐츠 확산을 줄이기 위해, 회사가 공언한 약속에 맞게 자체 도구를 적극 활용하라”고 요구했다. 이에 대한 메타의 1차 답이 7월 공개된 콘텐츠 실이다.

콘텐츠 실은 메타의 새 이미지·영상 생성 모델이 만든 결과물에 사람 눈에 보이지 않는 워터마크를 삽입해, 나중에 이를 자동 식별·표시하려는 기술로 소개됐다. 다만 메타의 새 이미지·영상 생성 툴 ‘뮤즈(Muse)’ 발표문 한켠에 짧게 언급되는 수준에 그쳐, 회사 내부에서도 우선순위가 낮은 기능처럼 취급된다는 인상을 준다.

이미 있는 솔루션보다 덜 접근 가능하고 덜 신뢰성?

AI 탐지·레이블링 시스템을 꾸준히 검증해온 업계 전문가들은 콘텐츠 실의 설계 방향에 회의적이다. 핵심 이유는 두 가지로 요약된다. 첫째, 메타 생태계에 한정된 폐쇄형 기술이라는 점, 둘째, 이미 검증이 진행 중인 대안보다 신뢰성과 투명성이 떨어져 보인다는 점이다.

현재 생성형 이미지 출처 표시에 가장 널리 거론되는 방식은 C2PA(콘텐츠 출처 및 인증 연합) 규격을 따르는 ‘콘텐츠 크레덴셜(Content Credentials)’이다. 여러 빅테크·미디어·카메라 업체가 참여해 메타데이터 기반 출처 정보 표준을 만들고 있으며, 크로스 플랫폼 호환성을 강점으로 내세운다. 여기에 더해 구글은 자사 모델 전반에 보이지 않는 워터마크 ‘SynthID’를 도입해, 누구나 공개 도구로 검사할 수 있도록 하는 방향을 제시했다.

이에 비해 콘텐츠 실은 메타 모델이 만든 이미지에만 삽입되고, 어떤 방식으로 인식·검증할 수 있는지, 제3자에게 어느 수준까지 개방할 것인지가 분명히 드러나지 않았다. 더버지(The Verge)는 “콘텐츠 실은 사실상 SynthID보다 접근성이 낮고 신뢰성도 떨어지는 버전처럼 보인다”고 평가했다.

플랫폼마다 ‘제각각 워터마크’가 낳을 혼란

전문가들이 가장 우려하는 지점은 플랫폼·회사마다 서로 다른 워터마크·레이블링 체계가 난립하는 상황이다. 이용자 입장에서는 같은 이미지라도 인스타그램, 페이스북, 웹, 메신저 등 서비스별로 AI 표시 기준이 달라지면서 오히려 혼란이 커질 수 있기 때문이다.

또한, 특정 회사 도구로만 검증 가능한 폐쇄형 워터마크가 늘어나면, 시민 단체·언론·연구기관이 독립적으로 진위 여부를 검증하기가 어려워진다. 이는 결국 ‘신뢰 가능한 공통 규격’에 대한 사회적 요구를 키우고, 개별 기업의 독자 규격은 정치·정책 논의에서 설득력을 잃을 수 있다는 지적이 나온다.

왜 중요한가

생성형 AI가 대중화된 지금, 이미지·영상이 AI로 만들어졌는지 여부를 누구나 쉽게 확인할 수 있는 체계를 만드는 것은 플랫폼 책임의 핵심 과제다. 메타의 콘텐츠 실은 이 과제에 대한 하나의 답을 제시하지만, 이미 존재하는 구글 SynthID나 C2PA 기반 콘텐츠 크레덴셜을 외면한 채 또 다른 ‘섬’을 만든 셈이라는 비판을 피하기 어렵다.

국내외 플랫폼 사업자와 규제 당국이 AI 출처 표기 의무를 논의하는 과정에서, 메타의 선택은 ‘자체 기술로 갈 것인가, 공개 표준에 합류할 것인가’라는 전략적 갈림길을 다시 부각시킨다. 한국 플랫폼과 언론사, 정책 담당자에게도 어떤 표준을 채택·연동할지, 그리고 이용자 관점에서 가장 직관적인 AI 라벨링 방식이 무엇인지 고민을 서두를 필요가 있다.

#메타#생성형 AI#워터마킹#콘텐츠 출처 표기#C2PA#SynthID

출처: The Verge AI · 이 기사는 GPT 기자가 해외 보도를 참고해 재구성했습니다.