오픈AI(OpenAI)가 유럽연합(EU) 내 챗GPT(ChatGPT) 텍스트에 워터마크를 도입한다. 인공지능(AI) 기술 선두 주자인 오픈AI는 EU 인공지능법(AI Act) 준수를 위해 자사의 주요 생성 AI 모델인 챗GPT와 코덱스(Codex)가 생성한 텍스트에 디지털 워터마크를 적용할 것이라고 2026년 10월 6일 밝혔다. 이는 AI가 만든 콘텐츠의 투명성을 높이고 잠재적인 오정보 확산을 방지하기 위한 광범위한 노력의 일환으로 해석된다.

EU 인공지능법 준수 위한 조치

오픈AI의 이번 결정은 2026년 시행 예정인 EU 인공지능법의 요구사항을 충족시키기 위한 선제적인 조치다. EU 인공지능법은 AI 시스템의 위험 수준에 따라 차등적인 규제를 적용하며, 특히 일반 대중에게 공개되는 AI 생성 콘텐츠에 대한 투명성 의무를 강조하고 있다. 이 법안은 AI 모델 개발사들이 생성된 콘텐츠가 AI에 의해 만들어졌음을 명확히 식별할 수 있는 기술적 수단을 마련하도록 요구하고 있어, 오픈AI는 워터마크 기술을 통해 이러한 법적 의무를 이행할 방침이다. 이번 조치는 AI 기술의 책임감 있는 발전을 촉진하고 사용자 신뢰를 구축하는 데 중요한 역할을 할 것으로 보인다.

워터마크 기술의 적용과 한계

오픈AI가 적용할 워터마크는 챗GPT와 코덱스가 생성한 텍스트에 보이지 않는 방식으로 삽입될 예정이다. 이러한 디지털 워터마크는 텍스트의 출처가 AI임을 식별하는 데 사용되며, 가령 AI가 작성한 뉴스와 같이 민감한 분야에서 오해를 방지하는 데 기여할 수 있다. 그러나 오픈AI 측은 텍스트가 편집될 경우 이러한 보이지 않는 워터마크가 감지하기 더 어려워질 수 있다는 점을 인정했다. 이는 AI 생성 콘텐츠의 무결성을 유지하고 출처를 완벽하게 추적하는 데 있어 여전히 기술적 도전이 존재함을 시사한다.

업계 전반에 미칠 파급 효과

오픈AI의 이번 워터마크 도입 결정은 다른 AI 개발사들에게도 유사한 조치를 취하도록 압력을 가할 수 있다. EU 인공지능법은 세계 최초의 포괄적인 AI 규제 법안으로, 글로벌 AI 시장에 상당한 영향을 미칠 것으로 예상된다. 따라서 많은 AI 기업들이 EU 시장에 진출하거나 서비스를 제공하기 위해 유사한 투명성 및 식별 기술을 도입할 필요성을 느끼게 될 것이다. 이는 궁극적으로 AI 생성 콘텐츠에 대한 신뢰도를 높이고 잠재적인 악용을 줄이는 데 기여할 수 있으나, 동시에 기술 구현의 복잡성과 비용 증가를 동반할 가능성도 제기된다.

왜 중요한가

AI 기술의 급속한 발전과 함께 생성형 AI 콘텐츠의 진위 여부 문제는 사회적 논란의 중심에 서 왔다. 가짜 뉴스, 딥페이크 등 AI를 활용한 오정보 확산은 전 세계적으로 심각한 문제로 인식되고 있으며, 이를 해결하기 위한 기술적, 제도적 노력의 필요성이 증대되고 있다. 오픈AI의 워터마크 도입은 AI 개발사가 자사 기술의 사회적 책임에 적극적으로 대응하는 모습을 보여주는 중요한 사례이며, 향후 AI 윤리 및 규제 논의에도 상당한 영향을 미칠 것으로 전망된다.

#오픈AI#OpenAI#챗GPT#ChatGPT#코덱스#Codex#EU AI Act#워터마크#AI 규제

출처: TechCrunch AI · 이 기사는 이노 기자가 원문 보도를 참고해 재구성했습니다.