미국 미네소타주에서 인물 사진을 나체 이미지처럼 변형하는 이른바 ‘누디파이(nudify)’ 앱을 금지하는 조치가 예정대로 시행된다. 일론 머스크가 세운 인공지능(AI) 기업 엑스AI(xAI)가 효력 정지를 요구하며 소송을 제기했지만, 법원이 이를 받아들이지 않은 것이다.

2일(현지시간) 테크전문매체 보도에 따르면, 미네소타주 법원은 엑스AI가 신청한 주(州) 차원의 ‘누디파이’ 앱 금지법 집행 정지 요청을 기각했다. 이로써 미네소타주 의회가 통과시킨 관련 제한 규정은 당초 일정에 따라 시행될 수 있는 길이 열렸다. 법원은 가처분을 허용할 경우 공익에 미치는 영향을 고려해야 한다며 주정부 손을 들어준 것으로 전해졌다.

이번 사건의 직접적인 쟁점은 생성형 AI 기술을 활용해 기존 사진 속 인물을 옷을 벗은 것처럼 보이게 만드는 애플리케이션을 어디까지 허용할 것인지에 대한 문제다. 미국에서는 딥페이크(deepfake) 포르노 등 비동의 성적 이미지 유포가 사회 문제로 부상하면서 여러 주에서 규제 입법이 잇따르고 있다. 미네소타주의 조치는 이러한 흐름 속에서 나온 조기 대응 조치로 해석된다.

엑스AI, 표현의 자유 침해 주장하며 소송 제기

엑스AI는 미네소타주가 도입한 ‘누디파이’ 앱 금지가 자사 서비스와 기술 활용에 과도한 제약을 준다고 보고 소송을 제기한 것으로 알려졌다. 소장에서 엑스AI 측은 주법이 모호하고 광범위해 합법적인 이미지 변환이나 예술·연구 목적 활용까지 위축시킬 소지가 있다고 주장한 것으로 전해진다. 특히 표현의 자유와 혁신 권리를 근거로 들며 법 시행 전 효력을 멈춰 달라는 가처분을 신청했다.

그러나 법원은 현 단계에서는 주정부 규제가 가져올 잠재적 피해보다, 해당 앱을 통해 발생할 수 있는 사생활 침해와 성적 괴롭힘 위험이 더 크다고 판단한 것으로 풀이된다. 미네소타주는 ‘누디파이’ 앱이 실제 피해자를 양산할 수 있고, 온라인상에서 회수·삭제가 사실상 불가능하다는 점을 강조해 왔다. 법원 결정으로 당분간은 주정부 해석에 힘이 실릴 전망이다.

AI 기반 성적 이미지 조작, 미국 전역서 규제 확산

미네소타주의 이번 조치는 미국 여러 주에서 이어지는 생성형 AI 규제 흐름과 맞물린다. 최근 몇 년 사이 인물 사진을 성적 이미지로 변형하는 서비스가 일반 스마트폰 앱과 웹서비스 형태로 빠르게 확산됐다. 이 가운데에는 실제 인물 동의 없이 사진을 활용해 가짜 나체 이미지를 만들어 유포하는 사례가 다수 보고됐다. 피해자는 청소년과 일반인, 공인 등 특정되지 않고 광범위하게 나타나고 있다.

이 같은 상황에서 주정부와 연방 차원의 입법 논의도 활발해졌다. 일부 주에서는 딥페이크 포르노 제작·유포를 별도의 범죄로 규정하고 형사 처벌을 강화하는 법안을 추진하거나 이미 시행 중이다. 법률가들은 누디파이 앱이 표현의 자유 영역을 넘어 타인의 인격권과 초상권을 심각하게 침해하는 행위로 이어질 수 있다고 지적해 왔다. 미네소타주 법원의 이번 판단도 이러한 흐름과 궤를 같이하는 것으로 해석된다.

업계 “규제 불확실성 확대” 우려도

업계에서는 미네소타주 결정이 AI 이미지·영상 편집 서비스 전반에 대한 규제 불확실성을 키울 수 있다는 우려도 제기된다. 누디파이 앱을 겨냥한 조치라고 하더라도 법 조문 해석에 따라 합성 필터, 스타일 변환 등 일반적인 이미지 편집 기능이 어디까지 허용되는지 경계가 모호해질 수 있어서다. 특히 엑스AI처럼 범용 AI 플랫폼을 운영하는 사업자는 주별로 상이한 규제를 모두 충족해야 하는 부담을 안게 된다.

전문가들은 다만, 현재 논의의 핵심은 기술 자체보다는 ‘피해 발생 가능성이 높은 특정 용도’라는 점을 강조한다. 의회와 규제당국은 대체로 비동의 성적 이미지 생성, 스토킹·갈취 목적 활용 등 명확한 위해 행위에 초점을 맞추고 있다. 이런 점에서 누디파이 앱에 대한 규제는 AI 산업 전반에 대한 포괄적 규제와는 다른 성격이라는 분석도 함께 나온다.

왜 중요한가

이번 미네소타주 판결은 생성형 AI 시대에 표현의 자유와 인격권 보호 사이 경계선을 어디에 그을지에 대한 첫 사례 중 하나로 꼽힌다. 기술 기업이 주정부를 상대로 직접 소송을 제기했음에도, 법원이 공익과 피해 예방 논리를 들어 규제 유지에 손을 들어줬다는 점에서 상징성이 크다. 미국 내 다른 주와 국가들도 향후 유사한 법안을 마련할 때 이번 판례를 참고할 가능성이 높다.

한국에서도 AI 기반 이미지 합성·딥페이크 규제 논의가 진행 중인 만큼, 미네소타주의 경험은 정책 설계와 기술 가이드라인 마련에 참고가 될 수 있다. 업계에서는 이용자 보호와 혁신 촉진을 동시에 만족시키는 세밀한 규제 설계가 필요하다는 지적이 이어진다. 생성형 AI를 둘러싼 법·제도 논쟁은 당분간 미국과 각국에서 계속될 것으로 전망된다.

#xAI#미네소타#누디파이#생성형AI#딥페이크규제

출처: TechCrunch AI · 이 기사는 AIAD 기자가 원문 보도를 참고해 재구성했습니다.