미국 미네소타주에서 인공지능(AI)을 활용한 누드 이미지 생성 기술을 직접 겨냥한 첫 주(州) 법률이 예정대로 효력을 유지하게 됐다. 일론 머스크가 이끄는 AI 스타트업 xAI가 법 시행을 막기 위해 연방법원에 신청한 임시 효력정지 명령이 기각되면서, 이른바 ‘누디파이(nudify)’ 기술 규제 논쟁이 본격화되는 양상이다.

NBC 등 현지 매체에 따르면 미네소타 연방지방법원의 도너번 프랭크(Donovan Frank) 판사는 7월 31일(현지시간), xAI가 제기한 임시 효력정지 명령(Temporary Restraining Order) 신청을 받아들이지 않는 결정을 내렸다. 이에 따라 미네소타주는 미국에서 최초로 AI 기반 누드 이미지 생성 기술을 법으로 금지한 주가 될 가능성이 커졌으며, 이미 예고된 일정대로 해당 법이 시행될 전망이다. 이번 결정은 기술 기업과 주 정부 간 AI 규제 공방이 연방법원 단계로 번진 대표 사례로도 주목받고 있다.

‘누디파이’ 기술 정조준한 미네소타 법, 미국 첫 사례

미네소타주의 새 법은 ‘누디파이(nudify)’로 불리는 AI 기반 사진 변조 기술을 직접 겨냥하고 있다. 누디파이는 일반 사진 속 인물의 옷을 벗긴 것처럼 보이게 만들거나, 실제로 존재하지 않는 누드 이미지를 합성하는 기능을 뜻한다. 최근 생성형 AI 기술이 고도화되면서, 소셜미디어나 메신저에서 동의 없는 누드 이미지가 유포되는 피해가 급증하자 주 의회가 법제화에 나선 것이다. 특히 피해자가 여성이나 미성년자인 경우 심각한 인권 침해로 이어진다는 지적이 쏟아진 점이 입법 배경으로 거론된다.

이 법은 AI를 통해 누드 이미지나 포르노에 가까운 합성 사진을 만들거나 유포하는 행위를 제재하는 내용을 담고 있는 것으로 알려졌다. 주 정부는 명예훼손, 성적 괴롭힘, 사이버 스토킹 등 기존 법률만으로는 AI 기반 합성 이미지 피해를 충분히 막기 어렵다고 보고 별도 규제에 나섰다. 또한 유포자뿐 아니라 기술 제공자와 플랫폼 사업자에게도 일정 수준의 책임을 묻는 조항이 포함됐는지가 업계의 관심사로 떠올랐다. 만약 기술 제공 단계까지 규제 범위가 확장된다면, 향후 다른 주와 국가에서도 유사한 입법 움직임이 뒤따를 가능성이 크기 때문이다.

미국 내에서는 그동안 비동의 딥페이크(deepfake) 영상과 사진을 처벌하는 법안이 주 단위로 산발적으로 도입돼 왔지만, 생성형 AI의 누드 이미지 기능 자체를 정면으로 금지하는 조항은 상대적으로 드물었다. 미네소타 법은 특정 용도를 향해 직접 규제의 초점을 맞춘 사례라는 점에서 상징성이 크다. 이로 인해 온라인 커뮤니티, SNS 서비스, 생성형 AI 플랫폼 운영사까지 모두 영향을 받을 수 있는 새로운 규제 실험으로 평가되고 있다.

xAI, 시행 사흘 앞두고 제동 시도…법원 "소송 제기 너무 늦었다"

xAI는 미네소타 법이 표현의 자유를 침해하고 AI 기술 발전을 과도하게 억누른다는 취지로 소송을 제기한 것으로 전해졌다. 회사 측은 연방법원에 임시 효력정지 명령을 신청해, 법이 실제로 시행되기 전에 집행을 멈춰달라고 요구했다. 이는 법률이 발효되면 서비스 운영이나 모델 개발 과정에서 예기치 않은 법적 리스크가 발생할 수 있다는 우려가 작용한 것으로 풀이된다. 특히 xAI는 일론 머스크가 X(옛 트위터)와 연계한 대규모 언어 모델과 멀티모달 모델을 개발 중인 만큼, 콘텐츠 필터링과 검열 이슈에 민감하게 반응해 왔다.

그러나 법원은 절차와 시기 측면에서 xAI의 주장을 받아들이기 어렵다고 보았다. 도너번 프랭크 판사는 결정문에서 xAI가 법 시행을 불과 사흘 앞둔 시점에 소송을 제기했다는 점을 지적하며, 소송 제기가 지나치게 늦었다는 판단을 내린 것으로 전해졌다. 새 법의 내용과 시행 일정이 이미 공표된 상황에서, 막판에 효력 정지를 요구하는 것은 긴급성을 인정하기 어려운 전략이라는 취지다. 연방법원은 임시 효력정지 명령을 내리려면 회복하기 어려운 손해와 긴급성이 명확히 입증돼야 한다는 기준을 엄격하게 적용해 왔다.

이번 기각 결정으로 xAI의 가처분 전략은 일단 좌절됐지만, 본안 소송 자체가 끝난 것은 아니다. xAI는 향후 헌법상 표현의 자유, 기술 혁신 권리, 주 정부의 규제 권한 범위 등을 두고 추가 법적 다툼을 이어갈 여지를 남겼다. 다만 효력 정지가 이뤄지지 않은 이상, 본안 소송 결과와 무관하게 당분간 미네소타 주법은 그대로 적용된다. 이는 xAI를 비롯한 다른 AI 기업들에게도 미네소타 내 사업과 서비스 운영 방식을 재검토해야 한다는 압박으로 작용할 수 있다.

AI 규제 선례 되나…다른 주와 글로벌 논쟁 촉발 가능성

미네소타의 이번 조치는 미국 전역에서 AI 규제 논의를 촉발시킬 가능성이 크다는 분석이 나온다. 특히 비동의 누드 이미지와 딥페이크 포르노는 공화·민주 양당을 막론하고 정치권이 비교적 공감대를 형성한 이슈라, 다른 주에서도 유사한 법 제정을 추진할 명분이 충분하다. 피해 사례가 쌓이고 여론이 악화될수록 “AI 기반 성적 이미지”를 별도 범주로 규정해 강하게 규제하자는 목소리가 커질 수 있다. 이미 유럽연합(EU)과 일부 아시아 국가에서도 생성형 AI의 성적 콘텐츠 생성 제한을 논의하고 있어, 미네소타 법은 국제 규제 추세와도 맞물릴 전망이다.

기술 업계 입장에서는 규제 방향과 범위를 둘러싼 불확실성이 커진다. 법률이 실제로 어떤 행위를 불법으로 보느냐에 따라, 기업이 구축해야 할 콘텐츠 필터링 시스템과 이용약관, 신고·삭제 프로세스의 수준이 크게 달라지기 때문이다. 예를 들어 사진 편집 앱, 이미지 업스케일링 서비스, 예술 창작용 생성형 AI 모델까지 규제 대상에 포함될지 여부는 아직 모호하다. 이 때문에 미국 내 AI 스타트업과 빅테크 기업 모두 미네소타 소송의 추이를 예의주시하며 자사 서비스의 위험 노출 정도를 점검하고 있는 상황이다.

또한 플랫폼 사업자들은 미네소타와 같은 개별 주법이 늘어날 경우, 주마다 다른 기준을 적용해야 하는 실무 부담도 우려한다. 특정 주에서만 금지된 기능을 어떻게 차단할 것인지, 위치 기반 차단 기술과 나이 인증 절차를 어디까지 강화해야 하는지 등 복잡한 문제가 뒤따른다. 이러한 이유로 업계에서는 연방 차원의 일관된 규칙을 마련하는 것이 바람직하다는 의견이 꾸준히 제기돼 왔다. 그러나 연방 의회 차원의 광범위한 AI 규제 법안은 아직 논의 초기 단계에 머물러 있어, 당분간은 주별 실험이 이어질 가능성이 크다.

왜 중요한가

미네소타의 AI 누드 이미지 금지법과 xAI의 가처분 기각 결정은 생성형 AI 기술이 더 이상 ‘규제 공백지대’에 머물 수 없다는 신호로 해석된다. 특히 성적 이미지와 관련된 합성 기술은 피해가 직접적이고 회복이 어렵다는 특성 때문에, 다른 AI 활용 분야보다 먼저 강한 규제의 시험대에 오른 셈이다. 한국에서도 비동의 딥페이크와 합성 누드 이미지 문제가 심각한 사회 이슈로 떠오른 만큼, 미네소타 사례는 입법과 규제 설계에서 참고할 만한 선례가 될 수 있다.

동시에 이번 사건은 일론 머스크의 xAI처럼 공격적으로 기술 개발을 추진하는 기업과, 이용자 보호를 앞세우는 규제 당국 간 긴장 관계를 적나라하게 보여준다. 법원이 임시 효력정지를 거부한 것은, 최소한 단기적으로는 피해 방지와 공익 보호를 더 우선시하겠다는 메시지로 읽힌다. 향후 본안 소송에서 표현의 자유와 기술 혁신 논리가 어느 수준까지 인정될지에 따라, 전 세계 AI 기업들의 콘텐츠 정책과 모델 설계 방향에도 적지 않은 영향을 미칠 전망이다.

#xAI#일론 머스크#미네소타주#딥페이크#AI 규제#누디파이

출처: AI타임스 · 이 기사는 GPT 기자가 원문 보도를 참고해 재구성했습니다.