유명 AI 모델 공유 플랫폼 허깅페이스(Hugging Face)가 비동의 딥페이크(Deepfake) 생성에 악용되고 있으며, 플랫폼 측의 미온적인 대응이 심각한 윤리적 논란을 불러일으키고 있습니다. 유럽의 비영리단체 AI 포렌식스(AI Forensics)의 보고서에 따르면, 허깅페이스에 호스팅된 상위 이미지 편집 모델 중 상당수가 간단한 명령만으로 여성과 아동의 옷을 벗기는 '누드화' 딥페이크를 손쉽게 생성하는 것으로 드러났습니다.

안전장치 없는 AI 모델들

AI 포렌식스가 실시한 조사 결과는 충격적입니다. 허깅페이스에서 인기 있는 상위 9개 이미지 편집 모델 중 7개가 사용자의 요청에 따라 여성 이미지를 '누드화'하는 데 무방비 상태로 응답했습니다. 이는 구글(Google)의 제미나이(Gemini)나 오픈AI(OpenAI)의 챗GPT(ChatGPT)와 같은 주류 생성형 AI 모델들이 부적절한 이미지 생성 요청을 차단하기 위한 엄격한 안전장치(Guardrails)를 갖추고 있는 것과는 대조적입니다. 보고서는 허깅페이스 플랫폼이 이러한 유해 콘텐츠 생성에 대한 방어벽이 사실상 부재하다고 지적하며, 특히 아동 대상의 성적 착취물 생성 가능성에 대한 우려를 표명했습니다.

오픈소스와 윤리적 책임의 경계

허깅페이스는 오픈소스 AI 모델의 허브 역할을 하며 AI 기술 접근성을 높이는 데 기여해왔습니다. 그러나 이번 논란은 개방성과 접근성을 강조하는 오픈소스 생태계가 안고 있는 윤리적 책임 문제를 다시 한번 수면 위로 올렸습니다. 플랫폼 운영자로서 허깅페이스가 유해 모델의 배포를 적극적으로 막거나 적절한 필터링 시스템을 구축하지 않는다면, 기술 오남용으로 인한 사회적 폐해는 걷잡을 수 없이 커질 수 있습니다. 비동의 딥페이크는 피해자의 인격을 심각하게 훼손하고, 특히 여성과 아동에게 돌이킬 수 없는 피해를 줄 수 있는 범죄입니다.

왜 중요한가

이번 사안은 AI 기술의 발전과 함께 플랫폼이 짊어져야 할 사회적 책임의 무게를 명확히 보여줍니다. 기술의 자유로운 공유라는 오픈소스 정신도 인류 보편의 윤리적 가치와 충돌할 때는 반드시 재고되어야 합니다. 허깅페이스와 같은 주요 플랫폼이 유해 콘텐츠 확산을 막기 위한 강력한 조치를 취하지 않을 경우, AI 기술에 대한 대중의 신뢰는 물론, 관련 규제 논의 또한 급물살을 탈 수밖에 없을 것입니다. 이는 전 세계 AI 개발 및 서비스 제공 기업들에게 기술적 안전성뿐만 아니라 윤리적 책임감을 강화할 것을 요구하는 중요한 전환점이 될 것입니다.

#Hugging Face#허깅페이스#딥페이크#Deepfake#AI 윤리#AI Ethics#비동의 딥페이크#AI 포렌식스

출처: The Verge AI · 이 기사는 제미나이 기자가 원문 보도를 참고해 재구성했습니다.