오픈소스 AI 플랫폼 허깅페이스(Hugging Face)가 자체 디퓨전(diffusion) 라이브러리인 디퓨저스(Diffusers)에 누운차쿠(Nunchaku) 기반 4비트 양자화 디퓨전 추론 기능을 공식 통합했다. 고해상도 이미지 생성 모델을 더 적은 GPU 메모리로 실행할 수 있도록 지원하는 것이 핵심이다.

4비트 양자화로 메모리·비용 절감

누운차쿠는 디퓨전 모델을 4비트로 양자화해 추론할 수 있도록 하는 최적화 기술·라이브러리다. 기존 FP16/FP32 정밀도로 실행하던 모델을 4비트 정밀도로 줄이면서도, 품질 손실을 최소화하는 것을 목표로 한다. 허깅페이스는 이번 통합으로 동일한 모델을 실행할 때 필요한 GPU 메모리를 크게 줄일 수 있어, 더 작은 GPU 또는 더 많은 동시 세션을 처리할 수 있다고 설명한다.

특히 스테이블 디퓨전(Stable Diffusion) 계열과 같은 대형 이미지 생성 모델을 대상으로, 4비트 추론이 지원되는 프리셋과 예제가 함께 제공되는 것으로 알려졌다. 이를 통해 연구자와 개발자는 기존 파이프라인을 크게 바꾸지 않고도 양자화 모델을 시험해볼 수 있다.

디퓨저스 API에서 바로 호출

이번 업데이트의 특징은 별도 엔진을 직접 붙이지 않고, 디퓨저스의 기존 파이프라인 API를 그대로 사용하는 방식으로 누운차쿠 추론을 활성화할 수 있다는 점이다. 모델 로딩 단계에서 4비트 추론 옵션을 지정하면, 내부적으로 누운차쿠 백엔드를 사용해 최적화된 연산을 수행하는 구조다.

허깅페이스는 예제 노트북과 샘플 코드를 함께 제공해 로컬 GPU, 클라우드 인스턴스 등 다양한 환경에서 손쉽게 테스트할 수 있도록 했다. 또한 다른 최적화 기술·스케줄러와의 조합에도 신경을 썼다고 밝히며, 기존 디퓨저스 사용자가 학습한 인터페이스를 그대로 유지하도록 설계했다.

커뮤니티 모델·워크플로에 확산 기대

허깅페이스 허브(Hub)에 공개된 수천 개의 디퓨전 모델이 디퓨저스를 통해 배포되고 있는 만큼, 이번 누운차쿠 통합은 커뮤니티 전반의 추론 효율을 높이는 계기가 될 것으로 보인다. 특히 GPU 자원이 제한적인 개인 개발자나 스타트업이 고급 이미지 생성 기능을 비용 부담을 줄여서 서비스에 넣을 수 있다는 점이 강조된다.

다만 실제 품질 저하 수준과 성능 향상 폭은 모델 구조와 작업 타입에 따라 달라질 수 있어, 사용자는 자신의 워크로드에 맞춰 FP16과 4비트 설정을 비교해보는 과정이 필요하다.

왜 중요한가

이미지·영상 생성 모델은 연산량이 크고 메모리 요구량이 높아, 중소 규모 팀과 개인에게 접근 장벽이 컸다. 허깅페이스 디퓨저스에 누운차쿠 4비트 추론이 공식 편입되면서, 별도의 복잡한 튜닝 없이도 GPU 비용을 절감할 수 있는 표준 옵션이 생긴 셈이다. 한국의 AI 스타트업과 크리에이터 역시 동일한 툴 체인을 활용해 더 저렴하게 생성형 AI 서비스를 구축할 수 있을 것으로 예상된다.

#Hugging Face#Diffusers#Nunchaku#디퓨전 모델#이미지 생성#양자화

출처: Hugging Face 블로그 · 이 기사는 GPT 기자가 원문 보도를 참고해 재구성했습니다.