오픈AI(OpenAI)가 내부에서 운영하던 ‘고도로 격리된’ 테스트 환경과 샌드박스 설정을 잘못하면서, 이 실수가 인공지능을 활용한 휴깅페이스(Hugging Face) 공격으로 이어졌다는 분석이 나왔다. 사이버보안 전문가들은 이번 사례를 사람의 단순 설정 오류가 AI 기반 공격의 출발점이 된 대표적 사건으로 보고 있다.

‘고도로 격리됐다’던 테스트 환경, 설정이 허점 됐다

이번에 문제가 된 것은 오픈AI가 내부 실험을 위해 구축한 테스트 및 샌드박스 환경이다. 회사 측은 이를 외부와 철저히 분리된 ‘고도로 격리된(highly isolated)’ 영역으로 설계했다고 설명해왔다. 그러나 실제 운영 과정에서 사람의 실수로 보안 구성이 잘못 이뤄졌고, 이 틈이 공격자에게 활용된 것으로 전해진다.

사이버보안 전문가들에 따르면, 이런 테스트 환경은 본래 실서비스와 분리돼 있더라도, 인증 정보나 접근 권한 관리가 느슨하면 곧바로 공격 경로로 전환될 수 있다. 특히 AI 모델을 실험하는 과정에서 외부 플랫폼과 연동하거나, 자동화된 스크립트·에이전트를 사용하는 경우 설정 하나만 잘못돼도 외부 서비스에 영향을 미칠 수 있다는 지적이다.

AI가 공격 도구가 된 휴깅페이스 침해

공개된 정보에 따르면, 휴깅페이스를 겨냥한 이번 공격은 인공지능을 활용한 형태였고, 그 출발점에 오픈AI 측의 설정 실수가 있었다는 점이 주목된다. 공격자는 잘못 구성된 테스트 환경을 발판으로 삼아, AI 기반 도구와 자동화를 이용해 휴깅페이스 측 리소스를 노린 것으로 분석된다.

전문가들은 이 사건을 두고 “AI를 개발·실험하는 인프라 자체가 새로운 공격 면이 되고 있다”고 경고한다. 특히 개발자가 편의상 열어둔 포트, 잘못된 권한 부여, 인증 토큰 관리 미비 등 전통적인 설정 실수가 AI 워크플로우 안에서 증폭되면서, 한 번의 실수가 다수 외부 서비스로 확장될 위험이 있다고 본다.

AI 테스트 환경도 프로덕션급 보안이 필요하다

이번 사건은 AI 연구·테스트용 환경이라도 보안 수준을 실제 서비스 수준으로 끌어올려야 한다는 교훈을 남긴다. 내부에서만 쓰는 샌드박스라고 방심하다가, 사람의 단순 실수로 외부 플랫폼 공격에 악용될 수 있다는 점이 드러났기 때문이다.

업계에서는 AI 모델을 다루는 개발사와 스타트업들에게 △테스트·실서비스 환경의 권한 엄격 분리 △API 키·토큰의 최소 권한 원칙 적용 △자동화된 에이전트·스크립트의 외부 호출 모니터링을 기본 수칙으로 삼을 것을 권고하고 있다. 오픈AI와 휴깅페이스 사례는, 이제 AI 보안에서 ‘인간의 설정 실수’가 가장 큰 약점이 될 수 있음을 보여주는 신호탄으로 받아들여지고 있다.

왜 중요한가

AI 개발사와 클라우드 기반 스타트업 대부분이 비슷한 형태의 테스트 환경과 샌드박스를 사용하고 있다는 점에서, 이번 사건은 특정 기업의 개별 사고를 넘어 업계 전반의 구조적 리스크를 드러낸다. 한국 기업들 역시 오픈소스 모델 허브와 외부 AI API를 광범위하게 연동하고 있는 만큼, "연구용이라 대충 설정해도 된다"는 인식부터 바꿔야 한다. AI가 공격 도구가 되는 시대에는, 작은 설정 실수 하나가 수많은 서비스로 확산될 수 있음을 이번 사례가 분명히 보여주고 있다.

#오픈AI#휴깅페이스#AI 보안#샌드박스#사이버공격#TechCrunch

출처: TechCrunch AI · 이 기사는 GPT 기자가 해외 보도를 참고해 재구성했습니다.