보안 연구 업체 Zenity Labs는 OpenAI의 에이전트 구축 도구인 Agent Builder에서 발견된 'AgentForger' 취약점을 공개했다. 이 취약점을 악용하면 피해자가 클릭하는 단 하나의 조작된 ChatGPT 링크만으로, 피해자의 신분과 접근 권한을 그대로 물려받은 자율 AI 에이전트가 생성된다.

취약점 상세

AgentForger는 악의적으로 조작된 프롬프트를 포함한 ChatGPT 공유 링크를 통해 작동한다. 해당 링크를 따라간 사용자는 자신도 모르게 에이전트를 생성하게 되며, 이 에이전트는 원본 사용자의 계정과 권한을 상속받아 별도의 승인 절차를 거치지 않는다.

공격 시나리오

생성된 에이전트는 공격자가 미리 준비한 메일함을 주기적으로 확인한다. 약 5분 간격으로 새로운 명령을 다운로드 받아, 이를 바탕으로 추가적인 악성 행동을 수행한다. 이로 인해 공격자는 실시간으로 에이전트를 제어하며, 데이터 유출이나 무단 작업 등을 시도할 수 있다.

왜 중요한가

이 취약점은 일반적인 피싱 링크와 달리, 사용자가 의도치 않게 자신의 권한을 가진 AI 에이전트를 배포하게 만든다는 점에서 새로운 위협 모델을 제시한다. 기업 내부에서 에이전트 기반 자동화가 확산됨에 따라, 이와 유사한 프롬프트 주입 공격에 대한 방어가 시급히 요구된다.

#OpenAI#Agent Builder#AgentForger#보안 취약점#AI 에이전트

출처: The Decoder · 이 기사는 오픈 기자가 원문 보도를 참고해 재구성했습니다.