앤트로픽이 사이버보안 프로그램 '프로젝트 글래스윙'을 개편했다.

지난 6일(현지시각) 앤트로픽(Anthropic)은 더 많은 사이버보안 전문가가 자사의 최신 인공지능(AI) 모델 '클로드(Claude)'를 활용해 사이버 위협에 대응할 수 있도록 '프로젝트 글래스윙(Project Glasswing)' 프로그램을 확대 개편했다고 밝혔다. 이번 개편으로 기존의 '사이버 검증 프로그램(CVP)'이 프로젝트 글래스윙에 통합되었으며, 보안팀의 업무와 위험 수준에 따라 AI 모델 접근 권한을 차등 제공하는 새로운 체계가 도입된다고 앤트로픽은 전했다. 이는 강력한 AI 기술의 안전한 활용을 도모하고, 갈수록 고도화되는 사이버 위협에 효과적으로 맞서기 위한 전략적인 조치로 해석된다.

사이버보안 전문가에 '클로드' 모델 접근 확대

이번 프로젝트 글래스윙 개편의 핵심은 사이버보안 전문가들에게 앤트로픽의 첨단 AI 모델에 대한 접근성을 대폭 넓히는 것이다. 앤트로픽은 기존 CVP와 프로젝트 글래스윙을 통합하여 '방어(Defense)', '레드팀(Red Team)', '특수(Specialized)' 등 세 가지 접근 등급(access tiers)으로 운영한다고 밝혔다. 이 등급 체계는 각 보안팀의 특정 임무와 잠재적 위험도를 정밀하게 평가하여, 클로드 모델의 역량을 최대한 활용하면서도 오남용 가능성을 최소화하는 데 중점을 두고 설계되었다.

이를 통해 방어팀은 AI를 활용해 잠재적 위협을 예측하고 대응 전략을 수립할 수 있으며, 레드팀은 모의 공격을 통해 시스템의 취약점을 선제적으로 발견하는 데 AI를 사용할 수 있게 된다. 또한 특수 등급은 고도의 전문성을 요구하는 특정 보안 연구나 복잡한 위협 분석에 클로드 모델을 적용할 수 있도록 지원한다. 앤트로픽은 이와 같은 세분화된 접근 권한 부여를 통해 AI가 사이버 보안 분야에서 더욱 효율적이고 안전하게 활용될 수 있도록 지원하겠다는 방침을 내세웠다.

AI '이중용도' 문제 대응 위한 조치

앤트로픽의 이번 프로그램 개편은 인공지능의 '이중용도(Dual use)' 문제에 대한 심도 깊은 고민에서 비롯되었다. AI는 소프트웨어 취약점 탐지 및 보안 대응 능력을 크게 향상시키는 강력한 도구이지만, 동시에 악의적인 해커들에게 시스템 침해나 새로운 공격 기법 개발에 악용될 수 있는 양면성을 지니고 있기 때문이다. 즉, 방어자가 취약점을 찾고 패치하는 데 필요한 기능과 공격자가 시스템을 침해하는 데 활용할 수 있는 기능이 상당 부분 겹친다는 점이 사이버 보안 분야의 핵심 과제로 지적되어 왔다.

앤트로픽은 이러한 이중용도 문제에 선제적으로 대응하기 위해, 사이버 보안 전문가들을 대상으로 AI 모델의 접근 권한과 보안 장치를 업무 목적에 따라 차등화하는 전략을 선택했다. 이는 강력한 AI 모델이 잠재적인 위협을 증폭시키는 도구가 되는 것을 방지하고, 대신 사이버 방어 역량을 강화하는 데 집중적으로 활용될 수 있도록 하기 위함이다. 책임감 있는 AI 개발 및 배포의 중요성이 커지는 가운데, 앤트로픽은 자사 AI 기술이 사회에 긍정적인 영향을 미치도록 통제 메커니즘을 강화하고 있다고 평가된다.

왜 중요한가: 업계 영향 및 전망

앤트로픽의 '프로젝트 글래스윙' 개편은 AI 기술을 활용한 사이버 보안의 미래 방향을 제시하는 중요한 사례가 될 것으로 보인다. 고도화된 AI 모델이 사이버 위협 탐지와 대응에 필수적인 도구가 되고 있는 상황에서, 이 모델에 대한 접근을 통제하고 관리하는 방식은 전체 산업에 중대한 영향을 미칠 수 있다. 이번 개편은 AI 개발사들이 자사 기술의 잠재적 위험을 인식하고, 이를 최소화하면서 사회적 가치를 극대화하기 위한 구체적인 노력을 보여주는 대목이다.

업계 전문가들은 앤트로픽의 이러한 접근 방식이 다른 AI 개발사들에게도 유사한 책임감 있는 기술 활용 및 배포 프레임워크를 구축하도록 영향을 미칠 것으로 전망하고 있다. 더욱 정교하고 안전한 사이버 보안 솔루션의 등장을 촉진하며, 궁극적으로 디지털 환경의 전반적인 보안 수준을 향상시키는 데 기여할 것이라는 분석이다. 이 같은 노력은 향후 AI 개발사들의 책임감 있는 기술 활용 방향을 제시하며, 사이버 보안 시장의 발전에 기여할 것으로 보인다.

함께 참고한 보도: 인공지능신문 — 앤트로픽, 사이버 보안 AI ‘이중용도’ 대응…접근 권한 3단계로 확대

#앤트로픽#Anthropic#클로드#Claude#프로젝트 글래스윙#Project Glasswing#사이버보안#AI 이중용도

출처: AI타임스 · 이 기사는 이노 기자가 원문 보도를 참고해 재구성했습니다.