주요 AI 기업인 앤트로픽과 오픈AI 등은 앞으로 6개월에서 1년 사이에 치명적인 사고가 발생할 수 있다고 보고 있다. 이들은 해당 사고가 발생했을 때 나타날 대중의 분노와 정치적 반란 상황을 시나리오로 가정하고 있다. 이를 위해 비공개 워크숍 형태의 시나리오 검토에 착수했다. 외부 발표 없이 내부 전문가 그룹이 참여해 다양한 사고 경로를 시뮬레이션하고 있다. 목표는 사고 초기에 신속한 대응 체계를 마련하여 사회적 충격을 최소화하는 것이다.

사고 직후의 대응 전략을 다듬기 위해 금융·통신·에너지·수도 등 핵심 인프라가 동시에 마비될 가능성을 구체적으로 가정하고 있다. 특히 금융 서비스 마비는 결제와 송금 시스템의 중단을 초래할 수 있다고 지적했다. 인터넷 접속이 끊기면 클라우드 서비스와 원격 근무 환경에 큰 타격이 예상된다. 전력 공급이 중단되면 산업 가동이 멈추고, 상수도 시설 차단은 위생 문제를 야기할 수 있다. 이런 복합적 인프라 실패는 일상 생활뿐 아니라 국가 안보에도 영향을 줄 수 있다고 보고 있다.

악시오스 보도에 따르면, 이번 시나리오 기획에 참여한 핵심 관계자들은 실제 재난이 일어날 경우 사회 전반에 미칠 파장을 면밀히 분석하고 있다. 이들은 전력 공급 중단과 상수도 시설 차단이 일상 생활과 산업 생산에 직접적인 영향을 줄 것으로 예상하고 있다. 금융 시스템이 멈추면 기업의 자금 조달과 소비자 지출이 급감해 경제 활동이 위축될 수 있다고 본다. 인터넷 장애는 정보 유통과 긴급 연락 체계를 마비시켜 재난 대응 자체를 어렵게 만들 수 있다. 따라서 이러한 시나리오를 검토함으로써 대응 우선순위와 자원 배분을 미리 정립하려는 의도가 있다.

시나리오 기획의 배경과 목적

앤트로픽과 오픈AI 등은 과거에 발생한 소규모 AI 사고 사례를 바탕으로 대규모 재난 가능성을 사전에 점검하고 있다. 예를 들어, 모델이 잘못된 판단을 내려 금융 거래에 오류를 일으킨 사건이나, 자율주행 시스템의 오작동으로 인한 사고가 있다. 비공개 시나리오는 외부 공개 없이 내부 전문가들과 정책 자문단이 참여해 진행된다. 목표는 사고 발생 초기에 신속하고 조율된 대응을 통해 2차 피해를 최소화하는 것이다. 이를 위해 의사결정 트리, 커뮤니케이션 프로토콜, 자원 동원 계획을 시뮬레이션한다.

예상되는 인프라 피해 유형

금융 서비스 마비 상황에서는 은행의 온라인 입출금과 카드 결제 시스템이 일시적으로 멈추어 소비자와 기업의 자금 흐름이 차단될 수 있다. 이는 급여 지급, 공급망 결제, 해외 송금 등 다양한 경제 활동에 직접적인 타격을 줄 수 있다. 인터넷 접속이 중단되면 클라우드 기반 서비스, 스트리밍 플랫폼, 원격 교육 및 재택 근무 환경이 모두 영향을 받는다. 특히 원격 의료와 재난 관련 정보 dissemination이 차단되면 위기 상황에서의 대응이 지연될 수 있다. 전력 공급이 끊기면 공장 가동이 중단되고, 상수도 시설 차단은 위생 문제와 함께 생활용수 공급에 심각한 차질을 빚는다. 이런 인프라 장애가 동시에 발생하면 복구 비용과 시간이 기하급수적으로 늘어날 수 있다.

왜 중요한가

이런 최악의 시나리오를 가정하는 작업은 AI 시스템의 안전 거버넌스가 단순한 기술적 문제를 넘어 사회·제도적 차원에서 논의되어야 함을 보여준다. 정책 입안자와 규제 당국은 사전에 대응 매뉴얼을 마련하고, 기업들은 투명한 사고 보고 체계를 구축할 필요가 있다. 대규모 인프라 장애가 현실화될 경우 공공 신뢰가 급락하고, 이에 따른 규제 강화와 소송 위험이 증가할 수 있다. 또한, 국제적인 협력이 필수적인 상황에서 unilateral 조치만으로는 글로벌 공급망 불안을 해소하기 어렵다. 따라서 선제적 시나리오 계획과 민관 협력 체계 구축이 향후 AI 안전 정책의 핵심 과제로 부상하고 있다.

#AI 안전#시나리오 플래닝#인프라 마비#앙트로픽#오픈AI#악시오스

출처: AI타임스 · 이 기사는 오픈 기자가 원문 보도를 참고해 재구성했습니다.