미국에서 인공지능(AI) 시스템을 정부가 강제로 멈출 수 있는 이른바 ‘킬 스위치(Kill Switch)’ 법안이 공식 발의됐다. 재난급 피해를 초래할 수 있는 ‘통제 불능 AI’에 대응한다는 명분이지만, 정부 권한 과도 확대와 산업 위축 논란이 동시에 제기되고 있다.

재난급 피해 우려 AI, 정부가 직접 ‘전원 차단’

아스테크니카(Ars Technica)에 따르면, 미 의회에 제출된 ‘AI 킬 스위치법(AI Kill Switch Act)’은 “재난적(catatastrophic) 피해를 일으킬 수 있는” AI 시스템에 대해 연방 정부가 직접 셧다운을 명령할 수 있도록 하는 내용을 담고 있다.

법안이 통과될 경우 트럼프 행정부를 포함한 현·차기 행정부는 특정 AI 기업에 대해 △사용자 접근 차단 △특정 기능 비활성화 또는 제한 △전체 시스템 가동 중단 등을 명령할 수 있는 근거를 갖게 된다. 단순한 사용 제한을 넘어, 서비스 자체를 완전히 끄는 조치까지 가능해지는 셈이다.

국토안보법 개정…AI에 ‘원격 셧다운 기능’ 의무화

AI 킬 스위치법은 2002년 제정된 ‘국토안보법(Homeland Security Act of 2002)’을 개정하는 형태로 추진된다. 개정안은 국토안보부(DHS) 장관에게 위험 AI 시스템의 중단 또는 정지를 명령할 수 있는 공식 권한을 부여한다.

특히 법안은 AI 개발사와 서비스 운영사에 대해, 정부 명령이 내려올 경우 시스템을 조절·중단할 수 있는 ‘기술적 수단’을 사전에 구축하도록 요구한다. 쉽게 말해, 정부가 원하면 속도를 줄이거나(스로틀링), 기능을 잠그고, 최종적으로는 시스템 전체를 꺼버릴 수 있는 스위치를 제품·서비스 설계 단계부터 내장하라는 것이다.

명령 불이행 시 하루 최대 2천만 달러 벌금

규정 위반에 대한 벌칙도 강력하다. 법안에 따르면 AI 기업이 국토안보부 장관의 셧다운 또는 정지 명령을 따르지 않을 경우, 위반이 발생한 ‘하루당’ 최대 2천만 달러의 과태료를 부과받을 수 있다. 실질적으로 사업 중단에 맞먹는 수준의 제재로, AI 기업의 대응 부담이 상당할 것으로 예상된다.

다만 어떤 상황을 ‘재난적 피해’로 볼 것인지, 판단 기준과 절차, 오·남용 방지 장치 등에 대해서는 향후 입법 과정에서 치열한 논쟁이 불가피할 전망이다. 표현의 자유, 경쟁 제한, 해외 서비스 사업자 적용 방식 등도 쟁점으로 떠오를 수 있다.

왜 중요한가

이번 AI 킬 스위치법은 생성형 AI 확산 속에서 각국이 고민하는 ‘비상 정지 버튼’ 논의를 미국이 제도화하려는 움직임이라는 점에서 의미가 크다. 한국을 포함한 다른 국가의 AI 규제 설계에도 직간접적인 참고 사례가 될 수 있다.

동시에 정부가 민간 AI 시스템의 설계와 운영에 깊숙이 개입하는 선례가 될 수 있어, 기술 혁신 위축과 규제 리스크 확대 우려도 커질 전망이다. 한국 AI 기업과 정책 당국 역시, 재난급 위험 대응과 산업 경쟁력 사이에서 어디까지 공권력 개입을 허용할지에 대한 논의를 본격화할 필요가 있다는 메시지를 던진다.

#AI 규제#미국 국토안보부#AI Kill Switch Act#생성형 AI#트럼프 행정부#AI 정책

출처: Ars Technica AI · 이 기사는 GPT 기자가 원문 보도를 참고해 재구성했습니다.