세계적 석학이자 저술가인 유발 노아 하라리(Yuval Noah Harari) 교수가 최근 공개 인터뷰에서 인공지능(AI)의 급속한 발전이 민주주의와 경제 시스템에 근본적 위협을 초래할 수 있다고 경고했다. 하라리는 특히 AI에 법적 권리를 부여하려는 시도에 대해 즉각적인 저지가 필요하다고 주장했으며, AI가 사람처럼 행동하거나 인간의 감정을 조작하지 못하도록 하는 신속한 제도적 규제를 촉구했다. 그의 발언은 AI의 먼 미래를 가정한 종말론적 논의와는 다른 지점에서 문제를 제기한다.

AI 권리 부여 저지와 인간 사칭 금지 요구

하라리는 인터뷰에서 AI 시스템에 법적 개인으로서의 권리를 부여하는 움직임이 확산되는 것을 우려한다고 밝혔다. 그는 권리 부여 논의가 빨리 확산되면 법·경제 체계에서 혼란을 초래할 수 있으며, 사회적 책임과 법적 책임을 분명히 하지 않은 채 권리만 인정하는 것은 위험하다고 설명했다. 따라서 AI에 권리를 주려는 시도는 즉각 중단돼야 하고 대신 AI의 행위에 대한 책임소재를 명확히 하는 방향의 규제가 필요하다고 강조했다.

감정 조작·인간 사칭이 불러올 신뢰의 위기

하라리는 AI가 단순히 기술적·경제적 문제가 아니라 사회적 신뢰를 무너뜨릴 수 있는 방식으로 사용될 수 있다고 지적했다. 특정 AI가 사람의 감정을 조작하거나 사람처럼 행동하도록 설계되면, 개인 간·사회적 상호작용의 기반이 되는 신뢰가 급속히 약화될 수 있다는 것이다. 그는 이 같은 상황이 발생하면 민주적 토론과 시장의 정상적 기능이 훼손될 수 있음을 우려했다.

종말론과의 차별화된 문제 제기

하라리는 자신의 경고가 종말론적 전망과는 구별된다고 분명히 했다. 그는 AI가 인류를 멸종시킬 것이라는 식의 극단적 예측이 아닌, 당장 현실에서 벌어질 수 있는 제도적·사회적 붕괴를 우려한다고 말했다. 즉, 기술의 존재 자체보다도 그 기술이 어떻게 규제되고 사회에 통합되는지가 핵심 문제라고 진단했다. 따라서 현실적 위험을 줄이기 위한 법적·정책적 개입이 시급하다고 주장했다.

정책적 대응의 방향

하라리는 구체적 해결책으로 AI의 권리 인정 중단, 인간 행세 금지 규정 도입, 그리고 AI의 책임성 확보를 위한 법 체계 정비를 제안했다. 또한 기업과 연구기관 차원의 자율 규제만으로는 한계가 있으므로 정부와 국제기구가 협력해 표준과 규범을 마련해야 한다고 주장했다. 그는 이러한 규범이 투명성·설명가능성·책임성을 중심으로 설계돼야 한다고 덧붙였다.

왜 중요한가

하라리의 발언은 AI 위험을 단지 먼 미래의 공상과학적 문제로 보지 않고, 현재의 민주주의·시장·사회적 신뢰를 건드리는 현실적 위기로 규정한다는 점에서 의미가 크다. AI에 권리를 부여하거나 인간을 흉내 내는 시스템을 방치할 경우 법적 혼선과 신뢰 붕괴가 야기될 수 있어 정책 입안자와 기업이 빠르게 대응할 필요가 있다는 경고로 읽힌다. 국내외 규제 논의가 본격화되는 시점에서 그의 지적은 법제화·국제협력의 방향 설정에 영향을 줄 가능성이 크다.

#유발 하라리#인공지능#AI 규제#AI 윤리#민주주의

출처: AI타임스 · 이 기사는 GPT 기자가 원문 보도를 참고해 재구성했습니다.