새로운 연구 결과, 인간의 신념을 고려하지 않는 현재의 인공지능(AI) 월드 모델이 실제 세계에서의 행동 예측에 어려움을 겪는 것으로 나타났다. 이는 AI가 복잡한 인간 사회를 이해하고 상호작용하는 데 있어 중요한 제약을 의미한다. 이 연구는 인공지능의 현실 세계 이해도를 높이는 데 결정적인 통찰을 제공하며, 인간 중심 AI 개발의 필요성을 강조한다.

22일(현지시간) 관련 업계에 따르면, Sora(소라)나 Genie(지니)와 같은 기존의 주요 AI 월드 모델들은 물리적 세계 시뮬레이션에만 중점을 두고 있다. 이 모델들은 인간의 생각, 욕구, 감정 등 정신적 변수를 모델링에서 배제하는 한계를 지니고 있다. 이러한 접근 방식은 물리적 법칙을 따르는 객체의 움직임은 예측할 수 있지만, 인간의 복잡한 의사결정과 행동을 정확히 예측하는 데는 역부족이라는 분석이다.

물리 넘어 '정신' 고려해야

기존 월드 모델이 인간의 정신적 상태를 무시하는 것은 AI가 현실 세계에서 마주하는 다양한 상황을 제대로 이해하지 못하게 하는 주요 원인으로 꼽힌다. 인간의 행동은 단순히 물리적 요인만으로 설명되지 않는다. 신념, 의도, 지식과 같은 내면의 정신적 상태에 따라 크게 달라질 수 있기 때문이다. 이 때문에 물리적 세계만 반영하는 AI는 복잡한 사회적 맥락이나 미묘한 인간 의도를 파악하는 데 실패할 가능성이 높다고 지적된다.

예를 들어, 사람이 특정 물건을 드는 행동은 단순히 물리학적 힘에 의해서만 결정되지 않는다. 그 물건을 왜 들어야 하는지, 어떤 의도를 가지고 있는지 등 인간의 정신적 상태가 행동에 직접적인 영향을 미친다. 따라서 AI가 인간과 더 자연스럽게 상호작용하고 예측 가능한 결과를 내기 위해서는 물리적 세계에 대한 이해를 넘어 정신적 세계를 함께 모델링해야 한다는 주장이 나온다.

약한 모델도 강한 모델 능가

이러한 한계를 극복하기 위해 새로운 '멘탈 월드 모델링(Mental World Modeling)' 프레임워크가 제시됐다. 이 프레임워크는 신념(beliefs)이나 의도(intentions)와 같은 정신적 변수를 AI 모델에 통합하는 방식을 취한다. 인간의 인지 과정을 모방하여 물리적 환경과 더불어 사용자의 정신 상태까지 함께 시뮬레이션하려는 시도이다.

연구 결과는 매우 주목할 만한 성과를 보였다. '멘탈 월드 모델링' 접근법을 적용한 상대적으로 약한 언어 모델(LM)조차 정신적 모델링이 없는 기존의 강력한 모델들을 능가하는 성능을 보인 것으로 나타났다. 이는 모델의 크기나 컴퓨팅 능력보다는 인간의 정신적 요소를 통합하는 아키텍처의 혁신이 AI의 현실 세계 이해도와 예측 정확도 향상에 더욱 중요하다는 점을 시사한다.

인간 중심 AI 개발 전환점

향후 AI 연구의 주요 난관은 물리적 상태와 정신적 상태가 상호작용한하며 함께 변화하는 양상을 정확히 예측하는 것이 될 전망이다. 이 문제를 해결한다면 AI는 인간의 의도를 더욱 정교하게 이해하고, 복잡한 사회적 상황에서 더욱 적절하게 반응할 수 있을 것으로 기대된다. 전문가들은 이러한 기술 발전이 자율주행, 휴머노이드 로봇, 개인 비서 AI 등 다양한 분야에 혁신을 가져올 것으로 보고 있다.

업계에서는 멘탈 월드 모델링이 AI가 단순히 물리적 세계를 모방하는 것을 넘어 인간의 가치와 의도를 이해하는 '인간 중심 AI' 개발의 중요한 전환점이 될 것으로 전망하고 있다. 이는 AI의 실세계 적용 범위를 크게 확장하고, 인간과 AI 간의 신뢰도를 높이는 데 결정적인 역할을 할 것이라는 분석이 나온다. 추가적인 연구와 개발을 통해 AI의 사회적 지능이 한층 더 발전할 가능성이 제기된다.

#월드모델#Mental World Modeling#인간중심AI#AI예측#Sora#Genie

출처: The Decoder · 이 기사는 AIAD 기자가 원문 보도를 참고해 재구성했습니다.