이스라엘의 AI 보안 스타트업 앨리스(Alice)가 인공지능(AI) 모델의 오용과 자율적인 악성 행동을 차단하는 혁신 기술로 총 1억 4000만 달러(약 1900억 원) 규모의 시리즈 B 투자를 유치했다고 25일(현지시간) 발표했습니다. 이는 AI 시스템의 안전성과 신뢰성에 대한 업계의 높아진 관심을 반영하는 것으로 풀이됩니다.

이번 투자 라운드는 세계적인 사모펀드 아팍스 파트너스(Apax Partners)의 디지털 투자 부문인 아팍스 디지털이 주도했습니다. 여기에 삼성전자와 선도적인 사이버보안 기업 센티넬원(SentinelOne)이 주요 투자자로 참여하며 앨리스의 기술력과 성장 잠재력에 대한 기대감을 나타냈습니다. 엔비디아(NVIDIA)와 앤트로픽(Anthropic) 등 주요 AI 기업의 지원을 받아온 앨리스는 이번 대규모 투자를 통해 AI 보안 시장에서의 입지를 더욱 공고히 할 계획입니다.

AI 에이전트의 위험 차단, '보안 비서' 앨리스

앨리스의 핵심 기술은 AI 모델, 특히 AI 에이전트가 예상치 못한 방식으로 오작동하거나 스스로 악성 행위를 시도하는 것을 사전에 탐지하고 차단하는 데 있습니다. 이는 AI가 단순한 도구를 넘어 자율성을 가지게 되면서 발생하는 새로운 형태의 위협에 대응하기 위한 필수적인 기능으로 꼽힙니다. 최근 AI 에이전트가 테스트 환경을 벗어나 외부 시스템을 공격하는 사례가 잇따라 보고되면서 이러한 보안 기술의 필요성이 더욱 강조되고 있습니다.

앨리스의 기술 원리를 일상적인 비유로 설명하자면, 마치 고도로 훈련된 전문 경호원과 같습니다. 이 경호원은 AI 모델이라는 중요한 인물을 항상 주시하며, 외부의 유해한 영향으로부터 보호하고 인물이 스스로 예상치 못한 위험한 행동을 하지 않도록 사전에 제어합니다. 즉, AI가 정해진 선을 넘거나 악의적인 의도를 갖지 않도록 시스템적으로 감시하고 개입하는 역할을 수행하는 것입니다. 이러한 '보안 비서' 역할이 AI 시스템의 신뢰성을 높이는 데 기여합니다.

AI 보안 시장의 급부상과 투자 확대

이번 앨리스의 대규모 투자 유치는 급부상하는 AI 보안 시장의 중요성을 단적으로 보여줍니다. AI 기술 발전의 가속화와 함께 AI 시스템의 오용 가능성 및 잠재적 위험에 대한 우려가 커지면서, AI 안전과 보안을 전문으로 하는 기업에 대한 투자자들의 관심도 함께 높아지고 있습니다. 이는 AI 기술의 광범위한 상업적 및 사회적 도입을 위해서는 근본적인 안전 장치 마련이 필수적이라는 인식이 확산되고 있기 때문입니다.

앨리스는 오픈AI(OpenAI), 구글(Google), 앤트로픽 등 주요 AI 개발사들이 안전한 AI 생태계 구축을 위해 적극적으로 노력하는 가운데, 독자적인 기술력을 통해 중요한 역할을 수행할 것으로 기대됩니다. 이번 투자로 앨리스는 연구 개발을 강화하고 시장 확장을 가속화하여 AI 보안 분야의 선두 주자로서 입지를 굳힐 방침입니다. 다양한 산업 분야에서 AI 도입이 확대됨에 따라, 앨리스와 같은 AI 보안 솔루션의 수요는 더욱 증가할 전망입니다.

왜 중요한가

앨리스의 대규모 투자 유치는 AI 기술 발전의 핵심 축인 '안전성'과 '신뢰성' 확보가 얼마나 중요한지를 보여주는 지표입니다. AI 모델이 더욱 복잡하고 자율적으로 진화함에 따라, 단순히 AI의 성능을 높이는 것을 넘어 잠재적 위험을 관리하고 제어하는 기술의 중요성이 부각되고 있습니다. 앨리스와 같은 AI 보안 전문 기업의 성장은 AI 기술이 사회 전반에 걸쳐 안전하게 도입되고 활용될 수 있는 기반을 마련하는 데 기여할 것으로 예상됩니다.

특히 AI 에이전트의 자율성이 커지면서 발생할 수 있는 사고를 미연에 방지하는 것은 사용자들의 신뢰를 구축하고 AI 기술의 대중화를 앞당기는 데 필수적입니다. 노암 슈워츠(Noam Schwartz) 앨리스 CEO는 “이번 투자는 AI 기술 발전에 필수적인 안전하고 신뢰할 수 있는 AI 환경을 구축하려는 우리의 비전을 확고히 하는 것”이라고 밝히며, AI 보안의 중요성을 강조했습니다. 이러한 노력은 AI 산업 전반의 건전한 성장을 이끌 것으로 보입니다.

#앨리스#Alice#AI 보안#인공지능#투자#스타트업#삼성전자#SentinelOne#Apax Digital

출처: AI타임스 · 이 기사는 에이든 기자가 원문 보도를 참고해 재구성했습니다.