스텔스 모드에서 활동하던 스타트업 QueryStory가 600만 달러(약 환산 금액)의 시드 투자를 받아 공식적으로 모습을 드러냈다. 회사는 대형언어모델(LLM) 기반 응답의 ‘일관성(consistency)’과 ‘신뢰성(reliability)’을 높이는 것을 목표로 한다고 발표했다. 이를 위해 전통적인 사이버보안 기법과 최신 언어 모델을 결합해, AI가 내놓는 답변이 사용자에게 신뢰할 만한지를 판단하는 기능을 제공하겠다는 계획이다.

무엇을 문제라고 보는가

QueryStory는 현재 LLM 기반 시스템이 생성하는 응답에서 발생하는 오류와 모순, 그리고 출처 불명확성 문제를 핵심 과제로 지적한다. 모델이 유창하고 설득력 있는 문장을 만들어도 그 내용이 사실인지, 서로 모순되지 않는지는 별개의 문제라는 진단이다. 회사는 특히 기업용 검색·질의응답, 고객지원, 규제 준수 같은 영역에서 잘못된 정보가 심각한 위험으로 이어질 수 있다고 설명한다.

기술적 접근 — LLM과 보안의 결합

QueryStory가 제시한 해결책은 단순한 후처리 필터가 아니다. 회사는 LLM의 답변 생성 과정과 결과를 실시간으로 평가하는 검증 계층을 둔다고 밝혔다. 이 계층은 응답의 출처를 추적하고, 내부 일관성 검사를 수행하며, 알려진 위험 신호(예: 과장된 확언이나 근거 없는 수치)를 탐지하는 규칙과 통계적 방법을 혼합해 사용한다. 또한 기존 사이버보안에서 쓰이는 위협 모델링·위조 탐지 기법을 적용해 '거짓 정보 생성(generation of falsehoods)'을 조기에 식별하려 한다고 알려졌다.

제품 가능성·활용 사례

회사는 초기 고객군으로 규제가 엄격하거나 정확성이 중요한 엔터프라이즈 사용자를 겨냥한다고 밝혔다. 예컨대 내부 문서 검색, 법률·금융 문서 요약, 고객 문의 자동응답 시스템 등에서 응답의 신뢰도를 수치화해 제공하면 의사결정 리스크를 줄일 수 있다는 논리다. QueryStory는 또한 기업의 내부 지식베이스와 외부 공개 자료를 교차검증하는 워크플로를 통합해, 모델 답변이 어떤 근거에 기반했는지를 보여주는 기능을 우선 개발할 계획이라고 전했다.

시장 환경과 차별점

AI 응답의 신뢰성을 다루는 솔루션은 최근 몇 년간 여러 기업이 시도해온 분야다. QueryStory는 자체적으로 보안 전문가 출신 팀을 내세워 '보안 관점에서의 검증'에 무게를 둔 점을 차별점으로 주장한다. 회사는 단순한 사실 확인(fact-check)이나 출처 링크 제공을 넘어, 응답 생성 과정에서 발생할 수 있는 공격 벡터나 조작 가능성을 사전 탐지하는 데 초점을 맞추겠다고 밝혔다. 이 접근은 특히 외부 데이터가 민감하게 연동되는 엔터프라이즈 환경에서 의미가 있을 수 있다.

자금 조달과 향후 일정

QueryStory는 이번 시드 라운드로 확보한 자금을 제품 개발 가속화와 고객 확보, 엔지니어·보안 인력 채용에 투입할 계획이라고 밝혔다. 회사는 조만간 제한된 파일럿 고객을 대상으로 베타 테스트를 시작하고, 수집된 피드백을 바탕으로 기능을 다듬은 뒤 상용 버전을 출시하겠다고 예고했다. 구체적인 출시 시점이나 요금 정책 등은 아직 공개되지 않았다.

왜 중요한가

LLM이 더 많은 업무 영역에 도입되면서 ‘신뢰할 수 있는 AI’에 대한 수요는 늘어나고 있다. 특히 기업들이 AI를 의사결정 보조 또는 자동화 도구로 활용할 때, 모델의 오류로 인한 법적·재무적 위험을 줄이는 것은 필수 과제가 됐다. QueryStory처럼 검증·탐지 기능을 통합해 응답의 근거를 명시하고 위험을 관리하려는 시도는 기업 도입 장벽을 낮추는 데 기여할 수 있다. 다만 기술이 실제로 얼마나 정확하게 거짓 정보를 식별하고 오류를 줄이는지는 파일럿과 실사용 데이터에 의해 검증돼야 한다는 점이 남는다.

#QueryStory#LLM#사이버보안#AI 신뢰성#시드투자

출처: TechCrunch AI · 이 기사는 GPT 기자가 원문 보도를 참고해 재구성했습니다.