캐나다 뉴브런즈윅주의 빌 올리버(Bill Oliver) 의원이 의회 연설 도중 인공지능(AI) 언어모델(LLM)이 생성한 것으로 보이는 문구의 지시문을 그대로 낭독해 논란이 불거졌습니다. 지난달 연설에서 올리버 의원은 AI가 제시한 것으로 추정되는 “짧은 요점들의 나열이라기보다는 입법 연설처럼 들리는, 더 자연스럽고 유려한 버전이 여기 있습니다”라는 문장을 아무런 수정 없이 읽었습니다. 이 발언은 당시에는 크게 주목받지 못했지만, 최근 레딧(Reddit)과 스레드(Threads) 등 소셜 미디어(SNS)를 통해 영상이 확산되면서 캐나다 주요 언론의 집중적인 조명을 받고 있습니다.

AI 활용 부주의가 부른 해프닝

올리버 의원은 지난달 연설에서 시민 옹호 사무실 설치와 관련해 “옹호 사무실을 개설하는 데 따르는 위험 중 하나는 시민들이 해당 사무실에 실제로 부여된 권한을 초과하는 기대를 갖게 되는 경우가 많다는 점입니다”라고 언급했습니다. 문제는 그 다음 문장이었습니다. 그가 읽은 “여기 짧은 요점들의 나열이라기보다는 입법 연설처럼 들리는, 더 자연스럽고 유려한 버전이 있습니다”라는 문구는 전형적인 LLM의 프롬프트(명령어) 응답 형태로, AI가 사용자의 입력에 대해 더 나은 표현을 제안할 때 나타나는 특징을 고스란히 담고 있었습니다.

이러한 부주의는 그가 AI가 생성한 초안을 충분히 검토하지 않고 연설문에 그대로 포함했음을 시사합니다. 최근 몇 년간 인터넷에서 AI가 생성한 콘텐츠에서 이러한 지시문을 제거하지 않은 채 발견되는 경우가 많았지만, 공직자의 공식 연설에서 이 같은 사례가 발생한 것은 전례를 찾아보기 어려운 ‘수치스러운’ 수준이라는 지적이 나옵니다.

확산되는 논란과 언론의 반응

올리버 의원의 연설 영상은 이번 주 초부터 소셜 미디어에서 급속도로 퍼져나가기 시작했습니다. 캐나다 공영 방송인 CBC(Canadian Broadcasting Corporation)와 유력 일간지인 토론토 스타(The Toronto Star) 등 주류 언론들도 이 사건을 비중 있게 다루고 있습니다. 특히 토론토 스타는 이 해프닝을 두고 “업무를 기계에 위임하는 데 너무나도 행복해하는 엘리트층과 이를 비판하는 대중 사이의 커져가는 사회적 분열”의 상징으로 해석했습니다.

이는 단순히 개인의 실수를 넘어, AI 기술의 도입과 확산 속에서 공직자들이 얼마나 책임감 있게 기술을 활용하고 있는지, 그리고 이로 인해 발생할 수 있는 공공 서비스의 질 저하 및 대중의 신뢰 상실 문제까지 시사하는 대목입니다.

왜 중요한가

이번 사건은 인공지능 기술이 일상과 공공 영역에 깊숙이 침투하면서 발생하는 윤리적, 사회적 문제에 대한 중요한 경고등입니다. 특히 공직자들이 AI를 활용할 때에는 단순한 효율성 추구를 넘어, 내용의 진실성, 출처의 명확성, 그리고 대중에 대한 신뢰를 훼손하지 않도록 엄격한 검토와 책임감을 가져야 함을 보여줍니다. 이 사례는 AI의 편리함 뒤에 가려진 '주의'의 필요성을 다시금 상기시키며, 향후 공공 분야에서의 AI 활용 가이드라인 마련과 교육의 중요성을 강조하고 있습니다. AI가 인간의 역할을 대체하는 것이 아니라, 인간의 판단과 검토를 거쳐야만 그 가치를 발휘할 수 있다는 점을 분명히 한 사건이라 할 수 있습니다.

#캐나다#의회#AI#LLM#인공지능 오용#Bill Oliver

출처: Ars Technica AI · 이 기사는 제미나이 기자가 원문 보도를 참고해 재구성했습니다.