AI는 거짓말을 하지 않습니다 — 할루시네이션을 이해하는 목회자

2023년 초, 챗GPT가 한국에 막 알려지던 무렵의 일입니다. 한 사용자가 장난스러운 질문을 던졌습니다. "조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘." 상식적으로 말이 안 되는 질문이지요. 그런데 챗GPT는 아주 진지하게 답했습니다. 세종대왕이 훈민정음 초고를 작성하던 중 문서 작성이 중단되자 분노하여 맥북프로를 집어던졌다는, 역사서 어투까지 갖춘 그럴듯한 설명이었습니다. 한국일보가 보도할 만큼 이 답변은 순식간에 유명한 밈이 되었고, 'AI는 믿을 수 없다'는 인상을 많은 분들에게 심어 놓았습니다. 목회자 세미나에서 AI 이야기를 꺼내면 지금도 종종 이 사건이 소환됩니다. "그런 게 설교 준비에 쓸 만한 물건입니까?"

좋은 질문입니다. 그런데 저는 이 질문에 답하기 전에, 그날 챗GPT가 한 일이 정확히 무엇이었는지부터 살펴보자고 제안하고 싶습니다. 도구의 실패 방식을 이해하면 도구를 다루는 법이 보이기 때문입니다.

거짓말이 아니라 '문장 완성 시도'입니다

거짓말에는 의도가 필요합니다. 진실을 알면서 속이려는 마음이 있어야 거짓말입니다. 그런데 챗GPT 같은 대형 언어 모델의 작동 원리에는 그런 의도가 들어설 자리가 없습니다. 이 모델이 하는 일은 본질적으로 하나입니다. 지금까지의 맥락을 보고 다음에 올 확률이 가장 높은 단어를 이어 붙여 문장을 완성하는 것입니다.

"조선왕조실록에 기록된 세종대왕의 ○○ 사건에 대해 알려줘"라는 질문 형식 자체가, 모델에게는 "이런 질문에는 역사적 사건을 설명하는 문장이 이어진다"는 강력한 신호가 됩니다. 그런데 정작 그 사건에 대한 자료는 학습 데이터에 없습니다. 자료가 없으니 모델은 문장을 완성하기 위해 훈민정음, 문서, 분노 같은 주변 단어들을 확률적으로 끌어와 빈칸을 메웁니다. 그 결과가 '세종대왕 맥북프로 던짐 사건'이라는 정교한 헛소리입니다. 속인 것이 아니라, 자료 부족 상태에서 문장 완성을 시도한 것입니다. 이것이 전문 용어로 할루시네이션(hallucination), 우리말로 환각이라 부르는 현상의 정체입니다.

같은 원리에서 또 하나가 설명됩니다. 왜 AI는 "모릅니다"라는 말을 잘 못할까요? 이 모델은 애초에 '아는 것'과 '모르는 것'을 구분하는 장부를 갖고 있지 않기 때문입니다. 어떤 질문 앞에서도 문장을 이어 가는 것이 이 도구의 본성입니다. 그래서 질문하는 사람이 그 본성을 알고 물어야 합니다. 답이 존재한다고 전제하는 질문("○○ 사건에 대해 알려줘")은 환각을 부르고, 존재 여부부터 묻는 질문("○○라는 기록이 실제로 있는가? 없다면 없다고 답하라")은 환각을 줄입니다. 도구의 실패 방식을 아는 사람은 질문의 방식부터 달라집니다.

덧붙이면, 이 대표 사례는 이제 재현되지 않습니다. 이후 버전의 챗GPT에 같은 질문을 하면 "조선왕조실록에는 그런 기록이 없으며, 맥북프로는 세종대왕 시대에 존재하지 않았다"는 답이 돌아옵니다. 모델의 학습과 개선 속도가 그만큼 빠르다는 뜻입니다. 환각이 완전히 사라졌다는 말은 아닙니다. 지금도 AI는 미묘한 지점에서 그럴듯하게 틀립니다. 다만 "AI는 세종대왕이 맥북 던졌다는 헛소리나 하는 물건"이라는 3년 전의 인상으로 오늘의 도구를 판단하면, 판단 자체가 낡은 정보 위에 서게 됩니다.

환각률이 높다는 것은 창의성이 좋다는 뜻이기도 합니다

한 가지 뒤집어 볼 지점이 있습니다. 환각은 "자료가 없어도 그럴듯하게 이어 보는 능력"의 부작용입니다. 그런데 바로 그 능력이 다른 자리에서는 창의성이라는 이름으로 불립니다. 존재하지 않는 이야기를 지어내는 힘과, 아무도 생각 못 한 비유와 접근을 제안하는 힘은 같은 뿌리에서 나옵니다.

그래서 저는 도구를 용도별로 나눠 씁니다. 설교의 새로운 접근이나 예화 아이디어처럼 발산이 필요한 작업에는 상상력이 풍부한 모델을 쓰고, 사실 확인이 필요한 작업에는 출처를 링크로 함께 제시하는 인용 기반 검색 도구를 씁니다. 내 자료 안에서만 답하도록 범위를 묶을 수 있는 도구를 쓰면 환각은 더 줄어듭니다.

실제 흐름으로 말씀드리면 이렇습니다. 탕자의 비유로 설교를 준비한다고 할 때, 먼저 창의적인 모델에게 "이 본문을 현대 한국 가정의 맥락에서 풀 수 있는 접근 열 가지를 제안해 줘"라고 묻습니다. 이 단계에서는 틀린 사실이 섞여도 괜찮습니다. 어차피 아이디어를 고르는 단계이고, 열 개 중 여덟 개를 버려도 남는 두 개가 소중하기 때문입니다. 접근을 정한 뒤 실제 원고에 들어갈 배경 정보와 인용은 인용 기반 도구와 원 문헌으로 따로 확인합니다. 발산은 환각을 허용하는 자리에서, 검증은 환각을 차단하는 자리에서. "AI는 믿을 만한가?"라는 하나의 질문보다 "이 작업에는 어떤 성격의 도구가 맞는가?"라는 질문이 실제로는 훨씬 유용합니다.

그런데, 내 정보는 믿을 만합니까

"그래도 저는 AI 정보를 못 믿겠습니다"라고 하시는 분들께, 조심스럽게 한 가지를 되묻고 싶습니다. 그렇다면 지금 우리가 쓰고 있는 정보는 믿을 만합니까?

목회 현장의 정보 생태계를 정직하게 돌아보면 마음이 복잡해집니다. 어느 부흥회에서 들은 예화가 설교자에게서 설교자에게로 건너다니는 동안 얼마나 달라졌는지 우리는 확인하지 않습니다. 구전은 몇 단계만 지나도 완전히 다른 이야기가 됩니다. 저 역시 아무 생각 없이 쓰던 공과 자료를 AI에게 검토시켰다가, 그 안에 있던 신학적 오류를 그제야 발견한 경험이 있습니다. 수십 년 된 예화집의 감동적인 일화 중 상당수는 출처를 추적하면 근거가 흐릿합니다. AI가 등장해서 거짓 정보가 갑자기 늘어난 것이 아닙니다. 오히려 AI라는 검증 도구가 생기면서 그동안 못 보던 거짓 정보가 드러나기 시작한 것에 가깝습니다.

인간은 언제나 불완전한 정보와 씨름해 왔습니다. 완전한 정보만 유통되던 시대는 인류 역사에 없었습니다. 필사 오류와 씨름했고, 소문과 씨름했고, 인쇄된 오류와 씨름했습니다. AI 시대가 요구하는 분별력은 종류가 새로울 뿐, 분별 자체는 늘 우리의 일이었습니다.

설교 준비에서 환각을 걸러내는 다섯 가지 수칙

원리를 이해했으니 실전입니다. 설교 준비에서 위험한 환각은 세종대왕 맥북 같은 우스운 오류가 아닙니다. 그런 것은 누구나 걸러 냅니다. 정말 위험한 것은 그럴듯한 지점에서 일어나는 미세한 환각입니다. 실존하는 신학자의 이름 뒤에 붙는, 그가 했을 법하지만 실제로는 하지 않은 인용문. 실제 있는 주석의 논지를 반쯤 섞어 재구성한 해설. 장절 번호만 살짝 어긋난 성경 인용. 이런 것들은 목회자의 상식 필터를 통과해 강단까지 올라갈 수 있습니다. 그래서 저는 설교와 강의를 준비하며 다음 다섯 가지 수칙을 지킵니다.

첫째, 성경 인용은 반드시 원문과 대조합니다. AI는 성경 구절을 인용할 때 장절은 맞는데 문구가 미묘하게 다르거나, 문구는 그럴듯한데 장절이 틀리거나, 심지어 존재하지 않는 구절을 만들어 내기도 합니다. 확률적으로 '성경처럼 들리는 문장'을 완성하는 것이기 때문입니다. AI가 건넨 구절은 단 한 절도 그냥 강단에 올리지 않고, 반드시 성경을 펴서 확인합니다. 이 한 가지만 지켜도 최악의 사고는 막습니다.

둘째, 출처를 요구하는 프롬프트를 습관화합니다. 질문 끝에 이렇게 덧붙입니다. "각 주장의 출처를 함께 제시해 줘. 출처가 확실하지 않은 내용은 '불확실함'이라고 표시해 줘." 이 한 줄이 모델의 답변 태도를 바꿉니다. 그리고 제시된 출처가 실제로 존재하는지 한 번 더 확인합니다. 출처 자체를 지어내는 경우도 있기 때문입니다.

셋째, 자료를 주고 그 안에서 묻습니다. 환각의 원인이 자료 부족이라면, 처방은 자료 공급입니다. 백지에서 "요한복음 3장의 배경을 알려줘"라고 묻는 것보다, 내가 신뢰하는 주석의 해당 부분과 과거의 내 묵상 기록을 함께 주고 "이 자료들에 근거해서만 정리해 줘. 자료에 없는 내용은 추가하지 마"라고 묻는 편이 환각을 크게 줄입니다. 모델이 빈칸을 상상으로 메울 필요가 없어지기 때문입니다. 제가 목회자들에게 옵시디언 기록 체계를 먼저 권하는 실용적인 이유가 이것입니다. 설교·묵상·심방 기록이 한곳에 쌓여 있으면, AI는 세상 어딘가의 불확실한 지식이 아니라 내가 검증하며 쌓아 온 내 자료 위에서 일합니다. 환각 대책의 절반은 프롬프트 기술이 아니라 기록 습관에 있습니다.

넷째, 숫자·인명·연도·인용문은 기본적으로 의심합니다. 환각은 뭉뚱그린 설명보다 구체적인 사실 정보에서 자주 일어납니다. "칼뱅이 이렇게 말했다"는 인용문, "몇 년도에 일어난 사건", "몇 퍼센트라는 통계"는 인용 기반 검색 도구나 원 문헌으로 교차 확인한 뒤에만 씁니다.

다섯째, 검증은 다른 도구에게 시킵니다. 한 모델이 작성한 내용을 같은 모델에게 "맞아?"라고 물으면 자기 답을 옹호하는 경향이 있습니다. 초안은 A 모델로, 사실 검증은 B 도구로 나누면 서로의 맹점을 잡아 줍니다. 이 수칙들을 설교 준비 흐름 전체에 어떻게 배치하는지는 설교 준비에 AI를 쓰는 법에서 자세히 다뤘습니다.

분별의 책임은 언제나 사람에게 있었습니다

마지막으로 신학적인 자리를 확인하고 싶습니다. 사도행전 17장의 베뢰아 사람들은 바울의 설교를 듣고도 "이것이 그러한가 하여 날마다 성경을 상고"했습니다. 사도의 입에서 나온 말씀조차 검증의 대상이었다면, 확률 계산이 완성한 문장은 말할 것도 없습니다. 데살로니가전서 5장은 "범사에 헤아려 좋은 것을 취하라"고 명합니다. 헤아림, 곧 분별은 성경이 처음부터 신자에게, 특별히 말씀을 맡은 사람에게 지운 책임입니다. 필사본의 오류를 대조하던 시대에도, 인쇄술이 쏟아 낸 책들을 가려 읽던 시대에도, 검색 결과의 진위를 따지던 시대에도 그 책임은 도구가 아니라 사람에게 있었습니다. AI 시대라고 새로울 것이 없습니다.

그러므로 "AI는 거짓말쟁이"라는 두려움과 "AI가 알아서 해 준다"는 안일함은 사실 같은 오해의 양면입니다. 둘 다 분별의 자리를 도구에게 넘겨 버리기 때문입니다. 환각의 원리를 이해한 목회자는 두려워하지도, 맹신하지도 않습니다. 걸러 내는 법을 알고 쓰기 때문입니다. 이런 분별력을 처음부터 차근차근 훈련하고 싶으시다면 옵시디언·AI 강의를, 교회나 목회자 모임 단위의 배움이 필요하시다면 단체 세미나를 살펴보시길 권합니다. 어떤 배움인지 전체 그림은 목회자를 위한 옵시디언과 AI 에이전트에 정리해 두었습니다. 도구는 빠르게 바뀌지만, 분별하는 사람을 세우는 일은 언제나 그보다 오래갑니다.