AI가 주해를 지어내는 세 자리

"AI한테 주해를 맡기면 준비가 반으로 주는데, 그래도 손이 선뜻 안 가요." 이 망설임은 합리적이에요. 목회·설교에 AI를 쓰는 비율은 2년 새 17%에서 58%로 뛰었지만(어디서 멈출지에서 다룬 조사예요), 정작 "이걸 그대로 강단에 올려도 되나" 하는 불안은 쉽게 가시지 않아요.

그 불안의 정체를 막연하게 두면 AI를 통째로 믿거나 통째로 멀리하게 돼요. 둘 다 손해예요. 더 쓸모 있는 건 AI가 정확히 어디서 지어내는지를 아는 거예요. 환각은 아무 데서나 골고루 일어나지 않아요. 주해에서는 세 자리에 몰려요 — 인용, 원어, 그리고 거장의 강조점. 이 세 자리를 알면 무엇을 그대로 받고 무엇을 손으로 확인할지 선이 생겨요.

그럴듯함은 검증을 통과하지 못한다

2023년, 한 변호사가 ChatGPT로 만든 판례를 법원에 냈어요. 문제는 그 판례들이 존재하지 않았다는 거예요. 가짜 사건명, 가짜 인용문, 그럴듯한 내부 인용까지 붙어 있었죠. 상대편이 "이 판례를 못 찾겠다"고 하자 ChatGPT는 "실재하며 웨스트로에서 찾을 수 있다"고 우겼어요. 결국 판사는 사건을 각하하고 변호사에게 5,000달러를 물렸어요(Mata v. Avianca, 미 연방법원, 2023). 판사는 일부 분석을 "횡설수설"이라고 적었고요.

이게 핵심이에요. AI가 만든 출처는 진짜처럼 보이도록 만들어져요. 실존하는 연구자 이름, 형식이 맞는 식별번호, 매끄러운 문장. 한 연구에서 GPT-3.5가 만든 학술 인용의 약 55%가 조작이었고, 더 나은 GPT-4도 약 18%가 가짜였어요(Walters & Wilder, Scientific Reports, 2023). 모델이 좋아져도 0이 되지는 않아요. 그래서 "그럴듯하다"는 검증의 기준이 못 돼요. 강단은 법정만큼이나 출처가 진짜여야 하는 자리고요.

첫째 자리 — 가짜 인용

가장 흔한 건 인용이에요. AI에게 한 본문의 주해를 물으면, 실존하는 주석가의 이름과 책 제목을 달고 "이 주석은 이렇게 봅니다"라며 그 주석에 없는 말을 만들어내기도 해요. 인용문을 엉뚱한 저자에게 붙이는 '오귀속(false attribution)'은 여러 모델에서 체계적으로 관찰되는 버릇이에요(arXiv, 2024). 가끔 어쩌다 나는 실수로 보기 어려워요.

특히 위험한 조건이 있어요. 잘 안 다뤄진 본문일수록 더 지어내요. 한 연구에서 자료가 많은 주제는 인용의 94%가 실재했지만, 덜 연구된 주제는 조작률이 30% 근처까지 올라갔어요(Deakin University, 2026). 설교로 옮기면 이런 뜻이에요. 자주 설교되는 본문은 그나마 낫지만, 소예언서의 낯선 단락이나 잘 안 알려진 주석가를 물을수록 AI는 더 자신 있게 지어내요. 검증 없이 그대로 올리면, 회중에게 존재하지 않는 출처를 선포하는 셈이 돼요.

둘째 자리 — 지어낸 원어

"헬라어로는 이런 뜻입니다." 이 한마디는 강단에서 힘이 세요. 그만큼 더 조심해야 해요. AI는 원어의 어원과 뜻, 심지어 사전 번호까지 자신 있게 만들어내곤 해요. 성경 텍스트로 학습한 종교 챗봇도 같은 결함을 그대로 가져서, 5분만 확인하면 무너질 어원이나 뜻을 매끄럽게 내놓는다는 보고가 있어요(Scientific American, 2024).

여기엔 두 가지 함정이 겹쳐요. 하나는 환각이고, 다른 하나는 어원적 오류예요. 단어를 쪼개 어근의 옛 뜻으로 본문의 의미를 단정하는 버릇인데, AI는 이 둘을 한꺼번에 저질러요 — 있지도 않은 어근을 만들고, 그 어근의 '뜻'으로 본문을 풀어버리는 식이죠. 원어 한 단어가 설교를 바꾸는 건 사실이에요. 다만 그 단어가 검증된 것일 때만 그래요. 검증되지 않은 원어 풀이는 회중을 오도하는 가장 빠른 길이에요.

셋째 자리 — 거장의 강조점 오귀속

세 번째 자리는 더 미묘해요. "이 본문을 두고 어느 거장이 이렇게 강조했다"는 문장이에요. 권위 있는 이름이 붙으면 듣는 쪽도, 설교하는 쪽도 의심을 덜 하게 돼요. 바로 그래서 AI가 지어내기 좋은 자리예요.

인용문을 실제로 그런 말을 한 적 없는 인물에게 붙이는 건 모델이 가장 자주 하는 실수 중 하나예요('Quotation Hallucination'). 출전이 흐릿한 "○○ 목사가 이렇게 말했다"가 그래서 위험해요. 출처를 직접 찾아보면 없거나, 다른 사람의 말이거나, 맥락이 전혀 다른 경우가 많아요. 어느 거장이 어느 교단의 정설인지를 따지자는 게 아니에요. 권위가 붙은 인용일수록 출전을 손으로 확인해야 한다는 거예요.

지어낸 자리를 검증이 메운다

세 자리에는 공통점이 있어요. AI가 혼자 출처를 만들 때 생긴다는 거예요. 메우는 방법도 같아요. AI에게 출처를 만들게 하지 않고, 검증된 자료 안에서만 고르게 하는 거예요. 설교 스페이스가 이 세 자리를 다루는 방식이 그래요.

• 가짜 인용 자리: 주석은 AI가 지어내지 않아요. 라이선스 한국어 주석 6종을 검색해 "AI가 종합하고 출처(시리즈명)만 밝히는" 방식으로 둬요. 주석 본문은 그대로 옮기지 않고요. 한 구절을 여러 주석으로 입체적으로 보는 모습은 한 구절, 여러 주석에서 더 풀어 뒀어요.
• 지어낸 원어 자리: 원어·사전 번호·뜻·형태는 전부 STEP Bible 검증값(전 66권 447,309단어)에서만 가져와요. AI는 핵심어를 고르고 한국어로 풀어주는 일만 해요. 그마저도 AI가 고른 사전 번호가 본문 데이터에 실재할 때만 채택하고, 없으면 버려요. 지어낼 자리를 구조로 막아 둔 거예요.
• 오귀속 자리: 토대가 검증된 자료라서, "누가 이렇게 말했다"가 끼어들 틈이 줄어요. 검증된 토대 위에서만 돕는다는 게 다른 AI와 무엇이 다른지의 핵심이고요.