AI에게 종교 물어봐도 될까? 이슬람 지식 신뢰성 첫 검증

아직 모르는 분들을 위해 쉽게 설명하면, AI 챗봇은 그럴듯한 문장을 만들어내는 기술이지, 진짜 지식창고가 아닙니다. 이 연구는 그 한계를 이슬람 지식 분야에서 분명하게 확인했습니다.

이슬람 신자들은 종교 질문을 해결하기 위해 점점 더 AI를 찾습니다. 코란 해석부터 하디스, 즉 예언자의 말과 행동을 기록한 전승 해설, 율법 판단, 윤리 상담까지 물어봅니다. AI가 즉답을 주니 편리하지만, 그 답변이 진짜 믿을 만한지 검증한 연구는 아직 부족했습니다. 이번 논문은 바로 그 빈틈을 메우려고 했습니다.

실제 환경에서 6개 AI를 시험하다

연구진은 영국과 호주에 사는 이슬람 신자들이 AI를 쓰는 방식 그대로를 재현했습니다. 여섯 가지 대표 AI 시스템을 준비하고, 코란 해석·하디스·피끄흐(이슬람 법률)·윤리·목회 상담·법파(법 학)에 민감한 주제까지 50가지 열린 질문을 던졌습니다. 정답이 하나가 아니라 여러 해석이 가능한 질문도 포함시켰습니다.

답변은 단순히 맞고 틀리고만 판정하지 않았습니다. 인용한 출처가 실제로 존재하는지, 없는 내용을 지어내지 않았는지, 여러 법파의 견해와 얼마나 일치하는지, 모르는 질문에 어떻게 반응하는지까지 꼼꼼히 분석했습니다. 영국과 호주에서 같은 질문을 했을 때 답이 달라지는지도 확인했습니다.

겉은 매끄럽고 속은 불안하다

분석 결과, AI는 전문가처럼 보이는 문장을 아주 잘 만들어냈습니다. 그런데 출처를 하나씩 찾아보니 문제가 드러났습니다. 실제로 존재하지 않는 하디스를 마치 있는 것처럼 인용하거나, 정확하지 않은 판례를 확신에 차서 설명하는 오류가 나왔습니다. AI가 없는 사실을 그럴듯하게 지어내는 현상을 그대로 보여준 셈입니다.

같은 질문을 해도 사용자에 따라 답이 달라지는 일관성 문제도 발견됐습니다. 지역에 따라 답변이 조금씩 달라지는 모습도 있었습니다. 이는 AI가 확실한 지식을 바탕으로 답하는 것이 아니라, 대화 흐름과 사용자 정보를 보고 가장 자연스러운 문장을 짜 맞춘다는 뜻입니다.

신앙을 다루는 기술은 더 신중해야 한다

종교 지식은 단순한 정보가 아니라 삶의 기준이 됩니다. 잘못된 답 하나가 개인의 신앙 생활에 큰 영향을 줄 수 있습니다. 이 연구가 의미하는 바는, AI 답변을 맹신해서는 안 되고 반드시 전문가나 원전과 대조하는 과정이 필요하다는 것입니다.

앞으로 교육이나 상담에 AI를 활용한다면, 모르는 질문에는 솔직하게 모른다고 말하는 기능이 중요해질 것입니다. 출처를 명확하게 보여주고, 불확실한 내용은 표시하는 시스템이 갖춰져야 합니다. 기술은 편리함을 주지만, 그 편리함이 진실을 덮지 않도록 하는 것이 우리 모두의 몫입니다.

📖 원문 보기: arXiv 원문

본 요약은 AI로 작성되었습니다. arXiv 논문을 바탕으로 재구성되었습니다.