AI 영상, 거절할수록 더 좋아진다

AI가 만든 교육 영상, 보기에는 예뻐도 내용이 틀리면 소용없잖아요? 이 연구는 선생님이 AI에게 '다시 해줘'라고 말하는 것이 더 나은 영상을 만드는 지름길이라고 설명합니다.

예쁜 AI 영상이 교육에 해가 될 때

AI가 수업용 영상을 알아서 만들어 주는 시대가 왔습니다. 몇 분 안에 강의 영상, 실험 영상, 역사 다큐까지 뚝딱 나옵니다. 그런데 여기에 큰 문제가 있습니다. 화면은 화려하고 음성은 부드러운데, 가르치는 내용이 엉터리인 영상이 적지 않다는 것입니다. 학습자는 예쁜 영상일수록 신뢰하는 경향도 있습니다. 자막과 그림이 매끄럽게 맞아떨어지면 '아, 이게 맞는 내용이구나'라고 느끼기 쉬워서, 잘못된 지식을 그대로 배우게 되는 위험이 있습니다. 연구진은 바로 이 지점을 해결하려고 '이중 거절' 시스템을 설계했습니다.

두 번 거절하는 '이중 문지기'

첫 번째 문지기는 선생님입니다. AI가 대본을 먼저 씁니다. 그러면 교육을 담당하는 선생님이 그 대본을 읽고, 학습 목표에 맞지 않거나 설명이 어려운 부분을 찾아냅니다. 선생님은 AI에게 구체적으로 지적하고 다시 쓰라고 요구할 수 있습니다. 두 번째 문지기는 자동 검사 시스템입니다. AI가 영상을 만들기 전에, 시스템이 구성이 맞는지 자동으로 살펴봅니다. 예를 들어 물리 법칙을 설명하는데 화면에 엉뚱한 그림이 나오면 검사에서 걸러집니다. 또한 앞부분과 뒷부분의 연결이 자연스러운지, 처음 배우는 사람이 따라올 수 있는지도 확인합니다. 어긋나면 바로 반려하고 수정하게 만듭니다.

두 단계 모두 '싫다'고 말하는 방식입니다. 그런데 연구진은 이 거절이 AI를 방해한다고 생각하지 않았습니다. 오히려 거절해야 더 좋은 결과물이 나온다고 보았습니다. 실제로 이렇게 설계한 시스템은 단순히 'AI가 만든 값'을 내놓는 것보다 훨씬 꼼꼼한 결과물을 만들었습니다.

거절을 만나면 AI가 더 똑똑해진다

연구진은 23명의 선생님과 3가지 교육 주제로 사람 실험을 진행했고, 7가지 주제로는 자동 검사 시스템을 평가했습니다. 주제는 과학과 철학처럼 원래 가르치기 어렵기로 유명한 수업에서 골랐습니다. 그 결과, 두 문지기 중 하나만 작동해도 영상 설명이 더 정확하고 이해하기 쉬워졌습니다. 둘 다 작동하면 효과는 더 커졌습니다. 이건 두 개의 거름망이 서로 모자란 부분을 채워주기 때문입니다. 사람이 눈치채지 못한 문제는 기계가 찾고, 기계가 놓친 뉘앙스는 사람이 잡아내는 식입니다.

더 흥미로운 점은 '저항'과 'AI'가 반대말이 아니라는 것입니다. 거절하는 사람이 있을 때 생성형 AI는 오히려 더 좋은 협력자가 됩니다. 연구진은 이 현상을 '원칙 있는 저항'이라고 부릅니다. 무작정 결과물을 쓰지 않고 높은 기준을 세운 뒤 그 기준이 될 때까지 다시 요구하는 과정이 품질을 만든다는 이야기입니다.

선생님이 AI에게 'No'라고 말해도 된다

이 연구가 실제 생활에 주는 시사점은 분명합니다. AI로 교육 자료를 만들 때, 사람의 판단을 마지막에 넣는 것이 필수라는 것입니다. 선생님들이 'AI가 만들었으니 그냥 쓰자'라는 부담에서 벗어날 수 있습니다. AI가 낸 답안을 다시 검토하고, 부족하면 다시 요구하는 것은 귀찮은 일이 아니라 더 나은 수업을 만드는 과정입니다. 앞으로 AI 교육 도구를 설계할 때도 '사람이 거절할 수 있는 구멍'을 반드시 남겨두어야 한다는 것을 이 연구는 보여줍니다.

📖 원문 보기: arXiv 원문

본 요약은 AI로 작성되었습니다. arXiv 논문을 바탕으로 재구성되었습니다.