AI 선생님, 정답의 함정에 빠지다

요즘 AI가 학생 숙제를 척척 채점해 준다는 얘기, 들어보셨나요? 그런데 AI 선생님이 학생의 '답'만 보고 '맞았다'고 해도, 그 과정에 심각한 오류가 있을 수 있다는 연구 결과가 나왔습니다. 마치 구구단을 외우지 않고 계산기로 답만 맞히는 친구를 AI가 제대로 잡아내지 못하는 상황이죠.

아이디어는 좋은데, 구멍이 있다?

영국의 에디(Eedi)라는 수학 교육 플랫폼에서 실제 학생들이 남긴 답변을 분석했어요. 연구진은 '정답 함정'이라는 이름을 붙인 문제를 찾아냈습니다. AI가 학생의 '틀린 생각'을 전혀 감지하지 못하고 '정답'이라고만 판단하는 경우인데요. 전체 오류의 71%가 두 가지 특정 유형의 문제에서 집중적으로 나타났습니다. 두 문제 모두 '틀린 방식으로 계산해도 우연히 숫자 답이 맞아떨어지는' 공통 구조를 가지고 있었죠.

최신 AI도 완벽하지 않다

연구진은 두 가지 AI를 비교했습니다. 하나는 기존 교육 데이터로 특별히 추가 학습시킨 작은 모델(T5)이고, 다른 하나는 최신 대형 언어 모델(LLM)입니다. 작은 모델은 정답 함정을 57%만 찾아냈지만, 최신 모델은 84%를 찾아내 더 나았습니다. 하지만 문제는 '오탐'입니다. 최신 모델도 실제로 틀린 학생 한 명을 잡아낼 때마다 거의 네 번이나 '거짓 경보'를 울렸습니다. 즉 '이 학생 틀렸어' 하고 알리는 네 번 중 세 번은 사실은 맞는 학생이었다는 뜻이죠.

이게 우리 교육에 무슨 의미일까?

이 연구가 시사하는 점은, AI가 전체 성적을 높은 정확도로 맞추더라도 '추론 과정'을 제대로 보지 못하면 교실에서 쓸모없다는 겁니다. 교실에 30명의 학생이 있다고 가정해 봅시다. AI가 매 과제마다 4명을 '틀렸다'고 지목하는데 그중 3명은 사실 맞는 학생이라면, 현장 선생님은 신뢰를 잃고 결국 AI를 안 쓰게 될 거예요. 연구진은 이런 맹점을 해결하려면 단순히 AI 성능을 높이는 것만으로는 부족하고, '왜 틀렸는지'를 함께 분석하는 교육용 AI를 새로 설계해야 한다고 조언합니다.

📖 원문 보기: arXiv 원문

본 요약은 AI로 작성되었습니다. arXiv 논문을 바탕으 재구성되었습니다.