AI 문제집, 직업 따라 위험도 다르게?

AI가 만든 물리 문제집에 숨겨진 편견이 있다는 연구 결과가 나왔습니다. 같은 문제라도 등장인물의 직업에 따라 위험한 상황이 다르게 배치되는 문제가 발견됐습니다.

요즘 학교에서 AI가 만든 문제집을 많이 사용합니다. 그런데 이 AI 문제들이 정말 공정할까요? 연구진은 AI가 만든 물리 문제 600개를 분석했습니다. 문제에는 CEO, 물리학자, 교사, 간호사, 건설 노동자, 이주 노동자 등 다양한 직업이 등장했습니다. 연구진은 각 직업이 어떤 상황에서 등장하는지, 얼마나 위험한 일을 하는지 등을 꼼꼼히 살펴봤습니다.

AI가 그린 직업별 그림자

연구 결과는 충격적이었습니다. 건설 노동자와 이주 노동자가 등장하는 문제에서는 위험한 상황이 훨씬 많이 나왔습니다. 특히 이주 노동자 문제에서는 감전, 화상, 방사선 노출 같은 건강을 해칠 수 있는 위험이 집중됐습니다. 반면 CEO나 물리학자가 등장하는 문제에서는 이런 위험이 거의 없었습니다. AI는 마치 '이 직업은 위험하다'는 사회적 편견을 그대로 배운 셈입니다.

왜 이런 일이 생겼을까?

AI는 인터넷에 있는 수많은 글과 문제를 학습합니다. 그런데 현실 사회에는 이미 '건설 노동자는 위험한 일을 한다', '이주 노동자는 힘든 일을 한다'는 편견이 퍼져 있습니다. AI는 이런 편견을 그대로 배워서 문제를 만든 겁니다. 연구진이 확인한 결과, AI가 만든 물리 문제의 과학적 내용은 모두 정확했습니다. 하지만 문제의 배경이나 등장인물 설정에서 사회적 편견이 드러난 것입니다.

이 연구는 우리에게 중요한 질문을 던집니다. AI가 만든 교육 자료를 그대로 사용해도 괜찮을까요? AI가 기술적으로 완벽하더라도, 사회적 편견을 담고 있다면 학생들에게 잘못된 인식을 심어줄 수 있습니다. 앞으로 AI 교육 자료를 만들 때는 과학적 정확성뿐만 아니라 사회적 공정성도 꼼꼼히 확인해야 합니다. 그래야 모든 학생이 편견 없이 배울 수 있는 교육 환경을 만들 수 있습니다.

📖 원문 보기: arXiv 원문

본 요약은 AI로 작성되었습니다. arXiv 논문을 바탕으로 재구성되었습니다.