AI가 윤리 토론 상대가 되어준다면

아직 잘 모르는 분들을 위해 쉽게 설명하면, 이 연구는 "윤리 토론을 함께할 사람이 부족할 때 인공지능이 그 자리를 채워줄 수 있을까?"라는 질문에 답한 실험입니다.

정답이 없는 수업의 딜레마

과학이나 공학을 전공하는 학생들은 계산과 설계는 많이 배웁니다. 그런데 "이 기술이 사람에게 어떤 영향을 줄까"를 따지는 훈련은 상대적으로 적습니다. 윤리 문제는 정답이 없어서 더 어렵습니다.

그래서 학교에서는 역할극이나 토론을 자주 씁니다. 학생들이 여러 입장을 직접 겪어보게 하는 방식입니다. 문제는 준비가 힘들다는 점입니다. 진행할 사람이 필요하고, 학생 수가 많으면 한 명씩 의견을 낼 기회도 줄어듭니다.

여러 관점을 맡은 인공지능들

연구진은 이 부담을 줄일 방법으로 '윤리 훈련 에이전트'라는 시스템을 만들었습니다. 여기서 에이전트는 스스로 판단하며 대화하는 인공지능 프로그램을 말합니다.

이 시스템에는 성격이 다른 여러 인공지능이 등장합니다. 하나는 결과를 중시하고, 또 하나는 모두의 권리를 우선하고, 다른 하나는 규칙과 의무를 강조합니다. 사람이 여러 역할을 나눠 맡는 것과 비슷합니다. 여기에 사회자 역할을 하는 인공지능이 더해져 토론 순서를 정리합니다.

학생들은 이 인공지능들과 함께 이야기합니다. 자기 의견을 말하고, 반박을 듣고, 다시 생각을 고쳐 씁니다.

45명의 학생이 참여한 실험

연구진은 과학과 공학을 공부하는 학부생 45명에게 이 시스템을 써보게 했습니다. 그리고 토론이 잘 굴러갔는지, 배운 게 있었는지 물었습니다.

결과는 긍정적이었습니다. 학생들은 대화에 더 적극적으로 참여했고, 여러 의견을 정리하는 데 도움을 받았다고 답했습니다. 다른 사람의 처지를 헤아리는 힘, 즉 관점 바꾸기도 좋아졌습니다.

특히 눈에 띈 변화는 윤리적 민감성입니다. 이는 어떤 상황에 숨어 있는 윤리 문제를 알아채는 능력입니다. 예를 들어 새 기능을 내놓기 전에 "이게 개인정보를 건드리지 않나" 하고 먼저 의심하는 감각입니다.

우리 교육에 주는 의미

이 시스템의 장점은 반복 연습이 가��하다는 것입니다. 진행자를 매번 구하기 어려운 학교나 동아리에서도 토론 수업을 열 수 있습니다. 학생 수가 많아도 각자 자기 속도로 여러 입장을 겪어볼 수 있습니다.

물론 조심할 점도 있습니다. 인공지능이 내놓는 의견이 항상 옳은 것은 아닙니다. 인공지능의 말을 그대로 받아들이지 않고 따져보는 태도가 함께 길러져야 합니다.

이 연구가 의미하는 바는 분명합니다. 윤리 교육에서 인공지능은 답을 알려주는 선생님보다, 함께 고민해주는 토론 상대가 될 수 있다는 것입니다.

📖 원문 보기: arXiv 원문

본 요약은 AI로 작성되었습니다. arXiv 논문을 바탕으로 재구성되었습니다.