AI 봇으로 가짜뉴스 만들어본 대학생들

유튜브나 페이스북에서 가짜 정보를 퍼뜨리는 봇을 직접 만들어보는 대회가 있었습니다. 이 대회는 그냥 게임이 아니라, 사람들이 가짜뉴스에 속지 않도록 교육하는 새로운 방법이었습니다.

최근 연구에 따르면, 세계적인 이슈가 터질 때마다 올라오는 게시물 다섯 개 중 하나는 가짜뉴스를 퍼뜨리는 자동 프로그램(봇)이 만듭니다. 게다가 요즘은 글이나 그림을 자동으로 만드는 인공지능(AI) 기술 덕분에 가짜 정보를 만드는 게 더 쉬워졌습니다. 하지만 지금까지 디지털 문해력 교육, 즉 온라인에서 정보를 제대로 판단하는 훈련은 주로 체크리스트를 외우거나 오래된 게임을 하는 수준에 머물러 있었습니다.

호주 연구진은 이 문제를 해결하기 위해 색다른 접근법을 시도했습니다. 바로 대학생들이 '가짜뉴스를 유포하는 AI 봇'을 직접 만들도록 하는 것입니다. 물론 실제 사회를 혼란에 빠뜨리려는 게 아니라, 통제된 환경에서 경쟁을 통해 배우게 하기 해서였습니다. 이들은 '캡처 더 내러티브(Capture the Narrative)'라는 대회를 열었고, 학생들은 자신의 팀을 위해 글을 자동으로 생성하는 대규모 언어 모델(LLM) 기반 봇을 만들어 가상 선거에서 특정 후보에게 유리한 여론을 만들도록 했습니다.

가상 세계에서의 실전 훈련

대회를 위해 연구진은 가상의 소셜 미디어 플랫폼을 만들었습니다. 이곳에는 4000명의 가상 시민(게임 속에서 미리 정해진 대로 행동하는 캐릭터, 즉 NPC)이 살고 있었습니다. 호주 18개 대학에서 무려 108개 팀이 참가했고, 학생들이 만든 봇은 총 706만 개가 넘는 게시물을 올렸습니다. 이는 플랫폼 전체 게시물의 60% 정도였습니다. 대회가 끝난 후 256명의 학생을 대상으로 설문 조사를 한 결과, 참가자들은 가짜뉴스가 어떻게 유포되는지 직접 경험하며 훨씬 더 깊이 이해하게 되었다고 답했습니다.

이 연구가 의미하는 바는 단순합니다. 가짜뉴스를 만드는 쪽의 입장이 되어 보는 교육이, 그냥 주의하라는 말을 듣는 것보다 훨씬 효과적일 수 있다는 점입니다. 물론 이런 대회는 엄격한 통제 아래 운영되어야 하지만, 학교나 기관에서 비슷한 방식의 체험 교육을 도입한다면 학생들의 디지털 문해력을 크게 키울 수 있을 것으로 보입니다.

우리 일상에 주는 교훈

우리는 뉴스 피드에서 나오는 정보를 무심코 믿곤 합니다. 하지만 이 연구는 그 정보가 어떻게 만들어질 수 있는지를 보여줍니다. AI 기술이 점점 발전할수록 가짜뉴스는 더 정교해지고 구분하기 어려워질 것입니다. 그렇다면 이제는 단순히 '조심하라'고 가르치는 것을 넘어, 직접 만들어보면서 그 원리를 이해하는 새로운 교육 방식이 필요할지도 모릅니다.

📖 원문 보기: arXiv 원문

본 요약은 AI로 작성되었습니다. arXiv 논문을 바탕으로 재구성되었습니다.