AI와 흑인 커뮤니티, 연구와 현실의 괴리

챗GPT 같은 생성형 AI가 흑인 커뮤니티에 어떤 영향을 줄까? 연구자들은 이 문제를 어떻게 생각하고, 일반 사람들은 어떻게 이야기할까. 이 논문은 그 둘 사이의 간극을 처음으로 견주어 보았습니다.

왜 이 연구가 필요했나

AI가 점점 더 많은 일터와 학교, 병원에 들어오고 있습니다. 그런데 AI가 특정 사람들을 불공평하게 대하는 경우가 있습니다. 특히 흑인 커뮤니티에서는 AI가 인종 차별을 되풀이할 수 있다는 우려가 큽니다. 그런데도 AI의 영향을 연구하는 방식과 실제 사람들이 느끼는 방식이 같은지 확인한 연구는 드물었습니다. 그래서 연구진은 AI와 흑인 커뮤니티에 관한 두 가지 목소리를 비교하기로 했습니다.

연구진이 한 일

연구진은 두 가지를 분석했습니다. 첫째, 이미 발표된 연구 논문 91편을 모아 꼼꼼히 살펴봤습니다. 둘째, 뉴스나 공공 문서 같은 자료 28개를 분석했습니다. 이때 '틀 짓기'라는 방법을 사용했습니다. 쉽게 말해 어떤 문제를 어떻게 정의하고, 왜 그런 일이 생겼다고 보고, 어떤 해결책을 내세우는지 그 큰 관점을 비교한 것입니다.

무엇을 찾았나

논문들에서는 대부분 AI의 편향을 찾아내는 기술적인 작업에 집중하고 있었습니다. 예를 들어 AI가 흑인의 얼굴을 제대로 알아보는지, 흑인에게 불리한 말을 하는지 같은 것입니다. 그러면서 흑인을 '측정할 수 있는 숫자'로만 다뤘습니다. 하지만 흑인의 문화, 흑인이 살아가는 사회 구조, 흑인 공동체가 오랫동안 쌓아온 지식은 거의 다루지 않았습니다.

반면 일반 언론과 공공 담론에서는 AI가 끼친 피해를 역사적이고 구조적인 원인에서 찾는 경우가 많았습니다. 예를 들어 '오래된 차별이 오늘날 AI에도 그대로 남아 있다'는 식으로 바라본 것입니다. 즉, 연구실 안에서 보는 관점과 세상에서 이야기하는 관점 사이에 큰 괴리가 있었습니다.

우리에게 주는 의미

이 연구의 결과는 우리에게 중요한 질문을 던집니다. AI를 기술적인 문제로만 볼 것인가, 아니면 사회적인 문제로 함께 볼 것인가입니다. 흑인 커뮤니티가 겪는 피해를 단순히 'AI의 실수'로 치부하면 진짜 해결책이 나오기 어렵습니다. 기술을 만드는 사람과 정책을 만드는 사람 모두가 사람들의 삶과 역사를 이해해야만 AI가 모두에게 공정한 도구가 될 수 있다는 뜻입니다.

앞으로 AI가 더 많은 곳에 퍼질수록 이런 고민은 더 커질 것입니다. 이 연구는 우리가 기술 너머의 사람들 목소리에 귀를 기울여야 하는 이유를 또렷이 보여줍니다. AI의 미래를 만드는 일은 결국 어떤 사회를 만들지 고르는 일이기 때문입니다.

📖 원문 보기: arXiv 원문

본 요약은 AI로 작성되었습니다. arXiv 논문을 바탕으로 재구성되었습니다.