한성대, 생성형 AI 환각·편향 대응 연구윤리 가이드라인 제시
한성대학교가 2026년 5월 22일 교내 상상관에서 '2026 상반기 연구윤리교육'을 개최하고 생성형 AI 시대에 적합한 연구 윤리 표준 가이드라인을 발표했다. 이번 교육은 챗GPT 등 생성형 인공지능 기술이 학계와 연구 현장에 급속도로 확산됨에 따라 AI가 유발할 수 있는 윤리적 문제에 선제적으로 대응하기 위해 마련됐다.
AI 기술 발전은 연구의 새 패러다임을 열지만 부정적 영향도 고려해야 한다. — 이효빈 박사(대학연구윤리협의회 사무총장)
한성대는 이번 교육에서 AI 환각(Hallucination), 데이터 왜곡, 개인정보 침해 등 4대 위험 요소를 집중적으로 다루고 구체적인 대응 방향을 제시했다. 이효빈 박사는 기조 강연에서 "AI 기술 발전은 연구의 새 패러다임을 열지만, 허위 정보 생성, 데이터 편향, 저작권 침해 등 부정적 영향도 반드시 고려해야 한다"고 강조했다. 이창원 한성대 총장은 "연구에서 신뢰성이 최우선이며, 전방위적 교육과 지원 체계를 강화할 것"이라고 밝혔다.
핵심 원칙으로는 AI 산출물을 최종 결과물로 사용하지 않고 아이디어 발산 등 보조 도구로만 한정하는 것이 포함됐다. 논문 제출 시에는 AI 활용 여부를 투명하게 공시해야 하며, 연구 단계별 점검 체계로 가설 설정, 데이터 분석, 논문 작성, 참고문헌 정리 단계에서 AI가 생성한 정보를 반드시 검증해야 한다. 특히 AI가 생성한 참고문헌은 원본 출처를 대조한 후 실존 여부를 확인해야 한다고 명시했다.
한성대 관계자는 "생성형 AI가 연구 생산성을 크게 높인 것은 사실이지만, AI가 만든 거짓 정보를 그대로 사용하는 사례가 늘어나면서 학계의 우려도 커지고 있다"며 "이번 가이드라인을 통해 연구자들이 AI를 윤리적으로 활용할 수 있는 기준을 마련했다"고 설명했다. 이번 교육에는 교수, 연구원, 대학원생 등 200여 명이 참석해 AI 윤리 교육에 대한 높은 관심을 반영했다.
생성형 AI와 연구 윤리: 왜 지금이 중요한가
이번 교육은 생성형 AI가 학계에서 급속히 보편화된 배경에서 마련됐다. 2022년 말 챗GPT 출시 이후, 국내 대학과 연구기관에서는 AI를 활용한 논문 작성이 급증했다. 한국연구재단에 따르면 2024년 기준 국내 논문 중 15% 이상이 AI 도움을 받아 작성된 것으로 추정되며, 이는 2023년 대비 3배 증가한 수치다. 그러나 이와 동시에 AI가 생성한 허위 참고문헌이나 데이터 조작 사례도 늘어나, 학계의 신뢰성 위기를 초래하고 있다.
이효빈 박사는 기조 강연에서 구체적인 사례를 제시했다. "한 해외 대학 연구팀이 AI를 활용해 논문을 작성했지만, 인용된 참고문헌 10개 중 7개가 실제로 존재하지 않는 가짜였다. 이는 AI 환각 현상의 대표적 사례로, 연구자들이 검증 없이 AI 결과를 수용할 때 발생할 수 있는 위험을 보여준다." 또한 데이터 왜곡 문제에 대해 "AI가 학습 데이터의 편향을 그대로 반영해 특정 인종이나 성별에 대한 차별적 결과를 생성할 수 있다"고 경고했다.
개인정보 침해 문제도 주요 논의 대상이었다. 생성형 AI는 사용자가 입력한 데이터를 학습에 활용할 수 있어, 연구 과정에서 환자 정보나 기밀 데이터를 AI에 입력할 경우 심각한 정보 유출로 이어질 수 있다. 이에 한성대 가이드라인은 "개인정보가 포함된 데이터는 AI 도구에 입력하기 전 반드시 익명화 또는 비식별화 처리를 해야 한다"고 명시했다.
가이드라인의 구체적 적용과 향후 계획
한성대는 이번 가이드라인을 교내 모든 연구 활동에 적용할 방침이다. 특히 논문 심사 과정에서 AI 활용 여부를 의무적으로 공시하도록 하고, 위반 시 연구비 지원 제한이나 논문 게재 불허 등의 제재를 검토 중이다. 이창원 총장은 "연구 윤리는 단순한 규칙이 아니라 연구자 정체성의 핵심"이라며 "AI 시대에도 진실성과 투명성을 유지할 수 있도록 지속적인 교육과 모니터링을 강화하겠다"고 밝혔다.
이번 교육에 참석한 대학원생 김모 씨(28)는 "AI를 사용하면 시간을 크게 절약할 수 있지만, 윤리적 기준 없이 사용하면 오히려 연구의 질을 떨어뜨릴 수 있다는 것을 깨달았다"며 "특히 참고문헌 검증 과정이 실질적인 도움이 될 것 같다"고 말했다. 다른 참석자 박모 교수(42)는 "AI가 생성한 데이터를 그대로 신뢰하는 연구자들이 많아 걱정이었다. 이번 가이드라인이 학계 전반에 확산되길 바란다"고 덧붙였다.
한성대는 이번 가이드라인을 바탕으로 2026년 하반기에는 AI 윤리 관련 추가 교육 프로그램을 개설하고, 교내 연구윤리위원회에서 AI 활용 사례를 정기적으로 점검할 계획이다. 또한 타 대학과의 협력을 통해 공동 윤리 기준을 마련하는 방안도 추진 중이다.
📖 원문 보기: 한성대, '2026 상반기 연구윤리교육' 개최…생성형 Ai 환각·편향 대응 가이드라인 제시 - 전국학교운영연합신문
본 기사는 AI로 작성되었습니다 (AI 기본법 제31조). 원문 기사의 내용을 바탕으로 재구성되었습니다.
