한국 공무원용 '생성형 AI 활용 지침' 첫 배포…부적절 11건 적발
인사혁신처가 생성형 AI(인공지능) 활용 확산에 대응해 공무원 교육훈련생들이 준수해야 할 '생성형 AI 활용 지침'을 처음 마련했다. 인사처는 교육훈련 결과보고서 작성 과정에서 활용할 수 있는 '생성형 인공지능 활용 지침'을 전 부처에 배포했다고 22일 밝혔다.
인사혁신처가 마련한 이번 지침은 생성형 AI가 공직사회에 빠르게 확산되는 상황에서, 교육훈련의 공정성과 신뢰성을 확보하기 위한 선제적 조치로 평가된다. 특히 최근 몇 년간 국내외에서 생성형 AI 활용이 급증하면서, 공무원 교육 과정에서도 AI를 활용한 보고서 작성이 늘어나고 있으나, 이에 대한 명확한 규정이 없어 혼선이 발생해 왔다. 인사처는 이러한 문제를 해결하기 위해 지난해부터 관련 연구를 진행해 왔으며, 이번 지침은 그 결과물이다.
지침은 총 7가지 기본원칙을 제시한다. 구체적으로는 ▲연구 내용의 진실성 추구 ▲활용 사실의 투명한 공개 ▲공정성 유지 ▲윤리적 활용 ▲비판적 시각 유지 ▲개인정보 보호 등이 포함된다. 이는 생성형 AI를 교육훈련 과정에서 활용할 때 공무원들이 반드시 지켜야 할 핵심 가치를 담고 있다. 특히 AI가 생성한 정보를 그대로 받아들이지 않고 비판적으로 검토해야 한다는 점을 강조하며, 보고서에 AI 활용 여부를 명시하도록 했다. 예를 들어, AI가 생성한 내용을 인용할 경우에는 '본 보고서의 일부 내용은 생성형 AI(예: ChatGPT, Claude 등)를 활용하여 작성되었습니다'라는 문구를 반드시 포함해야 한다. 또한 AI가 생성한 참고문헌이나 통계 자료는 원본 출처를 직접 확인하고, 사실 여부를 검증한 후에만 사용할 수 있도록 규정했다.
인사처는 최근 3년간 제출된 국외 훈련 결과보고서 1385건을 전수 점검한 결과, 최종적으로 11건의 부적절 사례를 확인했다. 이는 전체 점검 대상의 약 0.8%에 해당하는 수치로, 비록 소수이지만 공무원 교육훈련의 신뢰성을 훼손할 수 있는 중대한 문제로 지적된다. 주요 사례로는 AI 환각 현상(Hallucination)에 따른 오류, 참고 문헌 정보 불일치, 확인 불가능한 문헌 인용, 이모지 및 특수기호 사용 등이 적발됐다. 예를 들어, 한 보고서에서는 AI가 생성한 가상의 논문 제목과 저자를 실제 학술지에 게재된 것처럼 인용한 사례가 발견됐다. 또 다른 사례에서는 AI가 생성한 내용에 포함된 이모지(😊, 🚀 등)가 보고서에 그대로 포함되어 전문성을 크게 떨어뜨렸다. 해당 교육생들에 대해서는 훈련비 환수 등의 조치가 진행 중이다. 이는 AI 활용의 부작용을 실질적으로 규제하는 첫 사례로 주목된다.
이번 지침의 배경에는 생성형 AI 기술의 급속한 발전과 함께 공무원 교육훈련의 질적 저하를 우려하는 목소리가 있었다. 교육훈련 결과보고서는 공무원의 전문성 향상을 평가하는 핵심 자료로, AI에 의존한 보고서 작성은 학습 효과를 반감시킬 뿐만 아니라, 공무원의 비판적 사고 능력을 저하시킬 위험이 있다. 또한 AI가 생성한 정보의 오류가 정책 결정에 영향을 미칠 가능성도 배제할 수 없다. 이에 인사처는 지침을 통해 AI 활용의 명확한 기준을 제시함으로써, AI를 단순한 도구로 활용하되 교육의 본질을 훼손하지 않도록 유도하고 있다.
김성훈 인사처 차장은 "공무원들이 교육훈련 과정에서 책임 의식을 갖고 인공지능을 올바르게 사용하길 바란다"며 "이번 지침이 AI 기술을 활용한 교육훈련의 신뢰성을 높이고, 공직사회에 올바른 AI 활용 문화를 정착시키는 계기가 될 것"이라고 강조했다. 그는 또한 "앞으로도 정기적인 점검을 통해 부적절 사례를 지속적으로 발굴하고, 기술 발전 속도에 맞춰 지침을 보완해 나갈 방침"이라고 덧붙였다. 인사처는 이번 지침을 시작으로, 향후 생성형 AI를 활용한 공무원 업무 전반에 대한 가이드라인도 마련할 계획인 것으로 알려졌다. 이는 AI 기술이 공직사회에 미치는 영향을 체계적으로 관리하고, 공무원의 AI 리터러시를 높이기 위한 장기적인 전략의 일환이다.
📖 원문 보기: 공무원용 '생성형 Ai 활용 지침' 첫 배포…부적절 활용 11건 적발
본 기사는 AI로 작성되었습니다 (AI 기본법 제31조). 원문 기사의 내용을 바탕으로 재구성되었습니다.
