AI 윤리원칙 초안, 현장 적용이 진짜 시험대…시민사회 "권리 행사 당사자로"·산업계 "중소기업 살릴 지침 필요"

zdnet.co.kr 보도 AI 윤리원칙 초안, 현장 적용이 진짜 시험대…시민사회 "권리 행사 당사자로"·산업계 "중소기업 살릴 지침 필요"

지난 14일 과학기술정보통부 통신부와 정보통신정책연구원(KISDI)이 서울 중구 프레지던트호텔에서 '대한민국 인공지능 윤리원칙 대토론회'를 열고 초안을 공개했다. 인간의 존엄성, 사회의 공공선, 인류의 지속가능성이라는 3대 가치 위에 인간중심성, 프라이버시 보호, 공정성·포괄성, 책임성, 안전성, 신뢰성, 투명성 등 7대 원칙을 담은 것이 골자다. 정부는 이를 강성규범인 법률이 아닌 모든 사회 구성원이 자율적으로 실천하는 연성규범으로 운영하겠다고 밝혔다.

그러나 시민사회와 산업계가 같은 자리에서 낸 목소리는 결코 단순한 환영이 아니었다. 권리 행사 당사자로서의 시민, 기업 현장의 구체적 해설, 그리고 중소기업이 실제로 따를 수 있는 지원 체계까지 후속 조치가 없이는 초안이 종이 위에 머물 수밖에 없다는 지적이 핵심이었다.

토론회에서 시민사회는 AI 영향을 받는 사람을 단순한 보호 대상이 아니라 권리를 행사하는 당사자로 규정해야 한다고 주문했다. 사단법인 무의 홍윤희 이사장은 장애인과 소수자를 단순한 수혜자가 아닌 시민으로 바라보는 관점이 이전보다 강화됐다고 평가하면서도, '포용성'이라는 표현이 시혜적 의미로 읽힐 수 있다고 지적했다. '포괄성'으로 표현을 바꾸거나 모든 시민 권리를 아우르는 '접근성'을 원칙에 명시하는 것이 바람직하다는 제안이었다. 시장에서 수집하기 어려운 장애인·소수자 관련 데이터를 공익 데이터로 규정하고 정부가 구축과 활용 기반을 지원해야 한다는 주장도 함께 제기됐다.

참여연대 이지은 선임간사는 인권에 기반한 접근과 피해 구제 절차 보강을 요구했다. AI 영향을 받는 사람이 관련 사실을 고지받고 의사결정에 참여하며, 피해가 발생했을 때 이의를 제기할 수 있어야 한다는 설명이다. 동시에 기업 내부에 AI의 사회적 영향을 독립적이고 객관적으로 평가할 수 있는 감사 체계를 마련해야 한다고 덧붙였다. 소비자시민모임 윤명 사무총장은 윤리원칙이 선언에 머물러선 안 된다고 강조하며, 정부·기업·소비자가 함께 참여해 분야별 적용 방안을 논의하는 협력 체계가 필요하다고 제안했다.

산업계 역시 초안 자체의 방향성에 대해서는 대체로 긍정적이었다. 카카오 AI 세이프티 리더 김경훈은 기업도 AI 개발·활용·위험 관리에 적용할 국가 차원 기준을 기다려 왔다며, 이번 원칙을 토대로 내부 윤리 기준과 위험 관리 체계를 재점검할 수 있을 것이라고 밝혔다. 다만 학습 데이터 공개를 투명성 원칙에 포함한 부분에 대해서는 신중한 재고를 요청했다. 공개 범위가 저작권과 영업비밀, 산업 경쟁력과 직결돼 있고 관련 입법 논의가 끝나지 않았기 때문이다. 김 리더는 윤리원칙-자율 점검표-공개 토론-영향평가를 연계하는 순환 구조를 제안했다. 기업이 현장에서 발견한 문제를 공유하고 이를 다시 원칙에 반영하는 피드백 구조가 작동해야 한다는 취지다.

한국인공지능·소프트웨어산업협회(KOSA) 김현주 본부장은 중소기업과 스타트업이 원칙을 이행할 수 있는 환경 조성의 필요성을 가장 직접적으로 짚었다. 중소기업은 대기업과 달리 AI 윤리를 전담하는 조직이나 인력을 갖추기 어렵다는 현실 때문이다. 기업들이 개별 법 조항의 의미보다 자사 서비스가 적용 대상인지, 어떤 영향을 받는지를 주로 묻는다는 현장 목소리를 인용하며, 작은 기업도 이해하고 따를 수 있는 상세한 해설서와 온라인 상담 채널이 필요하다고 강조했다.

과기정통부 이진수 AI정책기획관은 이날 자리에 대해 "법이 강성규범이라면 윤리원칙은 연성규범"이라며 "특정 기업만의 문제가 아니라 각 주체가 AI 윤리를 함께 풀어가야 한다는 방향을 담았다"고 정리했다. 이어 정부는 윤리원칙을 확정한 뒤 하반기에 구체적인 사례와 적용 방법을 담은 해설서를 발간하고, 산업계가 활용할 자율 점검표를 마련하며, 학교와 교육 현장을 대상으로 AI 윤리교육도 추진할 계획이라고 밝혔다.

에듀테크 업계 관점에서 이번 윤리원칙 초안은 적지 않은 무게를 갖는다. 교육은 AI가 가장 빠르게 깊이 들어오고 있는 영역 중 하나이기 때문이다. 학습자 데이터를 수집·활용하는 비중이 큰 만큼 프라이버시 보호와 공정성 원칙이 곧바로 학습서비스 설계의 제약 조건으로 작동한다. 투명성 원칙은 추천 알고리즘과 자동 평가 로직에 대한 설명 책임을 요구하며, 인간중심성과 책임성 원칙은 AI가 최종 학습 판단을 대체하는 일에 제동을 건다.

특히 홍윤희 이사장이 제기한 '포괄성과 접근성'의 논쟁은 에듀테크의 본질을 정확히 관통한다. 학습장애 학생, 한국어 능력이 부족한 다문화 가정 학생, 농어촌 지역의 정보 소외 계층 등을 AI 학습 서비스가 어떻게 포괄하느냐는 윤리의 영역이면서 동시에 교육 기회의 문제다. 학교와 교육 현장에서 진행될 AI 윤리교육은 단순한 교양 과정을 넘어 에듀테크 기업이 만들어 내는 서비스에 학생과 교사가 어떤 방식으로 참여하고 의견을 낼 수 있는지를 가르쳐야 한다. 시민사회가 요구한 당사자 참여와 이의 제기 절차가 교육 맥락에서 작동하지 않으면, 윤리교육은 교과서 밖의 이야기로 남을 가능성이 크다.

산업계의 지적도 교육용 AI 솔루션 개발사에 그대로 적용된다. 김경훈 리더가 경고한 학습 데이터 공개 범위의 딜레마는 교육 콘텐츠에서 특히 민감하다. 유료로 제작된 학습 콘텐츠와 학습자 로그 데이터의 공개는 저작권과 학습자 프라이버시를 동시에 건드린다. 그리고 KOSA가 짚은 중소기업형 에듀테크의 현실은 간과할 수 없다. 스타트업이 만든 소규모 학습 앱이 7대 원칙을 어떻게 구현할 수 있는지 묻는다면, 현시점 답을 가진 곳은 거의 없다. 정부가 약속한 해설서와 자율 점검표, 온라인 상담 채널이 실제로 문턱을 낮추느냐가 관건이다.

결국 윤리원칙의 성패는 제정 당일이 아니라 다음 단계에서 갈린다. 시민사회의 권리 기반 접근과 피해 구제 절차가 해설서에 구체적 문장으로 새겨지는지, 산업계가 현장에서 발견한 문제가 다시 원칙으로 흘러들어오는 순환 구조가 실제로 가동되는지, 그리고 에듀테크를 포함한 모든 AI 서비스 기업—특히 중소 개발사—이 "우리 서비스에 어떻게 적용되는가"라는 질문에 대한 답을 손쉽게 얻을 수 있는지. 과기정통부가 강조한 '연성규범'은 유연한 만큼 시행의지도 외부에 맡겨진다는 뜻이기도 하다. AI 시대 교육의 신뢰는 선언이 아니라 현장의 작은 실천에서 쌓인다는 점을, 업계와 정부는 똑같이 기억할 필요가 있다.