AI 윤리원칙, '규제'가 아닌 '촉진자'로…정부·산업계·시민사회가 그린 새로운 좌표

머니투데이 보도

AI 윤리원칙, '규제'가 아닌 '촉진자'로…정부·산업계·시민사회가 그린 새로운 좌표

[도입부] 과학기술정보통신부가 이달 중 '대한민국 인공지능 윤리원칙' 제정을 앞둔 가운데, 지난 14일 서울 프레지던트호텔에서 산업계·학계·시민사회·일반 시민 70여 명이 모여 대토론회를 열었다. 이 자리에서 참석자들은 AI가 단순한 기술이 아닌 사회의 기본 인프라가 된 현실을 직시하며, 윤리원칙이 혁신을 가로막는 규제가 아닌 바람직한 AI 발전을 이끄는 '조력자'가 돼야 한다는 데 의견을 모았다. 특히 '윤리적 권고'와 '법적 의무'의 경계를 명확히 해야 한다는 지적이 나오면서, 자율 규범으로서의 윤리원칙이 어떤 위상을 가져야 하는지에 대한 깊이 있는 논의가 이뤄졌다.

[본문 1] 이번 토론회는 정부가 지난해 말부터 AI 기본법 제27조에 따라 추진해 온 윤리원칙 제정 작업의 마지막 단계에서 열렸다. 2020년 발표된 '인공지능 윤리기준'을 계승하면서, 에이전트형 AI와 피지컬 AI 등 최근 급변하는 기술 환경과 AI 기본법 시행 이후 달라진 정책 현실을 반영한 것이 특징이다. 윤리원칙안은 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성 등 3대 가치와 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성 등 7대 원칙으로 구성됐다.

토론회에서 가장 주목을 끈 발언은 변순용 서울교육대학교 윤리교육과 교수의 진단이었다. 그는 "AI가 사회의 기본 인프라가 된 만큼 AI를 위험하고 조심해야 하는 대상으로 보는 인식에서 벗어날 필요가 있다"고 강조했다. 이는 그동안 AI 윤리 논의가 '위험 회피'에 집중돼 온 경향을 비판하며, AI를 삶의 일부로 받아들이고 그 안에서 책임 있는 활용 방안을 모색해야 한다는 문제의식으로 읽힌다.

김경훈 카카오 AI Safety 리더는 "윤리적 권고와 법적 의무가 혼동되지 않도록 할 필요가 있다"고 지적했다. 이 발언은 윤리원칙이 법적 구속력을 갖는 규제로 오인되거나, 반대로 법적 의무가 없는 자율 규범이라는 이유로 형해화되는 것을 모두 경계해야 한다는 뜻으로 풀이된다. 실제로 AI 윤리 논의가 활발해질수록 '윤리 준수'와 '법적 책임'의 경계가 모호해지면서 기업 현장에서 혼선이 발생하는 사례가 늘고 있다는 점에서, 이는 매우 현실적인 제언이라는 평가가 나온다.

이상욱 한양대 철학과·인공지능학과 교수는 발표에서 AI 기술의 급속한 변화로 개발·활용 과정의 판단이 복잡해지고 있다고 진단하며, 윤리원칙이 혁신을 제약하는 요소가 아니라 바람직한 AI 개발·활용을 돕는 '조력자'이자 이를 실제로 가능하게 하는 '촉진자'가 돼야 한다고 강조했다. 기술 발전 속도에 비해 법·제도가 따라가지 못하는 '규제 공백'을 윤리가 메워야 한다는 논리다.

[본문 2] 이번 토론회의 의미는 단순히 윤리원칙의 내용을 확정하는 데 그치지 않는다. AI 거버넌스의 방향성을 둘러싼 이해관계자들의 입장 차이를 확인할 수 있는 자리였다는 점에서 주목할 만하다. 산업계는 기술 혁신의 동력을 유지하면서도 사회적 신뢰를 확보할 수 있는 유연한 기준을 원하고 있고, 시민사회는 AI 개발·활용 과정에서 시민의 실질적 참여와 권리 보장을 요구하고 있다.

김현주 한국인공지능·소프트웨어산업협회(KOSA) 본부장은 "에이전트형 AI, 피지컬 AI 등 새로운 기술 이슈가 등장하는 상황에서 입법과 기술 발전 간의 시차를 보완하는 역할로 윤리가 중요하다"고 말했다. 이는 법적 규제가 따라잡기 어려운 빠른 기술 변화 속에서 윤리원칙이 '유연한 안전장치' 역할을 해야 한다는 산업계의 기대를 보여준다. 반면 홍윤희 사단법인 무의 이사장은 "AI의 개발과 활용 과정에서 다양한 시민이 참여할 수 있어야 한다"며 "기존의 수혜자 중심 접근에서 벗어나 시민들을 권리를 가진 주체로 보고 접근해야 한다"고 역설했다. 기술 발전의 과실이 특정 집단에 편중되지 않도록 하는 '포용성'이 윤리원칙의 핵심 가치가 돼야 한다는 주장이다.

이 같은 논의는 AI 윤리가 더 이상 철학적 담론에 머물러서는 안 되며, 실제 산업 현장과 일상생활에 적용 가능한 실천 규범으로 자리 잡아야 한다는 공감대를 형성했다. 특히 AI가 교육, 의료, 금융, 행정 등 공공 영역에 깊숙이 침투하면서 윤리원칙의 실효성에 대한 관심도 높아지고 있다. 정부는 토론회에서 나온 의견을 종합적으로 검토해 윤리원칙안을 보완한 뒤 이달 중 제정·공표할 예정이다. 이진수 과기정통부 인공지능정책기획관은 "윤리원칙을 제정하고, 향후 정부·기업·시민 등 모든 주체가 각자의 위치에서 이를 실천해 나갈 수 있도록 적극 뒷받침하겠다"고 밝혔다.

[시사점] 이번 대토론회는 AI 윤리 논의가 '위험 통제'에서 '책임 있는 혁신'으로 패러다임을 전환하고 있음을 보여주는 상징적 사건이다. 에듀테크 업계에 주는 시사점은 특히 크다. 교육 현장은 AI 기술의 수용 속도가 빠르면서도 그 영향이 민감한 영역이기 때문이다. AI 튜터, 적응형 학습 시스템, 자동 채점·평가 도구 등이 확산하면서 학습 데이터 보호, 알고리즘의 공정성, 교사와 학생 간 관계의 재정의 등 새로운 윤리적 질문이 쏟아지고 있다.

윤리원칙이 '법적 의무'가 아닌 '자율 규범'으로 확정될 경우, 에듀테크 기업들은 규제 준수를 위한 최소한의 방어적 대응이 아니라, 자발적으로 윤리적 실천을 내재화하는 전략적 접근이 필요하다. 특히 교육 분야는 미성년자의 민감한 개인정보를 다루는 경우가 많고, AI의 판단이 학습자의 장기적 성장에 직접적인 영향을 미친다는 점에서 다른 산업보다 높은 수준의 윤리 기준이 요구된다. 따라서 에듀테크 기업들은 윤리원칙을 단순한 컴플라이언스 대상으로 볼 것이 아니라, 제품 설계 단계부터 윤리적 고려를 통합하는 'Ethics by Design' 접근을 채택해야 한다. 이는 곧 학부모와 학교의 신뢰를 확보하고, 장기적으로 시장 경쟁력을 강화하는 핵심 요소가 될 것이다. AI 윤리원칙의 제정은 끝이 아니라 시작이며, 이제 관건은 이를 실제 교육 현장에서 어떻게 구현할 것인가에 달려 있다.