플랫폼의 AI 시대 책임, 이제 '보여주기식 자율'로는 부족하다

edaily.co.kr 보도 | 3 days ago 플랫폼의 AI 시대 책임, 이제 '보여주기식 자율'로는 부족하다

이른바 'AI 피로감'이 사회 전반으로 확산하면서, 정부는 마침내 AI 생성 콘텐츠의 신뢰성 문제를 플랫폼 차원에서 제도적으로 틀어잡기 시작했다. 방송미디어통신위원회가 추진하는 'AI 이용자보호법' 핵심 골자는 단순하다. AI가 만들어낸 콘텐츠가 누구의 손을 거쳐 유통되든, 이용자는 그것이 'AI 생성물'임을 명확히 인지할 수 있어야 한다는 것이다. 그동안 AI 기본법이 생성 단계의 표시만 의무화했던 한계를 인정하고, 유통 단계까지 책임의 그물을 넓히려는 시도다. 동시에 추천 알고리즘은 기업의 영업비밀이라는 현실을 존중하되, 이용자가 추천을 '거부'하거나 '방식을 선택'할 수 있는 길은 열어두겠다는 균형점도 제시했다.

방송미디어통신위원회는 AI 서비스 확산에 맞춰 포털·플랫폼 사업자의 이용자 보호 의무를 강화하는 'AI 이용자보호법' 마련을 추진한다고 11일 밝혔다. AI 생성물 표시를 생성 단계뿐 아니라 포털·플랫폼을 통한 유통 단계까지 확대하고, 추천 알고리즘은 일률적으로 공개하지 않되 이용자가 추천 여부와 방식을 선택할 수 있도록 하는 것이 골자다. 딥페이크 성범죄물 등 불법·유해 정보는 유통 이후 차단하는 데 그치지 않고 AI가 정보를 생성·제공하는 단계부터 대응한다는 방침이다. 동북아공동체ICT포럼 조찬 강연에서 류신환 방미통위 비상임위원이 이 같은 정책 방향을 공개했다.

류 위원에 따르면 이번 법안의 핵심은 크게 네 가지 축으로 구성된다. 첫째, AI 생성물 표시 의무의 확대다. 현행 AI 기본법은 AI 사업자가 콘텐츠를 '제공하는 단계'에서만 표시를 요구한다. 그러나 콘텐츠가 포털이나 SNS, 메신저 등을 타고 재유통되면 'AI가 만든 글'이라는 꼬리표가 사실상 사라진다. 방미통위는 포털·플랫폼 사업자와 직접 정보를 제공하는 사업자 모두에게 AI 생성물 표시 의무를 부과함으로써, 이용자가 콘텐츠의 출처와 성격을 알고 판단할 수 있는 환경을 만들겠다는 구상이다.

둘째, 알고리즘 공개 방식의 재설계다. 정부는 추천 알고리즘을 일률적으로 공개하거나 직접 개입하는 방식은 취하지 않는다. 류 위원도 "알고리즘은 기업의 핵심 경쟁력이자 영업비밀에 해당할 수 있다"며 "일률적인 공개나 개입은 지양할 필요가 있다"고 분명히 선을 그었다. 대신 플랫폼이 알고리즘의 주요 작동 원리와 변경 사항을 알기 쉽게 고지하고, 이용자가 추천 여부나 방식, 정보 범위 등을 직접 선택할 수 있도록 하는 '이용자 선택권' 제도를 법·제도에 반영할 방침이다. 호주가 도입한 알고리즘 추천 거부권 및 선택권 제도가 참고 사례로 거론됐다.

셋째, 허위조작정보 대응의 민간 자율화다. 정부는 콘텐츠의 진위를 직접 판단하지 않고, 앞으로 만들어질 투명성센터가 민간 팩트체크를 뒷받침하는 역할을 맡는다. 팩트체크 DB 구축, 연구, 전문인력 양성, 국제협력 등 '인프라 지원'에 집중한다는 의미다. 넷째, 불법·유해 정보에 대한 선제적 대응 체계다. 현행 법이 사후 차단에 무게를 두고 있다면, 신설되는 법안은 AI가 정보를 생성·제공하는 단계부터 거버넌스가 작동하도록 설계된다. 사업자의 정보 제공과 이용약관 의무, 이용자의 접근권·이용 거부권·설명 요구권 등이 구체적으로 명문화될 예정이라는 게 방미통위의 설명이다.

류 위원도 이날 직접 "AI를 단순히 잘 활용하는 것을 넘어 책임감과 윤리의식을 갖고 주체적으로 이용할 수 있는 'AI 미디어 민주시민'을 양성하겠다"며, AI 활용 능력뿐 아니라 책임 있는 이용을 위한 교육도 강화하겠다고 강조했다. 이 같은 이니셔티브는 단순히 규제를 강화하는 데 그치는 것이 아니라, 기술 혁신과 국민 권리 보호 사이에서 국가가 '조정자' 역할을 해야 한다는 인식을 배경에 깔고 있다. 류 위원도 "AI로 인한 피해가 현실화되고 있는 영역에서는 법적 규율과 경성적 규율이 적절히 작동해야 한다"고 강조하며, 기술 발전 속도가 빠르고 변화 방향을 예측하기 어려운 AI 분야에서는 획일적 규제보다 윤리 원칙과 자율 규범 등 연성적 규율이 우선해야 한다는 입장을 분명히 했다.

이번 정책 패키지는 에듀테크 업계에 적지 않은 파장을 던진다. 무엇보다 교육 플랫폼이 단순히 'AI 기능을 탑재했다'는 마케팅 포인트를 넘어, 학습 콘텐츠가 AI 생성물인지 인간 강사의 산물인지를 이용자에게 투명하게 알려야 하는 시대가 열렸기 때문이다. 실제로 최근 몇 년간 AI 튜터, AI 학습 코치, AI 문제 생성기는 에듀테크의 핵심 경쟁력이자 차별화 요소로 부상했다. 그러나 학습 결과의 신뢰성, 평가의 공정성, 학습 데이터의 편향성 등은 교육 영역에서 특히 민감한 사안이다. 유통 단계 표시 의무가 에듀테크 플랫폼까지 확장될 경우, 기업들은 AI 생성 학습 콘텐츠와 인간 전문가가 설계한 콘텐츠를 구분해 라벨링하는 시스템을 갖춰야 하고, 이는 곧 기술적·재무적 투자로 이어질 가능성이 높다.

특히 의미 있는 대목은 '알고리즘 선택권' 도입이다. 에듀테크 분야에서 추천 알고리즘은 개인화 학습 경로 설계, 맞춤형 문제 출제, 학습 성취도 예측 등 핵심 기능을 떠받치고 있다. 그동안 알고리즘은 사실상 블랙박스였고, 그 결과에 대한 설명 책임도 제조사 측에 집중되어 있었다. 만약 학습자가 추천 학습 경로를 거부하거나, '동일 난이도 문제 위주' '취약 개념 반복 학습 위주' 등 추천 방식을 직접 선택할 수 있다면, 학습 경험의 주도권은 플랫폼에서 학습자 본인으로 옮겨간다. 이는 교육의 본질과도 맞닿는 변화다.

또한 'AI 미디어 민주시민' 교육 강화 기조는, 학교와 교육기관, 에듀테크 기업 모두가 AI 리터러시 커리큘럼을 재정비해야 한다는 신호로 읽힌다. AI가 만든 콘텐츠를 비판적으로 읽고, AI의 한계를 이해하며, 윤리적으로 활용하는 능력은 이제 선택이 아닌 필수 역량이다. 방미통위가 추진하는 정책이 시행 국면에 들어가면, 에듀테크 기업은 단순 기능 경쟁에서 '신뢰 경쟁'과 '투명성 경쟁'으로 무게중심을 옮겨야 할 것이며, 이는 결국 소비자 선택의 새로운 기준이 될 것으로 전망된다.