볼커 투르크·유니세프 경고: AI 정책에 어린이 목소리를 먼저 묻지 않으면 권리 침해된다

유엔 총회 일반토론장 여파로 열린 고위급 회의에서 인권최고대표 볼커 투르크는 ‘오늘의 어린이들은 AI와 함께 자라는 첫 세대지만 의견을 묻는 대상은 아니다’라고 지적하며 목소리 배제를 문제로 제기했습니다. 회의는 AI 시대 아동 보호를 주제로 열렸고 여러 국가 정상과 수장이 공동주재했습니다.

회의는 프랑스 대통령, 스페인 총리, 케냐 대통령, 호주 총리가 공동 의장 역할을 맡아 정치적 관심을 드러냈습니다. 투르크 대표는 어린이를 사후 고려 대상이 아닌 완전한 권리 주체로 봐야 한다고 강조했습니다.

유엔 인권최고대표실이 수행한 조사는 49개국의 1,000명이 넘는 어린이 응답을 바탕으로 했습니다. 발표된 내용은 허위 이미지 제작, 개인정보 수집과 악용, 창의성 침식, 실제 인간관계 약화에 대한 우려를 중심으로 정리됐습니다.

유니세프 사무국장 캐서린 러셀은 어린이들이 이미 AI를 사용하고 있고 기회와 위험이 공존한다고 말했습니다. 그녀는 특히 AI로 변환된 성적 이미지 문제를 구체적 피해 사례로 제시하며 세대 차원의 손상을 경고했습니다.

조사 응답자들은 허위 이미지로 실존 인물이 왜곡되는 사례와 개인정보가 수집·이용되는 경험을 나눴습니다. 이런 경험은 어린이들이 온라인에서 자신을 보호하기 어렵다고 느끼게 만들고 있습니다.

아이들은 또한 AI가 창의성을 잠식하고 가족·교사·치료사 등 실제 관계를 대체할 수 있다는 우려를 표현했습니다. 이 같은 정서적·사회적 영향은 기술 도입의 직접적인 결과로 이해됩니다.

유니세프가 제시한 수치에 따르면 지난 1년 동안 11개국에서 최소 120만 명의 어린이 얼굴이 AI로 성적 이미지로 변형되는 심각한 사례가 확인됐습니다. 이는 단순한 우려를 넘어 이미 현실화한 피해임을 보여줍니다.

투르크 대표는 아동권리협약(Convention on the Rights of the Child)이 AI에도 동일하게 적용된다고 강조했습니다. 협약이 가장 널리 비준된 인권 조약이라는 점을 근거로, AI 개발과 이용에도 아동 권리가 우선해야 한다는 입장입니다.

이런 해석은 AI를 만드는 기업과 서비스를 허용·관리하는 정부 모두에게 의무를 부과합니다. 구체적으로는 제품 출시 전 인권 위험성 평가, 투명성 확보, 독립적 감독이 필요하다는 요구로 연결됩니다.

투르크는 기업의 자체 관리 방식만으로는 부족하다고 경고했습니다. 그는 정부가 단순 권장이나 자율 약속에 그쳐선 안 된다고 밝혔으며, 실효성 있는 규제와 감독 장치의 필요성을 역설했습니다.

보고서와 발언자들은 제품 출시 전 인권영향평가를 통한 사전 점검을 강조했습니다. 이는 어린이에게 미칠 위험을 미리 파악하고 설계단계에서부터 완화조치를 적용하라는 뜻입니다.

투명성도 핵심입니다. 시스템이 어떤 데이터를 어떻게 사용하는지, 어떤 경우에 자동결정이 이뤄지는지를 공개하고 독립적 주체가 이를 검증해야 한다는 요구가 제기됐습니다.

이와 병행해 정부는 자율적 약속을 넘어 법적·제도적 책임을 명확히 해야 한다는 목소리가 나왔습니다. 책임 소재가 불분명하면 피해 구제와 예방이 모두 어려워진다는 지적입니다.

제네바에서 7월 출범한 'AI 시대 아동 권리·보호 연합'은 정부, 유엔 기관, 기술기업, 시민사회와 전문가를 모았습니다. 이 연합은 AI 설계·배치·모니터링 과정에 어린이를 참여시키는 것을 목표로 제시하고 있습니다.

현재까지 17개국이 서명한 이 협의체는 정책 조정과 기준 마련의 장을 제공할 수 있습니다. 다만 가입국과 참여 주체의 범위, 권한과 의무가 실제 행동으로 이어질지는 아직 불확실합니다.

또한 연합이 어린이의 직접적 참여를 어떻게 보장하고, 피해 사례에 대해 어떤 구제 수단을 마련할지에 대한 구체적 실행계획이 요구됩니다. 문구적 합의만으로는 현장의 문제를 해결하기 어렵다는 지적이 남아 있습니다.

가장 큰 과제는 어린이들을 결정 과정에 어떻게 상시적으로 포함시킬지입니다. 투르크와 연합의 목표는 명확하지만 이를 제도화해 실효성 있는 참여 기구를 만드는 일은 이제 시작 단계입니다.

또 하나의 과제는 피해 발생 시 책임 주체를 확정하고 피해 아동을 실질적으로 보호·구제할 수단을 마련하는 것입니다. 기업의 자율규제만으로는 한계가 있다는 경고가 계속되고 있습니다.

독자들이 기억해야 할 질문은 분명합니다. AI를 설계·운영하는 이들이 어린이의 권리를 어떻게 평가하고 반영하는지, 그리고 피해가 발생했을 때 누가 책임을 지는지를 꾸준히 확인할 필요가 있습니다.