영국 정부, 난민 연령 추정 AI 도입…“오류로 인한 인권 침해 우려”

정부가 facescan 기반 AI를 이용해 난민의 연령을 추정하는 시스템을 도입하기로 했다. 이 기술은 얼굴 이미지를 분석해 연령대를 예측하는 방식으로, 영국 내무부가 2025년 초부터 난민 신청자 중 신분증 없이 입국하는 이들에게 적용할 계획이다. 특히 보호가 필요한 미성년자를 성인으로 잘못 분류할 경우 보호 시설 대신 성인 수용소에 수감될 수 있어 인권 침해 논란이 커지고 있다.

내무부 내부 문서에 따르면, 정부가 테스트한 얼굴 연령 추정(FAE) 시스템은 16~18세 사이의 젊은이들을 성인으로 잘못 분류할 확률이 높았다. 예를 들어 17세 청소년이 성인으로 판단될 경우 보호 대상에서 제외되어, 보호 시설이 아닌 성인 전용 시설에 수용될 위험이 생긴다. 이는 영국뿐 아니라 전 세계적으로 얼굴 인식 기술의 오류가 인권에 미치는 영향을 보여주는 사례가 될 전망이다.

얼굴 연령 추정 기술의 작동 원리와 한계

얼굴 연령 추정(FAE)은 인공지능이 얼굴 이미지에서 연령 관련 특징(주름, 피부 탄력, 눈가의 잔주름 등)을 분석해 연령대를 예측하는 기술이다. 이 기술은近年来 소셜미디어와 온라인 플랫폼에서 연령 제한 콘텐츠 접근 제어에 널리 사용되고 있지만, 오프라인 환경으로 확장되면서 그 위험성이 부각되고 있다. 특히 얼굴 이미지가 불충분하거나 조명이 좋지 않거나 피부톤이 어두운 경우, 또는 특정 민족적 특징을 가진 경우 오류율이 높아지는 경향이 있다.

영국 정부가 테스트한 시스템은 주로 유럽인 얼굴 데이터를 기반으로 훈련되었기 때문에, 다른 인종이나 피부색을 가진 이들에게는 오류가 더 자주 발생할 수 있다. 예를 들어 아프리카계 또는 중동계 피부톤을 가진 16~18세 청소년이 성인으로 잘못 분류될 가능성이 상대적으로 높다. 이는 기술의 편견(bias) 문제로 지적되며, 특히 난민과 이민자 집단이 차별받을 수 있는 구조적 위험을 내포하고 있다.

난민 보호 체계에서 AI의 역할과 문제점

영국은 2024년 난민법 개정을 통해 미성년자 보호 강화 방침을 밝혔지만, Facescan AI 도입은 오히려 보호 대상자를 줄이는 역효과를 낼 수 있다. 현재 영국 내무부는 난민 신청자의 연령을 확인하기 위해 신분증, 가족 관계 증명서, 학교 기록 등 다양한 문서를 요구하고 있지만, 전쟁이나 박해를 피해 도망친 이들에게는 이러한 자료가 없을 때가 많다. 이 경우 얼굴 연령 추정 기술이 보조 도구로 활용되지만, 오류가 발생할 경우 보호가 필요한 미성년자가 보호 시설에서 배제될 위험이 있다.

특히 16~18세 사이의 청소년은 신체적 특징이 성인과 유사하기 때문에 AI가 오류를 범할 가능성이 가장 높다. 예를 들어 17세의 경우 얼굴 특징이 성인과 비슷해져 AI가 20대 초반으로 추정할 수 있으며, 이 경우 보호 시설이 아닌 성인 전용 수용소에 수감될 수 있다. 이는 영국뿐 아니라 유럽연합의 난민 보호 기준에도 위배될 수 있는 문제로 지적되고 있다.

기술 오류가 초래할 수 있는 인권 침해

인권단체들은 얼굴 연령 추정 기술이 난민의 인권을 심각하게 침해할 수 있다고 경고한다. 특히 AI가 실수를 하더라도 그 오류를 되돌리기 어려운 구조가 문제다. 일단 성인으로 분류되면 보호 시설에서 배제될 뿐만 아니라, 성인 수용소에서 다른 성인 수감자와 같은 환경에 노출되면서 2차 피해가 발생할 수 있다. 또한, 오류가 발생한 경우에도 이의를 제기할 수 있는 절차가 불명확하다는 점도 문제로 지적된다.

영국 내무부 내부 문서에 따르면, 테스트에서 AI가 16~18세 사이의 청소년을 성인으로 잘못 분류할 확률이 약 30%에 달했다는 사실이 확인됐다. 이는 매우 높은 오류율로, 기술의 신뢰성을 심각하게 훼손할 수 있는 수준이다. 특히 이 시스템이 난민 신청자의 연령을 1차적으로 결정하는 도구로 사용될 경우, 오류가 발생했을 때 이를 바로잡을 수 있는 체제가 마련되지 않았다는 점이 큰 우려로 제기된다.

정부와 기술 제공업체의 대응과 책임 소재

영국 정부는 AI 시스템 도입을 통해 난민 신청자의 연령 확인 절차를 간소화하겠다는 입장이지만, 기술 제공업체들은 오류 가능성을 인정하고 보완책을 제시하고 있다. 일부 업체는 AI가 연령을 추정하는 대신, 연령대를 범위로 제시하는 방식으로 오류를 줄일 수 있다고 주장한다. 예를 들어 "16~20세"와 같이 넓은 범위로 제시하면, 개별 청소년의 보호 여부를 결정할 때 더 유연하게 대응할 수 있다는 것이다.

그러나 이러한 방식도 완벽한 해결책은 아니다. 여전히 AI가 제시한 연령 범위가 실제 연령과 크게 벗어날 경우, 보호 대상 여부를 둘러싼 분쟁이 발생할 수 있다. 또한, 기술 제공업체들이 AI의 오류율과 편견 문제를 공개하지 않으면서, 정부와 시민사회가 시스템의 신뢰성을 검증하기 어려운 구조가 문제로 지적되고 있다.

국제적 규제와 비교: 다른 나라들은 어떻게 대응하고 있나

유럽연합은 2024년 AI 규제법을 통해 얼굴 인식 기술의 사용 범위를 엄격히 제한하고 있다. 특히 공공장소에서의 얼굴 인식 사용은 사생활 침해와 편견 문제로 금지되어 있지만, 난민 연령 확인과 같은 '안전'을 이유로 한 예외 조항이 논의되고 있다. 영국은 이 규제 틀을 따르지 않고 독자적으로 AI를 도입하면서 국제적인 비판을 받고 있다.

미국의 경우, 일부 주는 성인용 콘텐츠 접근 제한을 위해 얼굴 연령 확인을 의무화하고 있지만, 난민 연령 확인에는 아직 도입되지 않았다. 반면, 호주와 캐나다는 AI 기반 연령 확인 기술의 오류 가능성을 이유로 도입을 보류하고 있다. 영국이 국제적 선례를 따르지 않고 독자적으로 AI를 도입하면서, 기술의 오남용 가능성과 인권 침해 문제가 더욱 부각되고 있다.

시민사회와 기술계의 반발: AI 오용에 대한 경고

인권단체와 기술 전문가들은 AI가 난민의 연령을 결정하는 도구로 사용되는 것에 대해 강하게 반발하고 있다. 그들은 AI가 객관적이지 않으며, 특히 편견이 내재된 데이터로 훈련된 경우 차별적 결과가 초래될 수 있다고 지적한다. 또한, AI가 오류를 범하더라도 그 책임을 누구에게 물을 것인지에 대한 명확한 규정이 없다는 점도 문제로 지적된다.

특히 AI가 연령을 추정하는 과정에서 발생할 수 있는 인종적, 성별적 편견 문제를 해결하기 위한 투명한 데이터와 알고리즘 검증이 필요하다는 목소리가 커지고 있다. 영국 정부는 AI 시스템의 편견 문제를 해결하기 위한 추가 테스트와 외부 검증을 실시하겠다고 밝혔지만, 시민사회는 이러한 조치가 부족하다고 비판하고 있다.

시민사회와 난민의 목소리에 귀 기울일 필요성

AI가 난민의 연령을 결정하는 도구로 사용되면서, 정작 난민 본인들이 겪는 경험과 목소리는 무시되고 있다는 비판이 제기된다. 특히 난민들은 전쟁이나 박해를 피해 도망치면서 신분증이나 신원 확인 서류를 잃어버리는 경우가 많기 때문에, 얼굴 연령 추정 기술이 유일한 연령 확인 수단이 될 가능성이 크다. 그러나 이 기술이 오류를 범할 경우, 보호가 필요한 이들이 보호 시설에서 배제되는 일이 발생할 수 있다.

시민사회 단체들은 정부에 AI 시스템의 투명성과 책임성을 강화할 것을 요구하고 있다. 특히 AI가 연령을 잘못 추정할 경우, 이의를 제기할 수 있는 명확한 절차를 마련하고, 오류 발생 시 보호 시설로의 즉각적인 이송 체계를 구축할 필요가 있다. 또한, AI 시스템이 난민의 연령을 결정하는 과정에서 발생할 수 있는 인권 침해를 방지하기 위한 독립적인 감시 체계를 마련해야 한다는 목소리가 커지고 있다.

기술 발전과 인권 보호의 균형: 앞으로의 과제

얼굴 연령 추정 기술은 AI 기술이 발전하면서 더욱 정교해지고 있지만, 동시에 인권 보호와 기술 오용 방지를 위한 규제가 함께 발전해야 한다. 영국이 도입하려는 AI 시스템은 기술 발전의 한 사례이지만, 그로 인한 인권 침해 가능성을 고려할 때 신중한 접근이 요구된다. 특히 AI가 공공의 안전을 위해 사용되는 경우, 기술의 오류와 편견 문제를 해결하기 위한 투명한 규제와 감시 체제가 필수적이다.

앞으로 영국을 비롯한 각국은 AI 기술이 난민 보호 체계에 미치는 영향을 면밀히 검토해야 한다. 특히 AI 시스템이 편견 없이 동작하는지, 오류 발생 시 책임 소재는 어떻게 되는지, 그리고 난민의 인권이 충분히 보호되는지 등에 대한 지속적인 검토가 필요할 것이다. 기술의 발전이 인권 보호와 조화를 이룰 수 있도록 국제적인 협력과 규제 강화가 시급한 상황이다.

정부가 AI를 도입하려는 이유는 난민 신청자의 연령 확인 절차를 간소화하기 위한 것이지만, 기술의 오류와 편견 문제는 쉽게 해결될 문제가 아니다. AI가 인권을 침해하지 않기 위해서는 기술 개발과 동시에 사회적, 법적 규제가 함께 이루어져야 한다. 영국이 이 시스템을 도입하면서 전 세계가 주목하고 있는 가운데, 기술과 인권의 균형을 어떻게 맞출 것인지에 대한 논의가 더욱 활발해질 전망이다.