“AI가 복지 수당 결정?”… 정부 추진 법안 논란 확산

National's Scott Simpson introduced the bill. Photo: RNZ / Mark Papalii

정부가 복지 행정에 인공지능(AI)을 활용할 수 있도록 하는 법 개정을 추진하면서 논란이 커지고 있다. 특히 실업수당(Jobseeker)과 각종 복지 지원 심사 과정에 AI가 관여할 가능성이 제기되면서 “행정 효율성”과 “복지 약자 보호” 사이의 균형 문제가 새로운 사회적 쟁점으로 떠오르고 있다.

정부가 인공지능(AI)을 활용해 복지 수당과 행정 결정을 내릴 수 있도록 하는 법 개정을 추진하면서 우려의 목소리가 커지고 있다.

RNZ 보도에 따르면, 정부는 사회개발부(MSD·Ministry of Social Development)가 일부 복지 관련 결정 과정에서 AI와 자동화 시스템을 활용할 수 있도록 법적 근거를 명확히 하는 방향의 개정을 검토 중이다.

현재도 정부기관들은 제한적인 자동화 시스템을 일부 사용하고 있지만, 이번 법안은 AI 활용 범위를 보다 확대할 수 있다는 점에서 주목받고 있다. 특히 복지 신청 심사, 서류 검토, 자격 확인, 지급 연장 여부 판단 등에서 AI가 역할을 맡게 될 가능성이 제기되고 있다.

정부 측은 “최종 결정은 여전히 사람이 내리게 될 것”이라고 설명하고 있다. 반복적인 행정 업무를 자동화해 업무 속도를 높이고 공무원 부담을 줄이는 것이 핵심 목적이라는 것이다.

하지만 시민단체와 일부 전문가들은 “AI가 복지 수급자의 삶에 직접 영향을 미치는 판단 과정에 들어가는 것은 매우 민감한 문제”라고 경고한다.

가장 큰 우려는 ‘알고리즘 편향(bias)’ 문제다. AI는 기존 데이터를 기반으로 학습하는데, 과거 데이터 자체에 편견이나 오류가 포함돼 있을 경우 특정 계층이 불리한 판단을 받을 위험이 있다는 것이다.

특히 저소득층, 장애인, 한부모 가정, 이민자, 마오리와 퍼시피카 공동체 등 사회적 취약 계층이 더 큰 영향을 받을 수 있다는 지적도 나온다.

Social Development Minister Louise Upston Photo: RNZ / Mark Papalii

국제적으로도 유사한 논란은 이미 여러 차례 있었다.

대표적인 사례가 네덜란드 ‘육아보조금 스캔들’이다. 네덜란드 정부는 AI 기반 사기 탐지 시스템을 도입했다가 수만 명의 가정을 부정 수급자로 잘못 분류했고, 이 과정에서 많은 가정이 경제적 파탄을 겪었다. 일부 부모들은 집을 잃거나 자녀 양육권 문제까지 겪으며 큰 사회적 충격이 발생했다.

미국과 영국에서도 복지 심사 자동화 과정에서 차별 논란과 오류 문제가 반복적으로 제기돼 왔다.

뉴질랜드 안에서도 우려는 적지 않다. 전문가들은 현재 뉴질랜드의 AI 관련 공공부문 규제가 아직 매우 느슨한 수준이라고 지적한다. 실제로 정부의 AI 가이드라인 상당수는 법적 의무가 아닌 ‘권고 수준’에 머물러 있다는 것이다.

오클랜드대학교의 기술·법률 전문가들은 “정부가 AI를 적극 활용하려면 독립적인 감시 체계와 투명성이 반드시 필요하다”고 강조하고 있다.

특히 다음과 같은 문제가 핵심 쟁점으로 떠오르고 있다.

• AI가 어떤 기준으로 판단하는지 공개되는가

• 잘못된 판단에 대한 이의 제기 절차가 충분한가

• 개인정보가 어떻게 활용되는가

• 해외 AI 기업 의존도가 지나치게 높아지는 것은 아닌가

• 인간 담당자의 최종 검토가 실제로 유지되는가

실제로 뉴질랜드 정부는 최근 공공부문 비용 절감과 인력 축소 정책을 추진하면서 AI 활용 확대를 강조해 왔다. 일부 분석에서는 향후 수천 개의 공공부문 업무가 자동화될 가능성도 제기된다.

그러나 복지 현장에서 일하는 지원 단체들은 “복지 시스템은 단순 행정이 아니라 사람의 삶과 위기 상황을 다루는 영역”이라고 강조한다.

예를 들어 정신 건강 문제, 가정폭력 피해, 언어 장벽, 갑작스러운 실직 같은 상황은 단순 데이터만으로 판단하기 어렵다는 것이다. 실제 현장에서는 서류상 정보보다 상담 과정에서 드러나는 사정이 더 중요한 경우도 많다.

한인 사회 역시 관심을 가질 필요가 있다는 지적도 나온다.

영어가 익숙하지 않은 이민자나 디지털 시스템 사용이 어려운 고령층은 AI 기반 행정 확대 과정에서 불이익을 받을 가능성이 있기 때문이다. 전문가들은 복지 신청 과정에서 오류가 발생할 경우 기록을 남기고 즉시 이의를 제기하는 것이 중요하다고 조언한다.

정부는 아직 구체적인 시행 방식과 적용 범위를 확정하지 않았으며, 향후 법안 논의 과정에서 추가 수정 가능성도 남아 있다.

하지만 이번 논란은 단순한 기술 도입 문제를 넘어, 앞으로 뉴질랜드 사회가 “어디까지 AI에게 공공 권한을 맡길 것인가”라는 더 큰 질문을 던지고 있다는 평가가 나온다.

효율성과 비용 절감은 중요하다. 그러나 전문가들은 복지 제도의 핵심은 결국 ‘사람을 이해하는 일’이라는 점을 잊어서는 안 된다고 강조하고 있다.

#뉴질랜드 #AI #인공지능 #복지수당 #뉴질랜드복지 #MSD #뉴질랜드정치 #디지털정부 #복지행정 #교민뉴스 #NZ뉴스 #AI행정 #뉴질랜드생활 #이민자사회 #사회보장