“친절하지만 무능한 노인” AI가 재생산하는 연령주의

▲즈베즈단 피르토셰크 유엔 노인인권 독립전문가가 2일 ‘제6차 아셈 노인인권 현실과 대안 포럼’에서 AI 시대 노인의 자율성과 개인정보 보호, 연령차별 문제를 주제로 기조연설을 하고 있다.(이준호 기자)

안부 확인부터 건강 점검까지 인공지능이 노인을 돌보는 시대가 열리고 있다. 그러나 기술이 더 많은 돌봄을 제공한다는 사실만으로 노인의 권리가 보장되는 것은 아니라는 의견이 제기됐다. 누가 기술 도입을 결정하는지, 수집된 정보가 어떻게 사용되는지, 당사자가 서비스를 거부하거나 중단할 수 있는지에 대한 근본적인 질문이 수면 위로 떠올랐다.

아셈노인인권정책센터는 대한민국 국가인권위원회, 프리드리히 나우만재단 한국사무소와 함께 2일 서울 프레지던트호텔에서 ‘제6차 아셈 노인인권 현실과 대안 포럼’을 열었다. ‘인공지능과 노인인권: 연령 포용적 AI 전환을 향하여’를 주제로 아시아와 유럽의 인권·고령화·보건·AI 정책 전문가들이 참여했다.

서정하 아셈노인인권정책센터 원장은 “우리나라에는 ‘잘 쓰면 약이 되고 잘못 쓰면 독이 된다’는 말이 있다”며 “AI도 사려 깊게 활용하면 노인의 삶을 크게 향상할 수 있지만, 안전장치가 없다면 차별과 고립을 심화할 수 있다”고 말했다.

안창호 국가인권위원회 위원장은 “노인은 인공지능 기술의 이용자에 머무르는 것이 아니라 기술의 설계와 개발, 활용 과정에 의미 있게 참여하는 권리의 주체로 존중받아야 한다”고 강조했다.

이날 논의는 AI가 노인에게 무엇을 제공할 수 있는지보다 노인이 AI의 설계와 운영에 얼마나 실질적인 결정권을 갖는지에 집중됐다.

“알고리즘 집단 보지만, 인권 개인에게 속해”

파킨슨병과 치매 등 노화 관련 신경질환의 세계적 권위자이자 지난 5월 유엔 노인인권 독립전문가로 취임한 즈베즈단 피르토셰크 류블랴나대 신경과 교수는 AI가 노인의 삶을 넓히는 도구인 동시에 눈에 잘 띄지 않는 통제 장치가 될 수 있다고 경고했다. 유엔 노인인권 독립전문가는 전 세계 노인의 인권 상황을 조사하고 각국 정부와 국제사회에 개선책을 권고하는 유엔의 독립 전문가다.

피르토셰크는 약 복용을 알려주고 심박수 이상을 감지하는 기기, 시력이 약한 사람에게 메시지를 읽어주는 음성비서 등을 AI의 가능성으로 제시했다. 반면 자동화된 금융시스템이 이유를 설명하지 않은 채 거래를 막거나, 안전을 위해 설치된 센서가 노인의 일상을 감시하는 상황도 언급했다.

그는 “기술은 한 사람의 세계를 넓히는 동시에 눈에 잘 띄지 않는 방식으로 제한할 수도 있다”며 “AI가 누구의 조건에 따라 작동하는지, 그 영향을 받는 사람이 여전히 권리의 주체로 남아 있는지를 물어야 한다”고 말했다.

AI의 평균적인 성능이 높더라도 특정 개인에게는 부당한 결정을 내릴 수 있다는 점도 지적했다. 피르토셰크는 “알고리즘은 집단에서 패턴을 찾는 데 뛰어나지만 인권은 개인에게 속한다”며 “통계적 연관성을 개인의 능력과 욕구를 판단하는 근거로 삼아서는 안 된다”고 강조했다.

연령을 개인의 능력을 대신하는 지표로 사용하면 채용·신용평가·보험·의료자원 배분 과정에서 기존의 차별이 자동화될 수 있다. 피르토셰크는 이를 “차별이 수학의 외양을 갖게 된다”고 표현했다.

돌봄 AI와 관련해서는 자율성과 프라이버시를 핵심 기준으로 제시했다. 그는 “프라이버시가 돌봄의 대가가 되어서는 안 된다”며 “기술은 자율성을 지원해야 하고, 여기에는 다른 사람이 현명하지 않다고 생각하는 결정을 내릴 자유도 포함된다”고 말했다.

AI를 사용하지 않을 권리도 강조했다. 의료·사회보장·은행·공공행정이 디지털화되더라도 AI를 사용할 수 없거나 원하지 않는 사람이 서비스를 잃어서는 안 된다는 것이다. 자동화된 결정이 삶에 중대한 영향을 미칠 때는 설명을 듣고 정보를 바로잡으며, 사람에게 재검토를 요구할 수 있어야 한다고 제안했다.

피르토셰크는 AI가 돌봄인력 부족을 해결하는 값싼 대체재가 돼서도 안 된다고 했다. 그는 “사회적 로봇이 문을 닫은 지역사회 서비스를 보상할 수는 없다”며 “애플리케이션은 적정한 소득과 주거, 완화의료와 인간의 존재를 제공하지 못한다”고 말했다.

이어 “AI는 우리에 관해 많은 것을 알게 될 수 있지만 우리가 누구인지를 결정하는 권위가 되어서는 안 된다”며 “데이터와 예측 뒤에는 존엄을 계산할 수 없고 나이가 들어도 인권이 줄어들지 않는 한 사람이 있다”고 강조했다.

마가렛 영 에이지노블 설립자이자 세계노인인권연합 전 의장은 AI 정책이 전제하는 ‘노인’의 모습부터 다시 정의해야 한다고 주장했다.

영은 “80세인 사람 100명은 같은 연령을 공유하지만 100개의 서로 다른 삶을 거쳐 80세에 도착했다”며 “노인은 건강, 능력, 문화, 언어, 관계와 열망에서 서로 다르다”고 말했다.

그는 노년을 쇠퇴와 돌봄 필요만으로 설명해서는 안 된다고 강조했다. 노인은 계속 학습하고 창작하며 사회에 기여할 수 있고, 지원이 필요해진 뒤에도 자기 삶을 이끄는 주체라는 것이다.

영은 “지원이 필요하다는 사실이 개인의 자율성이나 자기 삶을 지휘하는 역할을 약화시켜서는 안 된다”며 “AI가 당사자의 판단을 강화하는지, 아니면 점차 그 사람을 대신하기 시작하는지를 구분해야 한다”고 말했다.

또 완성된 제품을 놓고 뒤늦게 의견을 묻는 수준을 넘어, 적용 원칙을 정하는 단계부터 데이터 수집·설계·승인·평가까지 노인이 참여해야 한다고 제안했다.

▲서정하 아셈노인인권정책센터 원장이 2일 서울 프레지던트호텔에서 열린 ‘제6차 아셈 노인인권 현실과 대안 포럼’에서 개회사를 하고 있다.(이준호 기자)

AI 돌봄 보급, “동일 서비스가 동일한 혜택 아냐”

한국의 AI 돌봄 현장에서는 기술 보급과 권리 보장이 반드시 일치하지 않는다는 조사 결과가 소개됐다.

김홍수 서울대학교 보건대학원 교수는 전국 노인맞춤돌봄서비스 제공기관 조사에서 응답기관의 약 38%가 사회적 로봇, AI 스피커, AI 안부전화, 가정 내 감지장치 등을 이용하고 있었다고 밝혔다.

하지만 서비스 도입 여부는 이용자의 필요보다 지역 예산, 기관 규모와 통신환경의 영향을 크게 받았다. 기술 사용도 주로 돌봄노동자의 추천으로 시작됐다.

김 교수는 “돌봄노동자의 추천은 당사자의 선택과 같은 것이 아니다”며 “동의는 사업을 시작할 때 한 번 받는 것으로 끝나서는 안 되고, 서비스가 장기화되는 과정에서도 중단하거나 철회할 수 있어야 한다”고 말했다.

AI 안부전화 이용자 약 1천 명을 조사한 결과 이용자는 평균 한 달 3.3회의 전화를 받았고 통화시간은 약 32초였다. 약 70%가 만족했지만 여성과 정신건강 상태가 좋지 않은 사람 등 위험이 더 큰 집단에는 상대적으로 덜 도달했다.

김 교수는 “서비스는 동일하게 배치됐지만 사람들에게 동일하게 도달하지는 않았다”며 “가장 위험한 이용자에게 오히려 가장 잘 닿지 않았다”고 설명했다. 평균 만족도만 제시하면 성별·소득·건강 상태에 따른 격차가 가려질 수 있다는 지적이다.

개인 상황에 따라 안부전화 내용을 배정하는 모델의 시뮬레이션에서는 통화 성공률과 건강 관련 지표가 개선됐다. 다만 김 교수는 이것이 현장실험 결과가 아니라 실제 조사자료를 토대로 한 시뮬레이션이라는 점을 분명히 했다.

그는 서비스 도달률과 효과는 지속적으로 개선할 수 있지만, 당사자의 진정한 동의와 철회권은 반드시 충족해야 할 최소 조건이라고 강조했다. 이용자별 효과를 세분해 공개하고 공공조달 단계부터 노인을 설계에 참여시켜야 한다는 제안도 내놓았다.

장여경 정보인권연구소 상임이사는 한국의 AI 정책과 AI기본법을 권리구제의 관점에서 검토했다. 장 이사는 AI 스피커를 제공받은 노인이 민감한 건강정보가 어떻게 처리되는지 충분히 설명받지 못한 사례를 소개했다. 노인은 서비스를 받았지만 어떤 정보가 수집되고 누구에게 전달되는지, 이를 거부할 수 있는지 알기 어려웠다는 것이다.

그는 AI의 구조적 문제로 집단의 통계적 패턴을 개인에게 적용하는 방식, 작동 원리와 책임주체를 파악하기 어려운 불투명성, 기존 편견과 불평등을 재생산하는 결과를 꼽았다. 장 이사는 “노인은 AI를 적용받는 대상이 아니라 그 영향을 받는 권리주체로 보아야 한다”며 “노인을 기술에 적응시키는 방식에서 노인의 권리를 중심으로 기술을 설계하는 방식으로 전환해야 한다”고 말했다.

한국 AI기본법에 대해서는 설명권의 집행수단과 영향받는 사람의 참여권, 이의제기 및 구제 절차가 충분하지 않다고 평가했다. 병원·금융기관·채용기업이 외부에서 개발한 AI를 구매해 사용하더라도 책임과 설명 의무가 명확해야 한다고 지적했다. 장 이사는 AI 도입을 거부하거나 중단할 권리, 자동화된 결정에 대한 설명·이의제기권, 사람에 의한 재검토와 피해구제 절차를 보장해야 한다고 제안했다.

▲2일 서울 프레지던트호텔에서 열린 ‘제6차 아셈 노인인권 현실과 대안 포럼’에서 국내외 전문가들이 ‘인공지능과 노인인권: 기회와 위험’을 주제로 발표와 토론을 진행하고 있다.(이준호 기자)

신용평가부터 생성 이미지까지… 스며든 노인차별

AI의 의사결정뿐 아니라 노인을 묘사하는 방식에도 연령차별이 스며들 수 있다는 연구 결과가 제시됐다.

최문정 KAIST 과학기술정책대학원 교수는 생성형 AI가 노인을 따뜻하고 친절하지만 덜 유능한 사람으로 묘사하는 ‘호의적 고정관념’도 자율성과 평등을 훼손할 수 있다고 설명했다.

연구진이 10세부터 90세까지의 인물을 묘사하도록 생성형 AI에 요청한 결과, 고령 인물에 대해서는 따뜻함과 친절함을 강조하는 표현이 늘어난 반면 유능함이나 주도성을 나타내는 표현은 감소했다.

최 교수는 “AI의 연령편향은 언제나 노골적으로 나타나는 것이 아니다”며 “노인을 친절하지만 능력이 떨어지는 사람으로 묘사하는 것 역시 자율성, 공정한 대우와 사회적 포용에 영향을 줄 수 있다”고 말했다.

유스티나 스티핀스카 베를린사회과학연구센터 교수는 AI 연령주의가 데이터와 알고리즘, 기술업계의 문화, 정책 담론, 서비스 설계와 생성 이미지 등 여러 단계에서 만들어진다고 설명했다.

그가 소개한 신용평가 모형 연구에서는 ‘중년’의 연령 구간을 어떻게 설정하는지에 따라 노년층에 대한 불리한 영향이 약 28% 증가했다. 개인의 조건이 아니라 개발자가 정한 연령 범주만으로 결과가 달라진 셈이다.

생성형 AI가 만든 1천500여 장의 이미지를 분석한 결과도 소개했다. AI가 묘사한 노인은 실제 노인 인구보다 남성과 백인 중심이었고, 다양성이 적었으며, 더 어둡고 외로운 모습으로 표현되는 경향을 보였다.

스티핀스카는 “모델 안에 편향이 있는지만 분석해서는 충분하지 않다”며 “노인이 실제로 어떤 피해와 차별을 경험하는지 살펴보고 AI 시스템의 결과를 지속적으로 감시해야 한다”고 말했다.

알렉산더 엥겔 독일노인단체연합 프로젝트 리드는 독일의 58개 지역 AI 학습거점에서 여러 서비스를 시험한 결과, 이론적으로는 노인에게 유용하지만 실제로 사용하기 어렵거나 필요와 맞지 않는 경우가 적지 않았다고 설명했다.

엥겔은 “노인은 이용자에 그쳐서는 안 되며 기여자이자 공동창작자로 인정받아야 한다”며 “사용설명서에만 등장하는 사람이 아니라 기술개발 테이블에 자리를 가져야 한다”고 말했다.

나카고미 아쓰시 일본 지바대학교 교수는 노년층 내부에서도 교육·소득·거주지역·사회관계에 따라 AI 이용률과 혜택이 달랐으며, 이미 자원과 인간관계가 풍부한 사람에게 이익이 집중되는 경향을 보였다고 밝혔다.

그는 AI 동반자가 인간관계를 보완할 때는 삶의 질을 높일 수 있지만, 고립된 사람에게 인간관계를 대신하는 기술이 되면 의존 위험이 커진다고 분석했다.

나카고미 교수는 “AI는 사람에게 연결되는 입구가 될 수 있지만 목적지는 사람이 되어야 한다”며 “AI가 불평등을 줄일지 넓힐지는 기술의 속성이 아니라 정책적 선택”이라고 말했다.

이날 발표자들이 제시한 ‘연령 포용적 AI’는 단순히 노인용 편의 기능을 추가하는 데 그치지 않는다. AI를 사용할 권리와 사용하지 않을 권리, 설명을 듣고 이의를 제기할 권리, 개인정보 제공을 거부·철회할 권리, 기술개발 과정에 참여할 권리까지 함께 보장하는 접근이다. 전문가들은 AI 돌봄의 성패가 기술의 보급량이 아니라, 노인이 자신의 삶을 선택하고 잘못된 결정에 맞서며 기술의 방향을 함께 정할 수 있는지에 달려 있다고 강조했다.