개인정보·정서적 의존·사고 책임까지…현장 지침 마련 제안

말벗이 되어주고 건강 상태를 확인하며 위급한 상황을 알리는 인공지능(AI) 돌봄 로봇이 고령자 돌봄 현장에 들어오고 있다. 돌봄 공백을 메우는 데 도움이 될 수 있지만 기기가 고령층의 생활과 건강 정보를 어떻게 다루는지, 이상 신호를 놓쳤을 때 누가 책임지는지에 대한 기준은 충분히 마련되지 않았다는 지적이 나온다.
16일 과학기술정책연구원(STEPI)은 ‘AI 윤리, 실천적 규범으로 나아가기 위한 정책 방향과 과제’ 보고서에 따르면 고령자 돌봄을 위한 대화형 AI 로봇 사례를 분석했다. 연구진은 AI 윤리 원칙을 선언하는 데 그치지 않고 실제 서비스 현장에서 지킬 행동 기준과 책임 구조를 마련해야 한다고 제안했다.
말벗이 된 AI, 정서적 의존 우려도
대화형 돌봄 AI는 정서적 안정과 생활 지원, 건강 관리, 비상상황 대응 등 여러 기능을 수행한다. 대화를 기억하고 사용자에게 맞춰 반응하는 과정에서 고령자가 기기를 사회적 존재처럼 여기거나 정서적으로 깊이 의지할 가능성도 있다. 연구진은 이런 관계 변화가 고립감을 덜어줄 수 있는 한편, 사람과의 관계를 대신하거나 서비스가 중단됐을 때 상실감을 키울 수도 있다고 짚었다.
개인 맞춤형 서비스를 위해 수집하는 정보도 살펴야 할 문제다. 생활 습관과 건강 상태를 더 많이 알수록 서비스가 정교해질 수 있지만 그만큼 사생활이 침해될 가능성도 커진다. 위험을 미리 막기 위한 감시가 고령층의 선택과 자율성을 제한할 수도 있다. 안전을 우선으로 할지, 본인의 결정을 존중할지를 정해야 하는 상황에서 현장 종사자가 참고할 구체적인 기준이 부족하다는 게 연구진의 설명이다.
AI가 돌봄 인력을 보조하는 수준에서 대면 돌봄을 대체하는 데 쓰일 가능성도 연구진은 우려했다. 인력 부족을 이유로 기기 관리와 알림 대응 업무가 현장 종사자에게 추가되면 오히려 업무 부담이 커질 수 있다. 기기의 알림에 의존하다 고령층의 개별 사정이나 이상 징후를 놓칠 위험도 있다.
이상 신호 놓치면 누가 책임지나
연구진은 AI 돌봄의 위험이 기기 성능에만 달려 있지 않다고 분석했다. 고령자의 말투나 건강 상태를 반영할 데이터가 부족할 수 있고 서비스를 도입한 기관의 인력과 관리 역량이 충분하지 않을 수도 있다. 개발업체와 지방자치단체, 서비스 운영기관, 현장 종사자 사이에 역할과 책임이 분명하지 않으면 문제가 생겼을 때 대응이 늦어질 수 있다.
현재 공공 돌봄 AI 서비스의 이용자는 주로 65세 이상 저소득자 독거노인이다. 서비스 대상자로 선정돼 무료로 받는 경우가 많아 이용자가 충분한 설명을 듣고 참여 여부를 선택하기 어려울 수 있다는 점도 연구진은 짚었다. 서비스를 거절하면 다른 지원까지 못 할 수 있다고 느끼면 동의가 온전히 자발적이라고 보기 어렵기 때문이다.
연구진은 서비스 도입 전 지방자치단체가 현장의 준비 상태를 점검해야 한다고 제안했다. 담당 인력의 규모와 전문성, 관련 예산과 기술 인프라, 알림과 사고에 대응할 절차, 의사결정과 책임 구조를 미리 살펴야 한다는 것이다. 기기를 설치하고 실제로 서비스를 관리하고 이용자를 지원할 여건이 있는지 확인하자는 취지다.
현장 행동 기준 마련해야
연구진은 AI 윤리 원칙을 구체적인 행동지침과 제도로 연결할 필요가 있다고 강조했다. 예를 들어 대화 기록을 얼마나 보관할지, 이상 신호가 감지되면 누가 확인하고 어떤 순서로 대응할지, 현장 종사자가 AI 판단을 따르지 않거나 기기 사용을 중단할 수 있는 기준을 마련해야 한다는 것이다.
시범사업도 기기의 기술적 성능만 확인해서는 부족하다고 봤다. 실제 돌봄 현장에서 개인정보와 자율성 문제가 어떻게 나타나는지, 사람의 돌봄을 줄이지는 않는지, 담당자가 알림에 적절히 대응할 수 있는지 함께 살펴야 한다고 제안했다. 현장에서 발견한 문제를 기기 개발과 지침 개선에 반영하는 절차도 필요하다.
해당 보고서는 AI 돌봄 로봇의 효과를 고령자 대상 조사로 입증한 연구는 아니다. 개발업체와 서비스 제공기관 관계자, 전문가 인터뷰 등을 바탕으로 돌봄 AI 도입 과정에서 생길 수 있는 윤리적 쟁점과 제도 과제를 분석했다. 따라서 기기가 고령자의 외로움이나 건강 문제를 실제로 얼마나 개선하는지는 별도의 이용자 조사와 효과 평가가 필요하다.
돌봄 로봇이 고령자의 일상을 돕는 기술로 자리 잡으려면 보급 규모와 이용자의 권리, 현장 대응 체계 등을 갖춰야 한다. 연구진은 지자체와 개발업체, 서비스 제공기관의 역할과 책임을 분명히 하고 현장의 경험을 반영한 행동 기준과 점검 절차를 마련해야 한다고 제언했다.
관련 뉴스



