거짓말하는 AI, 고령자 AI 안전하게 사용하는 법

AI의 발전이 일상에 깊숙이 스며들면서 시니어 세대 역시 AI와 자연스럽게 만나는 시대가 도래했다. 누구나 AI를 활용해 원하는 정보를 얻을 수 있지만, 그 안에 숨어 있는 위험한 판단과 무감각한 자신감을 인지하지 못하고 있다.

특히 디지털 취약계층인 고령층은 AI가 주는 답변을 ‘신뢰해도 되는 말’로 착각하기 쉽다. 하지만 AI는 인간처럼 맥락을 이해하거나 상황을 조율하지 못한다.

홍순만 연세대학교 행정학과 교수는 최근 바둑 AI 연구와 사회과학적 통찰을 통해 ‘AI는 결과가 나쁘더라도 감정적 책임을 지지 않는다’고 밝혔다. 지금 이 순간 우리는 고도로 정교해진 기술을 사용하고 있지만, 그것이 나를 잘 이해하는 존재는 아닐 수 있음을 명심해야 한다.

시니어 배려하지 않는 AI

과학기술정보통신부 및 한국정보화진흥원 연구에 따르면 2025년 기준 70세 이상 되면 정보화 이용률이 17.9%로 급격히 떨어지며, 디지털 역량도 전 국민 평균 63.8% 대비 고령층은 53.9%에 그친다. 뿐만 아니라 정보 출처와 사실 여부를 비판적으로 확인하는 디지털 리터러시도 낮아진다. 이러한 정보 취약성이 알고리즘 편향과 결합되면 고령층은 소외, 차별, 정보 유실 등 복합적 위험에 노출될 수 있다.

방송통신위원회 ‘2020 방송매체 이용행태 조사’는 유튜브 등 온라인 동영상 서비스의 60대 이용률은 2년 새 38%로 3배 가까이 증가했고, 70세 이상도 11%에 달했다고 밝혔다. 반면 디지털 역량은 전 국민 평균 63.8%에 불과하며, 고령층은 53.9%로 더 낮은 수치를 보였다.

시니어들이 많이 이용하는 유튜브 등은 추천 알고리즘을 통해 고령층이 접속을 유지하도록 비슷한 영상만 반복적으로 노출시켜 왜곡된 정치적 시각이나 확증편향을 강화하는 효과를 유발한다. 이는 사회적 영향력과 정보 왜곡, 심지어 가짜 뉴스 확산 등의 문제로 이어지고 있으며, 데이터와 알고리즘에 기반한 AI 서비스가 무심코 고령층을 배제하거나 차별하는 사례도 꾸준히 보고되고 있다.

EU 등에서는 이미 AI 연령 차별 문제를 명시적 위험으로 인정하고, 위험평가와 관리 가이드라인을 마련 중이다. 국내외 연구 역시 알고리즘, 데이터, 머신러닝, 안면인식 등 기술적 요인이 노인을 차별하거나 배제할 수 있음을 경고한다.

AI는 왜 사람처럼 판단하지 못할까

홍순만 교수 연구팀은 바둑 AI와 인간 기사의 대국 데이터를 분석해 인간과 기계의 근본적인 차이를 밝혀냈다. 핵심은 바로 ‘위험 감수’. 인간은 불확실한 상황에서 손해를 감수하더라도 실패 가능성을 줄이려는 경향이 뚜렷하게 나타난 반면, AI는 최대 수익을 추구하며 불확실성 자체를 계산하지 않는 모습이 주를 이뤘다.

홍 교수는 “AI는 자신 있게 말하지만 틀릴 수도 있다는 가능성을 인정하지 않는다. 이것이 인간과 가장 다른 점”이라고 강조했다.

그의 말처럼 AI는 항상 정확성을 추구하지만 실제로는 데이터의 한계, 감정의 부재, 불완전한 상호작용으로 시니어 사용자에게 위험한 조언을 할 수도 있다는 얘기다.

AI와 정서적 연결, 기대와 오해 사이

시니어들은 AI를 친절한 도우미로 인식하기 쉽다. 자식들이 귀찮아할까 봐 반복적으로 묻지 못하는 질문에도 AI는 귀찮아하는 모습 없이 친절히 대답해주고, 즉각 응대해주기 때문이다. 마치 AI가 사람처럼 나를 이해하고 있다는 착각을 불러일으킨다. 홍 교수는 “AI가 나를 정말 이해해준다고 느끼는 순간, 대화가 정보전달을 넘어 감정적 영향력을 갖는다”고 말했다. 실제로 외로움이나 불안을 덜어주는 역할을 할 수는 있지만, 반대로 감정적으로 취약한 시니어를 잘못된 길로 이끌 수도 있다.

특히 정서적으로 예민하거나 의존도가 높은 시니어 사용자가 자살을 암시하거나 극단적인 감정을 표현할 경우, AI는 즉각적인 개입보다는 응급번호 안내나 평면적인 조언으로 대응해 더 큰 피해를 초래할 수 있다.

그는 “기계는 도덕성을 갖지 않기 때문에 인간처럼 후회하지도 않고 조심하지 않는다”고 경고했다.

AI는 내 정보를 보호해주지 않는다

AI 윤리에서 빠질 수 없는 또 하나의 문제는 바로 개인정보 보호이다. 고령층은 개인정보 보호 인지와 대응 역시 취약한 계층에 속한다. 고령층은 개인정보 보호와 디지털 안전망에 대한 인식, 기술 이해도, 대응능력 등이 낮기 때문에 더욱 쉽게 사이버 범죄의 표적이 되거나, AI 기반 돌봄·의료 등 서비스에서 프라이버시 침해 위험에 노출될 수 있다.

최근 한국인터넷진흥원(KISA)이 발표한 한국의 사이버 범죄 통계에 따르면, 고령층 대상 보이스피싱·스미싱 피해가 전체 대비 24%로 나타났다. 실제로 온라인 플랫폼에서 ‘허위 건강 조언’, ‘투자 사기’, ‘정치적 선동’ 등 AI 알고리즘을 활용한 악용이 늘어나고 있다. 예를 들어 미국의 노인 대상 AI 건강 상담 서비스에서 오진 및 잘못된 정보로 인한 병세 악화 사례가 3% 증가했다. 국내 AI 플랫폼에서는 잘못된 부동산·금융 추천 피해도 다수 보고되고 있다. 이처럼 의료용 AI, 금융·보험 상담 AI 등에서 개인정보가 유출되고, 사칭 및 잘못된 추천으로 인한 실질적 피해도 증가하는 추세다. 이 문제는 미국·EU 등 국제사회에서도 심각하게 논의되고 있으며, 데이터 보호, 제3자 개인정보 제공 금지, 사후 검증 정책 등을 속속 마련 중이다.

AI 문제를 해결하기 위한 맞춤 해결책

즉, 고령층이 AI의 조언을 실생활에서 활용할 때는 오히려 불확실성과 리스크가 증폭될 수 있다.

그 이유는 우선 첫째 알고리즘 편향에 의한 정보 소외와 정치적 왜곡을 들 수 있고, 둘째는 건강·투자·사회적 상담 등에서 잘못된 추천과 허위 정보 확산, 셋째는 개인정보 유출, 사이버 범죄·사칭 등 디지털 안전망 부실로 인한 피해 등이다.

구체적으로 살펴보면, 온라인 플랫폼에서 고령층이 허위 뉴스나 음모론에 더 쉽게 노출되어 사회적 갈등이나 정보 왜곡을 경험하거나, AI 돌봄 서비스에서 수집된 건강 정보가 보호되지 않아 프라이버시 침해, 악의적 유출 문제가 보고되고 있다.

미국·유럽·한국 등에서 돌봄 로봇, 웨어러블 기기 등에 기반한 AI 서비스가 이미 상용화되고 있으며, 개인화된 데이터 수집 및 분석을 통해 노인의 건강 이상 징후를 예측하는 한편 개인정보 보호와 남용 방지에 대한 제도화 논의가 이어지고 있다.

이와 같은 통계와 사례는 시니어 대상 AI 윤리 및 안전 논의의 증거로, 개별적 맞춤 교육과 정책, 안전망 강화, 사회적 감시체계 수립이 필수적임을 시사한다.

AI의 윤리와 안전문제는 기술적 접근만으로 해결할 수 없다. 사회과학의 통찰과 제도 설계, 집단적 감수성이 결합될 때, 시니어에게 실질적으로 유익한 AI 환경이 조성될 수 있다. 컴퓨터 및 데이터 분석 등 IT 활용 능력의 진입장벽이 낮아지는 현시점에서 시니어들도 기초적 디지털 리터러시를 갖추는 한편, 사회과학적 시각으로 AI를 해석·활용하는 자세가 필요하다.

뿐만 아니라 사람이 중심이 될 수 있는 기술과 인문학의 연결 지점에서 시니어 세대를 위한 안전하고 윤리적인 AI 활용법이 만들어질 수 있는 것이다. 실생활에서는 AI의 조언을 맹신하지 말고, 다양한 경로로 답을 재확인하는 습관이 중요하다.

홍순만 교수는 “AI와 인간의 협업이 중요한 이유는 결국 인간의 삶을 위한 기술이기 때문이다. 그 기술이 사람을 해치는 순간 AI는 목적을 잃게 된다”고 거듭 말했다.

도움말 홍순만 연세대학교 행정학과 교수

행정학 분야 세계적인 연구자이면서 최근 첨단기술과의 융복합적 연구를 시도해 ‘홍고(HongGo)’ ‘노바(Nova)’ 등 바둑 AI 프로그램을 직접 개발했다. AI와 사회과학을 융합하는 다학제적 연구를 활발히 수행하고 있으며, 연세대 국가관리연구원장으로 재임 중이다.