AI가 아낀 시간은 누구에게 돌아가고 있는가

5년 전 이 때를 생각하면 잊혀지지 않는 장면이 있다. 2021년 8월, 전설적인 재즈 뮤지션인 토니 베넷의 95번째 생일 공연이다. 알츠하이머를 심각히 앓고 있던 그는 함께 무대에 오른 레이디 가가의 이름도 가끔 기억하지 못하는 듯 했다. 그러나 조명이 켜지고 밴드가 시작하자 그는 정확한 박자와 함께 무사히 공연을 마쳤다.

데이터로 사회정책을 연구하는 나는 이 장면을 볼 때마다 사회복지에서 AI가 어디에 있어야 하는지를 생각하곤 한다. 데이터는 인간의 욕망과 수사가 가리고 싶어하는 현실을 냉정하게 보여주지만, 주로 사람의 결핍과 위험에 초점을 맞춘다. 장기요양 등급 점수는 혼자 하기 어려운 일들을 나열하고, 위기가구 발굴은 체납과 단전처럼 일상이 붕괴되는 신호를 나타낸다. 나와 같은 연구자가 만든 AI 모형은 누가 위험한지는 잘 찾아내지만, 그 사람이 그 상황에서도 여전히 무엇을 할 수 있는지는 잘 예측하지 못할 수 있다. 낮은 확률에 가려진 가능성은 여전히 현장 사회복지 활동가들의 사례일지와 메모, 활동가와 당사자의 관계 속에 더 많이 남아있다.

나는 사회복지 영역의 AI 도입의 성패가 기술의 정확도 혹은 속도보다 AI 기술이 절약해준 시간과 자원을 누구에 되돌려주었는지에 좌우될 것이라 생각한다. 이는 AI 기술을 인간 증강으로 연결하고, 또 기술 도입에 앞서 운용 체계를 정비해야만 한다는 문제의식이기도 하다. 일례로 나는 최근 행정데이터를 활용하여 기초연금을 받을 자격이 있는데도 신청하지 않은 노인분들을 예측하는 AI 모형을 만들고 있다. 이분들은 제도를 알아야 하고, 본인의 자격을 가늠해야 하며, 무엇보다 대화 혹은 서류를 통해 타인에게 본인의 가난을 입증해야 한다. 물론, AI가 확률적으로 자격 가능성이 높은 노인을 빨리 찾아낼 수 있으나, 신청 절차와 행정 역량을 그대로 둔 채 기술만 도입한다면 문제가 해결되지 않을 확률이 높다. ‘와서 증명하라’는 신청 절차 위에 AI를 얹으면 행정 요구의 속도만 빨라질 것이고, 신청 절차를 갑자기 폐지한다면 부담은 오히려 현장 실무자에게 전가될 확률이 높다. 즉, AI 기술로 식별된 이들에게 제도의 문턱을 낮추는 것은, 결국 기술만으로는 해결되지 않는 운용체계의 영역이다.

해외 국가도 마찬가지이다. OECD 국가들의 사례를 살펴보면, 복지 분야의 AI의 활용도 운용체계에 따라 전혀 다른 결과를 낳는다. 이미 많이 알려진 호주의 사례는 소득 자료를 기계적으로 계산해 복지급여 채무를 통지하고, 잘못이 없다는 입증책임을 취약계층인 시민들에게 전가했다. 반면 핀란드에서는 신청의 약 80%를 자동화했음에도 취약계층을 위한 전화와 방문 창구를 없애지 않은 다채널 전략(Omni-channel)을 채택했다. 기술보다 운용체계가 결과를 갈랐다.

사회복지 영역의 AI는 사람을 더 빨리 판정하는 기계보다 무대 뒤의 장치에 가까워야 한다. 서류와 반복 기록을 줄이고, 자격 가능성을 미리 안내하며, 사회복지 활동가가 기록에 쓰던 시간을 사람 앞에 앉는 시간으로 돌려주는 일이다. 앞선 본 공연에서도 레이디 가가는 토니 베넷을 대신하여 노래하지 않았다. 이전보다 더 긴 리허설과 익숙한 편곡, 정확한 순간에 건넨 다정한 말로 토니 베넷이 노래할 수 있는 조건을 만들었다.

물론 이러한 주장들도 아직은 가설 차원에 가깝다. 사회복지 영역에서 AI가 사람의 역량과 권리를 지켰다고 입증된 사례들은 이제 막 축적되고 있다. 본고를 비롯한 많은 글들에서 ‘인간참여형(human-in-the-loop)’ AI를 정답처럼 선언적으로 제시하나, 이는 이미 1980~90년대 AI의 참여·감독·배제에 관한 자동화 연구들에서 제기되었던 다소 오래된 개념이다. 이를 한국 사회의 복지의 권리와 노동, 책임의 문제로 구체화하는 움직임은 이제 막 시작 단계이다. 따라서 지금 시점에서 우리에게 필요한 것은 AI라는 거대 담론을 선점하려는 조급함이 아니라, 일상의 문제를 발견하고 해결을 시도하며 AI의 효과와 부작용을 하나씩 축적하는 현장 전문가들의 움직임이다.

이러한 움직임들을 하나의 구조로 전환하기 위해서는 협업이 필요하다. 유럽 7개국을 비교한 연구도 기술의 성패가 기술 자체보다 참여 주체 간 조정과 역할 분담에 좌우된다고 결론을 맺는다. 정부는 AI 이용 기준과 책임을 정하고, 기업은 기술과 보안을 맡을 수 있다. 학계는 효과와 편향을 검증하고, 재단은 실패할 수도 있는 실험에 자원을 제공할 수 있다. 다만, 이 모든 과정의 시작이 되는 문제는 비영리 현장과 당사자가 먼저 발견해야 한다. 최근 젊은 사회복지사들과 AI agent로 현장 사회복지 문제를 해결하는 시제품을 만드는 세션을 진행했었다. 내가 이 과정에서 느낀 것은 결과물보다 순서였다. 현장이 먼저 문제를 꺼냈고, 기술과 학계, 정부는 그 뒤에 섰다. 아주 작은 시도였을 뿐이지만, 비영리와 AI의 관계는 이 순서에서 출발해야 한다.

5년 전 공연이 끝난 뒤, 의료진은 베넷에게 더는 무대에 서지 말 것을 권했고 가족은 이를 받아들였다. 노래할 수 있다는 것과 계속 무대에 서야 한다는 것은 같은 말이 아니었다. AI는 ‘할 수 있는가’를 점점 더 잘 계산하겠지만, ‘해야 하는가’의 문제는 현장의 몫이다. 결국 기술의 성패는 혼란한 상황 속에서도 각 주체들이 고유의 역할을 협력적으로 잘 수행했는지, 그리고 현장에 사람을 만날 시간을 되돌려주었는지, 그래서 사람들을 다시 문 안으로 한 걸음 들어올 수 있게 했는지로 평가될 것이다. 우리가 비영리와 AI의 협업에 주목해야 하는 이유이다.

✍ 이종성 | 서울대 사회복지학과 교수
행정빅데이터와 인과추론, AI모형을 활용해 노인 관련 사회정책 및 서비스의 평가분석, 돌봄 수요 예측모형 개발, 사회서비스의 수요·공급 격차 분석 등을 수행하고 있다. 서울대 AI연구원 겸임, 복지부 사회공헌 혁신자문 위원으로 활동하고 있다.

📚 칼럼과 함께 읽을 추천도서 바로가기
권력과 진보