AI 불평등의 최극단에서 질문하는 자리를 고집하자

이 글을 요청 받았을 때, 일단 나는 ‘AI 사용자가 아니’란 이유로 거절했다. 그런데 곧 그 이유가 말이 안 됨을 깨달았다. 내가 적극적으로 AI 기술을 이용하지 않는다 하더라도, 초연결사회에서 ‘나는 AI와 관계없다’고 말하는 건 성립될 수가 없다. AI 알고리즘에 속박된 노동을 하는 플랫폼 배달노동자, 주문앱을 비롯한 각종 앱, 우익 포퓰리즘을 비롯한 정치적 극단세력의 편향된 콘텐츠, 빅테크 소유의 소셜미디어를 통한 소통과 연결, 나도 모르게 수집되고 이용되는 각종 데이터, 보고 싶지 않아도 피할 수 없는 AI 생성 이미지들의 범람, 내가 아무리 능동적으로 정보를 찾아도 AI가 불러들인 자료들이 이미 점령한 검색엔진 등등, 가만히 앉아만 있어도 이런 것들과 연결된 세계에서 나는 AI와 무관하다고 말할 수는 없다. 

바쁠 때 전화해서 한두 시간씩 뭔가 호소하던 친구가 AI와 고민을 나누면서 내게 더 이상 전화를 하지 않는다. AI가 더 친절하게 그를 돌보고 있으니 나는 응대의 귀찮음과 피곤함에서 벗어난 것일까? AI에게 성명서 초고 등을 맡기면서 훨씬 효율적으로 일할 수 있다는 어떤 활동가는 그가 지금 같은 글을 쓸 수 있기까지 동료들이 함께 했던 길고 힘든 토론과 반복됐던 ‘빨간펜’의 첨삭을 어떻게 전수할까? AI가 웬만한 초보 변호사보다 자료 수집과 분석에서 훨씬 낫다고 평가하는 어떤 인권변호사는 자기를 이어갈 ‘활동가-변호사’를 어떻게 길러낼까? AI로 인해 일감이 현격히 줄었다는, 번역이 직업인 자원활동가는 낯선 타자와 문화를 연결하는 데서 자기 일의 긍지를 느껴왔다. 줄어든 수입보다도 긍지를 잃은 비애가 더 큰데, 그 자원활동가 대신 사회운동도 AI 번역을 더 쓸 것인가? 

AI와 사회운동의 관계에서 내게 제일 고민되는 것은 사람을 길러내는 ‘재생산’이다. 사회운동은 ‘위탁’할 수 있는 게 아닌, 공존의 의식과 관계성을 밑천으로 사회를 만들어가는 직접 행동이다. 사회에 대한 감각은 ‘손에 잡히는 것’을 돌보는 데서 시작된다. ‘손에 잡히는 것’이란 일상적으로 대면하는 꺼끌꺼끌하고 티격태격하고 울퉁불퉁한 만남 속에서 겪어내는 것이다. 비효율적이고 시간을 잡아먹고 애를 태우는 그런 관계들을 돌보는 데서 싹튼 역량이, 가까이 있거나 멀리 있거나, 가시적이거나 비가시적이거나, 타자의 고통을 상상하고 응답할 역량을 키워간다. 반들반들하고 친절하고 말끔한 것으로만 세계를 접하게 하는 AI는 그런 밑천을 흔드는 것 같다.

생성형(generative) 인공지능에서 내가 떠올린 것은 ‘생식성/생성감(generativity) ’이다. 일본의 정신건강의학과 전문의 구마시로 도루는 이 개념을 “자신 이외의 누군가에게 열의를 기울이고 누군가/무엇인가를 성장시키는 데 기쁨을 느끼는 것” “자기충족만으로 만족하는 경지를 넘어 자신을 필요로 하는 사람들의 성장과 성취에 만족하는 경지로 전환하는 것”이라 설명한다. 이것은 “돌봄에 참여하거나 다음 세대를 위한 사회 건설에 참여함으로써 일어날 수 있는 것”이다. 

AI에 대한 문제 제기가 단지 기술 거부, 시대에 뒤떨어진 것으로 취급받는 현실이다. 문제는 거부냐 수용이냐란 이분법을 넘어서는 것이다. 개인적 관계에서 ‘친절한’ AI가 시민성에 대해서도 그런 기대를 당연시할까 두렵다. 경쟁적 가치와 불평등한 현상 유지를 완벽하게 보조하는, 그런 AI 같은 존재가 이상적인 시민으로 여겨지고, 사회운동은 그 반대로 여겨질 위험이 크다. 민주주의 사수, 인권의 옹호, 소수자 보호와 같은 일은 누가 맡게 될 것인가? 

효율성과 이익의 ‘경쟁’과 불평등과 부정의를 드러내는 ‘투쟁’은 다른 것이고, 사회운동의 역할은 투쟁을 통해 불평등에 응답하는 더 나은 사회를 모색하는 것이다. AI의 비용과 책임은 불평등하게 특정한 사람들에게 집중되고 있다. 노동자를 대량 해고하고 쓸모없게 만드는 사업에 투자하면서 연금기금을 늘리는 역설, 빅테크 기업의 사업을 도구로 쓰면서 사회운동의 이념과 이상을 옹호하는 역설, 기후위기와 에너지 감축이 절대절명의 과제인 시대에 생태적 비용을 무시하는 역설, 꼬리를 무는 역설 속에서 사회운동은 소수의견과 타자성의 관점을 어떻게 지켜낼 수 있을까? 기존의 제도와 행위에서 어떤 존재가 어떻게 배제됐는지를 질문할 수밖에 없다. 불평등하고 부정의한 인간중심주의, 젠더·계급·인종 차별주의적인 관계를 학습하고 강화하는 AI의 세계에서 사회운동은 불평등의 최극단에서 질문하는 자리를 고집해야 한다. 사회운동은 대항권력으로서 국가와 기업을 감시할 수 있어야 하고, 그들의 행위에 한계 지점을 설정해야 한다. AI는 이후의 인간(포스트휴먼)을 고민하게 한다. 우리는 능력이 증강된 인간이나 완벽한 기술이 아니라 타자의 고통에 응답하는 능력, 책임지는 인간관계를 더 고민해야 할 것이다.

✍🏻 류은숙 | 인권연구소 ‘창’ 대표
1992~2006 인권운동사랑방 활동가, 그 이후 현재까지 인권연구소 ‘창’의 공동대표이다. 지은 책으로 『사람을 옹호하라』, 『여자들은 다른 장소를 살아간다』, 『인권을 외치다』, 『돌봄과 인권』, 『돌봄의 상상력』 등이 있다.

📚 칼럼과 함께 읽을 추천도서 바로가기
포스트휴머니즘의 쟁점들