‘우리’는 ‘서로’에 의해 무너진다: 자율무기 시대의 환대와 평화

근래 고등학교들의 요청으로 청소년들과 인공지능에 대해 이야기 나누는 시간이 부쩍 많아졌다. 만남을 열며, 서로의 인공지능 사용경험을 인터뷰하고, 사람보다 인공지능이 더 잘 할 수 있는 것, 인공지능은 할 수 없고 사람만이 할 수 있는 것, 그리고 인간과 인공지능이 할 수 있는 것들의 교집합을 정리해보는 활동을 한다.

청소년들이 인공지능이 할 수 없는 것으로 꼽은 것은 천차만별이었는데, 인공지능은 ‘샤워를 할 수 없다’거나, ‘때를 밀 수 없다’는 의견과 함께 김애란 작가의 “망설임”도 여러 차례 언급되었다. 이러한 의견들은 이내 다른 사람의 의견에 의해 반박되었는데, 피지컬 AI 발전으로 ‘때밀이 휴머노이드’가 등장할 것이며, ‘수영하는 휴머노이드’도 나올 것이므로 샤워도 가능하다는 의견이 나오는가 하면, 인공지능의 버퍼링은 망설임으로 봐야 한다는 의견도 나온다.

인공지능과 인간의 차이를 감별해보려는 노력이 곳곳에서 포착되는 요즘이다. 인공지능의 급격한 발전(?)과 더불어 인간의 존재 의미를 묻지 않을 수 없기 때문일 텐데, 이는 인공지능으로부터 엄격하게 구별되는 존재로서의 인간됨을 지키려는 노력임과 동시에 이미 인간을 넘어선 가공할 속도의 인공지능과 공존할 방안에 대한 도모이기도 하다. 인공지능은 대체 무엇을 닮고자 했는가? 인공지능을 통해 끝끝내 구현하고자 했던 것은 그래서 무엇인가?

나는 플라스틱으로 만든 “조화”를 좋아하지 않는다. 다만, 인테리어를 위해 살아 있는 식물을 학대할 바에는 조화를 놓는 것이 윤리적이라고 생각한다. 인공지능과 인간지능 사이의 웅성거림 속에서 나는 살아 있는 식물을 마주할 때의 나와 조화를 마주할 때의 나의 “응답”을 견주어본다. 생생하게 살아 있는 것 앞에서만 감각할 수 있는 “생기”는 인공으로 만들어 낼 수 없는 “그 무엇”이다.

이 생기는 “사람”에게만 국한된 것이 아니라, 이 생태계를 구성하는 모든 “유기체”들에게서 발견할 수 있는 공통성이다. 물론, 사물을 포함하는 비인간 행위자와 인간 행위자의 네트워크로서의 세계를 고려해야 할 필요도 있으나, 무기체로서의 사물을 유기체와 동질한 층위에 두는 것에는 동의하기 어렵다. 한 때 유기체였던 것들은 더 이상 살아 있지 않게 되었을 때에도, 유기체가 아닌 그것과는 아주 다른 존재이기 때문이다. 한 때 살아있었던 모든 것은 부패하고, 변형되면서도 여전하게 “삶”의 영역, 유기의 영역에 스며든다.

에리히 프롬은 프로이트의 에로스와 타나토스 개념으로부터 자신의 개념 바이오필리아(biophilia)와 네크로필리아(necrophilia)를 발전시켰다. 시체 성애를 뜻하는 병리학적 용어였던 네크로필리아를 프롬은 ‘죽은 것, 정형화된 것, 파괴적인 것을 사랑하는 경향’으로 확장하여 정의한다. 이와 극적으로 대비되는 개념이 바로 바이오필리아, 즉 ‘생명교감 성향’이다. 이는 단순히 살아있음을 좋아하는 마음을 넘어, 생명이 자라나는 생생한 역동을 사랑하고, 살아있는 존재가 뿜어내는 저마다의 ‘예측 불가능성’을 기쁘게 맞아들이는 환대의 태도다.

인류가 진화해오는 과정 속에서 “환대”라는 선택은 늘 “적대”라는 또 다른 선택과 쌍을 이루어 존재했다. 하지만, 낯선 존재에 대한 두려움을 전제하면서도, 사람들은 다른 존재를 기다리고 정성껏 맞아들이는 법을 기어이 배워냈다. 환대란 상대를 내 방식대로 길들이거나 장악하는 일이 아니라, 그가 내 짐작을 넘어선다는 사실을 인정한 채 기꺼이 문을 여는 용기다.

그렇다면 인공지능은 과연 환대할 수 있을까. 기계는 끝없이 분류하고 계산하고 식별한다. 그러나 식별은 환대가 아니다. 데리다는 관용을 ‘주권의 선한 얼굴’이라 불렀다. 주권자가 정한 선까지만 너를 받아주겠다는 시혜적 태도다. 수식과 조건으로 엄격한 경계를 세우는 알고리즘은 바로 그 관용의 극한이다.

사람들의 사진을 분류하던 바로 그 기술이 이제 전장에서 표적을 분류한다. 자율살상무기는 사람을 얼굴이 아니라 타격해야 할 ‘데이터 속 표적’으로 읽는다. 드론이 찍은 수천 시간의 영상에서 인공지능이 표적을 골라내고, 인간에게 남은 몫은 그저 몇십 초 남짓, 죽일지 살릴지 버튼을 누르는 일뿐이다. 그것은 ‘검토’가 아니라 ‘추인’이며, ‘맞아들임’이 아니라 ‘솎아냄’이다. ‘식별’과 ‘환대’ 사이의 그 아득한 스펙트럼 어딘가에 인간의 자리가 있다.

레비나스는 나를 넘어서는 타인의 얼굴 앞에서 윤리가 시작된다고 했다. 그 얼굴은 “죽이지 말라”고 명령한다. 인간을 인간이게 하는 것은 어쩌면 ‘망설임’이다. 죽일 수 있으나 멈칫하는 순간, 다 알 수 없으나 받아들이는 순간이야말로 인간의 자리다. 환대는 다 알고 베푸는 호의가 아니라, 다 알 수 없음을 끌어안는 용기이자, 인간의 불완전함에 대한 인정이며, 겸허한 수용이다. 그 불완전함이 비로소 인간을 온전하게 한다.

인공지능 기반 무기체계 전문가들은 인공지능이 전쟁을 더 정확하고 효율적으로 만든다고 말한다. 그러나 그 효율은 누구를 위한 것인가. 표적을 겨누는 자의 시선에서 볼 것인가, 조준당하는 표적의 자리에서 볼 것인가.

환대는 언제나 후자의 자리에서, 가장 약하고 작은 이의 얼굴에서 시작된다. 미사일에 무너진 학교의 잔해를, 무덤이 되어 버린 운동장 앞에서 누구도 선뜻 자기 책임이라 나서지 않는다. 환대의 파산, 인간성의 파산이 도래했음을 목격한다. 클린(clean)해진 살상 앞에서 책임의 소재 또한 깨끗하게 지워지고 있다.   

인공지능을 통해 내가 속한 ‘국가’만이 강해지기를 바라는 세계에서 국경은 세포막만 못한 조악한 인공의 설계임을 환기한다. 주디스 버틀러는 “우리는 서로에 의해 무너진다(undone by each other)”고 했다. 서로를 무너뜨릴 수 있으며, 서로에 의해 무너질 수 있는 그 취약함이야말로 환대의 근거이자, 평화가 모두의 것이 될 수 있는 가장 무력하고도 유일한 가능성이다.

✍ 문아영 | 피스모모 대표
2012년 평화와 배움, 평화와 일상을 잇는 ‘피스모모’를 동료들과 함께 창립하여 평화가 모두의 것(peace as commons)일 수 있는 세계의 가능성을 실천적으로 탐구하고 있습니다. 2019년부터는 인공지능의 무기화에 주목했고, 근래에는 유엔의 자율살상무기체계에 대한 국제규범과 국내규범을 모니터링하고 있습니다.

📚 칼럼과 함께 읽을 추천도서 바로가기
Messy: 인간을 인간답게 만드는 불완전함에 대하여
인간 없는 전쟁
우리는 여전히 삶을 사랑하는가