선한 의도에도 운영체제가 필요하다

비영리단체를 떠올리면 우리는 대개 헌신적인 활동가, 낡은 사무실, 빠듯한 예산, 그리고 유난히 오래 돌아가는 복사기를 상상한다. 인공지능과는 어딘가 어울리지 않는 풍경이다. 비영리단체는 기술에 둔감하고, 새로운 도구에 부정적이며, 변화에 보수적이라는 선입견도 있다. 그러나 나는 바로 그 빠듯한 예산과 부족한 인력 때문에 비영리단체가 인공지능을 누구보다 먼저, 그리고 누구보다 영리하게 배워야 한다고 생각한다. 직원이 세 명인데 해야 할 일이 서른 명 몫이라면, 인공지능은 사치품이 아니라 네 번째 동료다. 다만 이 동료는 월급을 요구하지 않는 대신, 때때로 자신 있게 틀린 말을 하고, 보안 규정을 읽지 않으며, 출처가 없는 통계를 아주 단정한 문장으로 제출한다. 꽤 재능 있는 인턴이지만, 아직은 이사회 의장을 맡겨서는 안 되는 이유다.

비영리단체의 가장 희소한 자원은 돈보다 주의력이다. 후원자에게 답장을 보내고, 사업계획서를 쓰고, 회의록을 정리하고, 보고서의 표현을 다듬고, 여러 언어로 안내문을 번역하다 보면 정작 현장에서 사람을 만나고 문제를 이해할 시간은 줄어든다. 뇌과학에서 주의력과 작업기억은 무한한 창고가 아니라 입구가 좁은 병목이다. 행정 업무가 이 병목을 차지하면 공감과 판단에 쓸 정신적 여유도 고갈된다. 인공지능은 이 병목을 넓혀줄 수 있다. 초안 작성, 자료 분류, 반복 문의 응답, 설문 코딩, 회의 요약, 쉬운 언어로의 변환, 다국어 번역, 공개 데이터 분석 같은 일은 이미 상당 부분 도움을 받을 수 있다. 선한 사람이 밤을 새우는 것이 선한 사회의 지속 가능한 운영 모델일 수는 없다.

실제로 세계의 비영리단체들은 기술을 이용해 활동 반경의 물리적 한계를 넘어가고 있다. 난민과 이주민을 위한 언어 지원 조직이자 플랫폼 ‘타짐리’(Tarjimly)의 FirstPass는 기계번역에 사람의 검토를 결합해, 완전 자동 번역보다 문화적으로 세심하면서 사람만 번역할 때보다 최대 세 배 빠른 서비스를 제공한다고 밝힌다. 이곳에서 인공지능은 통역사를 대체하는 기계가 아니라, 적절한 통역사를 더 빨리 연결하고 그의 시간을 가장 필요한 문장에 쓰게 하는 장치다. 기계는 속도를 맡고, 사람은 맥락을 맡는다. 특히 망명 신청, 의료 상담, 법률 지원에서는 단어 하나가 삶의 방향을 바꿀 수 있으므로 이 분업은 각별히 중요하다.

환경 분야의 비영리단체 ‘레인포레스트 커넥션’(Rainforest Connection, RFCx)은 숲속의 소리를 수집하고 인공지능으로 전기톱, 차량, 총성, 사냥개 소리를 감지해 불법 벌목과 밀렵의 징후를 실시간으로 알린다. 과거에는 사람이 숲을 순찰해야만 들을 수 있었던 사건을 이제는 작은 단체가 넓은 지역에서 감시할 수 있다. 이것은 인공지능이 인간의 귀가 닿는 반경을 대륙 규모로 확장한 사례다.

기후 분야의 비영리 연합체 ‘기후 트레이스’(Climate TRACE)는 인공위성, 원격탐사, 인공지능을 결합해 공장, 농장, 선박 등 7억 개가 넘는 자산의 배출 정보를 추적하고, 이를 누구나 이용할 수 있도록 공개한다. 거대한 기업과 정부만 가질 수 있었던 관측 능력을 시민사회가 확보한 셈이다. 예전의 환경운동이 공장 앞에서 피켓을 들었다면, 오늘의 환경운동은 우주에서 공장의 배출을 내려다본다. 피켓은 여전히 필요하지만, 이제 위성 데이터와 함께 들면 훨씬 크고 넓다.

인공지능은 비영리단체가 더 많은 일을 하도록 만들 뿐 아니라, 과거에는 볼 수 없었던 문제를 보게 한다. 아동 성착취에 대응하는 비영리단체 ‘쏜'(Thorn)은 2025년 자사의 기술을 통해 플랫폼에서 의심되는 아동 성착취물 500만 개 이상과 그루밍 징후를 포함한 관련 텍스트 130만 줄 이상을 찾아냈다고 보고했다. 조사기관들은 40개국에서 이 도구를 사용한다. 인간 조사관이 이 모든 자료를 눈으로 검토하는 것은 불가능할 뿐 아니라 심각한 심리적 외상을 남긴다. 이 경우 인공지능은 효율성 도구인 동시에 인간의 정신을 보호하는 방패다. 물론 최종 판단과 피해자 보호는 사람이 맡아야 한다. 기계가 의심 사례를 찾을 수는 있지만, 한 아이의 삶을 이해할 수는 없기 때문이다.

여기서 중요한 역설이 생긴다. 인공지능이 초래할 사회적 문제를 제대로 비판하려면 먼저 인공지능을 능숙하게 사용해보아야 한다. 수영장 밖에서 아무리 물을 비판해도 물살의 방향까지 알 수는 없다. 생성형 인공지능으로 이미지를 만들어본 사람은 얼굴 하나가 얼마나 쉽게 조작되는지 안다. 언어 모델에 같은 질문을 성별과 인종만 바꾸어 입력해본 사람은 편향이 추상적인 철학 문제가 아니라 출력창에 나타나는 운영상의 결함임을 깨닫는다. 기술을 모르는 윤리적 분노는 쉽게 공포담이 되고, 윤리가 없는 기술적 능숙함은 더 빨리 달리는 무책임이 된다. 비영리단체에는 둘 다 필요하다.

뇌는 권위 있어 보이는 정보에 생각보다 쉽게 기대며, 유창한 문장을 사실로 오해하기도 한다. 최근 연구는 편향된 인공지능과 반복적으로 상호작용한 사람이 그 편향을 자신도 모르게 학습하고 증폭할 수 있음을 보여준다. 처음에는 기계의 판단이었지만, 몇 차례 반복되면 그것이 우리의 직관처럼 느껴진다. 작은 편향이 인간과 기계 사이를 왕복하며 눈덩이처럼 커지는 것이다. 따라서 인공지능의 답을 검토한다는 것은 그들이 내놓은 답이 누구를 정상으로 간주하고, 누구를 예외로 밀어냈는지를 묻는 일이다.

비영리단체가 다루는 데이터는 특히 조심스럽다. 학대 피해자의 기록, 장애인의 건강 정보, 난민의 신분과 위치, 미성년자의 사진, 후원자의 연락처는 마케팅용 원료가 아니다. 그것은 누군가가 위험을 감수하고 맡긴 삶의 일부다. ‘좋은 목적이니 데이터를 써도 된다’는 말은 가장 위험한 착각 중 하나다. 선한 의도는 동의를 대신하지 못하고, 개인정보 보호 책임을 면제해주지도 않는다. 국제적십자위원회도 인도주의 활동에서 인공지능이 대량의 개인 데이터를 이용하고 자동화된 결정을 내릴 때 특별한 보호가 필요하다고 강조한다.

따라서 비영리단체는 최소한의 규칙을 세워야 한다. 공개형 인공지능 서비스에 민감한 개인정보를 입력하지 않고, 수집 목적에 필요한 최소한의 데이터만 보관하며, 당사자가 자신의 데이터 사용을 이해하고 거부하거나 삭제를 요구할 수 있게 해야 한다. 데이터가 성별, 연령, 장애, 언어, 지역을 공정하게 대표하는지 점검하고, 지원 대상 선정이나 위험도 평가처럼 사람의 권리에 영향을 미치는 결정은 인공지능에 단독으로 맡기지 말아야 한다. 누가 어떤 도구를 어떤 목적으로 사용했는지 기록하고, 중요한 결과물에는 사람이 검토했다는 책임자의 이름을 남겨야 한다. ‘인공지능이 그렇게 판단했습니다’는 설명이 아니라 책임 회피의 문장이다. 책임은 자동화할 수 없는 마지막 업무다.

업무를 나누는 기준도 분명해야 한다. 106개 실험을 종합한 메타분석에서는 사람과 인공지능의 결합이 사람 혼자보다 평균적으로 나았지만, 사람 또는 인공지능 가운데 더 잘한 쪽보다 항상 우수하지는 않았다. 특히 선택과 판정을 내리는 과제에서는 성과 손실이 나타났고, 콘텐츠를 만드는 과제에서는 상대적으로 이득이 컸다. 이를 비영리 현장에 옮기면 원칙은 간단하다. 인공지능에게 초안을 쓰고, 분류하고, 번역하고, 대안을 찾게 하라. 그러나 누구에게 지원금을 줄지, 어떤 피해자의 진술을 믿을지, 누구를 고위험군으로 분류할지는 사람이 근거를 검토하고 책임져야 한다. 인공지능은 아이디어 회의에는 초대하되, 윤리위원회에서 의결권을 주지는 말아야 한다.

딥페이크를 통한 성희롱과 명예훼손은 비영리단체가 특히 적극적으로 다루어야 할 영역이다. 피해는 이미지가 가짜라고 밝혀진 순간 끝나지 않는다. 뇌는 충격적이고 감정적인 영상을 사실 확인 결과보다 오래 기억한다. ‘가짜였음’이라는 정정문은 대개 문제의 영상보다 덜 자극적이고, 따라서 훨씬 덜 퍼진다. 더욱이 피해자는 자신의 결백을 입증하기 위해 문제의 이미지를 다시 보여주어야 하는 잔인한 상황에 놓인다. 유네스코는 2025년 시민단체와 교육기관도 기술 지식 없이 실행할 수 있는 레드티밍 지침(Red Teaming AI for Social Good Playbook)을 내놓아, 생성형 인공지능의 젠더 편향과 기술 매개 성폭력 가능성을 직접 시험하도록 권고했다.

비영리단체는 피해가 발생한 뒤 성명서만 발표해서는 부족하다. 증거를 안전하게 보존하는 방법, 플랫폼에 삭제를 요청하는 절차, 피해자의 이름이 검색 결과에 재노출되지 않도록 하는 원칙, 법률 및 심리 지원 연결망, 언론이 합성 이미지를 재유포하지 않고 보도하는 지침을 미리 마련해야 한다. 인권단체 ‘위트니스'(WITNESS)가 딥페이크 대응 원칙을 ‘당황하지 말고 준비하라’로 표현한 것은 매우 정확하다. 모든 영상을 의심하는 사회도 위험하고, 모든 영상을 믿는 사회도 위험하다. 필요한 것은 공포가 아니라 검증 능력이다.

이를 위해 비영리단체는 기술 담당자 한 사람을 고용하는 데서 그쳐서는 안 된다. 모든 구성원이 인공지능의 기본 원리, 한계, 데이터 보호, 편향, 저작권, 합성 콘텐츠의 위험을 배워야 한다. 작은 단체라면 거창한 인공지능 전략위원회보다 매달 한 번의 실습이 더 낫다. 실제 업무 하나를 골라 사용해보고, 얼마나 시간이 줄었는지, 어떤 오류가 발생했는지, 누구에게 불리한 결과가 나왔는지 기록하면 된다. 성공 사례뿐 아니라 실패 사례를 조직 안에서 공유해야 한다. 뇌는 실수를 숨길 때보다 예측 오류를 검토할 때 더 잘 배운다. 인공지능 활용 역시 멋진 시연보다 정직한 오류 일지가 조직을 똑똑하게 만든다.

나는 뇌를 연구하면서 인간의 지능이 머릿속에만 존재하지 않는다는 사실을 자주 확인한다. 우리는 언어, 책, 지도, 계산기, 동료의 기억을 빌려 생각해왔다. 인공지능도 이 오래된 지적 협업의 새로운 도구다. 문제는 도구를 쓰느냐 쓰지 않느냐가 아니라, 무엇을 맡기고 무엇을 끝까지 인간의 몫으로 남길 것인가다. 뇌에는 따로 분리된 ‘윤리 버튼’이 없다. 윤리란 우리가 타인의 고통을 상상하고, 행동의 결과를 예측하고, 충동을 억제하고, 서로 책임을 묻는 과정에서 만들어지는 집단적 능력이다. 그러므로 인공지능 시대의 윤리는 사용 금지 서약이 아니라 잘 사용하는 훈련이어야 한다.

비영리단체는 기업보다 돈이 적고 정부보다 권한이 작다. 그러나 사회가 아직 이름 붙이지 못한 고통을 가장 먼저 발견하는 조직이기도 하다. 인공지능을 잘 활용하면 작은 단체도 여러 언어로 말하고, 먼 지역을 관찰하며, 방대한 자료 속에서 구조적 부당함을 찾아낼 수 있다. 동시에 기술을 직접 다뤄본 비영리단체만이 편향된 데이터, 자동화된 차별, 성적 딥페이크, 명예훼손, 감시와 프라이버시 침해를 막기 위한 구체적인 질문을 던질 수 있다.

선한 의도만으로 세상은 바뀌지 않는다. 선한 의도에는 좋은 도구와 숙련된 손, 그리고 책임지는 마음이 필요하다. 인공지능을 멀리하는 비영리단체는 순수해 보일 수 있지만 점점 무력해질 것이다. 인공지능을 무비판적으로 받아들이는 단체는 효율적일 수 있지만 위험해질 것이다. 우리가 원하는 것은 그 중간의 어정쩡한 타협이 아니다. 기술을 충분히 가까이에서 이해하되, 인간의 존엄을 판단 기준으로 삼는 단단한 태도다. 미래의 훌륭한 비영리단체는 인공지능을 두려워하지도 숭배하지도 않을 것이다. 그들은 인공지능에게 많은 일을 맡기면서도, 가장 중요한 질문만큼은 자신들이 직접 답할 것이다. ‘이것이 가능한가?’가 아니라 ‘이것이 누구에게 도움이 되고, 그 결과에 누가 책임질 것인가?’라는 질문 말이다.

✍ 정재승 | KAIST 뇌인지과학과 교수
KAIST에서 물리학을 공부하고 복잡계 과학과 대뇌 모델링으로 박사학위를 받은 뒤, 예일대학교 의과대학 정신과 연구원과 컬럼비아대학교 의과대학 소아정신과 조교수를 거쳐 현재 KAIST 뇌인지과학과 교수 및 융합인재학부 학부장으로 재직하고 있다. 의사결정의 신경과학, 정신질환의 계산 모델링, 뇌와 로봇의 인터페이스, 뇌 원리를 바탕으로 한 인공지능을 연구하며 100여편의 학술논문을 네이처, 네이처 커뮤니케이션즈 등에 출간했고, 인간의 뇌가 불완전한 정보 속에서 어떻게 세계를 해석하고 타인과 함께 선택하는지를 탐구해왔다. 그에게 뇌과학은 신경세포를 설명하는 학문에 머물지 않고, 인간이 문화와 공동체를 만들어가는 방식을 이해하는 지적 도구다. 쓴 책 《정재승의 과학콘서트》와 《열두 발자국》, 그리고 과학강연기부행사 ’10월의 하늘’ 등을 통해 과학적 사유를 사회와 나누는 일에도 힘쓰고 있다.

📚 칼럼과 함께 읽을 추천도서 바로가기
익스텐드 마인드: 창조성은 어떻게 뇌 바깥에서 탄생하는가