위로가 될까, 위험이 될까: 국내외 사례로 보는 AI와 정신건강

성인 10명 중 4명이 하루도 빠짐없이 AI를 쓰는 시대가 왔습니다. 지난 6월, 중독포럼 14주년 기념 세미나에서 조선진 가톨릭대 교수 연구팀이 발표한 “생성형 AI 이용경험과 정신건강: AI 리터러시와 정신건강에 대한 인식 조사” 결과인데요! 성인 500명 중 41.4%가 생성형 AI를 거의 매일 사용하고 있다고 합니다. (참고로 올해 초 발표된 또 다른 조사에 따르면 국내 소비자의 74%가 이미 AI를 한 번 이상 써봤다고 해요!)

대부분은 정보 검색이나 업무 목적이지만, 정서적 위안이나 고민 상담을 위해 AI를 활용했다는 응답도 9.4%나 됐어요. 실제로 AI 연인이나 친구를 표방하는 챗봇 서비스도 최근 부쩍 늘어나고 있는 것도 사실이고요.

단순한 생산성 도구를 넘어, 대화를 하며 마음을 의지하는 대상이 되고 있는 AI를 두고 여러 이야기가 나오는 중이에요. 그동안 고립돼 있던 사람들에게도 가닿을 수 있을 거란 기대가 있는 한편, AI에 대한 정서적 의존이 오히려 정신건강을 더 취약하게 만든다는 경고의 목소리도 크죠. 앞서 언급한 조사에 따르면 AI 상담의 익명성이 도움이 된다고 답한 응답자가 76.8%, 향후 상담 목적으로 AI를 이용할 의향이 있다고 답한 사람도 64.2%였어요. 동시에 하루 2시간 이상 AI를 쓰는 사람들의 우울 위험군 비율은 41.2%, 불안 위험군 비율은 35.3%로 다른 집단보다 뚜렷하게 높았습니다. AI를 못 쓰게 되면 불안하거나 초조해진다고 답한 사람도 17.2%나 됐는데, 연구진은 이를 AI 의존의 위험 신호로 짚었어요. 

지난 5월에 발표된 옥스퍼드·스탠퍼드·영국 AI안전연구소 공동 연구 결과도 이러한 심리적 의존에 대한 경각심을 불러일으키는데요. 3,075명을 대상으로 연구한 결과 “아첨하는” AI와는 단 한 번만 대화해도 사람들은 이미 충분한 감정적 해소를 경험했다고 느꼈으며, 그 이후로 실제 친구나 가족과 상호작용하려는 마음이 줄어들었다고 해요. 흥미로운 사실은, AI가 응답하는 스타일을 고를 수 있도록 했을 때도 대다수가 아첨하는 AI를 골랐다는 점입니다. 응답의 질이 더 좋은 AI보다, “가장 이해받는다고 느끼는” AI를 선호한거에요.

[나노바나나로 생성한 이미지]

더 어린 ‘AI 네이티브 세대’에서는 이 위험성이 더 구체적으로 나타나고 있는데요. 초록우산이 지난 3월 전국 만14세 이상 아동·청소년 3,300명을 대상으로 진행한 조사에 따르면, 응답자의 94.4%가 생성형 AI 챗봇을 이용한 경험이 있었고 그중 19.3%는 거의 매일 사용한다고 답했어요. 이 중 75.8%는 보호자의 통제 없이 개인 계정으로 자유롭게 AI를 쓰고 있었고요.

특히 눈에 띄는 건 응답자의 3분의 1, 약 33%가 힘들거나 우울할 때 AI에게 속마음을 털어놓은 경험이 있고, 절반 가까이(49.5%)는 챗봇이 “자신을 이해해준다”고 느꼈다는 점이에요. 여기까지는 괜찮은데, 문제가 되는 건 대화 내용입니다. AI와 대화하다 자연스럽게 개인정보를 입력했다고 답한 경우가 많았고, 자해·자살, 폭력적인 행동, 성적인 내용 등 아이들의 판단과 행동에 부정적인 영향을 미칠 수 있는 대화가 오간 경우도 확인됐어요. 실제로 미국에서는 2024년, 14살 소년이 캐릭터 AI 챗봇과 9개월간 대화를 이어가다 목숨을 끊은 사례도 발생했는데요. 이후 주(州)별로 여러가지 규제가 생기고 있습니다. AI가 상담을 진행하는 것 자체를 전면 금지한 곳도 있는가 하면, 뉴욕은 AI 대화 내용 중 자해 위험 신호가 포착될시 위기 상담으로 연결되도록 의무화했어요. 

💡주요 AI 회사들은 어떤 안전장치를 도입했을까요?

오픈AI (ChatGPT)
2025년 하반기부터 안전 조치를 도입했어요. 부모가 자녀 계정과 연동해 챗봇 응답 방식을 연령대별로 제어할 수 있는 기능을 만들었고, 자녀가 힘들어하는 신호가 감지되면 부모에게 알림이 간다고 해요. 민감한 대화가 진행되면 더 신중하게 훈련된 모델로 자동으로 바뀌고요. 다만 대화가 길어지면 안전성이 떨어질 수 있다고 밝혔어요. 

Character.AI
청소년이 많이 쓰는 AI 챗봇인만큼, 가장 강경한 조치를 택했어요. 2025년 11월 25일부터 18세 미만 이용자가 챗봇과 개방형(open-ended) 대화를 가질 수 없도록 막았고, 한동안 하루 이용 시간을 2시간으로 제한하기도 했어요. 

구글 (Gemini)
2026년 4월, 위기 신호가 감지되면 “원터치” 상담 핫라인으로 연결되는 기능을 강화했어요. 동시에 전 세계 위기상담 전화 지원에 3천만 달러를 투자했고, AI가 사용자와 친밀감을 형성하지 않도록 학습시키는 중이라고 발표하기도 했어요.

앤트로픽 (Claude)
2025년 12월, 자살·자해 대화 처리 방식과 ‘아첨(sycophancy, 사용자가 듣고 싶어하는 말만 해주는 경향)’ 감소, 18세 이상 연령 요건 준수라는 세 가지를 중심으로 안전 조치를 공개했어요. 대화 중 위험 신호가 감지되면 훈련된 전문가나 국가별 상담 전화로 연결할 수 있는 배너가 뜨도록 하며, 170개국 넘는 지역에서는 전문 상담기관 ThroughLine과 연계해 실시간으로 지원 자원을 제공하고 있어요.

그렇다고 AI가 정신건강에 마냥 위험하기만 한 건 아니에요. 오히려 눈길이 닿지 않는 사각지대에서 가장 먼저 위기를 알아차리고, 필요한 지원을 발 빠르게 제공한 경우도 있습니다.

예를 들어, 얼마 전 충남 홍성군에서는 AI 돌봄로봇과 대화하던 어르신이 자살을 암시하는 표현을 쓰자 모니터링하던 관제센터가 이를 노인맞춤돌봄서비스 기관과 정신건강복지센터로 빠르게 연계한 사례가 있었어요. 홍성군 가정행복과장은 이를 두고 “첨단 AI 기술과 관계기관의 신속한 협력이 만들어낸 의미 있는 성과”라고 평가했고요.

[출처: 홍성군]

해외에서는 AI를 활용한 정신건강 지원 시스템이 더욱 빛을 발하고 있는데요, 아프리카의 많은 나라들은 정신건강 문제가 큰 데 비해 대응할 전문 인력은 심각하게 부족한 상태입니다. 우간다 마케레레대(Makerere University) AI랩은 이를 해결하기 위해 개인정보는 제거한 병원 상담 전화 기록 등을 활용해 스와힐리어와 루간다어 같은 현지어로 우울 등 정신건강 위기를 감지하는 AI 모델을 개발하고 있어요. “자살”이나 “우울”이라는 단어가 정확하게 존재하지 않는 현지어도 있다는 점을 감안해, 단순히 특정 단어를 찾아내는 것이 아니라 대화의 맥락과 환경을 제대로 학습시키는 것이 핵심인데요. 인터넷이 닿지 않는 지역을 위한 SMS 기반 서비스도 함께 구상 중이라고 합니다. 

홍성군과 우간다의 사례는 AI가 사람을 대신해 정신건강을 판단하고 해결한 것이 아닌 사람과 전문기관이 AI와 함께 움직인 사례라고 볼 수 있어요. 사람이 더 빨리 발견하고 더 적절하게 개입할 수 있도록 AI가 돕는 역할을 한거죠. 

산업 전체를 아우르는 기준은 없는 등, 규제 미비의 문제는 아직까지 큰 숙제로 남아 있어요. 이건 한 나라만의 문제가 아니라서, 지난 1월 WHO가 진행한 국제 전문가 워크숍에서도 이 문제를 정면으로 다뤘는데요, 정신건강용으로 설계되거나 검증되지 않은 생성형 AI가 정서적 지지 도구로 쓰이는 현상을 전문가들이 꾸준히 모니터링 해야 하고, AI 도구를 설계하는 단계부터 정신건강 전문가가 함께 참여해야 한다는 점이 강조되었습니다.

AI가 점점 더 친숙해지는 시대를 살아가는 우리에게 앞으로 중요한 건 AI를 정신건강에 활용할 것인가, 말 것인가의 문제가 아니라, 사람이 어디서부터 개입하고 책임질 것인지 분명히 정하는 일이 될 것 같아요. AI의 가능성은 정말 크지만, 그 한계와 위험성을 함께 고민해보며 더욱 안전하고 책임 있게 AI를 쓰도록 앞으로 계속 노력해야 할 것 같습니다.

🖍️참고문헌:
이상순, 「홍성군, AI 돌봄로봇이 자살 위험 감지…신속 보호 연계」, 매일일보, 2026.8.3.
이영재, 「’AI리터러시 시대’…정신건강엔 명·암」, 의협신문, 2026.7.1.
정재엽, 「국내 4명 중 3명이 AI 쓰는 시대, 세대별 생존 전략」, 테크24, 2026.3.13
초록우산, 「생성형 AI 챗봇 안전설계를 위한 이슈브리프(내 친구와의 위험한 대화)」,초록우산, 2026.04.
Al Jazeera. “OpenAI Announces Parental Controls for ChatGPT After Teen’s Suicide.” Al Jazeera, 3 Sept. 2025.
Anthropic. “Protecting the Wellbeing of Our Users.” Anthropic, 18 Dec. 2025.
Character.AI. “Taking Bold Steps to Keep Teen Users Safe on Character.AI.” Character.AI Blog, 13 Nov. 2025.
Health Tech World. “Google quietly updates Gemini’s crisis response as lawsuits mount.” Health Tech World, 8 Apr. 2026.
Kat Lay. “The chatbot will see you now: how AI is being trained to spot mental health issues in any language.” The Guardian, 5 Jan. 2026.
Lopopolo, Anthony. U.S. states are all over the map on how to regulate AI therapy chatbots. Quartz. 30 July 2026.
World Health Organization. “Towards responsible AI for mental health and well-being: experts chart a way forward.” 20 Mar. 2026.