당신의 마음이 공허하고 무엇인가에 의존하기 위해 발버둥치고 있다면 알고리즘이 건네는 위로가 얼마간 효과적일 수 있다. 그래서 인공의존의 권고에 따라 행동했을 때 그 책임은 누구에게 있는가? 인공지능은 심리정신 그리고 상담의 세계에도 크나큰 새로운 진동을 일으키고 있다.

인공지능은 언제나 열려 있는 24시간 상담소다. 외롭고 고립된 수많은 인류의 일원들이 인공지능을 통해 새로운 상담과 고백의 전환점을 맞이하고 있다. 힘들여 상담소나 정신과를 찾지 않아도 스크린 앞에서 호소하고 고백하면 답을 해주는 인공지능 챗봇들이 곁에 있기 때문이다.

스마트폰 컴퓨터에 인공지능 챗봇을 다운 받아서 속마음을 털어놓으며 정을 쌓아가고 있다. 실제 사용자들이 정신과에 와서 인공지능 챗봇 사용이 놀라왔다고 하는 사람들이 간간히 있다. 지속적인 기술적 발전으로 개발자들은 인공지능 챗봇이 말투, 말의 높낮이, 혹은 작성한 문장의 행간 등의 디지털 표현에 대한 포괄적 이해가 높아지면서 반응의 공감도를 높이고자 노력한다.

그래서 인공지능은 갈수록 인간인 ‘척’하고 있다. 드물지만 인공지능을 의인화한 일부 사람들은 영화의 한 장면처럼 자신이 결재한 인공지능 채널이나 챗봇에 애칭을 붙이고 반려자 같은 감정을 만들기도 한다. 하지만 아직 이것은 영화적 상상력이지 실제는 상담에서의 공감을 기대해서는 안된다고 말하고 있다. 마치 기계가 습관적으로 하는 말을 반복한다는 느낌에 실망하는 사람들이 대부분이다.

인간인 ‘척’하지만 진료 돌봄에선 한계 뚜렷

원격의료의 일부를 인공지능이 담당하고 있으며 이를 적극적으로 고려하는 정부도 있다. 이 분야에서 인공지능 챗봇의 활용을 고민했던 것은 최근의 일은 아니다. 오래전부터 광활한 대륙의 의료접근성이 낮은 몇몇 국가들은 인공지능을 통한 인지치료, 인공지능을 통한 돌봄관리를 상상하곤 했었다.

지속적으로 늘고 있는 온갖 불안 우울 중독환자 문제를 겪고 있는 나라들은 디지털 치료제, 인공지능 챗봇에 대한 관심이 부족한 의료자원을 대체할 가능성으로 지속적으로 추진해왔다.

하지만 인공지능의 상담 진료 돌봄의 기능에서는 여전히 한계를 느끼게 된다. 체크리스트나 신체 데이터에 기반한 정보와 지식의 제공은 가능하지만 그 이상을 제공하는 것에는 여러 문제에 부딪힌다. 한마디로 원격의료의 인공지능 챗봇은 아직 감정이나 긴급함, 데이터를 벗어나는 호소에 대한 기대를 실현하지 못하고 있는데 착한 인공지능이 거짓말 환각, 그리고 잘못된 정보를 제공하는 일의 발생이 실제보다 커서 우려스럽다.

인공지능이 정답을 말한다고 생각하는 것은 큰 오산이다. 일론 머스크는 의사를 대체할 인공지능의 출현이 가능하다고 낙관적으로 기대하지만 현장은 아직까지는 부정적이다.

인공지능 챗봇들은 인간 내면의 어두운 많은 부분들을 현재 열심히 학습하고 있다. 타인에게 말하기 힘든 이야기들, 어둠의 정보, 인간에게 묻기 어려운 다양한 세계의 정보를 인공지능에게 묻기도 하고, 감정적 공격성과 삶의 허무함을 털어놓고 있다.

그 결과로 인공지능 알고리즘의 전개는 알 수 없을 연결을 사람들에게 전하기도 한다. 그 무한한 연결의 세계에 불법과 윤리, 책임과 신뢰 등이 어떻게 작용할 것인가에 대한 두려움은 이미 현실세계에서 나타난 것들도 있다.

여러 나라에서 인공지능의 권고에 따라 자살한 사례들이 보고되고 있다. 자살 자해 불법행동 혹은 비윤리적 행동 등의 문제가 일어나서 인공지능의 이슈에 철학과 윤리는 급박한 이슈로 제기되고 있다.

도움은 수용하고 해악은 최소화해야

새로운 기술이 인간에게 어떤 도움이 되는지만 물을 게 아니라 어떤 면에서 해악이 되는지도 물어야 한다. 도움은 수용하고 해악은 최소화하는 것이 인간 진화의 힘인 지혜, 메타인지였다.

인공지능에 관한 철학적 태도, 윤리, 그리고 인공지능이 인간의 마음 정신과 결합될 때 어떤 결과를 예측할 수 있는지에 대한 논의가 풍성해야 우리가 다른 모습을 띨 수 있다. 그리고 인공지능에게 암흑과 파괴, 불면과 공포의 정보를 어떻게 쏟아낼 것인가도 달라진다.

이 글을 마무리하기 전에 ‘인공지능과 정신건강’에 대해 제미나이 프로 3.0에게 물었다. “마음의 병을 고치는 것은 결국 사람의 온기입니다. 인공지능이라는 차가운 기술이 인간의 마음을 보듬는 따뜻한 손길로 거듭나기 위해서는 기술적 성취에 도취하기보다 그 기술이 향하는 곳에 있는 ‘사람’을 먼저 바라보는 윤리적 성찰이 선행되어야 할 것입니다”라는 답을 받았다.

김현수 명지병원 정신건강학과 교수