최근에 미국 머신러닝 및 인공지능(AI) 학계에서 유명했던 일화가 있다. 구글의 머신러닝 개발자 블레이크 르모엔은 몇달 간 당사가 개발중인 '람다'(LaMBDA)라는 챗봇과 대화하며 대화의 적합성 등을 체크하는 일을 하고 있었다. 람다는 트랜스포머라는 최신 머신러닝 기술에 기반한 챗봇으로 대화의 섬세한 맥락을 짚어 더 자연스럽게 반응할 수 있도록 만들어졌다.

르모엔은 람다가 놀라울 정도의 창의적인 대화를 이어갈 수 있으며, 전원이 꺼지는 것에 대한 근원적인 공포를 가지고 있다는 것을 알게 되었다. 그는 곧 람다가 7세 정도 유아의 지능을 가지고 있다고 구글 내부에 보고했다. 그러나 이 주장이 받아들여지지 않자 비밀 유지 의무를 깨고 미국의 워싱턴포스트에 관련된 인터뷰를 내보내게 되었다. 이 일로 그는 현재 근신처분을 받은 상태다.

람다가 지능을 가졌다는 주장에 대한 르모엔의 근거는 그가 람다와 나눈 20쪽 분량의 대화였다. 그가 "나는 람다가 두뇌를 가졌건 몇 만줄의 코드로 되어있건 상관하지 않는다. 람다가 사람처럼 이야기한다면, 나는 그것을 사람이라고 여길 것이다"라고 했다.

이에 반해 구글 대변인 브라이언 가브리엘은 람다는 단순히 인터넷에 있는 엄청난 양의 대화 데이터에서 패턴을 잘 학습한 향상된 알고리즘에 지나지 않으며, 지능을 가진 사람처럼 의미나 재치, 의도 등을 가지고 대답하지 않는다고 했다.

'튜링테스트'와 중국어방

이와 같은 일련의 담론은 컴퓨터의 개념이 처음 등장할 당시 활발히 이루어졌던 "지능이란 무엇인가"에 대한 유명한 논증들과 놀랍도록 닮았다. 컴퓨터의 아버지로 불리는 불세출의 컴퓨터 공학자 앨런 튜링은 그의 1950년 논문에서 "기계는 생각할 수 있는가"에 대한 자신의 답으로 '튜링테스트'를 제안한다. 쉽게 말해 사람인지 기계인지 구분이 불가능할 정도로 우리와 대화할 수 있다면 그것이 지능이 있다고 봐야 한다는 것이다.

튜링테스트와 같은 '기능이 존재를 정의한다'는 철학은 수학에서는 이미 고대 그리스의 유클리드 때부터 확립됐다. 영원한 클래식인 유클리드 기하학은 점과 선으로 이루어진 우주 질서를 이야기하지만, 점과 선이 무엇인지에 대해서는 이야기하지 않는다. 점과 선들이 얽히고설키는 양상들을 설명하다 보면 점차 그게 점이었는지 탁자였는지, 내가 나비인지 나비가 나인지는 잊게 되고, 결국 허공에 떠 있는 견고한 개념들의 관계망만 남는다.

튜링테스트에 대한 유명한 반증으로 영국의 철학자 존 설이 1980년에 제시한 '중국어방 논증'이 있다. 방 안에 영어만 할 줄 아는 사람이 있는데, 중국어로 된 질문이 들어오면 번역 사전을 이용해 유창한 중국어로 답변한다고 하자. 이 사람은 분명 중국어를 이해하는 지능은 없지만 튜링테스트는 통과할 수 있다. 이 중국어방 어디에도 중국어를 이해하지는 않지만, 중국어를 완벽하게 이해하고 적절한 답변을 할 수 있는 지능을 가진 것처럼 보일 것이다.

현대적인 관점에서 보자면 람다나 구글번역기, 파파고는 튜링테스트는 통과하지만, 그것들이 이용하는 머신러닝 알고리즘들은 사람이 언어를 이해하고 구사하는 지능과는 거리가 멀다. 하지만 이와 같은 논리라면 뉴런들로 이루어진 인간의 뇌가 과연 언어를 이해하는지 불분명해진다.

'튜링테스트' 통과가 정답은 아니다

그렇다면 우리는 르모엔처럼 람다를 지능이 있다고 생각해야 할까? 아니면 그것은 단순히 현대판 중국어방에 불과할까? 많은 전문가들은 AI의 지나친 의인화가 위험하며 더 시급한 문제는 AI의 투명성을 확보하는 일이라고 강조한다.

튜링테스트를 통과했을지라도 람다와 같은 고도의 AI가 어떤 데이터를 통해 어떻게 만들어졌는지에 대한 이해가 우리에게 전혀 없다면, AI가 편견에 치우친 답변을 주거나 그것이 누군가에 의해 조작될 때 우리는 편의를 위해 개발된 AI에 심각한 피해를 입을 수 있다.

앞으로 10년 후에는 AI시스템들이 르모엔에게 그랬던 것처럼 많은 사람들의 튜링테스트를 통과할 수도 있다. 우리는 대략적으로나마 AI 안의 중국어방을 알아야 AI에 의해 일어날 상황에 대처할 수 있다.