수학이 무척 쓸모있고 알고보면 단순하다. 쉽게 배우는 사고의 전환이 필요하다. 하지만 학생들은 공감하면서도 현실 수학을 만나면 여전히 도망친다. 어렵다는 이유다. 숫자와 기호로 가득한 식을 읽을 엄두를 내지 못한다. 수학 언어의 장벽 앞에 멈춰 선다.

수학 언어는 왜 외계어 같을까

사실 대부분의 학문은 그 지식 정보를 이해하고 활용하며 전달하기까지 인간의 언어인 자연어를 쓴다. 반면 수학은 자연어보다 수학적 언어를 쓴다. 모르는 언어로 글이 쓰여 있으면 그 언어부터 배워야 할 것이다.

영어로 쓴 글을 읽기 위해서는 영어를 알아야 하는 식이다. 이처럼 서로 다른 언어를 사용할 경우 언어의 장벽을 느낀다. 하지만 새로운 언어를 배우는 것에 대해 '불가능하다'고 생각하는 경우는 드물다.

실제 우리 삶을 돌아보자. 사회 진출 후는 물론 70~80세에도 영어를 배우는 사람이 적지 않다. 새로운 언어의 학습은 결코 쉬운 일이 아니다. 그럼에도 불구하고 적지 않은 사람들이 평생 영어와 함께한다.

영문학자의 시선에서 설명하자면 이는 대부분의 언어가 특징이 비슷하기에 가능한 일이다. 먼저 우리말 단어에 해당하는 것이 영어에도 있다. '아이'는 'kid', '아름답다'는 'beautiful', '공부하다'는 'study'다.

수학은 다르다. 자연어 사이의 유사성을 하나도 찾아볼 수 없다. 말 그대로 '외계어'와 같다. 물론 수학 언어가 전달하려는 의미 자체가 '외계적'인 것은 아니다. 오히려 우리에게 익숙한 일상적인 의미에 가깝다. 우리 언어로 적지 않을 뿐이다.

그렇다면 왜 수학 혹은 수학을 필요로 하는 학문에서는 누구나 다 아는 자연어를 쓰지 않고 수학 언어로 표현할까? 해석에 모호함을 없애기 위해서다. 자연어는 모호함 덩어리다. '나는 서울에서 간다'라는 문장을 보자. 여기에서 '나'는 화자 자신을 의미할 수도 있고, '가나다' 중의 '나'일 수도 있다. '나는'이 '하늘 위를 나는'으로 해석될 수도 있다. '서울에서'도 '서울 안에서'라는 뜻이 될 수 있고, '서울에서 출발해서'라는 뜻도 될 수 있다.

다가설 엄두 안 나는 수학 언어

하지만 수학은 이러한 모호함을 철저히 배제할 필요가 있다. 수학적 언어가 그걸 가능케 한다. 다만 모호함을 줄이는 비용이 엄청나다. 수학 언어로 쓸 때 난이도는 하늘로 치솟는다. 마냥 낯설기 때문이다.

일상의 사고 체계와 너무 다르다. 여기에서 진입 장벽이 생기고 대규모의 수포자가 양산된다. 인공지능에서 주로 쓰이는 영상화 과정에서 자연어와 수학언어로 표현할 때와 얼마나 느낌이 다른지 확인해볼 수 있다.

사진이나 모니터 화면 같은 이미지 데이터는 자세히 보면 픽셀이라고 하는 정사각형 조각으로 이뤄져 있다. 각 픽셀은 어떤 숫자 값과 대응(중간)되며 흰색일수록 숫자가 크고 검은색일수록 수가 적다고 정의할 수 있다. 이에 따라 이미지 데이터는 숫자표로 표현이 가능하다.

이러한 숫자표는 인공지능에서 그대로 쓰이는 것이 아니라 긴 한줄의 숫자로 바꾸어야 한다. '157, 153, 174, 168, 150, 152, 129, 151, 172, 161, 155, 156, 155, 182, 163, 72 …'처럼.

여기까지 영상 데이터가 인공지능에서 처리되는 방법이다. 그리 어렵지 않다. 수학이라는 느낌도 별로 안 든다. 하지만 이 같은 과정을 논문이나 교과서에선 수학적 언어를 이용해 표현한다. 위에서 말한 직사각형의 숫자 테이블은 수학용어로 '행렬'이다.

위에서 여러 줄의 숫자표는 긴 한줄로 바뀌어야 한다고 언급했다. 이걸 수학적 용어로 말하면 '행렬을 벡터의 형태로 변환한다'고 할 수 있다. 그리고 수학 언어로 그 과정을 정의할 수 있다.

수학기호 하나하나를 설명하지는 않겠다. 하지만 하나하나의 기호가 모호함을 없애는 데 반드시 필요하다. 머리가 지끈거린다. 우리는 이런 기호들을 만나면 그게 뭔지는 몰라도 "앗, 수학이다!" 하고 외치고는 황급히 도망간다.

익숙한 우리말로 풀어 설명할 때

이렇게 위의 자연어와 수학 언어는 같은 걸 의미하지만 느껴지는 두 감정은 하늘과 땅 차이다. 자연어로 된 표현은 초등학생도 알 수 있을 만큼 쉬운데 수학 언어로 표현하는 순간 외계어가 된다. 어쩌면 좋을까?

외계어를 배울까? 아니면 외계어를 번역해서 우리말로 이해하는 게 좋을까? 나는 후자가 필요하다고 생각한다. 수학적 언어로 표현해야 하는 당위성은 분명히 있다. 하지만 이해하고 암기하고 다시 누군가에게 설명할 때 이 수학적 언어가 그걸 방해한다면 굳이 그렇게 할 필요가 없다.

우리에겐 모두가 익숙한 우리말이 있다. 모호함이 생기면 그것 또한 자연어로 설명하면 된다. 수학자가 아닌 이상 모호함을 내버려두자. 모호함이라는 벼룩을 잡으려다 전 국민이 수포자가 될 판이다.

자연어로 이해하고 머릿속에 저장하고 설명한다고 해서 절대 그 수준이 낮아지진 않는다. 양자전기역학으로 노벨 물리학상을 받은 리처드 파인만은 "쉽게 설명하지 못하면 제대로 이해하지 못한 것"이라며 쉬운 설명의 중요성을 강조했다.

쉬운 것은 낮은 수준이 아니라 오히려 높은 수준이라는 것을 명심하자. 부디 세상에 많은 파인만이 나와서 수학이 외계어가 아닌 우리말로 완역되는 그날이 오길 기대해본다.