남호성 교수의 삐딱한 수학 이야기

"수학, 무엇을 안 배울지부터 생각하라"

2022-03-30 10:16:32 게재

수포자가 갈수록 늘고 있다. 수학의 중요성이 더 커진 디지털 시대, 바람직하지 않은 현상이다. 이를 두고 문제는 수학이 아닌 수학교육이라고 말하는 영문과 교수가 있다. 수포자였던 과거를 뒤로 하고 제자들에게 코딩과 수학을 가르치는 남호성 교수다. 그가 직접 누구나 수학을 잘 이용하는 '수잘알'로 거듭나게 해줄, 수학과 수학 공부에 대해 안내한다.

남호성 교수는 언어과학자. 고려대 영어영문학과 교수이자 예일대 해스킨스 연구소 시니어 과학자, 언어공학연구소 '남즈(NAMZ)'의 소장이다. 수학을 피해 문과로, 성적에 맞춰 영문과에 진학했지만 석사 과정을 마친 후 결국 코딩을 배워 언어과학과 인공지능 전문가의 길을 개척했다. '어려워서' '싫어서' 수학을 기피한 학생들이 결국 '문송' 벽에 부딪히게 된다는 점이 안타까워 쉽고 즐겁게 필요한 수학을 익히는 법을 고민하는 교육자이기도 하다. 사진 이의종

 

어떤 공부를 시작할 때 무엇이 가장 중요할까? 스스로 '무엇을 배워야 하는지' 아는 것이 중요하다. 하지만 나는 좀 다르게 생각한다. 특히 수학을 가르칠 때 남다른 제안을 한다. '안 배워야 할 것부터 생각하라'고.

'배워야 할 것'이 너무 많고 어렵기 때문이다. 그래서 배우는 이들이 쉽게 질린다. 다항식, 인수분해, 유리수, 무리수, 복소수, 방정식, 함수, 도형, 기하, 집합, 명제, 확률, 통계, 행렬, 극한, 미분, 적분 등 끝도 없다. 각각의 주제로 들어가면 복잡한 설명과 무수한 문제들이 기다린다. 생각만으로도 '질린다'.

◆대입에 필요한 수학 ≠ 세상에 필요한 수학 = 세상에 도움이 안 되거나 몰라도 되는 건 없다. 하지만 덜 쓰이거나 상대적으로 중요도가 낮은 건 분명히 있다. 영단어를 공부할 때 사전 첫 페이지부터 외우는 이가 있나?

우리는 학생들에게 각 주제를 매우 세분화해 너무 심하게 훈련시킨다. 심지어 어려운 문제를 만들어서 말이다. '변별'이 필요해서다. 우리 교육 시스템에서는 모든 학생이 완벽히 이해하면 큰일난다. 대입에서 절대평가는 있을 수 없다.

밑 빠진 독 '상대평가'는 비단 수학에만 국한되는 얘기가 아니다. 우리는 다양한 과목을 초등학교-중학교-고등학교-대학교를 거치면서 배운다. 오랜 시간 공들여 배우는데, 정작 사회에 나가서 남아 있는 게 얼마나 될까?

우리가 공부하느라 쏟아부은 무수한 시간과 노력은 연기처럼 사라진다. 누구나 중·고등학교 교과과정에서 뉴턴의 운동 방정식(물리), 양자역학과 주기율표(화학), DNA의 구조(생물), 행렬과 벡터, 미분, 적분(수학)과 같은 것을 배운다.

그런데 공부를 잘했다는 사람들조차 과연 몇 퍼센트나 그 개념을 제대로 이해하고 있을까? 국어 역사 사회 경제 등도 마찬가지다. 정말 중요한 내용은 양이 많지 않다. 그럼에도 불구하고 우리 머릿속에는 남아 있지 않다. 입시라는 '특수 목적' 때문에 '너무 많은' 정보를 처리하는 데 두뇌의 한편을 사용한 뒤 급속도로 망각해버린다.

지나고 보면, 밑 빠진 독에 물을 1000톤이나 들이부은 것과 다를 바 없다. 정말 필요한 물은 한컵인데 말이다.

◆공부의 신 아닌 응용의 신으로 거듭나기 = 그렇다면 필요한 한컵을 찾아보자. 실제 산업 현장에선 무슨 수학이 필요할까?

첫째는 정확한 개념이다. 둘째는 서로 다른 요소 개념들 간의 연계, 셋째는 데이터를 기반으로 한 응용으로 요약된다. 정확한 개념을 잡는 데 복잡하게 꼬인 문제는 필요 없다. 예를 들어 인공지능에 필요한 핵심 개념 몇가지를 알아보자.

벡터는 [1, 0, -2]와 같은 숫자열이다. 벡터는 기하적으로 그 길이의 차원 공간에 한 점으로 찍을 수 있다. 벡터 [1, 0, -2]는 숫자가 3개이니 xyz축으로 이뤄진 3차원 공간에 각각 한 점으로 찍을 수 있는 것처럼 말이다.

이런 벡터는 데이터 표현에 이용된다. 텍스트, 음성, 이미지 데이터 모두 벡터로 표현돼야 인공지능에서 쓸 수 있다. 대부분의 인공지능은 함수다. 함수란 입력을 받아 변화시킨 후 출력으로 뱉어내는 것을 말한다.

인공지능은 벡터를 입력받아 다른 형태의 벡터로 뱉어낸다. 즉, 입력데이터 벡터를 출력 데이터 벡터로 바꾸어준다. 그런데 인공지능이란 함수는 행렬로 되어 있다. 그래서 입력 벡터와 이 인공지능 행렬을 곱한 후 출력 벡터를 내놓는 것이다.

이렇듯 인공지능의 핵심이 되는 수학인 벡터 함수 행렬의 개념에 대해서 정확한 개념 이해와 상호 간의 연계성, 데이터를 기반으로 필요에 의한 응용을 몇줄 안되는 말로 설명할 수 있다.

한데 변별력이란 미명 하에 꼬고 또 꼰 1000개의 문제를 풀고 나면 어느새 왜 이런 걸 하고 있는지 모르게 된다.

원하는 대학을 가기 위해선 수능 공부를 해야 한다. 부정할 수 없는 사실이다. 하지만 이는 대학을 가기 위한 것일 뿐임을 명심하자. 세상에 필요한 지식은 머리 크기만 한 솜사탕이 아니라 엄지손톱만 한 알사탕이다. 수학도 마찬가지다.