남호성 교수의 '삐딱한 수학 이야기'

단계별 수학 역량 쌓기의 핵심은?

2022-08-31 11:16:59 게재
남호성 고려대 영어영문학과 교수

'Attention is all you need'. 2017년 Google팀이 쓴 논문의 이름이다. 21세기 AI 시대에 최고의 논문 중 하나로 꼽을 수 있다. 많은 AI 연구가 이 논문의 알고리즘을 그대로 이용할 정도로 그 영향력은 막강하다.

영상, 사운드, 텍스트를 망라하는 다양한 AI 분야에서 최고 수준의 성능을 보장하기 때문이다. 당연하게도 그 논문을 열어보면 수학으로 보이는 부분이 여러 곳에서 발견된다. 이런 논문을 적어도 읽을 수는 있어야 어디 가서 'AI 좀 한다' 이야기 할 수 있다.

AI는 인문 계열 학생이 자신의 전공을 살리면서도 더 폭넓은 선택을 할 수 있게 돕는 도구다. 그들이 학창시절 포기했거나 소홀했던 수학을 배워야 하는 이유이기도 하다. 한데 앞서 말했듯 AI는 물론, 수학이 필요한 산업현장에서 고급인력으로 활약하려면 그 분야의 논문을 어느 정도 읽을 수 있어야 한다. 문제는 이들 논문은 인문 계열 학생들에겐 낯선 수식이 가득하다는 데 있다. 어떻게 하면 수학 실력을 키워 논문을 읽고, 더 실력을 갖출 수 있을까?

수식 없이 수학 개념을 이해하라

이번 글에서는 고급 인력으로 나아나가기 위한 단계별 수학적 역량을 짚어보고자 한다. 첫번째 단계는 수학적 표현에 익숙해지는 데 있다. 실제 수학 논문이 아닌 AI 등 실용 과학 논문에서는 각종 수학 이론이나 문제를 풀고 증명하는 '수학적 표현'은 찾아보기 힘들다. 특히 산업 현장을 무대로한 논문들에서는 수식 없이 자연어로도 표현 가능한 것들을 좀 더 간단하게, 그리고 언어의 장벽이 없는 수학의 언어로 표현하는 정도다. 한데 수많은 어린이, 청소년들이 학교에서 풀고 증명하느라 대부분의 시간을 투자(허비)하다 보니 현장에 쓰이는 수학도 그럴 것이라 생각하고 지레 겁을 먹는다.

따라서 고급인력으로 가는 첫 단계는 알고 쓸 수 있는 우리말로 개념들을 잘 이해하는 데 두길 바란다. 수식에 대한 부담을 내려놓기에 진입 장벽도 낮고 더 깊게 이해할 수 있을 것이다. 수식은 가능하면 배제하고 자연어로 이해하고 기억해보자. '무서운' 수식이 나오더라도 자연어로 충분히 이해할 수 있다는 믿음만 가져도 수학에 대한 두려움은 상당 부분 사라진다. 두려움이 없다면 고급인력으로 갈 수 있는 준비는 충분히 한 셈이다.

수식 있는 논문을 소화하라

여기서 누군가는 질문할 것이다.

"수식 없이 버틸 수 있나?"

버티어도 좋다. 하지만 다른 사람들이 그렇지 않은 게 문제다. 결국 내가 힘들어진다. 특히 논문에서는 자연어를 쓰지 않는다. 수식을 이용한다. 다시 말해 내가 이 수식을 읽어 내지 못하면 그 개념을 완전히 소화하기는 힘들 수밖에 없다. 자연어로 이해까지는 하더라도 그 수식을 어떻게든 읽어내지 못하면 더 깊은 단계로 나아가는 것은 아예 시작도 못하는 것이다. 그래서 우리는 수식을 읽을 수 있어야 한다. 이것이 사실상 두번째 단계로서 수식이 있는 논문을 읽을 수 있을 정도의 수준을 갖춰야 한다.

"그게 얼마나 어려운데!"라는 한탄과 한숨이 들리는 듯하다. 하지만, 명심하라고 말하고 싶다. 여러분들이 보는 그 복잡하고 까다로운 수식은 자연어로도 표현 가능하다는 확신을 가지라고. 앞 단계에서 충분히 우리는 그 과정을 거쳤고 앞으로도 수식과 자연어를 오가며 표현하고 이해하는 훈련을 계속해야 함도 기억해야 한다.

수학을 컴퓨터 언어로 구현하라

세번째 단계는 논문 수식을 읽고 자연어로 이해한 후 컴퓨터 언어로 구현하는 것이다. 즉 코딩이다. 다른 이의 연구결과를 코딩으로 구현하는 수준인데, 여기까지 온다면 명실공히 AI 전문가라고 할 수 있다.

마지막으로 고급인력으로 가는 궁극의 단계는 자연어로서의 수학적 개념을 수식으로 옮길 수 있는 단계이다. 이 단계에서는 AI 논문을 쓸 수 있을 지도 모르겠다. 이 과정은 시쳇말로 '천상계'라고 할 수 있는데 사실상 극히 드물다. 영어로 치면 듣기도 잘하면서 말하기도 원어민 수준인 셈이다. 개인적으로 세번째 단계를 목표로 삼길 추천한다.

요즘은 코딩을 배울 수 있는 환경이 이전보다 개선됐다. 오픈 소스를 활용한 무료 프로그램도 많고, 특히 AI 코딩의 자료로 활용할 수 있는 데이터들도 손쉽게 구할 수 있다. 여기에 유튜브는 물론 세계 각국의 유수한 대학, 글로벌 IT 기업 등은 온라인으로 양질의 강의를 제공한다.

거듭 말하지만 인문 계열 학생들에게 필요한 것은 수학을 활용하는 법을 익히는 것이지, 수학 원리의 탐구가 아니다. 어려운 수식을 억지로 써서 비틀고 꼬아 실수를 유발하는 고난도 문제를 잘 푸는 건, 여기서 말하는 수학 역량과는 거리가 있음을 다시 한번 밝힌다. 까다로운 수식이 방해가 된다면 최대한 풀어서 우리말로 개념과 쓰임을 이해해보고, 그렇게 이해한 내용을 세계 공용 '약속'인 수식으로 다시 정리해보면서 익숙해져보라. 산업현장에서 요구하는 필수학 역량을 충분히 갖출 수 있다.

다른 여느 공부와 비슷하게 수학도 결국은 자신감이다. 그래서일까? 자꾸 청소년들의 수학 교육과정을 돌아보게 된다. 자신감은커녕 두려움을 주기 위해 설계한 것 같다는 생각을 떨칠 수가 없다. 수학 교육 정상화는 내용 빼기가 아닌 내용 추가를 해야 하고 풀이 위주를 벗어나 변별력을 낮추는 방향으로 가야 한다. 수능 수학 만점자가 1만명 나오는 날은 언제 올까?