‘미적분의 역사’라는 수학책을 읽은 게 올 한해 가장 기억난다. 지인들과 같이 읽어내는 데 1년 걸렸다. 자연과학 전공자가 아닌 필자는 고교 졸업 이후 미적분을 사용할 일이 없었다. 하지만 수학 공부에 관심을 우연하게 갖게 되자 미적분을 피해갈 수는 없었다. 미적분에 대해 미국 물리학자 리처드 파인만은 “미적분을 배우는 게 좋다. 그건 신이 대화하는 언어다”라고 말한 바 있다.

‘미적분의 역사’의 핵심은 17세기 뉴턴과 라이프니츠의 발명이다. 하지만 두 사람 이전과 이후의 역사가 있다. 앞서서는 고대 그리스의 에우독소스와 아르키메데스가 있었다. 이후 그리스 수학은 철저한 ‘기하학화’라는 벽을 쌓아 스스로를 가뒀으나 이를 허무는 사람들이 나타났다. 변화를 양으로 표현하려는 이들은 14세기 영국의 옥스퍼드대학교 ‘머튼 칼리지’에 있었다.(‘반지의 제왕’ 작가인 J. R. R. 톨킨이 머튼 칼리지 출신이다.)

머튼 학파는 평균속도, 등속도와 등가속도 개념을 명확하게 정의해 냈으며 무한급수 문제를 연구, 무한히 분할되는 양(시간과 거리)을 다루면서 극한 개념의 초기 형태를 파고들었다.

뉴턴과 라이프니츠에 앞서 ‘미적분의 아버지'가 될 수 있었던 사람들이 있었다는 것도 처음 알았다. 영국인 존 월러스는 형태의 곡선 아래 면적을 구하는 방법을 알아냈고(1655년), 이탈리아인 토리첼리(진공의 존재를 1643년 증명)와 영국인 존 배로는 미분과 적분 사이에 역의 관계가 있다는 걸 깨달았다. 하지만 이들은 미적분을 체계적인 계산도구로 만들어내지 못했다. 이 일을 해낸 건 아이작 뉴턴(1643~1727)과 고트프리트 라이프니츠(1646~1716)였다.

인공지능은 수학책도 쉽게 읽게 만든다

수학책은 일반인이 보기에 불친절하다. 책을 읽어낸 건 전적으로 인공지능(AI) 덕분이다. 인공지능을 끼고 책을 공부했다. 책 진도가 나갈수록 AI가 더 똑똑해졌다. 오픈AI의 챗지피티를 썼는데 버전이 5.1로 올라가면서 공부는 손쉬워졌다. 머리에 쏙쏙 들어오게 AI는 답변을 내놓았다.

그 공부가 끝나자 위상수학 책을 보게 됐는데 호몰로지(homology)라는 개념과 관련한 유명한 일화가 있다. 서울대학교 게시판에 올라왔다는 내용이다. 수학을 부전공하던 학생이 신학기 수강신청을 하려는 데 ‘호몰로지 대수학’ 과목이 있었다.

강의계획서를 확인하니 ‘호몰로지 대수학에 대해 배웁니다’ 말 밖에 나오지 않았다. 무슨 과목인가 궁금해서 조교에게 이메일을 보내 “호몰로지가 뭔가요”라고 물었다. 조교가 답을 보내왔는데 "음, 이게 강의를 듣지 않으면 설명하기 어렵습니다"라고 했다. 학생은 ‘아니 뭔지를 알아야 강의를 들을지 말지 선택하죠’라고 답변을 보냈다. 이에 대해 조교는 "진짜 열심히 생각해봤는데 이걸 간단히 설명할 방법이 없습니다"라고 말했다는 거다.

필자가 이 게시판 글을 접한 건 그 학생 못지 않게 호몰로지가 뭔가 궁금했던 탓이다. 그래서 인터넷의 설명을 찾아 다니다가 게시판 내용을 접하게 됐다. 위키피디어 등은 수학적으로 엄밀한 정의를 할 뿐 직관적으로 감을 잡게 하는 설명은 하지 않았다.

이게 무슨 말이냐면 수학에 ‘벡터’라는 개념이 있다. 벡터를 설명하는 두 방법이 있다. 엄밀하게 정의하는 방법은 ‘벡터란 벡터 공간에 사는 원소'라고 말하는 거다. 그런 뒤 벡터 공간이 무엇인지를 수학적으로 정의하면 된다. 그런데 이런 식의 설명을 보면 일반인은 머리 속이 하얘진다. 전혀 감을 잡지 못한다. 이때는 벡터를 설명하는 다른 표현이 좋다. 그 표현은 벡터란 ‘크기와 방향을 갖는 수학적 양’이다.

필자는 이에 해당하는 ‘호몰로지'에 대한 설명을 알고 싶었다. 이 역시 직관적인 답은 AI가 출현한 후에야 얻었다. “호몰로지는 위상수학적 대상이 갖고 있는 ‘구멍’의 수와 종류를 분류하고 측정하는 도구다.”

인간보다 1만배 지능 뛰어난 ASI의 등장

AI가 2025년 큰 화두였고, 지난 5일에는 일본에서 건너온 손정의 소프트뱅크 회장은 대통령을 만나 수퍼인공지능(ASI, artificial superintelligence)를 화두로 던졌다. 손 회장은 “첫째, 둘째, 셋째도 ASI에 역량을 집중해야 한다”라고 했다. 그는 ASI를 인간보다 지능이 1만배 뛰어난 두뇌라고 표현하고 10년 내 등장한다고 했다.

ASI 도래 시기에 대해서는 사람들간에 견해가 엇갈린다. 수십년 이후라는 이도 있다. 필자의 궁금증은 인간의 처지는 그때가 되면 어떻게 되나이다. 손정의씨와 같은 테크 업계 리더는 AI 시대에 살아남는 기업이 되기 위해 무엇을 해야 할 것인가만 고민한다.

하지만 인류 전체 차원에서 보고 이대로 가면 인류는 ASI의 애완동물 신세로 전락하지 않을까를 고민하는 사람들이 있어야 하는데 그게 보이지 않는다. 현재 사람들은 누구도 신경쓰지 않는다는 것이고, 테크업계의 레이스에만 주시하고 있다. 어떤 AI가 낫다는 게 관심사다. 이래도 될는지 모르겠다. 괴물을 병 뚜껑 밖으로 한 번 꺼내면 집어넣을 수 없다. 좀 무섭다.

과학저널리스트