금요진단

정답 구하는 시대에서 ‘제대로 된 질문’ 던지는 시대로

2026-05-22 12:59:58 게재

최근 실리콘밸리의 빅테크기업부터 대학의 연구실에 이르기까지 지식 노동이 이루어지는 최전선의 풍경은 그 근본적 형태가 뒤바뀌는 임계점(Critical Point)을 지나고 있다. 새로운 프로젝트를 기획하거나 가설을 검증하기 위해 초기 모델을 코딩하고 방대한 데이터를 정제하는 일은 오랫동안 소프트웨어 엔지니어나 연구자들이 직접 부딪히고 감내해야 하는 ‘지적 실무(Intellectual Labor)’였다.

그러나 최근 코딩에 특화된 자율형 AI 에이전트들이 산업과 학계 전반의 워크플로우에 적극적으로 도입되면서 상황은 완전히 달라졌다. 지치지 않는 속도로 코드를 작성하고 터미널 오류를 스스로 수정하는 인공지능(AI) 앞에서 인간의 역할은 실무를 직접 실행하는 단계에서 빠르게 벗어나고 있다.

필자를 비롯한 현장 전문가들 역시 도출된 결과를 비판적으로 검토하고 다음 단계의 궤도를 설계하는 ‘감독(Supervision)’으로 업무의 무게중심을 이동시키는 중이다. 이는 단순히 편리한 소프트웨어의 등장이 아니다. 지식노동의 본질 자체가 물에서 수증기로 변하듯 거대한 ‘상전이(Phase Transition)’를 겪고 있는 현장이다.

기술혁명으로 교육과 평가 근본 흔들려

이러한 패러다임의 급변 앞에서 대학의 학생들 역시 깊은 혼란과 실존적 고민을 마주하고 있다. 위스콘신-매디슨 대학의 강의실에서도 이 현상은 뚜렷하게 관찰된다. 전통적인 학습이란 지식을 머릿속에 온전히 흡수하고, 책을 덮은(Closed-book) 상태에서 오직 자신의 뇌만을 이용해 문제를 풀어내는 과정이었다. 하지만 이제 그 지루한 훈련의 결과물을 순식간에 대체해 내는 AI가 존재한다. 학생들은 과제를 마주할 때마다 갈림길에 선다.

“AI를 적극적으로 활용해 시간을 아끼고 다른 작업에 몰두하는 것이 맞을까, 아니면 비판적 사고력을 잃지 않기 위해 철저히 AI를 배제하고 온전히 내 머리로만 끙끙대며 기초를 다져야 할까?” 개념을 뇌에 내재화하는 고전적 훈련 방식과 압도적인 효율을 자랑하는 외부 도구 사이에서의 충돌은 지독한 딜레마를 낳는다. 이는 특정 국가나 교육 시스템의 결함에서 기인한 것이 아니다. 새로운 기술혁명기를 맞이한 전세계 모든 학습자와 지식 생태계가 공통으로 겪고 있는 보편적인 진통이다.

과거에는 문제를 ‘어떻게(How)’ 풀 것인가, 즉 정해진 기준(Bar)을 넘는 실행능력이 곧 개인의 경쟁력이었다. 복잡한 수식을 빠르고 정확하게 계산하거나, 특정 프로그래밍 언어를 유창하게 다루는 기술이 필요했다. 사회는 개인이 얼마나 많은 지식을 기억하고 있으며, 이를 얼마나 오차없이 출력할 수 있는지를 평가하는 수많은 진입장벽을 세워두었다. 과거 수십년간 우리가 견고하게 쌓아 올린 교육과 평가의 잣대가 근본적인 시험대에 오른 것이다.

누구나 주머니 속에 세상에서 가장 똑똑한 비서를 두게 된 지금 기존 지적 진입장벽들은 모래성처럼 허물어졌다. 강력한 도구가 평등하게 쥐어진 세상에서 단순히 실행 도구를 사용할 줄 안다는 사실은 더 이상 차별점이 되지 못한다. 이제 성패를 가르는 잣대는 이 압도적인 시스템을 ‘누가 더 효과적이고 치밀하게 지휘하는가’로 이동했다.

AI가 올바른 논리 전개할 수 있도록 질문

그렇다면 AI라는 강력한 도구를 남들보다 더 잘 사용한다는 것은 구체적으로 무엇을 의미하는가. 그 핵심은 바로 ‘다음에 무엇을 물어볼 것인가(What to ask next)’를 결정하는 능력에 있다. 초보자들은 흔히 거대하고 추상적인 문제를 한번에 던져놓고 AI가 알아서 완벽한 정답을 내놓기를 기대한다.

그러나 실제 복잡한 문제 상황에서 이런 방식은 여지없이 한계를 드러낸다. 거대 모델일수록 단 한번의 프롬프트로 거대한 산을 넘으려 할 때 엉뚱한 환각(Hallucination)을 만들어내거나 논리적 오류를 범할 확률이 기하급수적으로 증가하기 때문이다.

더 효과적으로 AI를 이용하는 방법의 핵심은 거대한 문제를 통째로 외주를 주는 것이 아니라 사용자가 먼저 문제를 온전히 소화하고, AI가 감당할 수 있는 최적의 크기로 문제를 분해하여 단계적인 해답을 이끌어내며, 이를 다시 엮어 궁극적으로 더 크고 복잡한 문제를 해결해 내는 치밀한 설계 과정에 있다. 이는 실제 학생을 지도할 때 단순히 정답을 쥐여주기보다 스스로 생각하도록 이끄는 게 더 효과적인 교육방식과 궤를 같이한다.

복잡한 수학 증명문제 앞에서 쩔쩔매는 학생이 있을 때 곧바로 전체 풀이 과정을 칠판에 적어주는 교사는 없다. 대신 문제를 쪼개 단계적으로 접근하도록 돕는 편이 훨씬 나은 결과를 낳기 마련이다. 예컨대 “이 조건만 주어졌을 때의 단순한 상황을 먼저 생각해 볼까?”라거나, “본 증명에 앞서 이 작은 보조정리(Lemma)부터 먼저 증명해 보자”라고 방향을 유도하는 식이다.

학생이 그 작은 산을 넘으면 교사는 그 결과를 바탕으로 다음 단계의 질문을 던진다. 문제를 해결할 수 있는 논리적 징검다리를 하나씩 놓아주는 것이 통찰을 끌어내는 교육의 본질이다.

AI 에이전트를 다루는 방식도 정확히 이와 같아야 한다. 사용자는 AI에게 한번에 하나의 명확한 단계를 제시하며 차근차근 나아갈 길을 안내해야 한다. 가령 복잡한 알고리즘을 구현할 때 전체 시스템을 한번에 짜달라고 요구하는 대신 핵심 연산을 처리하는 모듈의 논리적 뼈대부터 구체적으로 요구하는 식이다.

AI가 논리적 난관에 부딪히거나 엉뚱한 결론을 내놓을 때 사용자는 비판적인 피드백(Critical feedback)을 즉각적으로 제공해야 한다. AI가 특정 문제를 풀지 못한다면 사용자는 문제를 더 단순화하여 제시함으로써 AI의 사고 궤도를 수정해 주어야 한다.

AI를 활용한다는 것은 단순히 명령어를 입력하는 단발성 작업이 아니라 AI가 올바른 논리를 전개할 수 있도록 끊임없이 문답을 주고받으며 ‘교육’하는 정교한 제어 과정이다. 이 지점에서 학생들의 딜레마에 대한 현실적인 진단이 도출된다.

AI에 대한 맹목적인 의존이나 무조건적인 배척은 모두 해답이 될 수 없다. AI를 도구로서 효과적으로 통제하기 위해서는 역설적으로 거대한 문제를 스스로 분해하고, AI가 뱉어낸 결과물 속에서 논리의 비약이나 치명적인 오류를 솎아낼 수 있는 ‘단단한 기초체력’이 필수적이다. 아무리 강력한 에이전트가 존재하더라도 문제의 구조를 깊이 이해하지 못하는 자는 AI에게 올바른 다음 질문을 던질 수 없으며, 잘못된 결과물을 바로잡을 피드백도 줄 수 없기 때문이다.

따라서 AI를 스스로의 지적능력을 대체하는 아웃소싱 수단이 아니라 자신의 논리를 벼려주는 강력한 스파링 파트너로 활용할 수 있어야 한다. 문제를 잘게 쪼개는 분석력과 도출된 결과물의 진위를 판별하는 안목은 책을 덮고 스스로 뇌를 괴롭혀본 사람만이 가질 수 있는 고유한 지적자산이다.

도구가 고도화 될수록 비판적 사고력 절실

우리는 지금 낡은 지식노동의 껍질을 벗는 과도기에 있다. AI가 일상적인 지적 실무를 대체하는 현상은 이제 되돌릴 수 없는 기술적 현실이 되었다.

이 거대한 변화 속에서 지식노동자는 정해진 문제를 수동적으로 푸는 실행자에서 벗어나 문제의 방향성을 설계하고 오류를 교정하며 전체 과정을 지휘하는 시스템 아키텍트(System Architect)로 역할을 재정립해야 한다.

인간의 지적노동을 대신하는 도구가 고도화될수록 이를 다루는 인간 본연의 뼈대 있는 비판적 사고력은 역설적으로 더욱 무거운 책임을 짊어지게 된다.

다가올 시대의 생존은 이 새로운 일꾼을 얼마나 편하게 부리느냐가 아니라, 정교한 질문들을 적재적소에 던질 수 있을 만큼 내 안의 문제를 치밀하게 소화해 냈는가에 달려 있다. AI가 정답을 쏟아내는 세상에서 인간의 가치는 결국 우리가 던지는 질문의 무게로 증명될 것이다.

류한백 위스콘신대 교수, 수학과 데이터과학기초연구소