< 수학이 필요한 순간 > 김민형, 2018

<수학이 필요한 순간> 김민형, 2018

 

 유클리드 기하학은 처음으로 '공리'라는 개념을 창안하여 도입한 이론입니다. 이 '공리'라는 단어를 기억하시길 바랍니다. '하나의 사실에 대해 증명하지 않고 기정사실로 받아들일 때, 이를 기초로 다른 이야기를 진행할 수 있다. 공리를 받아들이지 않는다면 앞으로 전개된 내용을 전혀 받아들일 이유가 없으며, 이 공리가 맞다고 상정하면 앞으로 나올 결론들도 맞다고 여길 수 있다.' 바로 이것이 공통적인 사고체계입니다.

<p.77>

 

 페르마의 원리에서는 빛이 최단 거리로 간다는 사실을 밝혔지만 '왜'를 설명할 때 목적성이 없는 설명을 하는데 어려움을 겪었습니다. 뉴턴의 만유인력의 법칙 역시 달과 지구가 잡아당긴다고 했는데, 왜 잡아당기는지에 대한 이야기는 아직 나오지 않았습니다.

 그렇습니다. "왜 잡아당기냐?"와 같은 질문은 그 자체로 중요합니다. 우리는 살면서 여러 질문을 하죠. 그런데 질문을 하면서도 어떤 종류의 답을 원하는지 분명치 않을 때가 많습니다. 가령 x를 구한다고 했을 때 답이 만족스러운 답일 수도 있고 불만족스러운 답일 수도 있습니다. 그런데 사실 뉴턴의 경우처럼 어떤 답을 우리가 만족스러운 답으로 받아들이느냐 자체가 분명치 않은 경우가 더 많습니다. 따라서 과학적인 이론을 전개하는 과정에서 '적당한 답의 틀'을 만드는 것 자체도 중요합니다.

 '정확한'이 아니라 '적당한' 답이라고 하셨습니다. 무슨 뜻인가요?

 '적당한 답의 틀satisfactory framework for finding the answer'. 어떻게 보면 우리 인생에서 어려운 질문들은 다 그런 식의 질문들이에요. 인생의 의미가 뭐냐고 물어보면, 처음에는 답을 모르죠. 이런 종류의 질문은 사실 '답을 모르는 것' 이상으로 더 난해합니다. 답을 모를 뿐 아니라, 어떤 종류의 답을 원하는지도 모른다는 거예요. 
 가령, 우리는 인생을 행복하게 살기 원합니다. 이때 "어떻게 행복해지느냐?"의 문제는 조금 더 구체적으로 설명 가능한 질문이에요. 이 질문에 대한 답은 모를지언정 '우리를 행복하게 만드는 것이 무엇이냐'를 구체적으로 따져보면서 이를 성취하려면 어떻게 해야 하는지도 찾아낼 수 있거든요. 어떤 종류의 답을 스스로 원하는지 알 수 있는 거죠. 이에 비해 "인생의 의미가 무엇이냐?"는 훨씬 난해한 질문이에요. 답을 모를 뿐만 아니라, 어떤 종류의 답을 원하는지도 모르기 때문이죠.
 제 생각에 이런 종류의 문제가 뉴턴의 이론이 전개되면서부터 대두되었던 것 같습니다. 즉 어떤 종류의 답을 원하는지는 알지만 답 자체를 모르는 상황과, 답을 표현할 만한 적절한 사상의 틀이 없는 상황. 두 종류의 난해함에 부딪힌 것입니다.
 지금은 두 행성이 서로 왜 잡아당기느냐의 문제에 비교적 만족스러운 답을 가지고 있지만, 완전히 해결되었다고는 볼 수 없습니다. 뉴턴 이후로 대략 220년 정도 더 시간이 흘렀죠. 아인슈타인 이론이 여기에 대한 어느 정도의 답을 주었습니다. 그런데 '왜 잡아당기느냐'는 질문은 어려운 질문이면서도 이와 관련된 훨씬 구체적인 질문들을 가능하게 합니다. 난해한 질문은 더 구체적인 질문을 불러오기 마련입니다.

<p.80>

 

 아인슈타인 이전에는 "어떻게 전달되느냐, 그러니까 왜 그렇게 됐느냐" 하는 질문이, 아인슈타인 이후 좀 더 구체적으로 "무엇을 통해서 전달되느냐"의 문제로 옮겨갔습니다. 더 나아가 중력이 시간차를 두고 전달된다는 사실도 밝혀졌죠.
 과학에서의 중요한 계기들은 바로 이런 식으로 나타났습니다. 과학에서는 답을 주는 것뿐 아니라 그 답의 부족한 부분도 굉장히 중요하죠. 어떤 종류의 질문에 대한 명료한 답을 찾는 것도 중요하지만, 반면 굉장히 새로운 질문을 끄집어내고 난해한 문제를 점차 해결할 수 있는 실마리를 찾아내는 과정이 중요합니다. 
 즉 '부족한 부분'은 답을 찾기 전에 답을 찾는데 필요한 틀을 만들 수 있는 실마리를 제공한다는 것입니다. 동시에 복잡한 이론이나 사상을 만들어내기도 합니다.

<p.82>

 

 지금까지 페르마의 원리와 데카르트에서 뉴턴, 아인슈타인까지 살펴봤습니다. 그들이 자신들이 가진 의문을 푸는 방식을 보면, 어렴풋이 들어오는 직관이 우여곡절 끝에 수학적 사고로 이어지는 것을 알 수 있습니다. 수학을 이용해서 개념들을 정리하고 나면 성숙해진 이론이 더 높은 경지의 새로운 의문점들을 제시하기도 합니다. 이를 통해 과학의 역사와 수학의 역사가 사실 분리되지 않는다는 것을 알 수 있죠.
 반면 이 위대한 발견들을 살펴보면 수학적 방법론의 형성과 진화 과정을 감지할 수도 있습니다. 서로 다른 시대에 살았던 이들은 마치 바톤을 넘기듯 의문에 답을 내고 난제를 남겼고, 문제 해결의 실마리로써 그때마다 필요한 프레임워크를 만들어가며 점점 명쾌한 이론을 전개해 나갔습니다. 수학적으로 사고한다는 것은 우리가 무엇을 모르는지 정확하게 질문을 던지고, 우리가 어떤 종류의 해결점을 원하고 있는지 파악하고, 그에 필요한 정확한 프레임워크과 개념적 도구를 만들어가는 과정이라고 할 수 있을 것입니다.

<p.107>

 

과학에서 문제를 해결하는 것이 굉장히 중요하지만, 때로는 문제를 해결하는 것 이상으로 문제를 제시하는 것이 더 중요한 역할을 하는 경우가 많습니다. 적당한 문제를 제시하는 것이 문제를 해결하는 것보다 학문의 발전을 훨씬 크게 바꾸는 경우가 오히려 많죠.

<p.117>

 

 "사회에는 신용을 요하는 직업이 얼마나 많은데, 그 중에 간혹 부정직한 사람이 나타나는 것을 어떻게 막겠어요. 저는 아버지가 그런 현상을 두고 통계적인 원리라고 주장하는 것을 수백 번 들었습니다. 원리인 것을 제가 어떻게 하겠어요? 아버지는 늘 그런 과학적인 논리가 사람들한테 위로가 된다고 생각하시잖아요. 스스로를 위로하시지요."
 - <어려운 시절> 찰스 디킨스, 1854

<p.129>

 

 결과주의는 항상 확률론적인 성격이 강합니다. 왜냐하면 결과주의는 행동이 가져올 결과를 행동의 기준으로 삼아야 한다는 내용을 전제로 하는데, 결과는 미래에 벌어질 일이므로 확실하게 알 수 없습니다. 결국 최대 다수의 최대 행복은 일종의 기댓값으로밖에 생각할 수 없다는 의미가 됩니다.

<p.130>

 

 지능이 굉장히 높은 여자들은 대부분 자기보다 지능이 낮은 남자와 결혼한다고 해요. 통계적으로 그렇다고 합니다. 왜 그럴 것 같아요? 여기에 대해서 보통은 별의별 답이 다 나옵니다. 가령 '여자가 원래 남자보다 지능이 높다'라든지, '똑똑한 남자는 똑똑한 여자를 싫어한다'라든지. 진짜 이유는 뭘까요?
 정답은 바로 '확률적으로 대부분 남자들이 지능이 굉장히 높은 여자보다 멍청하니까'입니다. 제가 앞에서 지능이 굉장히 높다고 했을 때는, 확률적으로 대부분의 사람들이 그들보다 지능이 낮다는 걸로 이해할 수 있습니다. 그러니 지능이 굉장히 높은 사람은 웬만해서 가기보다 지능이 낮은 사람과 결혼하게 되지요. 그러나 우리는 이런 질문을 받으면 대체로 그렇게 생각하지 않게 됩니다. 뭔가 사회적인 편견에 입각해서 답을 찾게 되지요.
 우리는 이런 문제에 대해 답을 할 때 도덕적으로 그릇된 답을 피할 수 있는 사고가 필요합니다. 확률론적 사고처럼 말입니다.

<p.139>

 

 수학사에는 틀린 증명과 틀린 정리가 굉장히 많습니다. 그런데 오히려 그 수많은 실패가 현상을 이해하게 하는 데 더 큰 도움을 주곤 합니다. 우리에게 주어진 제약이 무엇인가를 확인하게 하기 때문입니다. (...)

 수학적인 사고가 사회에 어떻게 적용되느냐는 질문에 답할 때, 수라는 개념 안에서만 생각한다면 굉장히 제한적인 관점이 될 수밖에 없습니다. 제 생각에 건전한 과학적 시각이란 '근사approximation'해가는 과정이라는 걸 처음부터 받아들이는 것입니다. 완벽하게 할 수 없다고 해서 포기하기보다는, 제한적인 조건 속에서 이해할 수 있는 현상이 있다는 것을 받아들이는 겁니다. 나중에 뒤집어지더라도 현재의 조건 안에서 이해해 나가는 것이죠. 애로의 경우도, 뉴턴의 경우도 그렇다고 생각합니다. 근사해가는 과정, 항상 바꿀 수 있는 것, 그리고 섬세하게 만들어가는 과정 자체를 학문이라고 생각해 볼 수도 있을 겁니다.

<p.178>

 

 이론물리학자들의 가장 큰 관심 중 하나는 근본적으로 우리가 인식하는 것을 넘어서 실체 자체가 대수적이냐 기하적이냐는 질문입니다. 2014년 옥스퍼드대학교의 학회에서 있었던 일입니다. 미국 고등과학원 원장으로 있는 로버트 다이그라프Robert Dijkgraaf가 상당히 철학적인 강의를 했습니다. 물리학적 구조와 수학적 구조 사이의 관계에 대한 일종의 명상 같은 강의였습니다. 그런데 이 강의가 끝난 뒤 세르게이 구코프Sergei Gukov라는 젊은 물리학자가 질문을 하나 던졌습니다.

 "그럼 당신은 우주가 대수적이라고 생각합니까, 기하적으로 생각합니까? 내기를 해야 한다면 뭐라고 할 겁니까?"

 한참을 망설인 다이그라프는 "저는 우주가 대수적이라고 생각합니다"라고 답했습니다. 기하라는 건 대수를 표현하는 통계적인 현상이지, 근본적인 우주의 실체는 대수적일 것이라는 말이죠.

 우주가 대수적인가, 기하적인가라는 질문이 우리에게 알려주는 바는 뭔가요?

 우리는 흔히 모양이 먼저 있고, 그것을 기호화한다고 생각합니다. 그런데 이 사람들은 반대의 주장을 하는 겁니다.

<p.236>

 

 20세기 이전까지는 고전적인 기하를 바탕으로 물리학이 발전해왔습니다. 모양들 사이의 상호작용이 일어나고 모양의 공간 속에서 물체가 움직이는 과정을 기하학적인 관점에서 생각했죠. 하지만 현대 물리학의 경우 그 기하학은 일종의 환상인 것 같다는 인상을 받습니다. 마치 영화 <매트릭스> 같은 환상 말이지요. 우주의 미시적인 구조를 들여다보는 양자역학은 고전 역학에 비해서 훨씬 대수적인 성질을 많이 가지고 있습니다. 그러니까 가령 시공간이 연속이 아니라는 개념이 있는데 시공간이 연속적이 아니라면 그것은 기하학적 현상인가요? 그것을 묘사하는 데 필요한 방법은 뭘까요? 그런 걸 고민하는 게 물리학자의 과제인 겁니다. 

 그래서 대수로부터 기하가 나온다는 이야기를 하신 거군요. 우리가 상상할 수 없는 기하를 표현할 수 있는 방법이기 때문에요. 그것을 추상화하여 체계로 표현하는 것이 수학이네요. 이런 상상은 수학이 물리학을 생성한다든지, 어쩌면 물리적 세계가 수학적 구조 그 자체라는 느낌마저 들게 합니다.

<p.249>

 

 '발명'이라는 생각을 하니 현실에서는 존재할 수 없는 것들을 표현하는 도형 같은 게 떠오릅니다.

 대표적인 예가 로저 펜로즈Roger Penrose라는 물리학자의 책에 나오는 삼각형입니다. 현실에서는 불가능한 입체입니다. 아마 그 아이디어를 이용해서 만들어낸 미술품들도 많이 보셨을 거예요. 대표적으로 M. C. 에셔라는 화가가 있죠. 에셔는 '펜로즈의 트라이앵글Triangle'이라는 그림의 영향을 많이 받았거든요. 실제로 에셔가 이 작품을 만드는 과정에서 두 사람이 편지도 교환했습니다. 이 삼각형에서 우리가 깨닫는 것은 이런 겁니다. 펜로즈의 삼각형은 부분적으로만 보면 가능한 모양처럼 보이지만 전체적으로는 불가능한 모양입니다. 그러니까 '불가능성'에는 '거시적인 구조가 불가능하다'는 아이디어가 포함되어 있는 겁니다.

<p.252>

 

 가설과 다른 수열을 입력함으로써 가설을 반증해야 한다는 것이군요.

 그렇습니다. 이 지능검사의 요점은 바로 노No라는 답을 받음으로써 실제 패턴을 찾아내는 것입니다. 그런데 자꾸 예스라는 답을 받고자 실험을 하면 계속 오류를 범하게 됩니다. 오히려 가설을 세우고 이를 반증하려는 노력이 필요하다는 말입니다. 이 문제의 함정인 것이지요. 그런데 많은 사람들이 왜 이렇게 하지 않았을까요? 여러 이유가 있을 겁니다. 그중 하나의 이유로 '틀리기 싫기 때문에 맞다고 생각하는 패턴을 넣는다'는 가설을 세울 수 이겠네요. 실험에서 틀리기 싫기 때문에 결론에서 틀리는 겁니다. 그런데 검증을 하려면 안 맞는 걸 자꾸 만들어보려고 노력해야 합니다. 이런 접근 방식이 수학을 연구하는 데 굉장히 중요합니다.

 수학자들도 자신이 맞기를 바라는 마음은 초등학생과 똑같군요.

 당연히 그렇죠. 때문에 수학을 잘하려면, 특히 창조적인 수학을 잘하려면 가설을 세웠을 때 그 가설이 틀릴 수 있는 가능성도 자꾸 만들도록 노력해야 한다는 겁니다. 자기 주장이 어떻게 틀릴 수 있는지 자꾸 해봐야 합니다. 그렇지 않으면 자기도 모르게 고장이 많은 큰 기계를 만들게 되어버리는 겁니다. 
 수학은 정답을 찾는 게 아니라, 인간이 답을 찾아가는데 필요한 명료한 과정을 만드는 일이라고 생각합니다.

<p.265>

 

 그게 요점입니다. 의미 있는 단어가 아니라는 사실을 관측했고, 그리고 그 틀린 단어에 가까운 의미 있는 단어가 하나밖에 없기 때문에 맞는 단어로 정정할 수 있었어요. 영어 단어를 보고 쉽게 관측하고 정정할 수 있는 이유는 의미 있는 단어가 의미 없는 단어들 사이에 알맞게 끼어 있기 때문입니다. 여기서 중요한 것은 주위에 '의미 없는 단어들이 많다'는 사실입니다. 의미 있는 단어만 쓰면 효율적이겠지만 효율성이 떨어져도 지금 우리가 수행한 작업들에서는 중요한 쓸모가 있습니다. 이것 역시 정보 이론의 기초입니다.

 의미 있는 단어들을 의미 없는 단어들로 적당히 둘러싸는 것이 굉장히 중요하다.

<p.290>

 

 고등학생 때 한 수학 선생님이 계셨다. 선생님을 뵐 때마다 히가시노 게이고의 <용의자 X의 헌신>에 나오는 수학자가 왠지 저렇게 생겼을 것 같다는 생각을 남몰래 하곤 했다. 평소 테니스를 좋아한다고 말씀하신 선생님은 테니스를 잘 치기 위해서는 손목의 힘이 아니라 허리의 힘을 이용해 라켓을 휘둘러야 한다고 하셨다. 그리고 그렇게 단련된 허리의 힘으로 그는 두발 규정을 지키지 않은 우리들에게 '빠따'를 날렸다. 내 차례가 될 때까지 복도에 서서 지켜본 선생님의 빠따 휘두르는 모습은 자신만의 세계 안에서 보이지 않는 테니스 공을 향해 있는 힘껏 라켓을 휘두르는데 열중한, 그런 진지한 모습이었다. 다만 복도에 울려 퍼진 소리는 테니스공이 빠른 속도로 네트를 넘는 경쾌한 소리가 아니라 고리에 걸린 도축된 돼지고기를 도마에 내려놓을 때 나는 그런 퍽퍽하고도 축축한 소리였다. 

 

 선생님의 수업은 고3이 되면서 대체로 잘 듣지 않았다. 지금도 그러는지 모르겠지만 그때는 수능에 나오는 범위까지의 진도를 고2까지 다 끝내고, 고3 때는 수업의 대부분이 문제풀이였다. 교과서와 보충수업용 문제집에 나오는 문제 중 하나를 골라 칠판에 풀고 해설하는 과정을 지켜보느니 그 시간에 한 문제라도 더 푸는 게 중요하다고 생각했다. 선생님이 문제를 골랐을 때 아는 문제인 것 같으면 나는 내 문제집을 푸는 데 집중했다. 그렇게 선생님과 우리는 같은 공간 안에서 각자 다른 문제로 머리를 싸매며 뜨거운 여름날을 보냈다. 그러던 어느날 선생님이 수업 시간에 다른 얘기를 시작하셨다. 내 문제를 푸는 데 한창 고민 중이었던 나는 선생님의 얘기를 처음부터 들을 순 없었지만 중간에 이런 말을 하셨던 기억이 난다.

 

 "너희들은 그래도 답이 있는 문제를 풀잖아. 봐봐, 이 문제에 보기 다섯 개 중에는 무조건 답이 하나 있잖아. 근데 뭐가 답인지만 모르는 거지. 이건 쉬운 거야. 진짜 어려운 게 뭔지 알아? 답이 있는지 없는지 조차 모르는 문제를 푸는 거야. 생각해봐, 너희들이 문제를 열심히 풀어. 근데 답이 있는지 없는지 안 나와있어. 답이 있으면 답을 찾아야 하고 없으면 없다는 걸 증명해야 해. 이런 게 진짜 어려운 문제야."

 

 '답이 있는 문제는 쉬운 문제다, 정말 어려운 건 답이 있는지 없는지 모르는 문제다.' 이 말은 그 이후로 내 머릿 속에 깊게 남아 어떤 문제가 생길 때마다 혼자 되뇌는 말이 되었다. 고등학생이나 대학생 때는 '답이 있는 문제는 쉬운 문제'라는 앞의 말에 많은 감명을 받았다. 당시 내가 해야 했던 공부나 시험의 대부분은 답이 있었기 때문에 '그래, 그나마 답이 있는 문제라서 다행이다. 이 중에 무조건 답은 있겠지'라는 생각을 하며 시험공부를 했다. 그러나 취직을 하고 가족이 생긴 지금은 '정말 어려운 건 답이 있는지 없는지 모르는 문제'라는 뒤의 말에 많은 감명을 받고 있다. 왜냐하면 현실에서 맞닥뜨리는 문제의 대부분은 답이 있는지 없는지조차 모르는 문제들이기 때문이다. 이제야 수학 선생님이 했던 말의 진정한 의미를 이해할 수 있을 것 같다. 학창 시절 머리를 쥐어 짜내며 풀었던 시험 문제들은 앞으로 살아가면서 풀어나가야 할 문제들에 비하면 난이도가 매우 낮은 문제들이었다는 것을. 

 

 그래서인지 나는 이 책에서 작가가 설명한 '적당한 답의 틀satisfactory framework for finding the answer'이라는 개념이 마음에 와닿았다. 해당 부분을 여러 차례 읽어봐도 아직 명쾌하게 이해가 되지 않긴 하지만 적어도 내가 이해한 바로는 이러하다. 우리가 현실에서 만나게 되는 문제나 질문은 답이 있는지 없는지, 그리고 어떤 답을 원하는지(혹은 어떤 답이 예상되는지)조차 모르는 경우가 많다. 이럴 때 우리는 질문을 구체화하거나 반대로 단순화하여 우리가 원하는 질문과 필요한 답을 찾을 수 있는 범위를 먼저 좁히는 것이다. 그렇게 적당한 답의 틀을 만들어 놓고 그 속에서 정확한 답을 찾기 위해 노력하는 것이다. 그리고 이와 관련해 작가는 책의 뒷부분에서 '근사approximation'라는 개념을 제시한다. 우리가 답을 구할 때 적당한 답의 틀을 만들고 그 안에서 근사해가는 것을 인정하는 것이 건전한 과학적 시각이라고 보는 것이다. 과학적 혹은 수학적 사고라면 어떤 문제에서든 완벽한 하나의 해를 찾는 것이 중요하다고 생각했었는데, 완벽할 수 없다고 해서 포기하기보다는 제한된 조건 하에서 점점 더 답에 근사해가는 것이 중요하다는 작가의 말은 내게 많은 울림을 주었다. 

 

 학창시절 내게 주어진 문제는 정답이 아니면 오답만 존재했다. 그래서 문제의 보기 중에서 정답을 찾는 데에만 너무 익숙해진 나머지 사회에 나와 처음으로 보기가 없는 문제를 마주했을 때 나는 크게 당황할 수밖에 없었다. 지금 이 상황에서 가장 적합하고 완벽한 정답이 있을 거라는 생각으로 혼자 고민을 하고 주변에 조언을 구해도 그런 답은 찾을 수 없었다. 현실은 알 수 없는 속도와 방향으로 변하고 있는데 비해 내가 통제할 수 있는 요소는 몇 개 되지 않았기 때문이다. 그리고 꽤나 오랜 기간 나는 새로운 문제에 부딪힐 때마다 완벽한 답이 있을 거라는 생각에 얽매였다. 학창 시절 남들보다 정답을 찾는 일을 잘했기 때문에 현실에서도 남들보다 더 좋은 답을 찾을 수 있을 거라는 오만한 생각이었다. 그러다 보니 고민 끝에 타이밍을 놓쳐 좋지 않은 선택을 하기도 하고, 완벽한 답에 대한 부담감으로 선택을 포기하기도 하고, 선택을 했다 하더라도 그 선택에 대한 아쉬움과 후회가 머릿속에 계속 남기도 했다.

 

 그러던 어느 날 누군가 내게 마음의 위안을 주는 말을 했었는데 그것은 바로 "그 땐 그게 최선이었을 거야"라는 말이었다. 그때의 나는 주어진 조건 하에서 가장 적합한 답을 찾기 위해 최선을 다했다,라는 이 말은 나 스스로를 다시 믿도록 만들고, 선택으로 인한 결과도 있는 그대로 받아들이게끔 했다. 그리고 이 책에서 최선을 다한다는 것을 적당한 답의 틀을 만들고 그 안에서 적절한 답을 근사해나가는 과정으로 세련되게 표현했다고 생각한다. 현실을 살아가는 우리 모두는 나와 비슷한 과정을 겪었으리라 생각한다. 그러나 현실의 문제에 완벽한 답은 없다. 다만 우리는 그 정답이 존재할 만한 범위를 좁히고 그 안에서 가장 정답에 가까운 무언가를 선택하면서 살아간다. 우리는 완벽하지 않더라도, 나중에 뒤집어지더라도 '답이 있는지 없는지 모르는 진짜 어려운 문제'에 매 순간 최선의 선택을 하며 살아가는 것이다. 우리는 그렇게 살아왔다. 최선을 다해 선택했을 과거의 나를 믿자. 그리고 결과를 받아들이자. 이런 일련의 생각들이 당신에게도 마음에 위안을 줄 수 있었으면 좋겠다.