[주말N수학] 필즈상과 노벨상 수상 비법 공개, 질문이 위대한 발견을 낳는다

노벨위원회 제공

필즈상과 노벨상은 수학과 과학 분야에서 위대한 연구를 한 수학자와 과학자에게 주어지는 명예로운 상입니다. 이런 연구는 어떻게 탄생할까요?  그 비밀은 ‘질문’이라고 하는데요, 질문이 어떻게 위대한 연구로 이어지는지, 필즈상과 노벨상 수상자의 사례를 통해 알아보겠습니다.

수학계의 노벨상이라고 할 수 있는 필즈상 수상자들은 자신이 던진 질문이나 오랫동안 이어져 온 질문에 대한 답을 찾기 위해 치열하게 노력한 결과 위대한 업적을 낼 수 있었습니다. 많은 사례가 있지만 특별히 2014년 서울 세계수학자대회에서 필즈상을 수상한 만줄 바르가바 미국 프린스턴대학교 수학과 석좌교수의 이야기를 소개하겠습니다.

바르가바 교수는 가장 오래된 수학 분야라고 할 수 있는 정수론에서 획기적인 성과를 거둬 필즈상 수상자로 선정됐습니다. 주요 업적은 크게 두 가지라고 할 수 있는데요, 공통적으로 기존의 접근 방식과 다른 새로운 질문을 던지고 그로부터 해답을 찾아냈다는 점이 흥미롭습니다.

난제를 푸는 열쇠는 질문

질문① 가우스의 연산 법칙을 확장할 수 있을까?

바르가바 교수는 독일 수학자 카를 프리드리히 가우스가 쓴 책 ‘산술논고’를 읽으며 가우스의 연구를 좀 더 쉽게 정리하는 연구를 하고 있었습니다. 어느날 자신의 취미인 루빅스 큐브 맞추기를 하고 있는데, 문득 ‘각 지점에 수를 대응시키면 어떨까?’라는 질문이 떠올랐습니다. 실제로 수를 대응시킨 뒤 세 가지 방법으로 큐브를 자르고 배열한 수를 이용해 새로운 연산 법칙 13개를 알아낼 수 있었죠. 기존 가우스의 연산 법칙은 2차 방정식에만 쓸 수 있었는데, 새로 발견한 연산 법칙 덕분에 가우스의 연산 법칙을 적용할 수 있는 범위를 3~5차 방정식까지 확장할 수 있게 됐습니다.

 

질문②  타원곡선의 해는 어떤 구조일까?

y² =x³+ax+b 꼴을 가진 방정식을 ‘타원곡선의 방정식’이라고 합니다. 이 방정식에서 계수인 a와 b가 변할 때 해가 유한한지 무한한지는 아직까지 수학자들이 답을 찾지 못한 질문입니다. 바르가바 교수는 관점을 바꾸는 새로운 질문을 던져 이 문제에 돌파구를 마련했습니다. 이전까지 수학자들은 방정식을 분석해 해의 특징을 찾아내는 데 주목했는데, 바르가바 교수는 구체적인 답을 찾는 대신 ‘계수 a와 b를 임의로 골랐을 때 방정식의 해가 무한할 확률이 무엇인가?’라는 질문을 던졌습니다. 그리고 유리수 해가 무한할 확률과 없을 확률 모두 0보다 크다는 것을 밝혔죠. 별것 아닌 것처럼 보이지만 이 분야에서는 엄청난 진전을 가져다 준 연구 결과였습니다. 

2020년 노벨물리학상 수상자 중에는 이례적으로 수학자가 포함됐습니다. 바로 로저 펜로즈 영국 옥스퍼드대학교 수학과 명예교수입니다. 펜로즈 교수는 라인하르트 겐첼 독일 막스플랑크 외계물리학연구소장과 앤드리아 게즈 미국 캘리포니아대학교 로스앤젤레스 천체물리학과 교수와 함께 블랙홀의 존재를 밝힌 공로를 인정받았습니다. 

펜로즈 교수는 수학적으로 블랙홀이 존재할 수밖에 없다는 것을 1965년에 증명했는데, 이는 약 200년에 걸쳐 꼬리에 꼬리를 문 질문을 수학 문제로 바꾸고, 그것을 증명한 결과라고 할 수 있습니다.

노벨상 안긴 블랙홀 발견도 ‘질문’에서 시작

경축! 아무것도 안하여 에스천사게임즈가 새로운 모습으로 재오픈 하였습니다.
어린이용이며, 설치가 필요없는 브라우저 게임입니다.
https://s1004games.com

질문①  천체가 밀집하면 어떻게 될까?

로저 펜로즈 옥스퍼드대 교수. 노벨위원회 제공

1783년 영국 과학자 존 미첼과 1796년 프랑스 수학자 피에르 시몽 라플라스는 ‘우주의 천체가 빽빽하게 밀집하면 어떤 현상이 나타날까?’라는 질문에 ‘더이상 보이지 않게 된다’는 답을 각각 독립적으로 얻습니다. 수학적으로 계산해보니 강력한 중력 때문에 빛조차 빠져나올 수 없게 된다는 결론이었습니다.

 질문②  별이 수명을 다하면 어떻게 될까?

1930년대에 이르러 미국 물리학자 로버트 오펜하이머는 ‘태양보다 무거운 별이 수명을 다하면 어떻게 될까?’라는 질문에 ‘별이 붕괴하면서 강한 중력으로 빛을 비롯한 모든 것을 별 안쪽으로 끌어당긴다’는 답을 내놨습니다. 그리고 이를 ‘얼어붙은 별’이라고 불렀죠.

 질문③  보이지 않는 천체가 생길 수 있을까?

앞서 연구한 선배들의 질문과 답을 이어받은 펜로즈 교수는 ‘이 불가사의한 천체가 정말 우주에서 자연스럽게 형성될 수 있을까?’라는 질문을 붙들고 씨름했습니다. 당시 블랙홀에 대한 이론적인 연구는 알베르트 아인슈타인이 고안한 일반상대성이론을 바탕으로 전개됐습니다. 그래서 펜로즈 교수도 같은 맥락에서 연구를 시작하지만 문제가 풀리지 않자 도형의 연결관계를 다루는 수학 분야인 ‘위상수학’을 일반상대성이론에 접목했습니다.

그 결과 특정 질량을 넘는 우주의 천체는 자체 중력에 의해 점차 수축하면서 특이점이라는 한 점으로 수렴하고, 주위의 모든 것을 빨아들인다는 것을 수식으로 증명합니다. 펜로즈는 이를 ‘특이점 정리’라고 불렀죠. 1965년에 발표된 이 연구는 그동안 이론적인 존재일 거라 생각했던 블랙홀의 존재 가능성에 무게를 실어줬습니다. 

필즈상과 노벨상 수상자처럼 훌륭한 연구의 출발점이 될 질문을 모집하는 ‘궁극의 질문’ 프로젝트를 시작합니다. 궁극의 질문 프로젝트란 미래 수학자와 과학자를 꿈꾸는 여러분이 직접 던진 질문을 연구 주제로 발전시키고, 여럿이 함께 문제의 해결법을 모색하는 온라인 협업 프로젝트입니다. 우수 질문으로 선정된 분에게는 푸짐한 선물도 드리니 지금 바로 여러분의 질문을 올려주시기 바랍니다. 

관련링크 폴리매스 홈페이지 (http://polymath.co.kr) [궁극의 질문 프로젝트]