구독상품안내
아티야 생일 기념학회
마이클 아티야는 미국의 이자도르 싱어(Isadore Singer)와 함께 증명한 ‘타원형 미분작용소 지표정리’의 중요성을 인정받아 1966년 필즈상을 수상한 수학자다. 레바논 출신 아버지와 스코틀랜드 출신 어머니 사이에서 1929년 런던에서 태어난 그는 어린 시절 카르툼, 카이로, 그리고 알렉산드리아에서 교육을 받았다. 이후 맨체스터에서 고등학교 과정을 교육받고 캠브리지대에서 학부와 박사과정을 받은 뒤, 교수 생활의 대부분을 옥스퍼드와 캠브리지 사이를 오가며 보냈다.
아티야가 연구한 내용에서 ‘지표정리’란 미분방정식의 해공간이 거시적 기하학, 전문용어로 표현하자면 ‘위상 기하학’에 의해서 지배되는 현상을 정확하게 묘사한 정리다. 나는 학부 시절에 서울대 수학과 지동표 선생님으로부터 아티야-싱어 지표정리의 중요성에 대해 인상 깊은 조언을 여러 번 들은 적이 있다. 그리고 독일의 수학자 히르쩨부르크가 ‘수학에서 가장 깊이 있고 어려운 정리’라고 어느 책에서 언급한 것을 읽은 기억도 난다.
많은 젊은 수학자들이 그렇듯이 나 역시 그렇게 어려운 정리라면 이해해 봐야겠다는 도전정신을 다분히 갖게 되었다. 그런데 지표정리는 증명까지 가기도 전에 정확히 서술하는 것만도 상당히 많은 배경 지식을 필요로 한다. 결국 나는 학부를 졸업하고 박사과정을 마칠 때쯤이 돼서야 비교적 편하게 생각할 수 있는 실력을 갖출 수 있었다.
아무튼 나에게는 지표정리가 학부와 대학원 시절 공부의 가장 중요한 주제였고, 지표정리의 응용을 찾는 방향으로 공부가 진행돼 ‘양-밀스 이론’, ‘무한차원 표현론’ 등이 분야 저 분야를 방황하게 되었다. 그러다가 지표정리가 산술공간의 구조를 밝히는 데도 중심적인 역할을 하게 된다는 러시아의 수학자 아라켈로프의 이론에 휘말려서, 결국은 연구 분야를 수론으로 정하게 되었다.
아티야는 오래전부터 기하학과 물리학 사이의 상호작용을 강조해 왔다. 기하학과 이론 물리학은 오랜 옛날부터 서로에게 지대한 영향을 미치면서 함께 발전해 왔고, 우리시대에 와서는 고에너지 이론 물리학의 첨단 이론은 거의 기하학과 구분하기 어려운 상황에 이르렀다.
그 분야의 관심사는 항상 우주와 그 안에 사는 여러 장들의 상태 공간과 진화를 표현하기에 적합한 기하학적 구조가 무엇이냐는 질문 주위를 맴돌았다. 이 때문에 온갖 종류의 기하, 그러니까 미분기하, 대수기하, 위상기하 등을 비교적 자유롭게 쓸 수 없는 사람은 대화에 참여조차 못하는 것이 현실이다. 따라서 옥스퍼드에서는 초끈이론을 공부하는 물리학자 가운데 상당수가 수학과 소속인가 하면, 우주론과 블랙홀 이론의 권위자인 로저 펜로스 경도 일생의 대부분을 수학과 교수로 지냈다.
아티야의 기하 물리 철학
현대과학에서 기하와 이론 물리 사이의 상호작용이 심화되기 시작한 것은 19세기에 가우스나 리만과 같은 수학자들의 업적 때문이 아닌가 싶다. 가우스가 개발한 벡터장 이론 덕에 맥스웰 방정식이 보편적인 형태를 갖출 수 있었고, 리만 기하학은 당시 어떤 착상보다도 인간이 고려할 수 있는 기하공간의 영역을 확장시켰다. 특히 리만은 가우스의 곡면이론을 엄청나게 발전시켜서 ‘내재 기하학(Intrinsic Geometry)’, 그러니까 외부의 관점을 완전히 배재하고 주어진 모양 안에서 사는 개체가 느끼는 기하학을 개발했다. 아인슈타인의 일반상대론이 바로 우주 자체의 기하학을 통해서 중력을 설명하기 때문에 아인슈타인에게는 리만의 아이디어들이 절대적으로 필요했다.(우주의 기하학은 정의상 밖에서의 관측이 불가능하다.)
상대성이론이 물리적 세계를 기술하는 데 성공한 것은 리만 기하학의 순수 수학적인 발전에도 큰 역할을 하게 된다. 오늘날 우주의 시공간적 구조에 대한 명료한 이해는 내재 기하학의 배경 지식이 없이는 불가능하다. 가령 몇 년 전 우주론 전문가 조지 스무트가 이화여대에서 대중강연을 한 바 있는데, 관중 한 명이 ‘빅뱅 전에는 무엇이 있었느냐’는 질문을 했었다. 시간조차도 빅뱅으로부터 시작했기 때문에 ‘그 전’ 자체가 없었다는 답을 접했을 때 느끼는 일반인의 충격적 혼란 때문이었다. 이것이 바로 내재 기하학과, 물체의 모양을 밖에서 바라보고 묘사하는 일상적인 기하학의 직관 차이를 극적으로 나타낸다.
1970년대 이후로는 기하와 입자물리 사이의 상호 작용에서 지표정리가 상당히 중요한 역할을 해왔다. 지표정리는 일반적으로 타원형 미분방정식에 대한 발견이지만, 사실은 그 중 상당히 특수한 경우 중 하나인 전자의 운동을 기술하는 ‘디랙(Dirac) 방정식’이 핵심이다. 디랙 방정식에 대해서만 지표정리를 알면 일반적인 경우는 비교적 쉽게 따른다는 얘기다.
양자역학이 개발될 당시 전자의 운동 방정식은 1925년 쯤에 슈뢰딩거에 의해서 처음 기술되었다. 이후 자기장이 미치는 효과를 분석하면서 전자의 내부 스핀을 감안한 파울리 방정식으로 곧 승격됐고(1927년), 바로 그 다음해에 상대성이론의 효과를 감안한 섬세한 방정식을 캠브리지 대학의 폴 디랙이 발견했다. 디랙 방정식은 놀랍게도 반물질의 존재도 예측하기 때문에 당연히 20세기 과학의 가장 중요한 방정식 중 하나다.
물론 아티야와 싱어가 처음 지표정리를 증명할 1963년 당시에는 디랙 방정식을 사용하지 않았다. 하지만 1970년대에 훨씬 섬세한 열 방정식을 이용한 증명을 찾아내는 과정에서 디랙 방정식의 중심적인 역할이 발견됐다. 이런 내용만으로도 아티야의 수학이 물리학과 밀접한 관계가 있으리라고 짐작할 수 있다.
1980년대 이후로는 끈 이론을 연구하는 에드워드 위튼을 비롯한 여러 이론 물리학자들의 활약에 힘입어서 지표 정리뿐 아니라 아티야가 개발한 다양한 이론들이 빛을 보게 된다. K이론, 이차원 양-밀즈 이론, 인스탄톤 이론 등 거의 모든 아티야의 인생 과업이 고에너지 물리학에 흡수되는 과정을 나와 비슷한 세대 수학자들이 함께 목격했다. 그래서 아티야의 연구 분야를 이야기하자면 ‘기하 물리학’ 정도의 표현이 적합하다는 생각이 자주 든다.
기하와 대수
이번에 개최된 생일잔치에서도 오전 두 강좌는 기하학이 주제였고, 오후에는 물리학 강연 두 개가 열렸다. 마지막 연사는 프린스턴 고등과학원 원장인 로버트 다익그라프였다. 그는 모호하고 철학적이면서도 흥미로운 강연을 했는데, 근본적으로 기하와 대수, 그리고 물리학의 상관관계가 주제였다. 지금까지 우리가 관측한 상호 작용이 미래에는 어떻게 진화해 나갈지에 대한 공상이 많이 있었는데, 물리학에서의 역할이 증가할 것으로 예상되는 수학 구조를 수록할 때 내 연구 분야인 산술기하학도 포함시킨 것이 당연하면서도 흐뭇했다. 그러니까 대수적인 개념만으로 시작해서 공간을 건설할 수 있다는 기이한 착상을 핵심적으로 이용하자는 것과, 그런 방법론이 물리학적으로 이용되어야 한다는 종류의 주장이었다.
강연 후 마지막 질문은 이론 물리의 젊은 스타인 칼텍의 세르게이 구코프로부터 나왔다. 우주를 기술하는 데 있어서 가장 기본이 되는 요소가 기하인가, 대수인가를 묻는 질문이었다. 이에 대해 다익그라프는 돈을 걸고 내기를 해야 한다면 자신은 대수 쪽을 선택하겠다고 했다. 우주는 근본적으로 수 체계와 같은 구조이고, 물체와 공간의 모양은 대수적 요소의 통계적인 상호 작용을 통해서 나타나지 않겠냐는 것이었다.
순수 대수적인 원리가 물리에서 중추적인 역할을 하는 상황은 역사적으로 중요한 예가 여럿 있다. 가령 복소수 체계는 대수방정식 x²+1=0을 해결하는 과정에서 16세기에 발견됐다. 하지만, 복소수의 기하학이 양자역학의 기본 상태공간뿐 아니라 우주 자체의 모양을 결정하는 과정에서도 중요하다는 것이 현대 끈 이론가들의 주장이다. 디랙이 전자 방정식을 기술할 때에도 AB+BA=0 꼴의 등식이 성립하는 수 체계가 필요했는데, 다행히 19세기에 이미 대수학자 그라스만과 클리포드에 의해서 발견돼 있었다. 그리고 이런 이상한 대수가 결국 전자의 스핀을 설명한다는 사실도 디랙이 밝혀냈다.
3월호에 이야기했듯이 추상적인 사고로부터 출발한 수 체계의 기적적인 응용이 신비롭게 느껴질 때가 많다. 그러나 우주를 이루는 공간 입자가 대수로부터 우러나온다는 다익그라프의 추측이 맞다면, 지극히 자연스러운 현상일지도 모른다는 생각이다. 수학과 물리의 유기적 통일성을 일생 동안 강조해 온 아티야 경의 생일에 걸맞는 공상이었다.
