2014년 8월 13일 서울 코엑스. 전 세계에서 온 수학자 5000여 명의 뜨거운 박수를 받으며 세계수학자대회(ICM)의 개막식이 열렸다. 4년마다 진행돼 ‘수학 올림픽’이라고 불리는 이 대회의 개막식은 필즈상을 시상하기 때문에 유명하다. 사회를 맡은 사람은 아나운서가 아닌 수학자로 임선희 서울대학교 수리과학부 교수였다.
2014 서울 ICM 조직위원장인 박형주 아주대 명예교수는 “임 교수는 음악, 미술 등 문화적 소양이 뛰어나고 프랑스어와 영어를 모국어처럼 사용하는 데다 수학적 능력이 뛰어나 한국의 수학적 위상을 보여주고 싶어 사회자로 발탁했다”고 설명했다.
임 교수는 최근 우리나라를 대표하는 수학자로 주목받고 있다. 지난해 10월부터 수학하는 여성 인터뷰 시리즈를 준비하며 가장 많이 추천받은 수학자가 바로 임 교수다.
최근 수상 실적이 주된 추천 이유였다. 임 교수는 2021년 과학기술정보통신부가 수학 분야에서 돋보이는 업적을 달성한 수학자에게 주는 상인 ‘최석정상’을 받았다. 2022년에는 대한수학회가 우수한 논문을 쓴 수학자에게 주는 ‘대한수학회 논문상’을 수상했다.
임 교수는 “순수수학을 연구했을 뿐만 아니라 수학이 실용적으로 쓰이게끔 연구한 덕에 최석정상을 받은 것 같다”고 말했다. 임 교수는 전공인 동역학 연구와 더불어 수학이론 중에서 의료 데이터를 분석할 때 활용할 수 있는 개념을 발굴해 이에 적용하는 연구도 한다. 예를 들어 동역학 분야의 ‘부피 엔트로피’ 개념을 적용해 환자를 여러 특성에 따라 분류하고, 뇌 데이터를 분석했다. 부피 엔트로피란 부피가 얼마나 무질서하게 커지는지 측정할 수 있는 수치를 말한다.
대한수학회 논문상은 순수 동역학 연구로만 받았다. 동역학은 시간에 따라 움직이는 모든 것을 계산하고 설명하는 수학 분야. 당구 게임에서 당구공을 세게 치면 처음엔 공이 어디로 향할지 예측할 수 있지만, 이후 수없이 벽에 부딪히고 또 부딪히면 앞으로 어떻게 움직일지 알기 어렵다. 동역학에서는 이런 예측 불가능한 운동을 연구한다. 최근 임 교수는 동역학을 이용해 정수론 문제를 푸는 데 매진하고 있다.
● 10년 만에 얻은 연구 성과
Q. 동역학은 일반인에게는 조금 생소한 수학 분야가 아닌가요.
"1978 필즈상 수상자인 그리고리 마르굴리스 미국 예일대 교수 지도 아래 동역학을 공부했어요. 마르굴리스 교수는 50년간 해석학 난제였던 ‘오펜하임 추측’을 동역학 이론을 이용해 해결한 분입니다. 수업을 들으면서 정수론, 그래프이론 등의 문제를 동역학적으로 해결할 수 있다는 사실을 알게 됐는데 놀랍고 매력적이었어요. 또 학창 시절에 물리를 좋아해서인지 여러 수학 분야 중 물리학 개념이 많이 등장하는 동역학에 자연스레 끌렸습니다. "
2006년 예일대 졸업식에서 임선희 교수(오른쪽)가 지도 교수인 마르굴리스 교수의 축하를 받고 있다. 임선희 제공
Q. 2021년 특수한 공간에서 ‘브라운 운동’의 특성을 증명한 논문이 주요 성과로 꼽힙니다. 중학교 과학 시간에 배우는 브라운 운동은 물 위에 떨어진 꽃가루의 운동처럼 기체나 액체 속의 입자들이 불규칙하게 움직이는 현상을 의미하나요.
"맞아요. 2013년 한 논문을 읽다가, 논문에 있는 한 줄의 아이디어를 가지고 오면 제가 생각한 문제를 해결할 수 있겠다는 생각이 번뜩 들었어요. 그렇게 이 문제에 뛰어들었어요."
Q. 좋은 아이디어가 있었지만 문제를 완전히 해결하는 데 5년이나 걸렸네요.
"아이디어를 처음 떠올렸을 때 정말 기뻤어요. 제가 이때까지 한 연구 중에서 가장 좋은 결과일 것 같았거든요. 그런데 증명 과정이 쉽지 않았어요. 증명이란 하나하나 쌓아가는 과정이거든요. 어떤 정리 밑에는 그 정리를 뒷받침하는 정리가 증명돼 있고, 또 그 밑에 증명된 또 다른 정리들이 엄밀하게 놓여 있어요. 그런데 막상 문제를 증명하려니까 그 밑에 기반이 돼야 하는 정리들이 증명이 안된 상태더라고요. 기본적인 것부터 하나씩 증명하느라 시간이 꽤 걸렸습니다. "
Q. 연구 과정이 궁금합니다.
"제 박사후 연구원 멘토로 만났던 공동 연구자인 프랑스 수학자 프랑수와 르드라삐에와 각자 자료를 찾고 연구를 하다가 2013년에 르드라삐에가 아예 서울에 와서 함께 한 달 동안 연구했어요. 이후 2014년 가을부터 2015년 여름까지 미국 캘리포니아대학교 버클리에서 방문 교수로 지냈는데 마침 그 해 봄 버클리에 있는 MSRI(수리과학연구소)에서 동역학 관련 학회 프로그램이 한 학기 동안 열렸어요. 이때 르드라삐에와 제가 이 프로그램에 참가한 김에 매일 만나서 연구했습니다. 힘들었지만 제가 지치면 르드라삐에가 저를 토닥이고 공동연구자가 지치면 제가 달랬습니다."
Q. 논문을 언제 완성한 건가요.
"2015년 미국에 있을 때 초고를 완성했어요. 그때 논문의 내용을 MSRI에서 무려 4회에 걸쳐 시리즈 강연으로 설명해 달라는 요청이 들어왔어요. ‘이 분야 수학자들이 논문 내용을 세세하게 알아야 할 만큼 중요한 내용을 발표하는 건가?’라는 생각이 들어서 기분이 매우 좋았어요. 2010 필즈상 수상자인 엘론 린덴스트라우스 미국 프린스턴대학교 수학과 교수를 비롯한 110여 명의 수학자 앞에서 발표했지요. 그런데 나중에 저희 증명에 오류가 발견돼, 다시 연구에 돌입했고 완전히 해결한 것은 2018년이에요. 그 후에 논문을 수정해 2020년에 학술지 게재 승인을 받아 2021년에 출판했어요."
브라운 운동 관련 연구 진행 과정. 임선희 제공
● 다양한 배경의 수학자가 생겨야 하는 이유
Q. 교수님의 어린 시절이 궁금합니다.
"어렸을 때부터 공룡과 기계를 좋아했어요. 또 지기 싫어하는 아이였어요(웃음). 7살 때 취미가 높은 계단에서 뛰어내리기였는데, 남자 아이들에게 지고 싶지 않아서 14계단에서 훌쩍 뛰어내리곤 했습니다. 자전거를 타고 산, 공사장 등 동네 곳곳에 있는 비탈길을 다 타고 다니며 성취감을 느끼기도 했어요. 중학생 땐 전교 부회장을 할만큼 활동적이었어요."
2007년 스위스에서 열린 한 학회에 참가한 뒤, 임선희 교수(맨왼쪽)가 동료들과 즐거운 한 때를 보내고 있다. 임선희 제공
Q. 과학고등학교를 졸업했습니다. 혹시 이때부터 수학자를 꿈꾸셨나요.
"아뇨. 대학에 가서부터예요. 학창 시절에 논리가 저를 지배했다고 말할 수 있을 정도로 이성적이고 정확한 걸 좋아했어요. 수업을 듣다가도, 선생님 설명이 논리적으로 틀린 것 같으면 손을 들고 “이해가 되지 않는다”며 말할 정도였습니다. 그래서 정답이 명확하고 현상의 원리를 설명할 수 있는 물리와 수학을 좋아해서 복수전공을 시작했어요. 그런데 대학에서 역학 수업을 듣는데 오차(측정값과 참값의 차이)를 무시하고 계산하는 경우가 많더라고요. 저는 조금 더 엄밀하게 계산하고 싶은 욕심이 났어요. 수학에서는 작은 오차를 없애기 위해 연구한다는 걸 알고, 수학이 제게 더 맞는 것 같아서 수학자를 꿈꿨어요. "
임선희 교수가 연구할 때 가장 많이 하는 생각. 수학동아 DB
Q. 수학자란 직업이 잘 맞았을 것 같아요.
"수학을 시작하고 보니 연구가 쉽지 않았어요. 저도 몰랐는데 언젠가부터 머릿속으로 질문이 많이 생겨도 끝까지 물고 늘어지려고 하지 않는 습관이 생겼더라고요. 수학자가 됐는데도 이 습관 때문에 새로운 질문과 접근 방식을 떠올리기 어려웠어요. 그래서 사소한 부분을 읽더라도 계속 의심하고 스스로에게 질문을 하려고 노력했어요. 이 습관을 없애는 데 몇 년은 걸린 것 같네요."
Q. 수학자가 된 뒤 많이 들었던 생각이 궁금합니다.
"생각보다 여성 수학자가 많지 않다고 느꼈어요. 제 생각엔 여학생이 자라오면서 선입견에 영향을 받아서라고 생각해요. 여학생이 수학을 잘할 수 있다는 사실을 꼭 알았으면 좋겠어요. 여성이라는 이유로 수학을 자신 없게 느낀다면 외부의 성차별적인 편견을 자연스레 내면화했기 때문일 것이거든요. 그리고 수학은 맞고 틀리고가 확실한 학문이어서 다른 학문에 비해 객관적으로 평가가 가능해요. 그래서 중요한 결과를 냈을 때, 성별에 관계없이 비교적 객관적으로 평가를 받는 편이라 여학생들에게 추천해요.
2008년에 1982 필즈상 수상자인 윌리엄 서스턴과 이야기를 나눌 기회가 있었는데요. 서스턴은 “수학이 발전하려면 성별, 인종, 국적 등 다양한 배경의 수학자들이 모여 함께 연구를 해야 해요”라고 말하더라고요. 배경이 다르면 생각하는 법, 해결하는 법이 다 달라 함께 있으면 새로운 아이디어가 탄생해 수학이 발전하기 때문이래요. 저는 맞는 말이라고 생각합니다."
임선희 교수 문제가 잘 안풀릴 때는? 수학동아 DB
Q. 앞으로의 목표가 뭔가요?
"목표는 없고, 큰 꿈은 있습니다. 제 다음 세대, 그다음 세대, 또 그다음 세대까지 계속 이용되는 새로운 아이디어가 담긴 논문을 쓰는 겁니다."
※관련기사
수학동아 1월호, [Speacial Interview] "다음 또 다음 세대가 사용하는 수학 아이디어를 만들고 싶어요"
(자유)
방시혁이나 민희진 둘다 별로인 입장에서 보자면
(9)
과학/우주 월간 추천 
