[566호 2025년 5월] 인터뷰 동문을 찾아서

“교만은 배움의 가장 큰 적입니다”

호암상 수상한 신석우(자연과학97-00) UC버클리 수학과 교수

호암상 수상한 신석우(자연과학97-00) UC버클리 수학과 교수

“교만은 배움의 가장 큰 적입니다”

 

17세 때 국제수학올림피아드 만점

‘수학 대통일 이론’ 분야 연구로 수상

순수 수학의 쓸모는 ‘시간’이 말해줘

AI는 연구보조 역할로 이용이 바람직

신석우 동문은 세계 수학계의 난제에 다리를 놓는 사람이다. UC 버클리에서 정수론과 랭글랜즈 프로그램을 연구하며, 최근에는 한국이 자랑하는 수학자로서 ‘2025 삼성호암상(과학상 물리·수학 부문, 상금 3억원)’ 수상자 명단에 이름을 올렸다. 신 동문은 1995년 한국 최초로 국제수학올림피아드(IMO)에서 만점을 받기도 했다. 

   미국에 있는 그를 인터뷰하기 위해 몇 번의 이메일이 오갔다. 보낼 때마다 즉답이다. 또 부탁한 기한 내 답변을 위해 출장 중 비행기에서 보내올 만큼 성실하고 정중한 태도가 인상 깊었다. 수학의 쓸모, 서울대에서의 추억, AI에 대한 생각 등을 묻고 들었다.

 

-호암상 수상을 축하드립니다. 

“과분한 상을 받게 돼 영광이며 감사할 따름입니다. 부담이 없다면 거짓일 테고요. 하지만 더 열심히 하는 데 동기부여로 삼고자 합니다. 오랜 기간 저를 지지해 주신 부모님과 가족, 그리고 학문적으로 빚을 진 수많은 동료, 선후배, 스승들께 이 자리를 빌려 깊이 감사드립니다.”

-수상자로 선정된 연구 주제, ‘수학 대통일 이론’이라 불리는 랭글랜즈 프로그램에 대해 설명해 주십시오. 

“제 전공은 정수론입니다. 정수론은 소수에 나타나는 규칙부터 대수방정식의 정수해나 유리수해를 다루는 이론까지 폭넓게 포괄합니다. 쌍둥이 소수 추측, 골드바흐의 추측, 펠 방정식, 페르마의 마지막 정리 등도 그 예죠. 현대 정수론은 이들 고전적 문제를 자극 삼아 더 추상적이고 일반적인 규칙을 탐구합니다. 랭글랜즈 프로그램은 그 중심에 있는 연구 분야로, 정수론의 여러 갈래를 연결해주는 역할을 합니다. 두 영역 간 대칭성과 구조를 비교해 그 관계를 밝히는 ‘쌍대성(reciprocity)’과, 어떤 수학적 성질이 다른 체계로도 일관되게 옮겨지는 ‘함자성(functoriality)’이라는 추측이 핵심이고요. 

비유를 통해 설명해 보겠습니다. 어떤 운동장 A에 높은 벽을 사이에 두고 동서로 나뉘어 각각 지구인과 외계인이 놀고 있다고 합시다. 서로 만나거나 보이지 않지만 외모적 특성을 공유하는 지구인과 외계인을 한 명씩 정확히 짝지을 수 있다는 것이 쌍대성입니다. 그런 운동장 B가 하나 더 있다고 할 때, 운동장 A에 있던 지구인 하나가 B로 옮겨 가면 (어떻게 알았는지) 그의 짝이 되는 외계인도 반대편에서 운동장 A를 떠나 B로 옮겨 간다는 것이 함자성입니다. 운동장에서 지구인과 외계인은 벽에 가려 서로 안 보이지만 공중에 거울을 설치하면 비로소 자기 짝을 확인할 수 있겠죠. 그 거울 역할을 하는 것이 시무라 다양체(Shimura varieties)입니다. 거울이 크면 클수록, 또는 더 많은 시무라 다양체를 이해하게 될수록, 더 많은 지구인과 외계인들이 자기 짝을 찾게 됩니다. 거울이라는 비유가 와닿지 않으면 서로 떨어져 있는 두 수학적 세상 사이에 다리를 놓는 작업이라고 보셔도 좋습니다. 제 성과는 랭글랜즈 프로그램에서 위에 말한 세 가지, 즉 쌍대성, 함자성, 그리고 시무라 다양체 각각에 대해 공헌을 한 것으로 요약될 수 있습니다. Kisin, Y.Zhu교수와 함께 한 제 최근 결과는 여러 새로운 시무라 다양체를 이해 가능하게 함으로써, 우리가 더 큰 거울을 통해 다양한 난제 해결에 활용하게 됐음을 뜻하고 실제로 정수론에서는 이미 수학자들이 이를 이용해 여러 성과를 얻고 있습니다.”

-수학의 사회적 쓸모에 대해 어떻게 생각하시나요?

“수학은 인간과 자연이 소통하고 또한 인간이 고도의 사고를 하고 서로 생각을 공유할 수 있도록 해주는 언어이자 도구라고 생각합니다. 고대로부터 최근 회자되는 데이터 분석, 인공지능, 양자 계산에 이르기까지 우리 삶에 큰 영향을 주고 있지요. 다만 제 연구를 포함해서 순수수학의 여러 연구는 당장의 쓸모 없이 지적 호기심에 이끌려 이루어집니다. 예를 들어 정수론에서 악명 높은 난제인 리만가설이 내일 해결된다고 해도 우리 삶이 달라질 리는 없습니다. 그렇다고 수학자들이 세상에 아무 관심 없이, 신선놀음을 하려는 것은 아니고, 변명을 하자면 수학에서 가장 아름다운 진리와 규칙을 규명하는 것이 결국에는 쓸모 있을 가능성이 높다는 믿음이 있습니다. 수학에서 아직 쓸모를 찾지 못한 부분이 많지만 수십년 이상이 지나서야 쓸모를 알게 되는 경우가 드물지 않습니다.”

-수학을 선택하게 된 계기는요?

“어릴 때부터 수학을 잘했고 좋아하기도 해서 큰 고민 없이 선택했습니다. 고등학생 때 진로를 다시 생각해 봤지만 수학 말고는 특별히 잘하거나 끌리는 것이 없었습니다. 물론 수학은 상상했던 것보다 훨씬 어렵고 깊은 학문이었지만, 문제를 풀거나 토론하면서 얻는 즐거움이 그 괴로움을 상쇄하더군요.”

-수학자로서 가장 기억에 남는 순간은 언제였나요?

“아시다시피 아직 알려지지 않은 문제를 해결해서 논문으로 작성해야 박사가 되는데요, 저는 박사 3년 차에 들어갈 때까지도 답이 알려진 문제(예를 들면 고등학교 올림피아드 문제)를 풀거나 남이 쓴 논문을 읽고 따라가는 것뿐 보조정리 하나조차 저만의 것이 없어서 낙심하고 있었습니다. 그러다 3년 차 어느날, 지금 생각하면 정말 사소하지만 제 것이라 부를 수 있는 보조정리를 하나 증명했을 때 뭔가 장벽 하나가 허물어진 기분이 들어 뿌듯했습니다. 누워만 있던 아기가 구르고 앉고 기어다니기 시작한 기분이랄까요. 그 이후로는 뭔가 연구가 순조롭게 진행됐고 그 보조정리는 제 졸업논문의 한 자리를 차지하게 됐습니다.”

-서울대에서의 학부 시절은 교수님의 연구나 인생에 어떤 영향을 주었나요?

“무엇보다 새로운 경험이 많았던 시기입니다. 수학과 공부보다 동아리 활동에 열중했던 기억이 많습니다. 오케스트라 동아리 SNUPO에서 플루트를 연주하며 사람들과 어울렸고, 그 경험이 지금 음악 전공인 제 배우자와의 소통에도 도움이 되고 있습니다. 그 시절의 방황과 여유가 있었기에 이후 유학에서는 오히려 미련 없이 공부에 집중할 수 있었습니다.”

-인상 깊었던 서울대 공간이 있다면요?

“당시 자하연 식당은 2,500원으로 학생식당보다 2.5배 비쌌기에 ‘부르주아 식당’이라 불렸습니다. 선배가 그곳에서 밥을 사주면 감동했던 기억이 납니다. 또한 학생회관 음악감상실은 클래식이 흐르면서 의자가 편해 낮잠 자기에 좋았어요. 제 생활 반경은 중앙도서관, 학생회관, 27동 수학과 건물 주변이었습니다. 기억 속에서는 서울대의 그 조용한 리듬이 여전히 선명합니다.”

-후배인 허준이 교수와 교류하나요?

“직접 연구 분야가 겹치진 않지만, 고등과학원을 방문하는 시기가 겹쳐 가끔 식사하거나 이야기를 나눕니다. 그가 어려운 문제를 해결하고 수학계를 이끄는 모습을 보며 저도 긍정적인 자극을 받습니다.”

-AI에 대한 생각이 궁금합니다. 수학자에게 위협이 되지는 않나요?

“아주 길게 보면 위협이 될지도 모르겠지만, 기본적으로 AI는 유용한 도구이자 동반자라고 생각합니다. 이미 AI가 성공적인 연구의 보조 역할을 하고 있는데요, 이를테면 AI의 도움을 받아 새로운 수학적인 발견을 한 사례들이 있습니다. AI가 이미 고등학교 수준 수학 올림피아드 수준의 문제는 거의 해결할 수 있는 단계에 왔다고 하지만, 아무래도 연구와 같이 창의적이고 무한한 가능성이 있는 경우에는 AI가 스스로 처음부터 끝까지 연구를 수행하는 것보다는 사람과 AI가 협업하는 것이 현실적이며 바람직한 방향이 아닐까 합니다.

연구 외에도 AI가 수학자에게 이런저런 도움을 줄 수 있습니다. 숙제나 시험을 빠르게 채점하거나 이메일이나 문서 작업을 더 효율적으로 할 수 있고요, 한편 최근에 제 지인 수학자가 유명한 독일어 수학 논문 한 편을 영어로 번역하는 데 ChatGPT를 활용하기도 했습니다. 초벌 번역이 상당히 정확하긴 하지만 여러 가지 자잘하고 미묘한 오류가 있어서 아직은 내용을 이해하는 수학자가 검수해야 하는 수준입니다.”

-삶에서 중요하게 여기는 가치나 철학이 있으시다면?

“나 중심의 삶, 특히 교만을 경계하는 것입니다. 종교적으로는 기독교적 가치이지만, 학문적으로도 교만은 배움의 가장 큰 적입니다. 친절조차 자기만족이 되어버릴 수 있으니까요. 그래서 저는 항상 겸손하고자 노력합니다.”

-여가 시간은 어떻게 보내세요?

“여행을 많이 다니며 외국어에 자연스럽게 관심이 생겼습니다. 최근에는 일본어에 관심이 많고, 대학원 때 배웠던 프랑스어도 다시 살리고 싶습니다. 중국어는 여행할 때 편할 정도로 익히고 싶고요. 또한 가족과 함께 K-드라마를 보며 시간을 보내고, 탁구를 가족 운동으로 만들려 노력 중입니다.”

-가족과의 관계에서 문제나 고민은 어떻게 해결하시나요?

“자녀는 초등학교 6학년 아들과 4학년 딸이 있습니다. 제가 감정에 둔감하고 눈치가 없는 편인데, 그래서 오히려 의식적으로 아이들과 아내의 입장을 이해하려 노력합니다. 지금은 별다른 문제는 없지만, 아이들이 사춘기에 접어들면 새로운 갈등이 시작될지도 모르겠네요.”(하단 가족 사진)

-미국에서의 삶은 어떤가요? 

“전반적으로는 만족스럽습니다. 베이 지역은 미국에서도 물가가 비싼 편이지만, 한국 대도시에 비해 덜 복잡하고 타인에 대한 지나친 관심이 적어서 편합니다. 트럼프 대통령 집권 이후에는 학교 분위기가 약간 위축됐습니다. 연구비가 줄고 표현의 자유가 제한된다는 인상이 있었죠.”

-앞으로 이루고 싶은 학문적 목표가 있다면요?

“랭글랜즈 프로그램에서 새로운 길을 여는 것이 개인적인 목표입니다. 하지만 수학은 방대하고 인생은 짧죠. 그래서 공동연구와 학자 간 교류를 통해 함께 발전하려고 합니다. 무엇보다 제자 양성을 매우 중요하게 생각합니다. 직접 한국에서 후학을 지도할 계획은 없지만, 현재 버클리에서 한국 출신 박사과정 학생들을 지도하고 있고, 매년 고등과학원을 방문해 학자들과 교류하고 있습니다.”

-서울대 졸업식 축사자로 초청된다면 어떤 메시지를 전하고 싶으신가요?

“말주변이 부족해 축사자로 초대받을 일은 없길 바라지만(웃음), 그래도 말씀드린다면 겸허하게 배우는 자세와 경쟁보다 협력, 공생을 강조하고 싶습니다. 저 역시 유학 초기에는 경쟁심에 스스로를 고립시켰던 적이 있습니다. 그러나 점차 그들로부터 배우고 함께 공부하며 성장할 수 있었습니다. 그 경험이 지금의 저를 만들었습니다.” 김남주 기자 

 

신 동문은

모교 졸업 후 2007년 하버드 대학 수학과에서 박사 과정을 마쳤다. 미국 고등연구소(Institute for Advanced Study)의 연구원을 거쳐, 2011~2014년 MIT 수학과 조교수를 역임했다. 현재 UC버클리 대학 수학과 교수로 있다.