철학과 교수 엘렌 피터스는 ‘수는 일상생활에서 유익하다’고 말했다. 수학적 사고력이 일상생활 속 문제 해결력을 높이는데 도움을 주는 것은 물론 4차 산업혁명과 함께 등장한 새로운 기술의 기저에도 다양한 수학적 이론들이 숨어 있다. 서울여자대학교 이동일 교수는 ‘그뢰브너-쉬르쇼프 기저 이론’에 기반한 여러 연구들로 수학 활용의 이론적 토대를 마련하고 있다.

 

 

‘그뢰브너-쉬르쇼프 기저 이론’에 바탕 둔 연구 수행

1960년대 러시아의 수학자인 쉬르쇼프(Shirshov)와 오스트리아의 수학자 부흐버거(Buchberger)는 각각 독립적으로 계산이론의 혁신적인 알고리듬을 개발했다. ‘그뢰브너(Gröbner)-쉬르쇼프 기저 이론’을(그뢰브너는 부흐버거의 지도교수이다) 연구하고 있는 이동일 교수는 자신이 2000년대에 순수대수학 이론인 표현론(representation theory)과 접목하여 공부하던 당시보다 관련 이론이 성숙해졌다며, 여전히 해당 분야에 매료되어 관련 연구를 지속하고 있다고 밝혔다. 이밖에도 그는 표현론과 더불어 복잡도(complexity) 이론 및 준결정(quasicrystal)과 관련된 계산 이론에의 연구를 이어가고 있다. 그가 이러한 연구 주제를 파고드는 데에는 시류 및 현실적인 제약에 타협하기보다 자신이 흥미를 갖는 주제를 연구하는 것이야말로 연구자의 가장 이상적인 태도라는 확신이 깔려있다.

“최근 계산대수 이론과 실제가 많은 수학 분야 및 전산학, 공학 등과 연관되어 급속한 발전을 이루고 있습니다. 제가 기본적으로 다루고 있는 ‘다변수 다항식(multivariate polynomial)’은 거의 모든 곳에서 등장하는 주인공이죠.”

계산대수학(Computational Algebra) 혹은 전산대수학(Computer Algebra)이라 불리는 계산 이론은 복잡한 대수적 대상을 단순한 대상으로 변형한 후 대수학적·기하학적 성질을 연구하는 방식으로 이루어진다. 이 교수와 해당 분야와의 만남은 이규환 교수(University of Connecticut, USA)를 만나면서부터였다. 가환대수의 알고리듬의 아이디어를 비가환대수와 표현의 경우로 확장하여 그 기저를 빠르게 계산하는 혁신적인 알고리듬을 단기간에 만들어내는 과정에서 큰 감격을 얻은 것이다. 이후 그는 관련 내용으로 박사 학위를 받기 전 저명한 학술지에 논문을 게재하였고 우수논문상을 수상하였다.

 

이 교수의 또 다른 연구 주제인 복잡도의 대수적 개념과 계산이론은 그가 고등과학원 연구원으로 재직하며 본격적으로 시작한 주제다. 당시 그는 비가환대수와 그 표현에 대해 새로운 측도와 몇 가지 유의미한 결과를 도출해냈다. 이 교수는 어떤 대상의 구조가 얼마나 복잡한지의 정도를 나타내는 측도로 대수적 접근을 활용했다고 설명했다.

“만들기는 간단하지만 분해하기는 대단히 복잡한 수학적 구조는 정보통신이론에 접목될 수 있습니다. 이러한 구조가 가능한 이유는 그뢰브너-쉬르쇼프 계산의 복잡도가 실제로 대단히 크기 때문이죠.”

최근 이 교수는 김성순 교수(Universite de Picardie Jules-Verne, France)와의 공동연구를 통해 ‘고전적인 콕서터(Coxeter)군의 변형 대수의 이해와 복소반사군(complex reflection group)의 이해’에 관한 연구를 진행하고 있다. 대조적 구조인 군과 대수의 생성원 T가 관계식 Td=1일때 d가 2이면 일반적인 반사변환이지만 d가 2보다 큰 정수일 때는 T를 수로 봤을 때 실수가 아닌 복소수가 된다. 복소반사군은 수학의 오랜 이론인 불변론(invariant theory)에서 등장하는 주인공이며, 그가 진행 중인 템퍼리-립(Temperley-Lieb) 대수 연구에서도 주연으로 나온다. 그는 그뢰브너-쉬르쇼프 구조와 더불어 표현론에 나오는 완전가환 원소와의 연관성에 흥미를 갖고 있다며, 카탈랑 삼각수(Catalan triangle number)를 일반화한 카탈랑 삼각다항식을 이해하는 것을 단기적인 목표로 설정하고 있다고 전했다.

 

 

4차 산업혁명 속 더욱 커지는 수학의 역할

이동일 교수는 최근 이정엽 교수(가톨릭관동대)와의 공동연구를 통해 준결정 이론과 연관한 대수적 구조를 계산한 결과를 발표했다. 20세기 후반 사람들이 콕서터 군에서 리대수에 대응되는 결정 유형, 즉 봐일 군에 초점을 둔 것과 달리 비결정 유형에 초점을 맞춘 연구였다. 이 교수는 유클리드 공간에 일반적인 근(root)들이 단순근(simple root)들의 일차결합으로 표시될 때 그 계수가 유리수가 아닌 무리수 형태로 나온다고 설명했다. 자연계에 실제로 5겹 대칭과 같은 준결정 구조가 존재함이 1980년대에 밝혀지면서 모두에게 충격을 주었으며, 자신 역시 비주기적(aperiodic)이지만 아주 특별한 구조에 대해 관심을 갖게 되었다는 것이다.

“복잡한 구조라 처음엔 엄두가 나지 않았지만 지난 겨울부터는 차츰 결과가 완성되었습니다. 만 개 이상의 단항식 구조를 이론적으로 밝혀낸 거죠. 복잡도의 개념은 준결정의 비주기성과도 밀접한 관련을 갖습니다. 앞으로 이 둘 사이의 상호 유의미한 대응을 찾고자 합니다.”

이 교수는 향후 계산 이론 혹은 기존 수학 이론들에 대한 계산적 접근은 더욱 중요한 작업으로 자리 잡을 것이라 내다봤다. 그 중에서도 비가환대수와 표현의 계산 이론이 중추적 역할을 수행할 것이라 전망하는 그다. 이러한 과정에서 그뢰브너-쉬르쇼프 기저 이론을 중심으로 한 계산대수적 접근은 비가환대수와 그 표현의 구조를 이해함에 있어 매우 효과적인 도구로 활용될 수 있다.

동력학계(dynamical system)는 준결정의 문제들을 해결함에 있어 빼놓을 수 없는 요소다. 물리적인 현상을 모델화하고자 미분방정식 체계를 연구하는데서 출발한 동력학계는 그 주요 방법들을 토대로 비주기적인 질서들을 이해하는데 활용될 수 있다.

“계산 이론의 중요성은 현대 사회에서 컴퓨터의 발전과 더불어 자연스럽게 부각되고 있습니다. 순수 학문으로서의 수학뿐 아니라 산업과 연계한 수학 이론은 세상의 변화와 발맞추어 이를 선도하고 발전시키는 역할을 수행하고 있죠.”

인공지능과 사물인터넷으로 대표되는 새로운 시대에서도 수학의 역할은 점차 커지고 있다. 여러 수학 이론들의 알고리듬적 측면이 강조되고 있는 것은 물론 계산 이론의 수학적 기반 자체가 중요하게 인식되는 추세다. 계산 수학의 핵심적 바탕을 이루는 다항식 계산은 소프트웨어에 기본적으로 내장되어 손쉽고 빠른 계산을 돕고 있다. 이 교수는 다항식대수의 이데알 구조가 가환인 경우 많이 이해되고 있지만, 비가환인 경우에는 복잡한 구조를 이해하기 위한 더 많은 연구가 필요하다고 말했다. 이를 위해 다변수 다항식대수의 이데알을 생성하는 여러 개의 다항식 생성원과 그 관계식들을 연구하고 있는 그다. 이 교수는 대수적 구조를 이해하는 것은 대칭성에 기반한 자연계의 기본원리를 통찰함으로써 세상을 보다 본질적으로 이해하기 위한 핵심과제라며, 비가환대수 계산의 효율적인 알고리듬 연구는 일상의 변화를 가져올 수 있는 중요한 과제라 강조했다.

“4차 산업혁명 시대의 계산 이론은 끊임없는 발전을 거듭하고 있습니다. 신호처리를 중심으로 하는 통신이론과 정보보호를 위한 암호이론에 비가환대수와 표현의 복잡도를 응용해보고자 합니다. 복잡도가 매우 큰 대수적 구조를 산업적으로 활용함에 있어 그뢰브너-쉬르쇼프 기저의 계산 알고리듬은 핵심적 역할을 수행할 것입니다.”

 

본질 파헤치는 수학의 힘, 새 시대 여는 열쇠 될 것

“수학(數學, mathematics)의 수(數)는 첫째로 명사로서 하나, 둘, 셋이라는 수 자체를 의미하는 동시에 동사로는 ‘세다’, ‘헤아리다’라는 뜻을 갖습니다. 사물의 본질을 이해하고 깨우치는 것이라 할 수 있죠. 이는 철학과도 맞닿아 있습니다. 수학의 어원인 라틴어 mathematica에는 ‘정신을 수양하다’, ‘배우고 익히다’는 의미가 담겨있죠.”

현대해석학의 기초를 세운 바이어슈트라스(Weierstrass)는 '시인의 마음을 갖지 않은 수학자는 진정한 수학자가 될 수 없다'는 말을 남겼다. 이동일 교수는 순수한 호기심과 본질을 향한 탐구와 집념은 인문학의 전통과도 맞닿아있다고 말한다. 하나하나 배우고 이해하면서 느끼는 즐거움과 지혜가 인류의 삶을 풍요롭게 하는 까닭이다. 또한 사람의 마음을 닮은 기계를 만들고자 했던 튜링(Turing)이 연구를 통해 중요한 수학적 난제인 결정가능성 문제를 푸는 과정에서 현대컴퓨터의 근본 이론을 만들어냈듯 수학적 지식은 실생활에 상당한 파급효과를 미친다.

“뛰어나게 유용한 개념들은 순수한 추상적 사고로부터 태어나는 경우가 많습니다. 물리학자 위그너(Wigner)는 이를 ‘자연과학에서 수학이 지니는 비합리적 효용성’이라 표현했죠. 아날로그-디지털 변환이론을 만든 푸리에(Fourier)와 현대 통신이론을 만든 섀넌(Shannon)의 업적 또한 이러한 맥락에서 이해할 수 있습니다.”

우리가 흔히 접하는 인터넷 검색과 파일 압축, 신호처리 등의 정보기술의 핵심에도 대학 기초과정의 행렬 이론이라는 수학적 이론이 자리 잡고 있다. 이 교수는 오래된 수학 지식과 현재가 예기치 못하게 연관되어 있음을 발견할 때마다 놀라움을 느끼곤 한다고 덧붙였다.

 

대한민국 수학의 위상 높이는 데 힘쓸 것

교육자로서 이동일 교수는 무엇보다 소통에 애쓰고 있었다. 학생 개개인의 개성을 존중하며 경청하는 것이 결코 쉬운 일은 아니지만 학생들에게 다가가고자 노력하고 있는 그다. 이 교수는 매 학기가 시작할 때마다 학생들의 새로운 세계에 설레는 마음으로 입문하곤 한다고 말했다. 그는 아이들이 살아갈 세상에 작은 유산을 남기고 싶다며, 보다 깊이 있고 다양한 수학연구와 올바른 수학교육, 수학문화의 확산으로 아이들의 행복을 만드는데 힘을 보태겠다고 전했다.

“작은 움직임이 큰 기적을 만들 수 있습니다. 매일의 작은 실천이 쌓일 때 큰 꿈을 이룰 수 있죠. ‘Resist the fashion as strong as possible’. 수학자 Zelmanov의 말입니다. 세상의 흐름을 무작정 따라가기보다 나와 세계에 대한 성찰과 도전이 있을 때 보다 아름다운 인생을 만들 수 있을 것입니다.”

지난달 초 브라질 리우에서는 ICM(국제수학자대회) 2018에서 금종해 교수(고등과학원)와 박병욱 교수(서울대), 허준이 박사(고등과학원·Princeton Univ.)가 초청연사로 발표했다. 우리나라는 서울 ICM 2014 이전인 2007년 이미 Group4에 진입한 바 있다. 이 교수는 수학계에서 우리나라가 차지하는 위상이 상당히 높은 편이라며, 앞으로도 이러한 학문적인 품격을 드높이기 위해 연구에 매진하는 한편 학생들이 수학의 진정한 모습을 경험하고 매력을 느낄 수 있도록 하는데 힘을 쏟을 것을 다짐했다. 또한 남북공동학술대회를 통해 한반도 평화에 기여하고 싶다는 바람을 덧붙이는 그다.

경험적 지식이 아닌 이성에 의한 연역적 추론을 연습하는 수학은 점차 그 중요성이 커지고 있다. 세계 각국이 수학을 교과과정의 핵심으로 설정, 수학교육을 강화하고 있는 이유다. 자신의 연구주제에 대한 확신을 토대로 깊이 있는 연구를 이어가고 있는 이 교수와 함께 우리나라 수학이 더욱 탄탄한 기반을 다지길 기대한다.