NC

대수기하학을 한마디로 정의하면 다항식의 근으로 나타나는 기하학에 대하여 연구하는 학문이다. 쉬운 예로 'x² + y² + z²=1'은 3차원 공간상의 2차원 구면이라 하는 기하학적인 물체를 정의한다. 여기에 변수가 늘어나면 차원이 늘어난다. 그다음, 하나의 다항식이 아닌 여러 개의 다항식을 모두 만족하는 공통근을 대수공간이라고 부른다. 이런 다변수 다항식에서 공통근의 기하를 연구하는 것이 대수기하학이다.

이 방정식의 시스템들이 어디서 왔느냐에 따라 응용 분야가 달라지고, 분야의 경계가 모호해진다. 예를 들면 대수기하학처럼 다변수 방식을 연구하지만 정수론에서 굉장히 중요한 위치를 차지하는 방정식의 경우 정수론의 영역으로 분류되기도 한다. 하나의 물체를 다른 관점에서 보면 모양이 다르게 보일 것이다. 그 모양이 어떻게 변하는지를 대수기하학을 통해 잘 기술할 수가 있는데 이를 다중 관점 기하학이라 한다. 이것이 컴퓨터 비전 즉 컴퓨터에게 보는 법을 가르치는 분야에 많이 쓰이고 있다.

개인적으로 컴퓨터에 관심이 많았다. 컴퓨터가 수학자들에 의해 개발된 만큼 당연히 기초부터 컴퓨터와 밀접하게 관련되어 있다. 그래서 대수기하 연구와 더불어 컴퓨터 분야도 열심히 공부했다. 가장 중요한 현대 수학의 난제 중 하나로 꼽히는 P vs NP 문제의 수학적 접근법을 개발하게 되었고, 이와 더불어 새로운 컴퓨터 모델 이론과 계산 복잡도 이론을 만들어 딥러닝 분석 등에 응용하는 연구를 진행하고 있다.

그 외에도 대수기하학은 앞서 말했듯이 컴퓨터 비전과 관련이 깊다. 특히 대수기하학의 중요한 근원으로 꼽을 수 있는 사영기하학에서는 무한대가 실제로 좌표값으로 정의되기 때문에 컴퓨터 비전의 계산에 사영기하학의 테크닉을 많이 쓰기도 한다.

순수 수학자로서의 로망을 그대로 간직하면서 동시에 세상에 도움이 되는 연구를 즐겁게 할 수 있는 환경 아닐까. 이론이나 개념 같은 학문적인 측면도 중요하지만, 실제 사회에 적용할 수 있는 가시적인 결과물을 내놓을 수 있다는 점에서 특히 보람을 느낄 수 있다. 순수 수학 연구에서 약간만 고개를 돌려 시야를 넓히면 여러 가지로 응용할 수 있는 굉장히 재미있는 가능성들이 존재한다는 사실을 깨달았다. 컴퓨터 비전이 응용될 수 있는 수많은 가능성, 즉 좋은 알고리즘을 찾아 실제로 사업화할 수 있는 가능성도 확인하여 작년에는 에이치머신즈라는 회사를 창업하기도 했다.

건강 검진을 할 때 허리둘레를 재지 않는가. 이 길이는 누가 어떻게 재는지에 따라서 편차가 심하게 발생할 수 있다. 하지만 신체를 스캔해 3D모델로 만들면 어떨까. 아마 이런 오차들을 최소화할 수 있을 것이다. 10년 후에는 지금과 같이 줄자로 허리둘레를 잴 일은 거의 없을 것이다. 에이치머신즈(주)에서는 3D 스캐너 하드웨어/소프트웨어를 개발하는 한편, 버추얼 피팅 (virtual fitting)이나 AI 트레이너와 같이 3D 데이터를 이용하는 다양한 콘텐츠를 개발하고 있다. 또한 효율적인 3D 디스플레이를 구현하는데 필요한 알고리즘도 개발하고 있다.

또한 사고가 난 차량의 블랙박스 영상으로부터 영상에 담긴 모든 사물의 속도와 장착 차량의 속도를 계산해 사고 정황을 분석하는 시스템을 개발 중이다. 현재는 사고 기록이나 직접 현장에 나가 찍은 사진으로 재현해 사고 정황을 분석하는 것으로 알고 있다. 1년에 4만 건 이상의 사고가 발생하는데 이것을 전부 이와 같이 처리하는 것은 불가능하다. 이에 이것을 자동화할 수 있는 기술을 개발 중이다.

엔지니어링 차원에서는 문제를 해결할 때 최적화를 적용하는 경우가 많은데, 최적화에서는 트라이얼 앤 에러(trial and error)로 접근하는 수가 많다. 어떻게 문제가 해결되는지 미리 예측해 아키텍처를 구축하는 것보다 이것저것 시도해 보고 테스트 데이터에 적용해 보는 것이 간편하기 때문이다.

인공 지능 분야에서 빼놓을 수 없는 딥러닝에서도 연구가 많이 진행되지만 아직까지도 딥러닝을 더 효과적으로 할 수 있는 방법이 무엇인지, 또 딥러닝이 왜 되는지에 대한 질문들이 남아 있다. 알고리즘의 효율성을 분석할 수 있는 도구가 없기 때문에 상당 부분을 트라이얼 앤 에러에 기댈 수밖에 없다. 이렇게 인공 지능의 이론적 배경을 탐구하여 근본적인 질문에 답하고, 적절한 분석 도구를 개발하는 것이 수학자들의 과제라고 생각한다.

처음에 떠오른 말은 ‘수학자들은 부지런한 게으름뱅이’이었다. 단순 반복하는 작업을 하는 것은 게을러서 하기 싫어 빠르고 효율적인 방법을 연구하는 사람들이기 때문이다. 좀 더 철학적인 표현을 찾자면, 수학자는 세상의 아름다운 구조를 찾는 사람들이라는 것이다. 수학자도 아닌 친구가 해 준 말인데, 수학자의 본질을 정말 잘 담은 표현이라고 생각한다.

학생 시절에는 수학 공부가 너무 재미있었다. 그래서 수학자의 길에 들어서게 되었다. 그런데 연구가 지지부진하게 진행되면 괴로워지기 시작한다. 모든 의미 있는 연구들이 그렇듯 당연히 어려운 순간들이 있다. 이럴 때마다 ‘뭐 그래도 해야지. 어떡하나?’라고 생각하고, 연구원들과 머리를 맞대고 많은 대화를 나누며 문제를 조금씩 해결해 나간다. 하지만 이런 어려운 문제에 당면해도 결국 나에게 가장 재미있고 즐거운 일은 다시 돌아 수학적 문제를 푸는 것이다. (웃음)

불행하게도 어느 날 갑자기 번쩍 새로운 영감이 떠오르는 일은 거의 없다. (웃음) 나에게 수학 연구는 굉장히 체계적으로 접근해야 하는 일이다. 하지만 다른 분야와의 융합이 새로운 영감을 줄 수 있다. 수학자들은 어떤 집합이 있으면 집합의 구조를 나타내는 공간을 만들기를 좋아한다.

최근 한 계산복잡도에 관한 연구에서 ‘문제들의 공간’이라는 것을 만들었다. 컴퓨터 과학자들이 이것을 보고 굉장히 신기해하고 재미있어 하더라. 하지만 이러한 발상은 수학과 컴퓨터 양쪽을 다 다루는 입장에서 보면 굉장히 자연스러운 것이다. 이런 것이 일종의 영감이 아닐까 생각한다. A라는 분야에서 잘 쓰는 것을 B라는 분야로 가져가 적용해 보면 흥미로운 결과가 나타난다. 곧 한 분야만 알았다면 생각할 수 없는 새롭고 신기한 발상으로 이어지는 것이다.

서울대학교 산업수학센터에서는 금융권, 통신 암호화, 데이터 분석 등 다양한 프로젝트를 진행하고 있다. 의료 분야에서는 뇌 인지 과학 관련 연구도 진행 중인데, 나는 특히 의료 영상 분야와 관련된 프로젝트에 주력하고 있다.

기업의 경영에 참여하면서 개인적으로 배우는 것이 참 많다. 성공한 한 회사의 경영 체계와 문화를 직접 경험해 볼 수 있기 때문이다. 또한 재미있고 좋은 사람들을 많이 만났다는 점에서도 의미가 깊다.

흥미로운 분야는 굉장히 많지만 최근 가장 관심 있는 분야는 수학과 음악의 융합이다. 많은 사람들이 과학은 실용 학문 분야, 음악은 예술 분야로, 전혀 다른 분야라고 여기는 것 같다. 하지만 깊이 들여다보면 수학과 음악은 매우 밀접한 관계라는 것을 알 수 있다. 예를 들면 프랙털 알고리즘을 활용한 작곡 같은 것이다. 프랙털은 자연 속에서 쉽게 찾아볼 수 있는데, 일반인들도 누구나 한 번은 봤을 법한 눈송이가 대표적인 프랙털 지오메트리 중 하나이다. 여기서 산출된 숫자의 시퀀스로 음악을 만들어 보는 것이다. 이렇게 자연에서 나타나는 수의 배열을 통해 음악을 만드는 연구에 큰 관심을 가지고 있다.

그렇다. 음악을 굉장히 좋아한다. 방탄소년단 음악부터 영화 음악, 클래식, 재즈에 이르기까지 다양한 음악을 즐긴다. 공부한 기간에 비해 잘 못 치지만 피아노를 오랜 기간 공부했다. 또 다른 취미인 모터사이클을 타는 것도 즐겁다.

게임도 굉장히 좋아한다. 요즘은 이전만큼 게임을 시작하기 쉽지 않기는 하나, 이전에는 밤을 새워가며 했었다. 특히 RPG 게임은 신세계라고 느꼈다. 이렇게 재미있는 새로운 세상이 있다는 점이 흥미로워 즐겨 한 기억이 있다.

개인적인 꿈은 행복한 가정을 꾸리는 것이다. (웃음)

연구나 일에 있어서는 컴퓨터 계산 이론을 중심으로 해 보고 싶은 일이 많다. 컴퓨터 모델 이론과 계산 복잡계 이론을 새로 만들었는데, 이제 이것들을 활용해 딥러닝의 계산 복잡도를 분석하는 새로운 이론도 만들고 싶다. 궁극적으로는 P vs NP 문제도 풀어낼 수 있다면 좋겠지만, 후학들이 내가 만든 이론을 후학들이 열심히 연구해 풀어내는 것이 현실적인 바람이고 그것도 매우 기쁠 것 같다.

그리고 작년에 창업한 에이치머신즈(주)가 현재 직원이 무려 6명인데, 엔씨소프트처럼 크는 것이 꿈이다. (웃음) 대부분의 벤처 기업에서 그렇듯 지금은 대표로서 제품 개발과 경영을 비롯한 여러 가지 일을 맡고 있다. 앞으로 회사가 잘 성장하여 경영보다는 제품 개발을 위한 연구도 하며 결국 수학자가 하는 일을 하게 되는 것이 또 하나의 목표다.