수학 난제 '리만가설' 증명은 아직? 아티야 교수 둘러싼 회의적 시선

마이클 아티야 박사. /사진=독일 하이델 베르크 수상자 포럼 트위터 캡처

수학 최대 난제인 '리만 가설'이 증명되기까지는 시간이 더 걸릴 것으로 보인다. 수학자들은 영국의 수학자 마이클 아티야 박사(89)의 리만 가설 증명을 두고 "추상적이고 불분명하다"며 지적을 쏟아냈다.

26일(현지시간) CNBC 등 외신에 따르면 지난 24일 아티야 박사는 독일 하이델베르크 수상자 포럼(HLF 2018)에서 45분짜리 강연을 통해 리만 가설 증명에 나섰다.


5장짜리 페이퍼에 7줄 공식이 담긴 아티야 교수의 증명은 자신이 이전에 논문으로 발간했던 미세 구조 상수와 토드함수를 이용해 증명했다.

하지만 수학 및 물리학계에서는 그의 증명이 너무 "추상적이고 불분명하다"며 회의적인 시선을 보내고 있다. 게다가 고령의 아티야 박사가 최근에도 증명 과정에서 오류를 범했던 점도 이를 뒷받침하고 있다.

노르웨이대학의 요르겐 바이스달 교수는 "리만 가설을 증명했다기엔 너무 자세한 내용이 없다"면서 "정식 논문이 나올 때까진 판단이 어렵다"고 말했다.


캘리포니아공과대학(칼텍)의 물리학자 션 캐롤 박사는 "아티야 교수가 증명에서 사용한 미세구조상수 '알파'는 물리학자들에겐 함수로 이해되는데, 그는 이를 숫자로만 여기고 계산했다"고 했다. 수학적으로 증명에 오류가 없을지라도 물리학자들이 필요로 하는 리만가설 해법과는 거리가 있다는 뜻으로 풀이된다.

아티야 박사는 수학계의 노벨상으로 불리는 '필즈 메달'과 '아벨상' 등을 수상한 세계적인 수학자이다. 특히 리만 가설은 증명이 될 경우 소수를 바탕으로 만들어진 컴퓨터와 특히 비트코인 등 가상통화 암호키가 무용지물이 될 수도 있어 큰 관심을 모으고 있다.

리만가설은 독일 수학자 베른하르트 리만(1826~1866)이 1859년에 내놓은 가설로 숫자 가운데 1과 자신으로만 나누어지는 '소수'의 규칙성에 관한 것이다. 소수는 2와 3처럼 1의 차이가 나기도 하고, 5와 7처럼 2의 차이가 나기도 하는데 이러한 소수들 사이의 간격에는 규칙성이 존재한다는 가정에서 시작한다.

리만은 소수를 활용해 제타함수라는 식을 만들었다. 이를 그래프로 정리하면 그래프의 높이가 0인 제로점이 생겨나는데 소수가 불규칙하다면 제로점도 무작위로 나타나게 된다. 하지만 리만은 자신이 찾은 4개의 제로점이 동일 직선 위에 존재하는 걸 발견했다. 여기서 생겨난 게 다른 제로점들도 한 직선 위에 존재한다는 가설이고, 이를 증명하면 소수의 규칙을 풀게 되는 수학계의 대업적을 이루게 되는 것이다.

미국 클레이수학연구소(CMI)가 상금 100만달러를 내건 7대 난제 중 하나이기도 하다. 아티야 교수의 증명은 우선 정식 논문으로 출간돼야 하며 이후 엄격한 검증 과정을 거쳐 오류가 없는 것으로 인정돼야 상금을 받을 수 있다.