컴퓨터 연상능력 나노를 넘어 퀀텀점프

20세기에 시작된 정보기술 혁명은 여전히 현재진행형일 뿐만 아니라 나노기술의 발달과 치열한 경쟁으로 점점 가속되고 있다. 반도체 집적도의 2배 증가에 1년 반이 걸린다는 인텔 공동창업자 무어(Moore)의 법칙을 넘어 황창규 KT 회장은 삼성전자 시절에 집적도가 매년 2배로 증가한다는 ‘황의 법칙’으로 가속화된 발전 상황을 주장했다. 하지만 이런 현상이 언제까지나 지속될 수는 없다. 반도체의 나노기술은 양자물리학의 불확정성 원리에 가로막힐 수밖에 없기 때문이다.
디지털 정보의 단위는 0과 1이라는 비트(bit)로 표현되며, 비트 정보를 처리하는 트랜지스터가 1947년 벨연구소에서 발명되었을 때는 센티미터 정도의 크기였다. 이제 반도체회로의 트랜지스터 크기는 나노미터 수준으로 작아졌다. 나노미터는 10억분의 1m다. 여기까지는 0과 1이 분명히 구분되는 디지털이 가능한 영역이다.
이를 넘어서면 0과 1이 불분명해지는 양자물리학의 불확정성 원리가 지배하는 영역이 시작된다. 0과 1이 불분명해지면 디지털 정보 처리에는 치명으로 작용한다. 그럼 양자물리학은 정보 기술을 가로막는 악마인가? 사실 양자물리학은 정보기술 혁명을 가능하게 한 주인공이다.

정보기술의 파괴자? 창조자?
산업혁명, 전기, 유·무선 통신기술 등의 발전에 도취된 1899년 당시 미국 특허청장 찰스 듀엘이 “이제 발명될 수 있는 것은 모두 발명되었다”는 발언을 했다고 한다. 잘못 인용된 것이라는 설이 있긴 하지만 기술의 경이로운 발달에 흥분한 당시 사람들의 심정을 잘 대변하고 있다. 그러나 바로 그 이듬해인 1900년 막스 플랑크(Max Planck)에 의해 시작된 양자물리학은 새로운 과학기술혁명의 씨앗이 되었다.
뜨거운 물체에서 나오는 빛의 색 분포는 온도에 따라 달라진다. 쇠를 달구면 붉은 빛이 나기 시작하다가 뜨거워짐에 따라 주황, 노랑, 녹색, 파랑으로 옮겨간다. 이 현상은 오래 동안 뉴턴의 고전물리학으로는 설명되지 않다가 빛 에너지가 에너지 양자(量子; 퀀텀 quantum)라는 최소 단위의 정수배로만 존재한다는 양자가설을 도입함으로써 설명되었다.
양성자, 중성자, 전자는 입자의 이름이지만 ‘양자’라는 표현은 특정 입자의 이름이 아니라 에너지 등 어떤 물리량(量)이 연속되지 않고 불연속으로 덩어리져 있는 것을 말한다. 알베르트 아인슈타인은 빛에너지 덩어리인 광자 하나가 전자 하나에게 에너지를 전달한다는 광양자(光量子) 이론으로 광전효과를 설명하였다.
수소원자의 핵은 양성자인데 그 주변의 전자 에너지 상태는 경사로를 올라가는 것처럼 연속되지 않고, 1층, 2층, 3층처럼 불연속이다. 그래서 전자의 에너지가 높은 층에서 아래층으로 내려올 때 내놓는 빛 에너지도 연속되지 않고 특정한 주파수만 띠게 된다. 이렇게 에너지가 연속으로 변하지 않고 불연속으로 변하는 것을 퀀텀 점프(quantum jump)나 퀀텀 리프(quantum leap) 또는 양자도약이라고 한다. 요즘은 물리학에서 거의 쓰이지 않고 경제학이나 경영학에서 점진이 아니라 괄목할 만한 발전을 가리키는 용어로 많이 쓰이고 있다. 조지 소로스의 헤지펀드 회사 이름도 ‘퀀텀 펀드’다.
양자물리학은 미시 세계의 역학 현상을 이론으로 설명함으로써 물질의 최소 단위인 원자의 구성 원리를 이해할 수 있게 되었고, 경험으로 작성돼 온 원소 주기율표를 원리 성격으로 이해하게 됐다. 양자물리학은 원자, 분자 등 모든 물질의 구성 원리를 설명할 뿐만 아니라 물질을 조작하거나 새로운 물질을 만드는 기술까지 제공하게 되어 화학과 재료과학이 전격 발전하게 되었다.
원자와 빛의 상호작용을 설명하는 양자물리학은 반도체와 레이저 발명으로 20세기 후반에 디지털정보기술 혁명을 일으켰다. 찰스 배비지, 존 폰노이만, 앨런 튜링 등의 컴퓨터 이론과 클로드 섀넌의 통신 이론은 정보기술(IT)의 운영체계(OS)와 소프트웨어의 바탕이 되었고, 양자물리학은 반도체와 레이저 등 IT 하드웨어의 바탕이 되었다. 이것이 ‘1차 양자혁명’이다.
20세기 말에 시작된 양자정보과학 기술은 양자물리학이 하드웨어뿐만 아니라 OS와 소프트웨어까지 담당하도록 한다. 디지털 원리에 기초한 OS와 소프트웨어 이론은 0과 1인, 불분명하게 되는 양자물리학의 불확정성 원리 앞에 허무하게 무너지지만 양자정보과학은 오히려 0과 1의 중첩을 적극 이용함으로써 양자정보기술이라는 새로운 영역을 연 것이다. 이것이 ‘2차 양자혁명’이다.
디지털 정보는 0 아니면 1이라는 비트를 정보의 단위로 한다. 비트가 8개 있으면 00000000부터 11111111까지 2의 8승인 256가지를 나타낼 수 있지만 한 번에 하나만 나타낼 수 있어서 이 모두를 처리하려면 256번 되풀이해야 한다.


컴퓨터 연산능력 '퀀텀 점프'
양자정보는 0과 1뿐만 아니라 0과 1이 다양하게 중첩되는 것을 허용하는 양자비트(quantum bit) 또는 큐비트(qubit)를 사용한다. 이것은 0과 1 사이 모든 값을 정보 단위로 사용하는 퍼지로직의 어중간함과는 완전히 다르다. 큐비트의 0을 지구의 북극점, 1을 남극점이라고 한다면 큐비트는 지구 표면의 모든 지점을 0과 1이 중첩된 양자 정보로 활용함으로써 0과 1을 동시에 나타낼 수 있다.
큐비트 8개가 모두 0과 1이 중첩된 상태에 있으면 00000000부터 11111111까지 256개의 상태가 모두 한꺼번에 중첩된 상태에 있게 된다. 디지털컴퓨터가 256번 시행해야 할 연산을 양자컴퓨터는 단 한 번에 해치울 수 있게 되는 것이다. 이를 양자병렬성이라고 한다.


요즘 디지털 슈퍼컴퓨터는 계산 용량과 속도를 올리기 위해 여러 대를 묶어서 사용한다. 예를 들어 100대를 병렬 연결하여 계산하면 계산 용량이 최대 100배까지 커진다. 하지만 이는 이론상의 최대치로, 컴퓨터들 사이에 정보를 주고받는 등의 문제 때문에 실제로는 이보다 현저히 낮은 용량과 속도로 운용되는 것이 보통이다. 즉 디지털 병렬컴퓨터의 계산 능력은 기껏해야 선형 상의 증가를 보일 뿐이다.
이에 비해 양자컴퓨터의 계산 능력은 큐비트 수가 늘어남에 따라 지수함수성의 증가를 보인다. 큐비트 수가 하나 늘어나면 2배, 10개 늘어나면 1000배, 20개 늘어나면 100만 배로 각각 증가한다. 이를 이용하여 디지털컴퓨터로는 도저히 해결할 수 없는 문제들에 양자컴퓨터가 동원될 것으로 기대된다.
피터 쇼어 미국 매사추세츠공대(MIT) 교수가 벨연구소 연구원 시절에 발명한 소인수분해 양자알고리듬은 디지털컴퓨터보다 자릿수 크기에 따라 거의 지수함수로 계산 시간을 줄일 수 있다. 현재 디지털 통신 보안에 사용되는 공개키 암호는 소인수분해가 어렵다는 것을 이용하고 있지만 양자컴퓨터가 본격 사용되면 공개키 암호는 무너진다.
그 대신 양자물리학은 절대로 깨지지 않을 새로운 방식의 양자암호통신 방식을 내놓았다. 유전자정보, 상업정보 등 빅데이터 활용에 중요한 검색 알고리듬은 양자컴퓨터가 디지털컴퓨터보다 데이터 크기의 제곱에 비례하는 정도로 빠르다. 전자처럼 양자 원리를 따르는 입자들의 개수가 50개 이상으로 늘어나면 현재의 디지털 슈퍼컴퓨터로는 정확한 계산을 할 수 없다. 이런 양자 다체 문제는 나노기술에 필수로, 이는 양자컴퓨터가 쉽게 해결할 수 있을 것이다.
양자알고리듬의 발명에는 환호와 함께 냉소가 따라왔다. 1960~1970년대 한때 디지털컴퓨터 방식과 경쟁하던 아날로그 컴퓨터는 연속 실수 체계를 기반으로 하면서 아주 작은 오류가 순식간에 감당할 수 없을 만큼 커지는 문제 때문에 퇴출됐다. 양자컴퓨터도 비슷한 문제를 안고 있을 것으로 여겨졌으나 1996년 양자오류수정 방식이 발명됨으로써 근본 장애물이 제거되었다.
2012년 노벨물리학상은 양자컴퓨터 하드웨어의 초석을 다진 두 실험 물리학자가 수상했다. 데이비드 와인랜드가 원자(이온)를 빛(레이저)으로 조작한 공로, 세르주 아로슈가 빛을 원자로 측정한 공로를 각각 인정받긴 했지만 양자 소프트웨어인 양자 알고리듬이 상당히 고무되는 발전을 이룬 데 비해 하드웨어는 아직 걸음마 수준이다.
디지털컴퓨터는 반도체 방식으로 통일됐지만 양자컴퓨터가 어떤 방식의 하드웨어로 구현될지는 아직 가늠할 수 없다.
이온덫, 공동(空洞)양자전기역학, 초전도체, 양자점, 핵자기공명 등 수십 종류의 제안이 있으나 현재 구현된 큐비트의 개수는 10여 개에 불과하다. 이나마도 만족할 만한 작동 상태를 보이는 것은 아니다.
게다가 양자 오류 수정을 위해서는 부가되는 계산 자원이 막대하게 소요, 양자컴퓨터를 구현하기 위해 해결해야 할 과제는 엄청나다. 이 때문에 ‘양자컴퓨터를 만드는 것은 아예 불가능하다’는 회의 서린 시각부터 ‘원리로 가능하고 얻을 수 있는 효과가 크기 때문에 언젠가, 심지어는 조만간 만들어질 것’이라는 희망 어린 시각까지 다양한 의견이 있다.
양자물리학은 자연의 궁극 원리이고, 이에 기초한 양자컴퓨터는 궁극의 컴퓨터다. 양자 기술은 컴퓨터뿐만 아니라 극도로 예민한 간섭 효과와 양자 얽힘 등을 이용한 센서, 측정기술, 양자암호통신 등 다양한 미래기술 산업의 원천이다.
우리나라가 아직 나노기술에 머물고 있는 동안 미국, 중국, 일본 등은 양자컴퓨터에 엄청난 인력·물력·시간 자원을 투입해 높은 성과를 거두고 있다. 휴대전화와 반도체 등 현재 디지털정보 기술에서 올린 성과를 미래에도 이어가기 위해서는 나노기술을 넘어 양자컴퓨터를 비롯한 양자 기술에 관심을 기울여야 한다.
글= 김재완 고등과학원 교수

김재완 교수 (고등과학원 계산과학부)

고등과학원(KIAS) 계산과학부 교수, 현 오픈키아스센터장
전 KAIST 물리학과 연구부 교수
전 삼성종합기술원(SAIT) 팀장
미국 휴스턴대 물리학과 박사
서울대 물리학과 졸업