■ 열린연단: 문화의 안과 밖 <문화정전 제 27강>_ 김범준 성균관대학교 교수의 「‘복잡한’ 세상: <확실성의 종말> <혼돈의 가장자리>」

네이버문화재단의 <열린연단: 문화의 안과 밖> 일곱 번째 시리즈 ‘문화정전’ 강연이 매주 토요일 서울의 네이버 파트너스퀘어 종로에서 진행되고 있다. 인류 문명의 문화 양식은 오랜 역사를 통해서 문화 전통, 사회적 관습으로 진화하며 인류 지성사의 저서인 '고전'을 남겼다. 이들 고전적 저술 가운데, 인간적 수련에 핵심적이라 받아들여지는 저술을 문화 정전(正典)이라고 할 수 있다. 전체 52회로 구성된 이번 시리즈는 인류가 쌓아온 지적 자산인 동서양의 ‘문화 정전(正典)’을 통해 오늘을 사는 현대인들이 마주한 삶의 문제를 깊숙이 들여다본다. ‘주제 5. 근대 과학과 인간의 삶’ 제 27강 김범준 교수(성균관대 물리학과)의 강연을 소개한다.

정리   고현석 기자
사진·자료제공 = 네이버문화재단

김범준 교수는 “카오스 이론, 통계역학, 그리고 자기조직화계에 대한 내용이 낯설 수밖에 없는” 이들을 위해 비록 “주류 과학계의 표준적인 입장”과는 거리가 있으나 문제의식을 되짚을 수 있는 두 저서, 일리야 프리고진의 『확실성의 종말』과 스튜어트 카우프만의 『혼돈의 가장자리』를 빌려 그 개념들을 소개한다. 즉 “고전역학과 양자역학에서의 시간 가역성에 대한 설명과 볼츠만이 제안한 거시적인 세상에서의 시간 비가역성을 소개”하고 “20세기 중반 이후 큰 주목을 받은 비선형 동역학과 카오스 이론에서의 예측 불가능성을 설명”한 데 이어 20세기 후반에 등장한 “자기조직화계의 의미”까지 자세히 다룬다. 물론 “프리고진과 카우프만의 문제의식을 과학계의 표준적인 입장과 비교”하여 평가하는 것은 잊지 않는다. 끝으로 “프리고진의 책 출판 이후, 비평형 상태에서도 엄밀히 성립하는 요동 정리(fluctuation theorem)가 통계물리학 분야의 활발한 연구로 속속들이 밝혀지고” 있으며 “카우프만의 책 출판 이후 복잡계(complex system)에 대한 연구가 통계물리학의 중요 분야로 굳게 자리 잡았다는 것” 또한 첨언한다.

『확실성의 종말』 『혼돈의 가장자리』: 시간이 흐르면 무슨 일이 생길까?

1. 들어가는 글

일리야 프리고진의 『확실성의 종말: 시간, 카오스, 그리고 자연법칙』과 스튜어트 카우프만의 『혼돈의 가장자리』는 두 거장 과학자의 깊은 고민을 담고 있는 책이다. 프리고진의 책은 시간과 결정론, 카우프만의 책은 진화와 질서의 관계를 탐구했다고 할 수 있다. 프리고진의 책이 카오스 이론과 비평형 통계역학의 주제를 주로 다룬다면, 카우프만의 책은 주로, 자기조직화계에서 형성되는 자발적 질서라는 주제를 깊이 있게 다룬다. 과학이 오랜 기간 거둔 과거의 성취를 잘 정리하면서도, 책 출판 시점에서의 과학계의 고민을 담고 있으며, 각기 의미 있는 독특한 해결 방안을 제시했다는 것이 두 책의 공통점이다. 또 다른 공통점은 두 저자가 제기하는 문제가 주류 과학계의 표준적인 입장과는 약간의 거리가 있다는 점이다. 시간의 비가역성에 대한 볼츠만의 설명이 현상론의 수준일 뿐이어서 여전히 우리가 제대로 설명하고 있지 못하다는 프리고진의 문제의식, 다윈의 자연선택으로 생명의 진화를 설명하기에는 여전히 부족함이 남아 있다는 카우프만의 문제의식에 많은 과학자가 동의하는 것은 아니다. 하지만, 저자들의 논쟁적인 제안에 담긴 생각의 깊이로 미루어, 어쩌면 미래의 과학자들이 이 두 저서에 다시 주목하게 될 가능성은 여전히 남아 있다. 과학은 다수결로 발전하는 것이 아니니까.

2. 고전역학과 양자역학의 시간 가역성

들고 있던 유리컵을 놓치면 바닥에 떨어져 산산조각이 난다. 이 과정을 찍은 동영상을 거꾸로 돌리면 어떤 모습으로 보일까? 여기저기 마구잡이로 어질러져 흩뿌려진 작은 유리조각들이 바닥에 가만히 정지한 상태에서 동영상이 시작한다. 가만히 멈춰 있던 유리조각들이 움찔움찔 움직이기 시작해 결국 컵의 모습으로 모인다. 이렇게 온전한 모양으로 돌아간 컵은 바닥에서 위로 솟구쳐 결국 내 손 안으로 얌전히 돌아온다. 이렇게 거꾸로 튼 동영상을 보면 누구나 무언가 이상하다고 생각한다. 조각난 유리조각이 다시 컵으로 모이는 것도, 바닥에 놓인 컵이 위로 솟구쳐 오르는 것도, 우리는 단 한 번도 본 적 없다. 우리가 숨 쉬며 살아가는 일상의 생활에서 시간은 과거에서 현재를 거쳐 미래로, 한 방향으로만 흐른다.

물리학자 리처드 파인만은 거꾸로 튼 영화를 보면 사람들은 웃음을 터뜨리지만, 물리학자라면 웃을 수 없다고 얘기했다. 물리학자라면, 웃는 사람들을 보며, 도대체 어떻게 우리가 시간의 방향을 알 수 있는지 심각한 고민을 해야 한다는 뜻이다. 먼저, 고전역학을 살펴보자. 뉴턴의 운동 방정식은 물체의 위치 x를 시간 t에 대해 두 번 미분한 꼴이어서 시간의 방향을 뒤집어 적어도 전혀 바뀌지 않는다. 뉴턴의 고전역학은 과거와 미래를 구분하지 않는다. 약간의 차이는 있지만, 시간을 뒤집어도 바뀌는 것이 없다는 것은 양자역학도 마찬가지다. 뉴턴의 고전역학 운동 방정식, 슈뢰딩거의 양자역학 파동 방정식, 둘 모두 시간 가역적이다. 물리학의 기본 법칙을 따르는 모든 것들은 시간 가역성이 있다.

집의 주방에서 요리를 하면 군침을 돌게 하는 냄새가 집안에 퍼진다. 조리대에서 만들어진 냄새를 일으키는 분자들이 집안에 확산되어 일어나는 당연한 현상이다. 음식 냄새를 일으키는 분자 하나의 움직임을 우리가 보고 있다고 상상해보자. 이 분자의 운동을 동영상으로 찍고 거꾸로 튼다고 이상하게 보일 리가 없다. 분자 하나의 운동은 시간 가역적이다. 자, 다음에는 음식물의 냄새를 불러일으키는 이런 분자 여럿을 떠올려보자. 흥미로운 차이가 있다. 이들 모두는 분명히 공간 전체로 확산된다. 냄새 분자 모두를 찍은 동영상을 거꾸로 틀면 흩어져 있던 여러 분자가 다시 한 곳으로 모여 이상해 보이는데, 이 동영상 속 딱 하나의 분자의 움직임은 거꾸로 틀어도 하나도 이상할 것이 없다. 전체의 시간 비가역성은 하나의 시간 가역성과 모순되는 것이 아니다.

3. 통계역학의 시간 비가역성: 볼츠만의 엔트로피

하나가 아닌 여럿이 모여 있어도, 여럿 중 하나를 보면 시간 가역적으로 보인다. 여러 동전을 담아놓은 투명한 상자를 마구 계속 흔들면서 동전 하나를 보면 어떨 때는 앞면을 어떨 때는 뒷면을 보이지만, 어쨌든 이 동전의 모습도 시간 가역적이다. 하지만, 전체 동전이 보여주는 모습은 다르다. 처음에 모두 앞면을 보이는 상태에서 시작해서 상자를 흔들면, 결국 앞면, 뒷면이 거의 비슷한 숫자로 섞여 있는 상태에 도달한다. 비슷한 수의 앞, 뒷면 동전으로 시작해 상자를 마구 흔들면, 계속 이 뒤죽박죽 상태에 머물 뿐이다. 전체가 모두 앞면을 보이는 상태로는 결코 가지 못한다. 거시적인 세상에서 우리가 매일 마주하는 시간 비가역성은 결국 하나가 아닌 여럿이 보여주는 통계적인 특성이다. 이러한 논의를 체계적으로 진행해 열역학의 엔트로피와 시간 비가역성의 관계를 명확히 밝힌 사람이 바로 볼츠만이다. 주어진 거시 상태에 대응하는 미시 상태의 수가 커지면 늘어나는 양이 바로 볼츠만의 엔트로피다.

거시적인 고립계의 엔트로피는 시간이 지나면서 늘어난다. 우리는 늘 시간의 정방향 진행과 엔트로피 증가를 함께 보게 된다. 볼츠만의 통계역학은 우리가 사는 거시적인 세상에서는 왜 시간이 비가역적으로 보이는지, 그리고 이러한 비가역성이 구성 요소 하나가 따르는 물리 법칙의 시간 가역성과 전혀 모순이 아니라는 것을 명확히 알려준다.

4. 고전역학의 결정론과 예측 가능성

시간에 대해 가역적인 뉴턴의 고전역학은 결정론적이기도 하다. 뉴턴의 운동 방정식뿐 아니라, 시간에 대한 미분이 담긴 미분 방정식으로 기술되는 모든 자연법칙은 결정론적이다. 뉴턴의 고전역학이 가지고 있는 결정론적인 성격을 극단적으로 상상해본 사람이 바로 라플라스다. 그가 제안해 지금도 라플라스의 악마(혹은 신령)라고 불리는 상상의 존재가 있다. 라플라스의 악마는 (ⅰ) 우주의 모든 입자의 현재 위치와 속도를 모두 알고 있고, (ⅱ) 뉴턴의 운동 방정식을 계산해서 미래 임의의 시간에서의 모든 입자의 위치와 속도를 알아낼 수 있는 엄청난 지적 능력이 있는 존재다. 이런 존재가 있다고 상상하고 우리가 물어볼 질문은 바로, “라플라스의 악마에게 미래는 과거와 어떻게 달라 보일까?”이다.

라플라스의 악마의 눈에는 미래가 딱 하나의 외길로 보일 수밖에 없다. 동전을 던지면 앞면이 나올지, 뒷면이 나올지 우리는 모른다고 할 때, 라플라스의 악마는 동전이 던져진 순간, 동전의 어느 면이 나올지를 이미 알고 있다. 사실 이보다 상황은 더 심각하다. 내가 바로 이 순간 바로 이곳에서 동전을 과연 던질지 말지도, 내가 세상에 태어나기 한참 전 우주가 탄생할 때부터 이미 정해져 있어 일찌감치 알고 있는 존재가 바로 라플라스의 악마다. 세상에서 벌어지는 모든 일이 결국 고전역학을 따르는 입자들에 의해 일어나는 현상이라고 가정하면, 라플라스의 악마는 내일, 모레, 10년 뒤, 그리고 100만 년 뒤에 도대체 무슨 일이 일어날지를, 지금 이 순간 이미 알고 있는 존재다. 자, 이런 엄청난 존재의 가능성을 과연 고전역학이 부정할 수 있는지가 문제의 관건이다. 라플라스의 악마라는 존재가 고전역학에 모순되는 것이 아니라면, 그다음에 이어질 결론은 자못 충격적이다. 미래가 결정되어 있지 않다고, 우리가 오늘 어떤 선택을 하는지에 따라 우리 앞에 놓인 미래가 얼마든지 달라질 수 있다고 확신할 때, 라플라스의 악마는 그렇지 않다고, 단지 우리가 가진 지성의 한계 때문에 우리가 그렇게 착각할 뿐이라고 속삭인다. 뉴턴의 고전역학의 결정론적인 세상에서 자유의지는 환상이다.

5. 결정되어 있어도 예측할 수 없는 카오스의 세상

아주 작은 차이도 미래에 허락되지 않아 모든 만물은 정해진 외길을 걷고 있는 것처럼 보이는 뉴턴의 결정론적 세상의 모습은 20세기 중반 이후 비선형 동역학과 카오스 이론의 발달로 큰 도전을 받게 된다. 라플라스의 악마를 설명한 앞의 글을 다시 읽어보라. (ⅰ)과 (ⅱ), 두 가정이 비슷해 보여도 사실 다른 이야기라는 것이 중요하다. 두 번째 가정을 만족하는 존재로는 우주 모든 입자에 대한 미분 방정식을 수치 적분할 수 있는 엄청난 계산 능력을 가진 컴퓨터를 떠올릴 수 있을 듯하고, 첫 번째 가정은 이 컴퓨터에 입력할 엄청난 양의 데이터의 확보 가능성에 대한 얘기라 할 수 있다. 우주의 모든 입자의 현재 위치와 속도를 모두 알고 있다는 첫 번째 가정을 곰곰이 생각해보자. 모든 입자일 필요도 없다. 지금 막 던진 동전이 내 손을 떠나는 순간의 위치를 알고 있다는 것이 무슨 뜻일까? 동전의 위치를 0.01㎜의 정확도로 알면 우리가 동전의 위치를 안다고 할 수 있는 걸까? 0.01㎜의 정확도가 부족하다고? 그렇다면 0.0001㎜까지 알아야 우리가 위치를 알고 있다고 말할 수 있는 것일까? 뉴턴의 고전역학이 완성된 이후 상당한 기간 동안, 과학자들은 0.01㎜나 0.0001㎜처럼 작은 처음 조건의 불확실성이 결과에 큰 차이를 만들 수 없다고 믿었다. 처음 조건에 약간의 차이가 있더라도, 결국 뉴턴의 결정론적인 운동 방정식이 우리에게 알려주는 미래의 예측에 큰 차이가 있을 수는 없다는 믿음이었다. 그럴듯하다고 누구나 믿었던 이 믿음이 사실 아무런 근거가 없다는 것을 처음 알려준 과학자가 바로 푸앵카레다. 태양계의 안정성 문제를 연구하던 푸앵카레는 행성 하나의 위치가 아주 조금만 달라져도 태양계의 미래가 크게 달라질 수 있다는 것을 발견했다. 푸앵카레가 보인 태양계의 불안정성에 대한 미래 가능성은 과학적 사실이다. 지구 궤도가 지금까지 수십억 년 큰 변화 없이 안정적으로 유지되었다고 해서, 앞으로도 안정적일 것이라는 믿음은 증명 불가능하다. 50억 년 뒤 미래에 지구 궤도가 지금처럼 안정적일지 아닐지, 둘 중 어떤 얘기도 할 수 없다는 사실 자체가 증명되었다는 이야기다.

20세기 중반 이후 컴퓨터의 발달에 힘입어 비선형 동역학과 카오스에 대한 연구가 크게 발전하게 된다. 기상 현상을 단순화한 방정식을 컴퓨터를 이용해 살펴보던 로렌츠는 계산 결과가 처음 조건에 극도로 민감해서 아주 약간의 처음 조건의 차이가 결과에 엄청난 차이를 만들어낸다는 것을 발견했다. 바로, 베이징에서의 나비의 날갯짓이 뉴욕의 날씨를 바꿀 수 있다는 비유로 유명한 나비 효과다. 자연에는 이처럼 처음 조건의 아주 작은 차이로 인해 엄청난 결과의 차이가 만들어지는 현상이 훨씬 더 많다. 우리가 사는 세상은 결정되어 있을 수는 있어도 예측할 수는 없는, 카오스가 지배하는 세상이다. 비선형 동역학의 연구 결과에 따르면, 동역학 변수가 딱 세 개 이상이기만 하면, 대부분의 비선형계는 거의 항상 카오스를 보여줄 수 있다. 선형보다 비선형 현상이 자연에는 훨씬 더 많다. 카오스와 예측 불가능성은 예외가 아니라 보편이다.

뉴턴 고전역학의 운동 방정식은 시간 가역성이 있지만, 구성 요소 여럿이 모인 전체는 얼마든지 시간 비가역성을 보여줄 수 있다. 또, 뉴턴 고전역학의 운동 방정식은 결정론적인 성격이 있지만, 그렇다고 우리가 미래를 예측할 수 있는 것은 아니다. 전체의 시간 비가역성이 부분의 시간 가역성과 모순되지 않는다는 것은 볼츠만의 엔트로피로 이해할 수 있고, 결정론적인 운동 방정식을 따르더라도 우리가 미래를 예측할 수 있는 것은 아니라는 것은 푸앵카레가 발견하고 로렌츠가 널리 알린 카오스의 처음 조건 민감성으로 이해할 수 있다.

6. 평형 통계역학의 임계 현상

카우프만의 책 『혼돈의 가장자리』의 가장 중심적인 개념은 자기조직화계에서 저절로 형성되는 자발적인 질서다. 지구 위의 생명 진화에 대한 카우프만의 색다른 관점의 바탕이 바로 비평형계에서 저절로 떠오르는 자발적인 질서다. 책에서는 반복적으로 ‘가장자리’라는 개념이 등장한다. 질서와 무질서의 경계인 가장자리 부근에서 비평형계의 자발적 질서가 형성되기 때문이다. 평형 상태에 있는 계도 마찬가지다. 가장자리 부근에서 재미있는 현상을 자주 보여준다. 바로, 평형 통계역학의 임계 현상이다.

임계 현상(critical phenomena)은 통계물리학 분야에서 전통적으로 가장 중요한 주제다. 외부에서 열에너지가 유입되면 물질은 고체, 액체, 기체로 차례차례 상태를 바꾼다. 도대체 고체가 액체로 변하는 상전이, 액체가 기체로 변하는 상전이에서 어떤 일이 벌어지는지를 과학이 밝혀내기까지 오랜 시간이 걸렸다. 상전이에도 여러 유형이 있다. 액체인지, 기체인지를 특정할 수 있는 밀도와 같은 물리량을 통계물리학에서는 질서도(order parameter)라고 부른다. 1기압에서 물이 끓어 수증기가 되는 상전이는 질서도가 불연속적으로 변하는 불연속 상전이(discontinuous phase transition)라는 유형에 속한다. 연속적인 상전이도 많다. 통계물리학에서 가장 널리 연구되는 이론 모형 중 하나가 이징 모형(Ising model)이다. 이징 모형은 온도가 높아지면 영구자석이 자성을 잃어버리는 상전이를 설명하는 이론 모형인데, 이징 모형의 질서도인 자발적 자화도(spontaneous magnetization)는 임계점에서 불연속성을 보여주지 않아, 이징 모형의 상전이는 연속 상전이의 유형에 속한다. 연속 상전이의 임계점(critical point)에서 일어나는 특징적인 임계 현상을 소개해보자.

첫 번째 특징은 바로 임계 상태에 있는 계에는 척도가 없다는 것이다. 상전이가 일어나고 있는 임계점에서 우리가 스냅 사진을 찍었다고 상상하면, 도대체 이 사진을 얼마나 먼 거리에서 찍었는지를 우리가 짐작할 수 없다는 것이 바로 척도가 없다는 의미다. 임계 상태에서 거리에 척도가 없다는 것을 이용하면 임계 현상을 이해하는 강력한 이론적인 방법을 얻게 된다. 바로 1982년 윌슨(K. Wilson)이 노벨상을 받은 재규격화군(renormalization group, RG) 이론이다. 임계점에서 거리에 척도가 없다는 점에 착안해, 계에 등장하는 거리의 척도를 바꿔도 임계점에서 계는 같은 모습으로 보인다는 것을 이용한 이론이다. 이때, 임계점은 거리의 척도를 바꾸는 재규격화군 변환의 부동점(fixed point)에 해당하고, 이를 이용하면 임계 현상을 정량적으로 이해할 수 있게 된다.

임계 상태에서 척도가 없다는 것은 아주 멀리 떨어져 있는 구성 요소들이 서로 영향을 미칠 수 있다는 중요한 의미를 담고 있다. 거시적인 크기의 계에서 한쪽 구석에서 생긴 일이 계의 반대쪽 먼 구석에도 영향을 미칠 수 있다는 뜻이다. 이에 못지않게 중요한 다른 이야기도 할 수 있다. 상관 함수의 공간 적분을 통해 얻어지는 계의 반응 함수가 임계점에서 무한대로 발산한다는 결과다. 임계 상태에 있는 계는 외부의 아주 작은 영향으로도 폭발적으로 반응해 엄청난 거시적인 변화를 만들어낼 수 있다는 뜻이다.

7. 비평형 자기조직화계의 임계 현상

평형 상태의 임계 현상에 대한 연구가 급격히 확장된 계기가 된 논문이 있다. 바로 1987년 출판된 자기조직화 임계성(self-organized criticality, SOC)을 제안한 연구다. 모래 더미 모형(sand-pile model)이라는 아주 단순한 모형을 통해서 비평형 상태의 열린계가 어떻게 저절로 임계성을 향해 다가서는지, 그리고 임계점에서 어떤 특징적인 질서가 만들어지는지를 밝힌 놀라운 연구다.

자, 아무것도 없이 비어 있는 탁자 하나가 눈앞에 있다고 하자. 다음에는 한 움큼 모래를 손에 쥐고는 모래알을 한 알 한 알 조심해서 탁자 가운데의 한 위치에 떨어뜨린다고 상상해보자. 탁자에 놓인 모래알은 처음에는 야트막한 작은 언덕을 이루고, 언덕의 꼭대기에 계속 떨어지는 모래알은 언덕의 경사를 점점 크게 한다. 충분히 경사가 급해진 모래언덕은 방금 떨어뜨린 모래알 하나가 만든 산사태로 무너져 내리기도 하지만, 모래알을 이어서 계속 떨어뜨리면 경사는 또다시 급해진다. 특정한 경사 각도가 있어서, 경사가 이 각도보다 완만하면 모래 언덕의 경사는 급해지고, 경사가 이 특정 각도보다 급하면 모래 언덕이 무너져 다시 이 특정 각도를 향해 꾸준히 접근하게 된다. 즉, 가만히 계속해서 눈 감고 모래알을 떨어뜨리기만 해도, 전체 모래언덕은 항상 이 특정한 경사 각도를 향해 나아가게 된다. 이 각도가 바로, 물이 끓는 온도 100도와 같은 모래 더미 모형의 경사 임계값이다.

누구나 이해할 수 있고, 결과도 예측할 수 있는 간단한 모형이다. 그런데 조금 더 생각해보면 의외로 신기한 것이 있다. 특히, 앞에서 설명한 평형 통계역학의 임계점과 비교하면 묘한 차이가 있다는 것을 알 수 있다. 가장 큰 차이는 바로, 눈감고 모래알만 떨어뜨려도 전체가 저절로 계속해서 임계점을 향해 나아간다는 점이다. 온도 눈금이 있는 다이얼을 돌려서 정확히 100도에 맞추어야 볼 수 있는 평형 통계역학의 상전이와 분명히 다른 점이다. 바로, 이런 이유로 모래 더미 모형과 같은 유형의 계를 ‘자기조직화계(self-organized system)’라고 부른다. 저절로 스스로를 임계 상태로 조직화한다는 뜻이다.

모래 더미 모형과 같은 비평형 자기조직화계가 저절로 도달하게 되는 상태도 임계 상태다. 앞에서 소개한 평형계의 임계 상태와 많은 공통점을 보여준다. 먼저, 자기조직화계의 임계 상태도 척도를 갖지 않는다. 방금 떨어뜨린 모래 한 알이 만든 모래사태의 규모는 아래로 연쇄적으로 미끄러져 내린 모든 모래알의 개수로 측정할 수 있다. 많은 모래사태를 모아서 관찰하면, 모래사태의 규모의 확률분포 함수를 구할 수 있다. 이 함수의 꼴은 임계 상태의 척도 없음을 떠올리면 독자도 쉽게 짐작할 수 있다. 바로 멱함수의 꼴이다. 모래사태의 규모에는 척도가 없어서, 지금 막 떨어뜨린 모래 한 알이 만들어낼 모래사태의 규모를 예측하거나, 그 예측의 오차를 추정하는 것이 많은 경우 불가능하게 된다. 모래 더미가 임계 상태에 도달하면, 딱 하나의 모래알이 전체를 모두 무너뜨릴 수 있다는 것은, 외부의 작은 영향으로도 엄청난 변화가 가능한 평형계의 임계 상태와 일맥상통하기도 한다.

자기조직화계는 이처럼 저절로 임계 상태를 향해 다가선다는 특징이 있다. 바로 이런 이유로, 이 글에서 소개하고 있는 두 책의 저자 프리고진과 카우프만뿐 아닌 필자를 포함한 많은 과학자가, 여러 다양한 자연 현상과 사회 현상을 자기조직화계에서 자발적으로 발현하는 임계 상태라는 개념을 통해서 이해할 수 있다고 믿고 있다. 카우프만이 『혼돈의 가장자리』에서 반복적으로 강조하는 것이 바로, 비평형 자기조직화계는 임계 상태인 혼돈의 가장자리로 접근하는 자발적인 경향을 갖게 된다는 것이다. 최근 복잡계 과학에서 활발히 연구하고 있는 생명체의 진화, 경제 시스템도, 그리고 도시의 성장 등의 현상도 마찬가지다.

8. 나가는 글: 프리고진과 카우프만의 문제의식

필자는 프리고진과 카우프만의 문제의식을 한 줄로 줄인다면, ‘그래도 여전히 부족하다’라고 적을 수 있다고 생각한다. 먼저, 거시적인 계에서 예외 없이 관찰되는 통계적 시간 비가역성에 대한 통계물리학 분야의 표준적인 설명이 여전히 부족하다는 프리고진의 입장을 살펴보자. 프리고진의 문제의식은 상당히 미묘하다. 엔트로피 증가의 법칙을 설명할 때 자주 등장하는 어질러진 방을 예로 들어 좀 더 자세히 생각해보자. 방안에 있는 모든 물체들이 뒤죽박죽 여기저기 놓여 있는 상태를 보면서 우리는 무질서함을 떠올리지만, 어쩌면 우리 눈에 보이는 무질서하게 어질러진 바로 이 방이, 세심한 규칙을 따라 방 주인이 말끔하게 정돈한 것일 수도 있다. 예를 들어, 책 표지의 색깔을 빨주노초파남보의 순서로 완벽히 정렬한 책꽂이를 보며 우리는 정돈된 책꽂이라고 생각할 수도 있지만, 구입한 날짜의 순서로 완벽히 정리한 책꽂이, 책의 열 번째 페이지 다섯 번째 줄 첫 번째 글자를 기준으로 모든 책을 가나다의 순으로 정리한 책꽂이도 어쩌면 누군가에게는 합리적이고 깔끔한 정렬의 방법일 수도 있다. 여러 가능성 중 어떤 정렬 방식이 더 무질서한 상태인지를 방 주인이 아닌 사람이 단정할 수는 없다는 뜻이다. 만약 그렇다면, 고전 통계역학에서의 엔트로피 증가의 법칙은 구체적인 정렬 방식을 모른다는 우리의 무지의 반영일 수 있다. 이 주장을 좀 더 밀고 나가면, 엔트로피 증가는 우리가 계의 미시적인 상태에 대한 충분한 정보를 갖지 못해 발생하는 착각이며, 엔트로피 증가의 법칙은 객관적인 자연법칙이 아니라, 관찰 주체인 우리 인간의 주관적 무지의 반영일 뿐이라 이야기할 수도 있다. 바로, 엔트로피 증가와 시간 비가역성의 과학에 ‘그래도 여전히 부족’한 것이 남아 있다는 프리고진의 입장이다. 엔트로피 증가의 법칙이 가진 이러한 현상론적인 특성에 주목한 프리고진은 시간의 비가역성에 대한 독특한 제안을 한다. 인식 주체의 무지의 반영일 수 있는 엔트로피 증가보다는 열린 비평형계의 자기조직화로 인한 질서의 자연스러운 창발이 자연에서 널리 발견되는 시간의 비가역성을 보다 더 잘 설명할 수 있을 것으로 전망한다. 엔트로피가 알려주는 시간의 화살은 무질서의 정도가 늘어나는 방향이지만, 프리고진은 시간의 화살이 가진 긍정적인 역할을 이야기한다. 시간이 흐르면서 자기조직화로 저절로 창발하는 질서에 주목한다. 카우프만과 프리고진의 생각이 이어지는 지점이 바로 이곳이다.

카우프만의 문제의식도 마찬가지로 미묘하다. 생물학자의 배경을 가진 카우프만의 주된 고민은 바로 지구에서의 생명의 진화다. 표준적인 생물학 교과서에서는 다윈의 자연선택으로 진화를 설명한다. 마구잡이로 변이가 만들어지고 이 중 주어진 환경에 적합해 더 많은 자손을 남길 수 있는 변이가 후대에 전해진다고 요약할 수 있는 다윈의 자연선택이 진화를 만들어내며, 이에 덧붙일 또 다른 메커니즘은 필요하지 않다는 것이 과학계의 표준적인 입장이다. 프리고진의 문제의식과 마찬가지로, 카우프만도 ‘그래도 여전히 부족하다’는 입장을 보인다. 마구잡이식으로 단순히 일어나는 변이로는 진화를 설명하기에 부족하고, 이에 덧붙여서 자기조직화계가 보여주는 자발적인 질서의 창발이 필요하다는 주장이다.

엔트로피 증가의 법칙은 여러 자연 현상에서 관찰되는 질서의 자발적 창발과 전혀 모순되지 않고, 다윈의 자연선택도 진화의 과정에서의 더 복잡한 생명체의 출현과 모순되는 것이 결코 아니다. 필자를 포함한 많은 과학자의 생각은 ‘부족한 것은 이미 없다’는 입장에 가깝다. 거시적인 세계에서의 시간의 통계적인 비가역성에 대한 설명은 볼츠만의 엔트로피가 충분히 답해주고, 진화는 특정 목적을 가지고 있지 않아, 진화의 시계공이 꼭 두 눈을 똑바로 뜨고 시계를 만들고 있을 필요는 없다. 엔트로피 증가가 의미하는 무질서, 그리고 자연선택의 마구잡이 변이의 발생이 필자는 전혀 불편하지 않다. 오히려, 자연에 충만한 무작위성과 무질서로부터 인간이라는 소중한 존재가 출현했다는 경이로운 사실에 전율한다. 필자는 이미 이곳에서 편안함을 느낀다. 프리고진과 카우프만의 아이디어가 아무리 놀랍고 독창적이라고 해도, 볼츠만과 다윈이 우리에게 준 이 편안한 장소에서 필자를 추방하지는 못했다. 물론, 아직까지는 말이다.