카오스와 초기값 민감성: 로렌즈의 반올림에서 나비 효과까지

같은 방정식에 같은 숫자를 넣으면 같은 답이 나온다. 컴퓨터로 날씨를 계산하려던 1950~60년대 기상학자들은 여기에 기대를 걸었다. 관측을 촘촘히 하고 계산기를 빠르게 만들면 예보는 얼마든지 멀리 뻗어 나갈 수 있으리라는 생각이었다. 이 기대가 무너진 계기는 뜻밖에도 숫자 세 자리를 덜 입력한 일이었다.

1961년 겨울, 0.506127 대신 0.506

MIT의 기상학자 에드워드 로렌즈는 Royal McBee LGP-30이라는 작은 컴퓨터로 12개 변수짜리 대기 모형을 돌리고 있었다. 어느 날 그는 앞서 계산한 결과 중 한 구간을 더 길게 보고 싶어서, 처음부터 다시 돌리는 대신 중간 지점의 값을 출력물에서 옮겨 적어 입력했다. 컴퓨터 안에서는 0.506127처럼 여섯 자리로 계산되고 있었지만 출력물에는 0.506처럼 세 자리만 찍혀 있었다. 1,000분의 1 수준의 차이는 문제가 되지 않으리라 여겼다.

커피를 마시고 한 시간쯤 뒤 돌아와 보니, 새 계산은 처음에는 옛 계산을 잘 따라가다가 점점 벌어져서 모형 속 시간으로 몇 달이 지나자 두 결과 사이에 닮은 점이 사라져 있었다. 미국물리학회(APS) 소식지가 정리한 이 일화의 핵심은 컴퓨터 고장이 아니었다는 점이다. 작은 반올림 오차가 계산이 진행될수록 꾸준히 커져서 결국 해 전체를 지배한 것이다.

로렌즈는 이 현상을 더 단순한 방정식으로 옮겨 1963년 『Journal of the Atmospheric Sciences』에 「Deterministic Nonperiodic Flow(결정론적 비주기 흐름)」를 발표했다. 아래에서 데워지는 유체의 대류를 변수 세 개(x, y, z)로 줄인 모형이었고, 지금 로렌즈 어트랙터로 불리는 그림이 여기서 나왔다. 논문 초록의 결론은 지금 읽어도 분명하다. 해가 한정된 범위에 머무는 계에서 비주기적인 해는 보통 작은 변화에 불안정하며, 그래서 조금 다른 초기 상태가 상당히 다른 상태로 진화할 수 있다는 것이다. 로렌즈는 여기서 곧장 날씨로 나아가, 대기가 이런 성질을 가진다면 아주 먼 미래의 예보는 불가능하다고 썼다.

결정론적인데 예측할 수 없다는 말

19세기 초 라플라스는 우주의 모든 입자의 위치와 힘을 아는 지성이 있다면 미래와 과거가 모두 눈앞에 있을 것이라고 썼다. 카오스는 이 생각의 앞부분을 부정하지 않는다. 로렌즈 방정식에는 난수가 없고, 이중 진자의 운동 방정식도 뉴턴 역학 그대로다. 같은 초기값을 넣으면 매번 같은 궤적이 나온다. 무너지는 것은 뒷부분, 즉 「알 수 있다」는 가정이다.

두 가지를 구분하면 정리된다.

• 결정론: 초기 상태가 정확히 같으면 미래도 정확히 같다.
• 예측 가능성: 초기 상태가 조금 다르면 미래도 조금만 다르다.

일상적인 계산은 대부분 둘 다 만족한다. 포탄의 사거리는 발사 각도를 0.1° 틀려도 그만큼만 틀린다. 카오스계는 첫째는 만족하고 둘째는 만족하지 않는다. 현실에서 초기 상태를 무한히 정확하게 재는 방법은 없으니, 결정론적인 법칙이 있어도 먼 미래는 알 수 없다.

이 성질은 로렌즈가 처음 발견한 것은 아니다. 푸앵카레는 1890년 무렵 삼체 문제를 연구하며 궤도가 초기 조건에 극도로 민감할 수 있음을 알았고, 1908년 『과학과 방법』에서 초기 조건의 작은 차이가 최종 현상에서 큰 차이를 만들 수 있으며 그러면 예측은 불가능해진다고 썼다. 로렌즈의 공은 이것이 특이한 천체 역학 문제가 아니라 몇 줄짜리 방정식에서도, 그리고 날씨라는 실용적인 문제에서도 나타난다는 것을 컴퓨터로 보여 준 데 있다.

얼마나 빨리 벌어지나: 리아푸노프 지수

「조금 다르면 크게 달라진다」를 숫자로 표현하는 것이 리아푸노프 지수 λ다. 가까운 두 궤적 사이의 거리 δ가 평균적으로 δ(t) ≈ δ₀·e^{λt}처럼 커질 때, λ가 양수이면 그 계는 초기값에 민감하다. 이름은 19세기 말 운동의 안정성을 연구한 러시아 수학자 알렉산드르 랴푸노프에게서 왔다.

로렌즈가 쓴 매개변수(σ = 10, ρ = 28, β = 8/3)에서 가장 큰 지수는 약 0.906이다. 오차가 두 배가 되는 데 ln 2 ÷ 0.906 ≈ 0.77의 모델 시간이 걸린다. 여기서 중요한 결론이 나온다. 오차가 어떤 허용 한계 Δ에 이르는 시간은

t ≈ (1/λ) · ln(Δ/δ₀)

이다. 예측 가능한 시간은 초기 오차의 로그에만 비례한다. 초기 오차를 1,000배 줄여도 늘어나는 시간은 ln(1000)/λ, 로렌즈 계에서는 약 7.6 모델 시간뿐이다. 측정 장비를 1,000배 좋게 만드는 비용에 비하면 보상이 아주 작다.

그렇다고 궤적이 공간 전체로 흩어지는 것은 아니다. 로렌즈 계의 세 지수를 모두 더하면 −(σ + 1 + β) ≈ −13.67로 음수다. 한 방향으로는 늘어나지만 다른 방향으로는 훨씬 세게 눌려서, 점들의 무리가 차지하는 부피는 계속 줄어든다. 그래서 궤적들은 부피가 0인 얇은 판 위로 모이고, Sprott의 계산에 따르면 그 판의 차원은 약 2.06이다. 늘어나는 방향 때문에 예측이 무너지고, 눌리는 방향 때문에 어트랙터라는 일정한 모양이 생긴다.

이중 진자 시뮬레이터에서 이 관계를 직접 확인할 수 있다. 팔 길이 1m, 큰 각도에서 출발한 두 진자의 초기 각도 차이를 10⁻³ rad에서 10⁻¹² rad까지 1,000배씩 줄여 보면, 두 진자가 눈에 띄게 갈라지는 시각은 매번 약 3초씩만 늦어진다. 실제 이중 진자로 측정한 연구도 있다. Shinbrot 등은 1992년 실험에서 오차가 초당 λ = 7.5 ± 1.5의 비율로 커진다고 보고했다.

날씨에서도 같은 구조가 확인된다. Zhang 등(2019)은 고해상도 전 지구 모형으로 초기 오차를 거의 없앤 실험을 해서, 중위도 일기 예보의 궁극적인 한계를 약 2주로 추정했다. 현재 실제 예보의 유효 기간(약 9~10일)에서 초기 오차를 한 자릿수 줄이면 며칠을 더 얻을 수 있지만, 그 이상은 관측을 아무리 개선해도 넘기 어렵다는 결론이다.

끝나는 운동도 예측할 수 없다: 프랙털 경계

카오스라고 하면 영원히 불규칙하게 움직이는 계를 떠올리기 쉽다. 그런데 결국 멈추는 계에서도 「어디에 멈출지」를 예측하지 못할 수 있다.

자석 진자가 그런 예다. 바닥에 자석 세 개를 두고 그 위에 쇠구슬 진자를 매달면, 마찰 때문에 진자는 반드시 어느 한 자석 위에 멈춘다. 출발점마다 도착하는 자석의 색을 칠하면 넓은 단색 영역 사이로 세 색이 복잡하게 뒤엉킨 띠가 나타나고, 그 띠를 확대하면 더 가는 띠가 또 나온다. 이런 경계를 프랙털 끌개 영역 경계라고 한다.

McDonald, Grebogi, Ott, Yorke(1985)는 이런 경계가 예측에 어떤 의미가 있는지를 정리했다. 출발점을 ε의 정밀도로 알 때 결과를 틀릴 확률은 ε^α처럼 줄어드는데, 경계가 프랙털이면 α가 1보다 작다. 정밀도를 10배 높여도 틀릴 확률은 10배만큼 줄지 않는다. 이는 결과를 오래 계산해야 하는 문제만이 아니다. 진자가 멈추는 데 30초가 걸리든 3분이 걸리든, 출발점을 충분히 정확히 모르면 최종 답도 모른다.

「나비 효과」라는 이름

로렌즈는 1963년 논문에서 나비를 언급하지 않았다. 이 이름은 1972년 12월 29일 워싱턴에서 열린 미국과학진흥협회(AAAS) 제139차 연차 총회의 강연 제목에서 나왔다. 제목은 「Predictability: Does the Flap of a Butterfly’s Wings in Brazil Set Off a Tornado in Texas?(예측 가능성: 브라질에서 나비의 날갯짓이 텍사스에 토네이도를 일으킬까?)」였다. 로렌즈가 제목을 제때 정하지 못하자 세션을 맡은 기상학자 필립 메릴리스가 붙였다고 로렌즈 자신이 나중에 밝혔다. 로렌즈 어트랙터가 나비 날개처럼 생긴 것은 우연의 일치다.

강연의 내용은 흔히 인용되는 「작은 원인이 큰 결과를 낳는다」보다 조심스러웠다. 로렌즈는 제목의 질문을 가볍게 던진 것이 아니라고 하면서 두 가지를 먼저 짚었다. 하나는 나비의 날갯짓 하나가 토네이도를 일으키는 데 관여할 수 있다면, 그 전후의 모든 날갯짓과 다른 수많은 나비들, 사람을 포함한 다른 생물의 움직임도 마찬가지이며, 토네이도를 막는 데 관여할 수도 있다는 것이다. 다른 하나는 이런 작은 교란이 토네이도 같은 현상의 전체 빈도를 늘리거나 줄이지는 않으며, 기껏해야 그 현상이 일어나는 순서를 바꿀 수 있다는 것이다. 그리고 그는 대기가 정말 그 정도로 불안정한지는 당시로서는 확답할 수 없다고 인정했다.

그러니 나비 효과를 「나비가 토네이도의 원인이다」로 읽는 것은 원래 뜻과 다르다. 로렌즈가 말하려던 것은 원인을 하나로 짚을 수 없을 만큼 수많은 작은 차이가 섞여 있고, 그중 무엇이 결과를 가를지 미리 알 수 없다는 점이었다.

흔한 오해 네 가지

카오스는 무작위다? 아니다. 카오스는 규칙이 정확히 정해진 계에서 나온다. 로렌즈 어트랙터의 입자들은 공간을 아무 데나 떠돌지 않고 두 날개 모양의 얇은 구조 위에만 모인다. 개별 궤적은 예측할 수 없어도 전체 모양은 매번 같다.

작은 변화는 늘 큰 결과를 낳는다? 아니다. 이중 진자도 작은 각도로 흔들면 오차가 커지지 않는다. 로렌즈 방정식도 ρ를 약 24.74 아래로 내리면(더 정확히는 약 24.06 아래) 결국 모든 궤적이 고정점에 가라앉는다. 초기값 민감성은 특정 조건에서 나타나는 성질이다.

날씨를 못 맞히니 기후도 못 맞힌다? 개별 날의 날씨와 여러 해의 통계는 다른 질문이다. 로렌즈 어트랙터에서 입자 하나의 위치는 곧 알 수 없게 되지만, 입자들이 두 날개에 머무는 시간의 비율 같은 통계는 안정적이다. 기후 예측은 이런 통계를 다룬다. 로렌즈가 1972년 강연에서 작은 교란이 빈도가 아닌 순서만 바꾼다고 말한 것도 같은 맥락이다.

컴퓨터가 좋아지면 해결된다? 예측 가능 시간이 초기 오차의 로그에 비례하므로, 계산 능력과 관측 정밀도를 크게 높여도 얻는 시간은 조금이다. 실제 예보는 그래서 하나의 답 대신 조금씩 다른 초기값으로 수십 번 계산하는 앙상블 예보로 바뀌었다. 결과가 얼마나 흩어지는지를 보고 예보의 신뢰도를 판단하는 방식으로, 이중 진자 시뮬레이터가 진자 100개를 한꺼번에 돌리는 것과 같은 발상이다.

직접 해 볼 것

• 이중 진자에서 초기 각도 차이를 10⁻³에서 10⁻¹²까지 바꿔 가며 갈라지는 시각을 재어 본다. 작은 각도(10°)에서 같은 실험을 하면 무엇이 다른지 비교한다.
• 로렌즈 어트랙터에서 ρ를 28, 24.5, 20, 0.5로 바꿔 혼돈이 켜지고 꺼지는 경계를 본다.
• 자석 진자에서 마찰을 0.4에서 0.05로 줄이며 색 경계가 어떻게 번지는지, 경계 위 두 점을 탭하면 궤적이 어디서 갈라지는지 확인한다.