오늘은 봄 소풍에 가져갈 디저트를 만들어 보려고 해요. 수 셰프답게 제가 고른 디저트는 함수를 품은 ‘블랑망제 푸딩’이죠. 처음 들어본다고요? 블랑망제는 우유를 굳혀 만든 희고 부드러운 푸딩의 종류예요. 생소하다면 이번 기회에 따라 만들어 보고 블랑망제 함수도 공부해봅시다. 우아~하게!

금만 굳히면 되는 줄 알았더니 반나절을 기다려야 한대요. 멀뚱멀뚱 있기엔 지루할 테니 그동안 저와 함께 재미있는 블랑망제 함수를 배워볼까요? 수학은 때로 디저트보다 달콤하니까요.

블랑망제 푸딩을 닮은 블랑망제 곡선

닭이 먼저냐, 달걀이 먼저냐는 늘 끝나지 않는 논쟁거리입니다. 그럼 블랑망제 곡선과 블랑망제 푸딩은 어느 쪽이 먼저일까요? 정답은 블랑망제 푸딩이에요. 중세시대에 하얀 고기 푸딩이었던 블랑망제 푸딩은 오랜 세월이 지나면서 지금과 같은 몽글몽글한 모습이 되었고 그 모양을 닮은 ‘타카기 곡선’에 ‘블랑망제’라는 이름이 붙게 됐어요.
블랑망제 곡선은 모든 범위에서 연속이면서 어느 곳에서도 미분이 불가능한 함수의 한 종류로, 1904년에 일본 수학자인 타카기 테이지가 발견했어요. 이후 1980년대에 영국 수학자 데이비드 톨이 자신의 논문에서 블랑망제 함수라고 부르면서 별칭으로 굳어졌죠. 블랑망제라는 이름을 생각해낸 건 톨의 동료인 존 밀스였는데, 19세기 빅토리아 시대의 요리책인 ‘원의 매일 요리법’에서 푸딩의 형태를 만드는 틀을 보고 이름을 떠올렸다고 해요.
톨은 블랑망제 함수의 이름에 대해 이렇게 말했어요. “타카기가 발견했으니까 타카기 함수라고 부르는 게 맞을지도 모르겠어요. 아마도요. …하지만 블랑망제라는 이름이 훨씬 더 재밌잖아요!”

이렇게 생긴 식이 블랑망제 함수식이고 푸딩 위에 그려진 곡선이 블랑망제 곡선입니다. 너무 복잡하다고요? 괜찮습니다. 우리는 이 식을 풀고자 하는 것이 아니라 이 특별한 함수가 어떤 의미를 갖는지만 이해하면 되니까요. 앞서 말했던 ‘모든 범위에서 연속이면서 어느 곳에서도 미분이 불가능한 함수’가 어떤 특성인지 살펴볼까요?

먼저 미분이란 그래프를 아주 잘게 쪼갰을 때 그래프가 어떻게 변하는지 계산하는 방법입니다. 예를 들어 아래 그림처럼 아무렇게나 생긴 곡선을 그었다고 할 때, 미분하려는 점에서 곡선에 접하게 선을 그으면 x축 방향으로 아주 아주 작게 움직였을 때 y축 방향으로 얼마나 변화했는지 알 수 있습니다. 이 값을 계산할 수 있을 때 ‘미분 가능하다’고 합니다.

그리고 끊어지는 부분 없이 손을 떼지 않고 그래프를 따라 그릴 수 있는 그래프를 ‘연속’이라고 하지요. 미분이 가능하려면 반드시 연속한 그래프여야 하므로 미분 가능성과 연속은 아주 관계가 깊습니다. 그런데 여기서 한가지 궁금증이 생깁니다. 모든 미분 가능한 함수가 연속한 것은 알겠는데, 그럼 모든 연속한 함수는 미분 가능한 걸까요?
19세기 초까지 수학자들은 이 답이 ‘그렇다’라고 생각했습니다. 모든 연속 함수는 미분이 가능하고 전구간에서 미분이 가능하지 않은 경우에도 일부 고립점에서만 미분이 불가능할 거라고 믿었던 거죠. 천하의 가우스도 그렇게 생각했을 정도였어요. 이 믿음을 깬 것은 독일 수학자 카를 바이어슈트라스였습니다.

연속 함수도 미분 불가능할 수 있다

1872년 바이어슈트라스가 제시한 ‘바이어슈트라스 함수’는 최초로 발견한 프랙탈 함수 중 하나로 기존 생각을 뒤집는 첫 번째 반례였습니다. 분명 모든 구간에서 연속인데 어느 점에서도 미분할 수 없었던 겁니다. 바이어슈트라스의 발견 후 수학자들은 다른 반례들을 찾아내기 시작했고 블랑망제 함수는 그 중 세 번째로 찾은 반례입니다.
언뜻 보기에 부드러운 곡선으로 보이는 블랑망제 함수는 사실 확대해서 보면 모든 점이 뾰족뾰족한 첨점으로 이뤄져 있습니다. 확대한 하나의 톱니만 보면 미분가능한 부분이 있는 것으로 보이지만, n이 무한대로 가면 이 모양이 극한으로 작아지면서 뾰족한 부분만 남게되는 프랙탈 함수입니다. 즉 모든 점에서 미분이 불가능해지는 거지요. 그럼 모든 구간에서 연속하면서 모든 구간에서 미분 불가능한 함수를 찾은 것이 중요한 이유는 무엇일까요?

바이어슈트라스 함수나 블랑망제 함수를 찾기 전까지, 수학자들은 모든 연속 함수가 미분 가능하다는 생각을 조금도 의심하지 않았습니다. 반례를 찾아서 거짓임을 증명하는 것은 우주에서 모래를 찾는 일처럼 어려운데 언뜻 보기에 ‘연속 함수는 미분 가능하다’는 명제는 당시 수학계에서 명백하게 여겨졌기 때문이죠. 톨은 자신의 논문에서 블랑망제 함수의 의의에 대해 이렇게 말했습니다.

연필을 들고 따라 그려보면 쉽고 확실하게 블랑망제 함수의 아이디어를 이해할 수 있다. 사실 응용 수학자나 물리학자, 공학자에게는 이런 아이디어가 친숙하지만 많은 형식주의 수학자들은 그림의 도움을 부정하곤 한다. 블랑망제 함수는 아주 간단한 방법으로 익숙하지 않던 특성을 보여준다. 정확하게 해석된 그림이 수학적 분석에 얼마나 큰 역할을 할 수 있는지 드러나는 것이다.

형식을 갖춘 수학 표현과 그림을 활용한 직관적인 아이디어 양쪽 다 중요하지만 수학에서 이미지를 적절하게 활용할 수 있는 기하학적 통찰력도 필요하다고 설명한 거지요.
여러분도 아직 배우지 못한 표현이나 기호, 개념이 많다고 수학을 탐구하는 일에 제한을 느낄 필요 없어요. 톨의 말처럼 그냥 연필을 들고 자유롭게 상상하고 자신만의 방법으로 생각해보세요. 그 통찰력이 나중에 형식을 갖춘 증명과 만나면 더 엄청난 결과를 낼 수 있을 거예요.

편집자주. 요리 실력이 어린 아이에 영원히 머물러서 ‘피터팍(피터팬+Park)’의 별명을 얻은 박 기자의 고군분투 요리 성장기. 연재가 끝날 때쯤 네버랜드 탈출 가능?!

참고자료

David Tall ‘Visualizing Differentials in Integration to Picture the Fundamental Theorem of Calculus’, David Tall ‘What do we “see” in geometric pictures?’, Jeffrey C. Lagrias ‘The Takagi Function and Its Properties’