집합의 포함관계를 한 눈에 쉽게, 벤 다이어그램!

‘벤 다이어그램’은 영국의 논리학자 존 벤의 이름을 따 지은 것으로, 집합의 포함관계를 나타내는 그림이다. 1880년 존 벤이 쓴 ‘명제와 논리의 도식적·역학적 표현에 관하여’라는 논문에서 처음 등장했다. 당시 집합 사이의 관계를 도형이나 도표로 나타낸 사례는 흔하지 않아서 벤 다이어그램은 순식간에 널리 알려졌다.

그런데 이런 도식화를 존 벤이 처음 쓴 것은 아니었다. 벤 다이어그램보다 약 100년 먼저 벤 다이어그램과 아주 비슷한 그림을 쓴 수학자가 있었는데, 바로 오일러다. ‘오일러 다이어그램’ 또는 ‘오일러 원’이라고도 부르는데, 벤다이어그램과 비슷하지만 조금 다르다. 예를 들어 집합 A={1, 2, 5}, B={1, 6}, C={4, 7}이 있다고 하자. 세 집합의 포함관계를 오일러 다이어그램과 벤 다이어그램으로 각각 나타내면 오른쪽과 같다.

벤 다이어그램은 각 집합에 공통으로 있는 원소의 유무에 상관없이 세 집합이 모두 겹쳐지게 그린다. 세 집합의 모든 부분집합이 드러나도록 말이다. 반면 오일러 다이어그램은 공통의 원소가 없을 경우 집합을 따로 그린다. 벤 다이어그램은 오일러 다이어그램의 특수한 경우인 셈이다.

집합의 수가 많아지면 벤 다이어그램을 그리기 어려워진다. 존 벤도 집의 수가 6개인 경우까지만 벤 다이어그램을 제시했다. 이후 많은 수학자들은 집합의 수가 더 많을 경우 벤 다이어그램을 어떻게 그릴 수 있을지 주목했다. 또 그릴 수 있다면 대칭의 아름다움이 돋보이는 벤 다이어그램을 만들기 위해 노력했다.

집합의 수가 4 이상이라면?

보통 ‘벤 다이어그램’이라고 하면 집합이 2개 또는 3개인 경우 원을 겹쳐 그린 그림이 익숙하다. 그런데 집합의 수가 4개 이상이라면 벤 다이어그램을 어떻게 그릴 수 있을까? 집합의 수가 4개만 되더라도 벤 다이어그램을 그리기 쉽지 않다.

존 벤은 집합의 수가 4, 5, 6인 경우 벤 다이어그램을 각각 아래와 같이 나타냈다. 집합의 수가 3개인 벤 다이어그램에서 모든 영역과 겹치도록 ‘C’ 모양으로 네 번째 집합을 그리고, 집합의 수가 5개, 6개인 경우에도 비슷한 방법으로 모든 영역과 겹치도록 다섯 번째, 여섯 번째 집합의 영역을 곡선으로 그렸다. 여기서 영역은 집합의 모든 부분집합을 뜻한다.

그렇다면 집합의 수가 7, 8, 9…와 같이 더 많아지는 경우에는 어떨까? 집합의 수가 많아져도 항상 벤 다이어그램을 그릴 수 있을까?

결론부터 말하면 ‘항상 그릴 수 있다’. 집합의 수(n)가 증가함에 따라 필요한
영역의 수는 2n이다. n의 값이 유한하면 2n도 유한하므로, 이론적으로 n이 어
떤 값이더라도 벤 다이어그램을 그릴 수 있다는 결론이 나온다.

구에 곡선을 그려 비추면 벤 다이어그램이 된다!

존 벤은 집합이 6개인 경우까지 벤 다이어그램을 그렸고, 이론적으로 집합의
개수가 유한할 어떤 경우에도 벤 다이어그램을 그릴 수 있다는 것까지 알아냈
다. 그러나 집합이 7개 이상인 경우부터는 벤 다이어그램을 직접 그려보이진
못했다.

이후 n의 값에 상관없이 벤 다이어그램을 그릴 수 있는 방법을 알아낸 사람
은 수학자가 아닌 생물학자였다. 영국의 통계학자이자 유전학과 진화생물학
을 연구하는 생물학자 A.W.F 에드워즈는 순수수학에도 관심이 많아 파스칼
의 삼각형과 벤 다이어그램 같은 분야를 연구했다.

그 결과 에드워즈는 1989년 ‘구면의 투영법’을 이용해 집합의 수와 관계없이
벤 다이어그램을 그릴 수 있는 방법을 알아냈다. 예를 들어 아래와 같이 구면
위에 각각 서로 직각을 이루는 3개의 원을 그린 다음, 빛을 쏘면 바닥에 집합
이 3개인 벤 다이어그램이 나타난다.

여기서 힌트를 얻은 에드워즈는 집합이 4개 이상인 경우에도 투영법의 원리를 적용해 벤 다이어그램을 그리려고 했다. 그 결과 구면 위에 그릴 수 있는 가장 큰 원이면서 각각 수직인 3개의 원을 그린 다음, 물결 모양의 곡선을 연쇄적으로 그려 평면에 투영하면 벤 다이어그램을 그릴 수 있다는 사실을 알아냈다. 아래 그림은 집합이 7개인 경우 구의 투영법으로 벤 다이어그램을 그린 것이다. 이런 방법을 따르면 집합의 개수에 상관없이 벤 다이어그램을 그릴 수 있다.

20세기에 들어 많은 수학자들은 독특하고 아름다운 대칭 벤 다이어그램을
찾는 데 주목했다. 수학자들은 왜 대칭 벤 다이어그램을 찾는 걸까?
수학자들이 발견한 이색 벤 다이어그램을 소개한다.

“활짝 핀 꽃을 닮았죠?” 브랑코 그뤼바움

대칭 벤 다이어그램 만들기를 가장 먼저 시도한 수학자는 유고슬라비아 출신의 수학자 브랑코 그뤼바움이다. 미국 워싱턴대 수학과 교수인 그뤼바움은 타원을 이용해 집합이 5개일 때의 회전 대칭 벤 다이어그램을 만들었는데, 그 모양이 마치 활짝 핀 꽃을 닮았다. 이 밖에도 정사각형과 삼각형으로 이뤄진 다양한 벤 다이어그램을 찾아냈다.

“좀 더 화려하게! 대칭의 아름다움이 놀라워요!” 프랭크 러스키

집합이 5개일 때 다양한 대칭 벤 다이어그램을 찾은 그뤼바움 교수는 집합의 수가 더 많은 경우에서도 대칭 벤 다이어그램을 찾기 위해 시도했다. 그 결과, 좀 더 화려한 꽃 모양의 대칭 벤 다이어그램을 찾아냈다. 그런데 다른 곳에서 같은 벤 다이어그램을 독립적으로 찾아낸 수학자가 있었다.

캐나다 빅토리아대 컴퓨터과학과 프랭크 러스키 교수다. 프랭크 러스키 교수는 집합의 수가 많아져도 대칭 벤 다이어그램을 그릴 수 있는지에 관심을 갖고 연구하고 있었다. 그 결과 집합의 수가 소수일 경우 대칭 벤 다이어그램을 그릴 수 있다는 사실을 증명했다. 증명한 뒤 실제로 처음 찾아낸 것이 바로 그뤼바움 교수가 찾은 것과 똑같은 오른쪽 회전 대칭 벤 다이어그램으로 집합의 수는 7개다.

“아이스크림 콘 모양으로 만들어 봤어요!” 릭 마브리

집합이 3개인 벤 다이어그램이 브루니안 고리와 닮았다는 점에서 영감을 얻은 미국 루이지애나대 수학과 릭 마브리 교수는 아이스크림 콘 5개가 서로 얽혀 있는 재밌는 모양의 벤 다이어그램(왼쪽)을 만들었다. 최근 마브리 교수는 자신의 제자와 함께 집합이 7개인 브루니안 고리 형태의 벤 다이어그램(가운데)을 찾아냈다. 그뤼바움과 러스키 교수가 독립적으로 각각 발견한 대칭 벤다이어그램 이후 두 번째로 발견한 집합 7개의 회전 대칭 벤 다이어그램이다.

“예술가인 아내와 함께 만들었죠!” 피터 햄버그

집합의 개수가 소수일 경우 대칭 벤 다이어그램이 있다는 사실이 증명된 이후, 미국 중부 주립대 수학과 피터 햄버그 교수는 예술가인 아내 에디 헤프와 함께 대칭 벤 다이어그램을 찾기 위해 노력했다. 그 결과, 2002년 집합이 11개인 경우의 대칭 벤 다이어그램을 찾아냈다. 두 사람이 발견한 대칭 벤 다이어그램은 집합의 영역이 무려 211=2048개여서 영역의 개수를 세기가 어렵다. 2048개의 영역에 서로 다른 색을 칠해 복잡하지만 완벽한 대칭이 돋보이는 예술 작품이 탄생했다. 오른쪽 선으로 된 그림은 11개의 집합 중에서 하나를 나타낸 것이다. 두 사람은 이 대칭 벤 다이어그램을 2005년 수학과 예술을 접목한 브릿지 학술대회에서 발표하기도 했다.

벤 다이어그램은 20세기에 접어들면서 아름다움을 추구하는 수학자들의 본성을 통해 새로운 예술로 완성되고 있다. 지금까지 발견된 대칭 벤 다이어그램은 집합의 개수가 11개인 경우까지다. 앞으로 수학자들은 또 얼마나 아름다운 벤 다이어그램을 찾아낼까? 수학자들이 찾아낼 새로운 벤 다이어그램이 벌써부터 기다려진다.