d라이브러리

수학
 

대칭은 인류가 아주 오랫동안 이를 통해서 질서와 아름다움 및 완벽성을 이해하고 창조하려고 시도해온 개념이다. -헤르만 바일(Hermann Weyl, 1885-1955)

에스키모인들에게는 얼음을 나타내는 말이 수십 가지가 된다고 한다. 이와 반대로 수학에서는 ‘대칭’이라는 하나의 말이 여러 가지 상황과 개념을 나타낸다. 일상 언어에서 대칭은 어떤 선에 대해 좌우가 똑같은 형태를 의미한다. 아래타지마할 묘당에서 이런 대칭의 예를 찾아볼 수 있다.

반사대칭과 회전대칭

수학에서 다루는 많은 도형은 대칭적이다. 예를들어 이등변삼각형을 생각해보자. 이 이등변삼각형은 각의 이등분선 또는 변의 수직이등분선에 대해 대칭이다.

이와 같이 도형이 어떤 선에 대해 좌우가 똑같을 때, 즉 그 선을 따라 접으면 완전히 겹칠 때 또는 그 선에 세운 거울에 비친 양쪽 모습이 똑같을 때, 이를 좌우대칭 또는 ‘반사대칭’이라고 한다. 반사대칭은 ‘대칭’이라는 단어가 통상적으로 의미하는 바를 매우 잘 나타내고 있다. 정삼각형도 대칭적인 도형이다. 정삼각형은 꼭지점과 대변의 중심을 지나는 3개의 축에 대해 반사대칭이다.

그런데 수학에서는 다른 종류의 대칭도 생각한다. 정삼각형의 경우, 무게중심에 관해 120 °만큼 (어느 방향으로든지) 회전시키면, 원래의 도형과 정확하게 일치한다. 이와 같이 도형을 어떤 점을 중심으로 적당한 각도만큼 회전시키면 원래의 도형과 완전히 일치할 때, 그 도형을 ‘회전대칭’이라고 한다. 정삼각형과 같이, 꽃과 눈송이도 반사대칭과 회전대칭을 동시에 보여주는 예이다.

대칭을 만드는 대칭 변환

수학적으로 대칭을 연구하기 위해서는, 도형을 어떤 선에 대해 반사시키거나 어떤 점을 중심으로 회전시킨 결과가 아니라 그런 ‘행동’ 자체에 주목해야 한다. 그래서 도형의 점들을 다른 점들로 움직이게 하는 특수한 종류의 함수인 ‘대칭 변환’을 생각한다. 어떤 도형의 대칭 변환은 그 도형의 점들을 다른 곳으로 움직이는 함수인데, 그 결과로 얻은 도형은 원래의 도형과 크기와 형태가 똑같아야 한다. 평면 도형의 대칭 변환에는 어떤 선에 관해 반사시키는 ‘반사대칭 변환’과 어떤 점을 중심으로 회전시키는 ‘회전대칭 변환’이 있다.

이등변삼각형이 선 ℓ에 대해 반사대칭이라는 말은 선에 ℓ에 대해 반사시킨 결과, 즉 선 ℓ에 대한 ‘반사대칭 변환’을 시행한 결과가 원래의 이등변삼각형과 똑같게 보인다는 말과 같다. 이 반사대칭 변환을 r로 나타내자.

이등변삼각형에는 다른 대칭 변환이 있을까? 분명히 r 이외의 반사 대칭 변환은 존재하지 않는다. 그렇지만 r을 한 번 더 시행할 수 있다(이 말은 ‘함수’ r과 r을 합성한 r。r을 의미한다). 그러면 그 결과로 얻은 도형은 원래의 도형과 역시 똑같고 모든 점도 원래의 자리로 되돌아간다. 그래서 이런 변환은 아무 것도 변화시키지 않는다. 일반적으로 반사대칭 변환을 두 번 반복해서 시행하면, 모든 점이 제자리로 되돌아간다. 그러나 (더할 때 아무런 변화도 일으키지 않는) 수 0과 (곱할 때 아무런 영향을 주지 않는) 수 1을 고려하는 것이 쓸모 있듯이, 도형의 모든 점을 변화시키지 않고 그대로 남기는 ‘항등 변환’ I를 대칭 변환의 하나로 포함하면 유용하다. I를 0 회전으로 생각할 수 있으며, 반사대칭 변환 r의 경우에 r。r=I가 성립한다.

도형의 대칭 변환 전체의 집합을 그 도형의 ‘대칭군’이라고 한다. 그래서 이등변삼각형의 대칭군은 r과 I, 단 두 개로 이루어진다.

이제 정삼각형의 대칭 변환과 대칭군을 알아보자. (그림1)에서 보듯이 정삼각형은 선 ℓ1, ℓ2, ℓ3에 대해 대칭이므로, 선 ℓ1, ℓ2, ℓ3에 대한 반사대칭 변환이 있다. 이를 각각 х, у, z로 나타내자.

대칭군이 많을수록 완전한 도형

또 정삼각형은 무게중심에 관해 회전대칭이므로, 시계 바늘이 도는 방향과 반대로 120˚ 만큼의 회전대칭 변환 υ와 240˚ 만큼의 회전대칭 변환 ω를 생각할 수 있다. 360˚ 만큼의 회전대칭 변환이 있는데, 이것은 모든 점을 원래의 위치로 되돌려 놓기 때문에, 0 만큼의 회전대칭 변환, 즉 항등 변환 I와 똑같다. ‘시계 바늘이 도는 방향의 회전은 어떨까’라고 물어볼 수 있다. 그런데 120˚ 만큼의 시계 방향의 회전은 ω와 똑같은 결과를 주고, 240˚ 만큼의 시계 방향의 회전은 υ와 똑같다. 그래서 정삼각형에 대해 여섯 개의 대칭 변환 I, υ, ω, х, у, z를 찾을 수 있다.

정삼각형에는 또 다른 대칭 변환이 있을까? 사실 위에서 찾은 여섯 개가 전부이다. 대칭 변환끼리의 합성을 생각할 수 있는데, 그 결과도 역시 위의 여섯 대칭 변환 중 하나가 된다. 예를 들어, 정삼각형에 반사대칭 변환 х를 시행하고 다음에 회전 대칭 변환 υ를 시행하는 것은, 즉 합성 대칭 변환 υ。х를 시행하는 것은 다음과 같이 z를 시행하는 것과 똑같다(그림1).

여기에서 정삼각형이 이등변삼각형보다 더욱 대칭적으로 보이는 이유는, 정삼각형에 더 많은 대칭 변환이 있기 때문이다. 더욱 대칭적인 도형인 정사각형의 대칭군은 4개의 반사대칭 변환과 4개의 회전 대칭변환으로 이루어진다. 일반적으로, 정n각형의 대칭군은 n개의 반사대칭 변환과 n개의 회전대칭 변환으로 이루어진다.

대칭적인 도형의 명백한 예로 원이 있다. 원의 대칭군은 중심에 관한 임의의 각도의 회전대칭 변환과 임의의 지름에 관한 반사대칭 변환 및 이런 대칭 변환들의 모든 가능한 결합으로 이루어진다. 그래서 원의 대칭군은 무한 집합인데, 이것이 바로 원의 완전한 대칭성을 설명해준다. 이와 반대로 완전히 비대칭적인 도형의 대칭군은 단 하나의 대칭 변환, 즉 항등 변환만으로 이루어진다.

이와 같이 도형의 대칭군은 그 도형의 시각적인 대칭성의 정도를 포착하는 수학적 구조이다.

대칭의 이론화, 군론

위에서 살펴본 도형의 대칭군은 수학적으로 매우 가치 있는 구조를 갖고 있다. 도형의 대칭 변환들을 합성시키면 그 도형의 또 다른 대칭 변환이 된다. 수학적으로 말하면, 대칭군은 함수의 합성이라는 연산에 대하여 ‘닫혀 있다.’

대칭군에는 항등 변환 I가 있어서, 임의의 대칭 변환 х와 합성시키면 х。I=I。х=х이다. 즉 항등 변환은 합성이라는 연산에 대한 ‘항등원’이다.

또 대칭군의 각 대칭 변환에는 합성시킬 때 항등 변환이 되는 다른 대칭 변환이 있다. 이등변삼각형의 경우에는 r。r=I이고, 정삼각형의 경우에는 х。х=I, у。у=I, z。z=I, υ。ω=I이다. 즉 각 대칭 변환에는 합성이라는 연산에 대한 ‘역원’이 존재한다.

대칭 변환을 세 개 이상 합성할 수 있는데, 어느 두 대칭 변환을 먼저 합성해도 그 결과는 서로 같다. 예를 들여 정삼각형의 대칭 변환 х, у, υ에 대하여 다음이 성립한다.

(х*у)*υ =υ*υ=ω, х*(у*υ)=х*z=ω

즉 대칭 군에서는 합성이라는 연산에 대한 ‘결합 법칙’이 성립한다.

여기에서 ‘닫혀 있음, 결합 법칙, 항등원, 역원’이라는 친숙한 수학 용어를 볼 수 있다. 독자는 고등학교 수학에서 사칙 연산에 관한 실수의 성질을 공부할 때 이런 용어를 접했을 것이다. 어떤 집합이 주어진 연산에 관해 이런 성질을 만족시킬 때 ‘군’이라고 한다.

수학에는 군의 예가 대단히 많이 존재한다. 정수, 유리수, 실수, 복소수 전체의 집합은 각각 덧셈에 관해 군을 이룬다. (역수를 갖지 않는) 0을 제외한 유리수, 실수, 복소수 전체의 집합은 각각 곱셈에 대해 군을 이룬다.

그리고 도형의 대칭군도 특별한 종류의 군이다. 사실 ‘대칭군’에서 이미 군이라는 용어를 사용했다. 앞에서 고려한 대칭 군은 모두 평면 도형과 관계가 있지만, 똑같은 발상이 3차원 입체 도형에도 적용된다. 예를 들면 정육면체의 대칭군은 24개의 회전대칭 변환과 24개의 반사대칭 변환으로 이루어진다(여기에서 회전은 점이 아니라 ‘선’에 관한 회전이고, 반사도 선이 아니라 ‘면’에 관한 반사이다).

군에 대한 일반적 정의

집합 S가 연산에 대하여 닫혀 있고, 즉 임의의 두 원소 a와 b에 대하여 a。b∈S이고, 다음이 성립할 때, 집합 S는 연산 。에 대하여 군을 이룬다고 한다.

(1) 모든 a, b, c ∈ S에 대하여, (a。b)。c =a。(b。c)이다.

[집합 S는 연산 。에 대한 결합 법칙이 성립한다.]

(2) 원소 e ∈S가 존재하여 모든 a∈S에 대하여 a。e =e 。a=a이다.

[연산 。에 대한 항등원 e ∈S가 존재한다.]

(3) 각 a。∈S에 대하여 х∈S가 존재하여 a。х=х。a=e 이다.

[S의 모든 원소에 대한 연산 。에 대한 역원이 존재한다.]

1849년 브라베(Auguste Bγavais)는 결정의 구조를 분류하기 위해서 3차원 공간에서의 대칭군을 이용했는데, 이것은 오늘날까지도 이어지고 있는 군에 대한 수학적 이론과 결정학 사이에 밀접한 관계를 확립했다. 원자의 대칭, 소립자의 상호작용 등도 모두 군과 관계가 있다.

이와 같이 군의 예는 수학뿐 아니라 다른 분야에서도 대단히 많이 등장한다. 수학에서는 주로 추상적이고 일반적인 군을 연구하지만, 이렇게 얻은 결과는 모든 특별한 군에 대해서도 참이다(적용된다). 일례로 장난감 루빅 큐브에도 군 이론을 적용할 수 있다.

대칭성의 연구에 유용한 군은 그 자체로 대칭적인 구조를 가진다. 즉 항등원을 중심으로 원소들이 대칭적으로 배열된다. 그런데 군의 개념은 산술 또는 대칭 변환이 아니라 대수학에서 방정식에 대한 연구로 19세기 초에 등장했다. 결정적인 발상은 갈루아(Evariste Galois, 1811-1832)의 연구에서 찾아볼 수 있는데, 그는 5차방정식을 푸는 문제를 연구할 때 근 사이의 대칭성을 연구해서 군의 개념을 발견했고, 이를 통해 일반적인 5차방정식을 거듭제곱근으로 풀 수 없다는 사실을 밝혔다.