일반인이 공부하는 수학이랑 수학과에서 공부하는 수학이랑 구별되는 부분 중, 대표적인 사례가 대수학이다. 수학과에서 다루는 대수학은 일반인이 공부한 대수학에 더 이상한 걸 포함한다.

물론, 일반인들도 고등학교를 정상적으로 다녔으면 행렬의 연산에서 곱셈에 대한 교환법칙이 성립하지 않는다는 사실을 배운다. 그러나 과연 그것이 "곱셈"일까? (그리고 고등학교 졸업하고 기억하는 사람은 없다.)

덧셈이나 곱셈은 어릴 때 부터 배우는 가장 기본적인 대수 연산이다. 그리고 어릴 때에는 항상 체(field)인 집합으로만 대수학을 배우기 때문에 교환법칙이 성립하는 것은 너무나 당연한 일이다.

예를 들어, "철수가 사과 3개를 먹고, 다시 5개를 먹었다. 철수는 모두 몇개의 사과를 먹었는가?"[각주:1]라는 문제에서, 3+5=8이라는 대수적 연산을 할 수 있다. 그런데, "철수가 사과 5개를 먹고, 다시 3개를 먹었다. 철수는 모두 몇개의 사과를 먹었는가?"라는 문제는 명백히 5+3=8이라는 대수적 연산으로부터 문제를 해결하게 된다. 5+3=3+5라는 덧셈의 교환법칙이 성립한다. 그리고 그 이후로 교환법칙이 성립하는 문제들만 거의 10년을 공부하게 된다. 그러니까 행렬을 공부할 때 왜 불편하게 교환법칙이 성립하지 않는지 이해하는 것은 그 자체로 꽤 성가신 일이다.[각주:2]

이런것들을 좀 더 통합적으로 살펴보려면, 집합 안에 있는 대상들을 수로 바라볼 것이 아니라 각각을 연산으로 바라보는 것이 편하다. 가령, "3+5"라는 연산은 "3에 +5를 시행한 것"이라고 생각할 수 있다. 그렇다면, 임의의 자연수 n에 대해서 어떤 자연수 m을 더하는 연산, 즉 n과 m의 모든 짝에 대해서 연산과 결과물이 있어야 한다는 건데 그럼 너무 낭비가 된다. 그래서, 모든 연산을 임의의 자연수에 대해 +n이라 생각하고, "+3+5"처럼 생각하자는 것이다. 물론 저 연산의 대상은 언제나 항등원이다. "0+3+5"로 생각하면 된다. 이런 방식으로 생각하는 것은 행렬의 곱셈을 이해할 때 조금 도움이 된다. 항등원 E에 대해서 두 행렬 A와 B를 연산한 것이 "ABE"가 되는데, 이것은 E에서 출발해서 B와 A를 순서대로 적용한 것이다. 반대로 BAE는 E에서 출발해서 A와 B를 순서대로 적용한 것이 된다.[각주:3] 행렬은 그 자체로 변환을 표현하기 때문에, ABE는 어떤 변환에 관한 표현이다. 대표적으로, 2차원에서 회전변환을 2차 정사각 행렬로 나타낼 수 있다. 그리고 흥미롭게도, 2차원에서의 회전 변환에 관한 행렬들은 행렬로 이루어진 연산이지만 곱에 관한 교환법칙이 성립한다.

3차원에서의 회전 변환은 교환법칙이 성립하지 않는데, 어떤 물체를 위에서 봤을 때 60도 돌리고 옆에서 봤을 때 40도 돌린 것과, 옆에서 봤을 때 40도 돌리고 그 다음에 위에서 봤을 때 60도 돌린 것은 서로 다르다.

연산이라는 걸 어떻게 바라보아야 할까? 어떤 물건을 조립할 때에도 조립 순서가 있다. 3+5=8이 될 때, 조립이라는 관점에서 바라보면 8을 만들기 위해서 0에 3을 더하고, 다시 5를 더하는 순서로 작업을 진행해야 한다. 그리고 특별히, 이 경우에는 0에 5를 먼저 더하고 3을 나중에 더해도 8을 조립할 수 있다. 그러나 전화를 걸 때, 전화를 걸고 상대방이 받으면 말을 해야지 말을 먼저 해놓고 상대방이 받은 후에 전화를 걸 수는 없다. 다시 말해, 8은 어떤 연산의 결과물이 아니라, 작업 설명서에서 목표로 하는 지향점이 되고 3+5는 그 목표를 달성하기 위한 작업 순서가 된다. 이 관점에서 모든 대상을 바라보면, 이제 세상이 대수적으로(algebraic) 보인다.

그리고 한가지 알아두면 좋은 건, 대수적인 세계의 모든 것은 행렬을 사용해서 표현할 수 있다는 점이다. 물론 고등학교 때 배운 2차 정사각 행렬로는 표현이 안되지만, 그래도 케일리-해밀턴 정리는 유용한, 그런 세상이다.

근데 난 대수학은 잘 못하는데 왜 이런글을 쓴 걸까. (수학과 수업 중 정수론이 성적이 제일 낮고(D), 대수학이 그 다음(B+)이다.)
  1. 철수는 욕심쟁이. [본문으로]
  2. 물론 교환법칙이 성립하지 않는 대상이 훨~~~씬 많다. [본문으로]
  3. 사실은, 실수에서 적용되는 모든 덧셈 연산을 벡터 공간에서의 행렬에 의한 연산으로 정의할 수 있다. [본문으로]
by snowall 2011. 9. 10. 12:55