여러 수를 한 번에 다루는 언어
지금까지는 주로 하나의 입력과 하나의 출력 사이의 관계를 다루었다. 함수 f(x), 수열 aₙ, 급수 Σaₙ처럼 한 줄로 움직이는 대상이 많았다. 그러나 현실의 데이터와 대학 수학의 많은 문제는 여러 값을 동시에 가진다.
예를 들어 한 물체의 위치는 평면에서는 (x, y), 공간에서는 (x, y, z)로 나타낸다. 어떤 학생의 성적을 국어, 영어, 수학 점수로 묶으면 (90, 85, 95)처럼 볼 수 있다. 가격, 생산량, 재고량도 여러 숫자의 묶음이다. 이런 여러 수의 묶음을 체계적으로 다루는 언어가 벡터와 행렬이다.
벡터는 여러 수를 순서 있게 모아 놓은 대상이고, 행렬은 수를 직사각형 모양으로 배열한 대상이다. 처음에는 단순한 표처럼 보이지만, 이들은 단순한 기록 장치가 아니다. 벡터는 방향과 크기를 나타낼 수 있고, 행렬은 벡터를 다른 벡터로 바꾸는 규칙을 표현할 수 있다. 특히 연립일차방정식을 다룰 때 행렬은 계산을 정리하는 강력한 도구가 된다.
AI 생성 이미지
벡터: 크기와 방향을 가진 수의 묶음
평면의 벡터는 보통 (a, b)처럼 쓴다. 이는 원점에서 점 (a, b)까지 향하는 화살표로 생각할 수 있다. 예를 들어 v = (3, 2)는 오른쪽으로 3, 위로 2만큼 이동하는 벡터다.
벡터의 덧셈은 이동을 이어 붙이는 것이다.
(3, 2) + (1, 4) = (4, 6)
오른쪽으로 3, 위로 2 간 뒤 다시 오른쪽으로 1, 위로 4 가면 전체 이동은 오른쪽으로 4, 위로 6이다.
벡터의 스칼라배는 벡터를 늘리거나 줄이는 것이다. 여기서 스칼라는 하나의 수를 뜻한다.
2(3, 2) = (6, 4)
-1(3, 2) = (-3, -2)
1/2(3, 2) = (3/2, 1)
양수를 곱하면 방향은 같고 길이가 바뀐다. 음수를 곱하면 방향이 반대로 바뀐다. 0을 곱하면 영벡터 (0, 0)이 된다.
이 두 연산, 즉 덧셈과 스칼라배는 선형대수의 출발점이다. 뒤에서 다룰 선형공간도 결국 이 두 연산이 잘 작동하는 세계를 추상화한 것이다.
내적: 두 벡터가 얼마나 같은 방향을 보는가
두 벡터 v = (a, b), w = (c, d)의 내적은 다음과 같이 계산한다.
v · w = ac + bd
예를 들어 v = (3, 2), w = (1, 4)이면
v · w = 3·1 + 2·4 = 11
계산은 간단하지만, 내적의 의미는 중요하다. 내적은 두 벡터가 얼마나 같은 방향을 향하는지를 수로 나타낸다. 두 벡터의 길이를 |v|, |w|라 하고 사이각을 θ라 하면 다음 관계가 성립한다.
v · w = |v||w| cos θ
따라서 내적이 양수이면 두 벡터는 대체로 비슷한 방향을 향한다. 내적이 음수이면 서로 반대쪽을 향하는 성분이 크다. 두 벡터가 모두 영벡터가 아닐 때 내적이 0이면 두 벡터는 서로 수직이다. 영벡터는 길이가 0이어서 방향을 말하기 어렵지만, 계산상으로는 어떤 벡터와 내적해도 0이 된다.
예를 들어 (1, 2)와 (2, -1)의 내적은
1·2 + 2·(-1) = 0
이므로 두 벡터는 수직이다. 고등학교 기하에서 수직을 기울기로 판단했다면, 선형대수에서는 내적으로 판단할 수 있다. 이 관점은 나중에 직교, 정사영, 최소제곱법을 이해하는 데 핵심이 된다.
행렬: 숫자의 배열이자 변환의 표현
행렬은 숫자를 행과 열로 배열한 것이다. 예를 들어
A = [1 2]
[3 4]은 2행 2열 행렬이다. 행은 가로줄, 열은 세로줄이다. 일반적으로 m행 n열 행렬은 m × n 행렬이라고 부른다.
행렬의 덧셈은 같은 위치의 성분끼리 더한다. 그래서 두 행렬의 크기가 같을 때만 덧셈이 가능하다.
[1 2] + [5 6] = [6 8]
[3 4] [7 8] [10 12]스칼라배도 벡터와 비슷하다. 행렬의 모든 성분에 같은 수를 곱한다.
2[1 2] = [2 4]
[3 4] [6 8]행렬 곱셈은 조금 다르다. 단순히 같은 위치끼리 곱하지 않는다. 왼쪽 행렬의 행과 오른쪽 행렬의 열을 내적해서 새 성분을 만든다. 이때 왼쪽 행렬의 열 개수와 오른쪽 행렬의 행 개수가 같아야 곱셈이 정의된다. 예를 들어 m × n 행렬과 n × p 행렬을 곱하면 결과는 m × p 행렬이 된다.
예를 들어
A = [1 2], B = [5 6]
[3 4] [7 8]이면 AB의 첫 번째 행, 첫 번째 열 성분은 A의 첫 번째 행 (1, 2)와 B의 첫 번째 열 (5, 7)의 내적이다.
1·5 + 2·7 = 19
같은 방식으로 계산하면
AB = [19 22]
[43 50]행렬 곱셈에서 중요한 점은 순서다. 일반적으로 AB와 BA는 같지 않다. 실제로 같은 크기의 정사각행렬끼리 곱할 때도 순서를 바꾸면 결과가 달라질 수 있고, 직사각행렬에서는 한쪽 곱은 정의되지만 다른 쪽 곱은 정의되지 않을 수도 있다. 행렬 곱셈은 두 변환을 차례로 적용하는 것과 관련되기 때문에 순서가 의미를 가진다.
전치행렬과 역행렬
전치행렬은 행과 열을 바꾼 행렬이다. A의 전치행렬을 Aᵀ로 쓴다.
A = [1 2 3]
[4 5 6]
Aᵀ = [1 4]
[2 5]
[3 6]전치행렬은 데이터를 다른 방향에서 읽을 때 유용하다. 행이 관측값이고 열이 변수인 표를 생각해 보자. 전치를 취하면 변수별로 데이터를 모아 보는 형태가 된다. 또한 내적과 직교성을 행렬로 표현할 때도 자주 등장한다.
역행렬은 곱했을 때 항등행렬이 되는 행렬이다. 항등행렬은 숫자 1처럼 작동하는 행렬이다.
I = [1 0]
[0 1]정사각행렬 A에 대해 어떤 행렬 A⁻¹가 존재하여
AA⁻¹ = A⁻¹A = I
가 되면 A⁻¹를 A의 역행렬이라고 한다. 역행렬은 방정식에서 나눗셈과 비슷한 역할을 한다. 숫자 방정식 ax = b에서 a ≠ 0이면 x = a⁻¹b로 풀 수 있다. 행렬 방정식 Ax = b에서도 A⁻¹가 존재하면
x = A⁻¹b
로 해를 구할 수 있다.
다만 모든 정사각행렬이 역행렬을 가지는 것은 아니다. 어떤 행렬은 정보를 한 방향으로 눌러 버려 원래 벡터를 되돌릴 수 없다. 이런 행렬은 역행렬이 없다. 예를 들어 두 행이 서로 배수 관계이면 서로 독립적인 정보를 주지 못하므로 역행렬이 존재하지 않는다.
연립일차방정식을 행렬로 쓰기
다음 연립방정식을 보자.
2x + y = 5
x - y = 1이 식은 계수행렬 A, 미지수 벡터 x, 상수 벡터 b를 이용해 Ax = b로 쓸 수 있다.
[2 1][x] = [5]
[1 -1][y] [1]여기서 행렬 A는 미지수 앞의 계수를 모은 것이다. 벡터 x는 미지수들을 모은 것이고, 벡터 b는 오른쪽 상수항을 모은 것이다.
이 표현의 장점은 식의 구조가 선명해진다는 데 있다. 연립방정식은 더 이상 여러 줄의 식이 아니라 하나의 행렬 방정식이 된다. 방정식의 해를 구한다는 것은 어떤 벡터 x가 행렬 A를 거쳐 b가 되는지 찾는 일이다.
이 관점은 기하적으로도 해석할 수 있다. 각 일차방정식은 평면에서는 직선, 공간에서는 평면을 나타낸다. 연립방정식의 해는 이 도형들이 만나는 점이다. 두 직선이 한 점에서 만나면 해가 하나, 평행하면 해가 없고, 같은 직선이면 해가 무수히 많다.
가우스 소거법: 방정식을 단순하게 바꾸기
연립방정식을 푸는 기본 방법은 가우스 소거법이다. 핵심은 해집합을 바꾸지 않는 행 연산을 이용해 행렬을 단순한 모양으로 만드는 것이다.
허용되는 기본 행 연산은 세 가지다.
두 행을 서로 바꾼다.
한 행에 0이 아닌 수를 곱한다.
한 행에 다른 행의 배수를 더한다.
이 연산들은 방정식의 표현만 바꿀 뿐, 해는 바꾸지 않는다.
앞의 예를 확대행렬로 나타내면 다음과 같다.
[2 1 | 5]
[1 -1 | 1]계산을 쉽게 하려고 두 행을 바꾼다.
[1 -1 | 1]
[2 1 | 5]둘째 행에서 첫째 행의 2배를 뺀다.
[1 -1 | 1]
[0 3 | 3]둘째 행을 3으로 나눈다.
[1 -1 | 1]
[0 1 | 1]둘째 행을 첫째 행에 더한다.
[1 0 | 2]
[0 1 | 1]따라서 x = 2, y = 1이다.
이처럼 왼쪽 부분을 가능한 한 단순하게 만들면 해가 드러난다. 특히 각 행에서 처음으로 0이 아닌 성분을 피벗이라고 한다. 피벗은 그 행이 어떤 미지수를 결정하는 데 실제로 기여하고 있음을 나타낸다.
행 사다리꼴과 해의 개수
가우스 소거법을 적용하면 행렬은 행 사다리꼴로 정리된다. 행 사다리꼴은 아래로 내려갈수록 피벗이 오른쪽으로 이동하고, 영행은 아래쪽에 모이는 형태다. 더 정리해서 각 피벗이 1이고 그 열의 다른 성분이 모두 0이 되면 기약 행 사다리꼴이라고 한다.
해의 개수는 행 사다리꼴을 보면 판단할 수 있다.
첫째, 모순 행이 나타나면 해가 없다. 예를 들어
[0 0 | 3]은 0x + 0y = 3을 뜻한다. 이는 0 = 3이라는 거짓 명제이므로 어떤 x, y도 만족할 수 없다.
둘째, 모든 미지수에 피벗이 있으면 해가 하나다. 예를 들어
[1 0 | 2]
[0 1 | 1]은 x = 2, y = 1을 바로 뜻한다.
셋째, 모순 행은 없지만 피벗이 없는 미지수가 있으면 해가 무수히 많다. 피벗이 없는 미지수는 자유변수라고 부른다. 자유변수는 값을 임의로 정할 수 있고, 그 값에 따라 나머지 미지수가 결정된다.
예를 들어
x + y = 3
2x + 2y = 6은 두 식이 사실상 같은 정보를 준다. 확대행렬을 정리하면
[1 1 | 3]
[0 0 | 0]이 된다. 여기서 y = t라고 두면 x = 3 - t이다. t는 어떤 실수도 될 수 있으므로 해는 무수히 많다.
반대로
x + y = 3
2x + 2y = 7은 정리하면
[1 1 | 3]
[0 0 | 1]같은 모순 행이 생긴다. 따라서 해가 없다.
행렬 계산의 핵심은 구조를 보는 것
벡터와 행렬을 처음 배우면 계산 규칙이 많아 보인다. 그러나 핵심은 단순하다. 벡터는 여러 수를 하나의 대상으로 묶어 방향과 크기를 다루게 한다. 행렬은 그런 벡터를 바꾸는 규칙을 표현한다. 연립일차방정식은 Ax = b라는 행렬 방정식으로 정리할 수 있고, 가우스 소거법은 그 방정식의 구조를 드러내는 절차다.
특히 해의 개수를 판단할 때 중요한 것은 숫자 자체보다 피벗의 위치다. 피벗이 충분하면 해가 하나로 정해지고, 피벗이 부족하면 자유변수가 생기며, 오른쪽 상수항과 충돌하면 해가 없다.
다음 장에서는 이 관점을 더 추상적으로 확장한다. 벡터가 꼭 평면의 화살표일 필요는 없다. 함수도 벡터처럼 더하고 스칼라배할 수 있다. 행렬도 단순한 숫자 배열을 넘어 선형변환을 나타낸다. 이번 장의 목표는 그 추상화로 가기 전에, 벡터와 행렬이 무엇을 계산하고 무엇을 보여 주는지 익숙해지는 것이다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.