수학 개념 지도
선형대수(Linear algebra)

정사영(Orthogonal projection)

점에서 직선(또는 평면)으로 수선⁠(perpendicular)⁠을 내려 만나는 곳. 그 직선 위에서 가장 가까운 점이며, 오차는 직선과 수직이다.

proj⁡u⃗v⃗=u⃗⋅v⃗u⃗⋅u⃗ u⃗\operatorname{proj}_{\vec u}\vec v = \frac{\vec u \cdot \vec v}{\vec u \cdot \vec u}\,\vec u
먼저 보면 좋은 개념내적

직선 위에서 점 P에 가장 가까운 곳은 어디일까요? P에서 직선으로 수선을 내린 발입니다. 초록 점을 직선 위에서 움직여 보세요. 거리 수선의 발에서 가장 짧고, 그때 오차 벡터⁠(vector)⁠가 직선과 수직입니다(직각 표시).

노란 점 P와 직선의 방향(파랑)을 끌 수 있습니다. 초록 점은 직선 위의 후보, 분홍 점이 정사영입니다.

"가장 가깝다"와 "오차가 수직이다"는 같은 말입니다. 직선 위의 다른 점 Q를 고르면 P, 수선의 발, Q가 직각삼각형⁠(right triangle)⁠을 이루고, P에서 Q까지는 그 빗변⁠(hypotenuse)⁠이라 수선보다 깁니다(피타고라스).

계산은 내적⁠(dot product)⁠ 하나면 됩니다. 그림처럼 직선이 원점을 지날 때, 직선 방향의 길이 1인 벡터를 u^\hat u, 원점에서 P로 가는 벡터를 p⃗\vec p라 하면 그림자 길이는 p⃗⋅u^\vec p\cdot\hat u이고 수선의 발은 (p⃗⋅u^) u^(\vec p\cdot\hat u)\,\hat u입니다.

정사영도 선형변환⁠(linear transformation)⁠이라 행렬⁠(matrix)⁠ P로 쓸 수 있습니다. 이미 직선 위에 있는 점은 그대로 있으니 두 번 해도 한 번 한 것과 같습니다(P2=PP^2 = P). 평면을 직선으로 납작하게 누르니 넓이⁠(area)⁠가 0이 되어 행렬식⁠(determinant)⁠이 0입니다. 직선 방향의 벡터는 그대로(1배), 직선에 수직인 벡터는 0으로 가니 고유값⁠(eigenvalue)⁠은 1과 0입니다.

이 그림이 데이터 분석의 핵심입니다. 점 다섯 개에 가장 잘 맞는 직선 y=a+bxy = a + bx를 찾는다고 합시다. 점마다 식이 하나씩, 식은 다섯 개인데 미지수는 a, b 두 개뿐이라 보통 모든 식을 만족하는 답이 없습니다. 이때 a, b를 어떻게 고르든 나오는 '예측값 다섯 개'의 벡터들은 5차원 공간 안의 평면 하나를 이룹니다(x값이 모두 같지만 않다면). 이 평면이 행렬의 열공간⁠(column space)⁠입니다. 관측값 벡터를 이 평면에 정사영한 점이 오차 제곱의 합이 가장 작은 예측, 곧 최소제곱⁠(least squares)⁠ 해입니다.

같은 생각이 다른 곳에도 나옵니다. 푸리에 계수는 함수⁠(function)⁠를 서로 수직인 사인파⁠(sinusoid)⁠들 각각의 방향으로 정사영해 구합니다. 주성분 분석⁠(principal component analysis)⁠은 데이터를 어느 직선에 정사영했을 때 그림자들이 가장 넓게 퍼지는지 찾습니다.

삼각형에서도 쓰입니다. 변 b를 변 a 위로 정사영한 그림자의 길이는 bcos⁡Cb\cos C입니다(C는 두 변 사이의 각). 이 그림자를 경계로 삼각형을 두 직각삼각형으로 나누고 각각 피타고라스 정리⁠(Pythagorean theorem)⁠를 쓰면 코사인 법칙⁠(law of cosines)⁠이 나옵니다.

이 개념이 나오는 긴 글

미분에서 회전까지 · 5편 · 복소수와 행렬 곱셈은 회전이다 복소수를 곱하는 일과 행렬로 평면을 돌리는 일은 같은 일이다. 삼각함수 원에서 파동으로 별의 위치를 재던 현의 표가 사인이 되고, 열의 흐름을 풀던 푸리에가 모든 파동을 사인으로 쪼갰다. 최소제곱과 선형대수 잃어버린 소행성 1801년, 발견 몇 주 만에 태양 뒤로 사라진 세레스. 스물네 살의 가우스는 흩어진 관측값에서 궤도를 되찾았다. 비유클리드 기하 평행선의 반란 유클리드의 다섯 번째 공준은 2,000년 동안 증명되지 않았다. 증명을 포기한 사람들이 찾은 것은 새로운 우주였다. 통계와 인과 담배와 폐암 상관관계는 인과관계가 아니라고들 한다. 그렇다면 담배가 폐암을 일으킨다는 것은 어떻게 알게 되었을까? 역문제 거꾸로 푸는 문제는 왜 어려운가 원인에서 결과를 계산하기는 쉽다. 흐린 사진, CT, 블랙홀 사진은 왜 결과에서 원인을 되찾기 어려웠을까? 작은 특잇값이 잡음을 키우는 벽과, 정규화·릿지 회귀·베이즈 사전확률이 사실은 같은 처방이라는 이야기. 측정의 수학 재는 순간 바뀐다 해안선의 길이는 자에 따라, 평균은 누구에게 묻느냐에 따라, 지표는 목표가 되는 순간 달라진다. 리처드슨의 국경과 프랙털 차원, 스티븐스의 척도, 버스 정류장과 타율의 역설, 스피어먼의 요인, 굿하트의 법칙과 보상 해킹을 한 줄로 꿴다.

이 개념 위에 세워진 것

이 개념을 언급하는 페이지

이 페이지가 가리키는 개념