고유벡터와 고유값(Eigenvectors and eigenvalues)

이 개념 위에 세워진 것

이 개념을 언급하는 페이지

• 벡터

  … 직선을 벗어나지 않는 0이 아닌 벡터, 곧 수배(늘이기, 줄이기, 뒤집기, 0으로 눌리기)만 되는 벡터가고유벡터입니다. 평면의 벡터 (a, b) 를 수 하나 a + bi 로 보면 복소수가 됩니다. 복소수의 덧셈은 …

• 최적화

  … 가장 큰) 방향을 찾습니다. 그 답은 공분산 행렬(각 변수 쌍이 함께 변하는 정도를 모은 표)의고유벡터가운데 고유값이 가장 큰 것입니다. 물리에도 있습니다. 페르마는 1662년 빛이 두 점 사이를 가장 …

• 오일러 공식

  … 행렬은 (θ가 0이나 π가 아니면) 어떤 화살표도 원래의 직선 위에 남겨 두지 않습니다. 그래서 실수고유벡터(변환 뒤에도 같은 직선 위에 남는 화살표)가 없지만, 복소수까지 허락하면 고유값이 e^{\pm …

• 선형변환

  … 배가 되는지가 행렬식이고(앞뒤가 뒤집히면 음수), 변환 뒤에도 제 직선 위에 머무는 0이 아닌 벡터가고유벡터입니다. 어떤 선형변환이든 회전(또는 뒤집기), 서로 수직인 축 방향으로 늘이기, 다시 회전의 세 단계로 …

• 행렬식

  … b^2 = |w|^2 이라 0이 아닌 한 늘 양수입니다. 뒤집지 않고 돌리고 늘이기만 하니까요. 행렬식은고유값들의 곱이기도 합니다(복소수 고유값과 겹친 고유값까지 모두 셀 때). 행렬식이 0이 아니면 변환을 되돌릴 …

• 회전 행렬

  … 세운 것이 회전 행렬입니다. \theta = . θ가 0이나 π가 아니면 회전은 모든 방향을 돌리니 실수고유벡터가 없습니다(θ = π이면 모든 벡터가 정반대로 뒤집혀 고유값 −1입니다). 하지만 고유값은 오른쪽 …

• 정사영

  … 0이 되어 행렬식이 0입니다. 직선 방향의 벡터는 그대로(1배), 직선에 수직인 벡터는 0으로 가니고유값은 1과 0입니다. 이 그림이 데이터 분석의 핵심입니다. 점 다섯 개에 가장 잘 맞는 직선 y = a + …

• 대각화와 행렬 거듭제곱

  … \dots 를 번까지 찍어 봅시다. 점들은 곧 한 방향(주황 점선)으로 줄을 섭니다. 절댓값이 가장 큰고유값에 속한 고유벡터의 방향입니다. 출발점을 끌어 보세요. 다른 고유벡터의 직선 위만 아니면 어디서 출발해도 …

• 선형 미분방정식

  … e^{at} 하나뿐이고( x_0 은 처음 값), a가 양수면 불어나고 음수면 0으로 줄어듭니다. 평면에서는고유벡터가 이 역할을 나눠 맡습니다. 고유벡터 방향에서는 A\vec x = \lambda\vec x 이니 규칙이 …

• 마르코프 연쇄

  … 하고, 한 번 더 P 를 곱해도 변하지 않습니다: \pi P = \pi . 곧 P 의 고유값 1에 대응하는고유벡터입니다. 하루하루 곱하는 일은 행렬의 곱이 쌓이는 것이라, k일 뒤의 분포는 오늘의 분포에 P^k 를 …

• 주성분 분석

  … 1인 방향 \vec u 가운데 이 값을 가장 크게 만드는 것은 \Sigma 의 가장 큰 고유값에 대응하는고유벡터이고, 그때의 분산이 바로 그 고유값입니다. 공분산 행렬은 대각선을 기준으로 대칭입니다. 대칭 행렬은 서로 …

• 피보나치 수열

  … 곱해도 같은 직선 위에 머물고 \lambda 배가 될 뿐인 벡터가 있을 때, 그 배율 \lambda 를고유값이라 합니다( \lambda 가 음수면 방향이 뒤집힙니다). 이 행렬의 고유값은 \lambda^2 = …

• 열방정식

  … \sin kx , 제 모양의 -k^2 배입니다. 곧 \sin kx 는 "두 번 미분하기"라는 변환의고유벡터이고 고유값은 -k^2 입니다. 그러면 모양은 그대로 두고 높이 b만 b' = -k^2 b 를 따르므로, …

• 파동방정식

  … t} 로 사라지고 여기서는 \cos kct 로 영원히 떱니다. 둘 다 \sin kx 가 이계 미분의고유벡터라서 풀립니다. 진행파를 오일러 공식으로 e^{i(kx - \omega t)} 라고 쓰면 미분이 …

• 가우스 소거법

  … 남은 피벗의 개수가 행렬의 계수(rank), 곧 열들이 실제로 펼치는 공간인 열공간의 차원입니다.고유값\lambda 는 A - \lambda I 를 소거했을 때 피벗이 모자라게 되는 값입니다. 0이 아닌 수로 …

• 열공간

  … 데이터가 가장 넓게 퍼진 몇 방향이 펼치는 공간을 찾는 것이 주성분 분석입니다. 정사각행렬 A 의고유값\lambda 는 A - \lambda I 의 열공간이 쪼그라드는(계수가 줄어드는) 값입니다. 계수가 r인 …

• 분기

  … 선형 근사 \dot x \approx f'(x^*)(x - x^*) 에서 곱해지는 수 f'(x^*) 가 곧고유값역할을 하니, 고유값이 0이 되는 순간입니다. 변수가 둘 이상이면 다른 길도 있습니다. 평형점의 고유값이 …

• 로렌츠 끌개

  … 각 성분을 각 변수로 편미분한 값을 늘어놓은 행렬로, 야코비 행렬이라 부릅니다. 흐름의 모양은 J의고유값이 정합니다. 원점은 안장입니다. 고유값 가운데 양수가 하나 있어서, 어떤 방향으로는 궤도를 끌어들이고 한 …

• 상관관계

  … 세우고 따져야 합니다. 이어지는 곳. 변수가 여럿이면 짝마다의 공분산을 모은 공분산 행렬이 생기고, 그고유벡터가 주성분 분석의 축입니다. 두 값이 함께 정규분포를 따르면 산점도는 타원 모양이 되고, r은 두 …

• 가우스 곡률

  … 이 세 값을 모은 2×2 행렬의 행렬식이 K이고, \kappa_1, \kappa_2 는 그 행렬의고유값입니다. 같은 식이 최적화에서 기울기가 0인 점이 극대·극소인지 안장점인지 가려내는 판별식으로도 …

• 페이지랭크

  … 위의 한 걸음은 곧 G를 곱하는 것입니다). G를 곱해도 변하지 않는 벡터, 곧 G의 고유값 1에 대한고유벡터가 페이지랭크입니다. 같은 벡터를 연립일차방정식 (I - dM)\,r = …

• 마할라노비스 거리

  … 거리는 바로 이 새 좌표에서 잰 유클리드 거리입니다. \Sigma^{-1/2} 는 좌표를 \Sigma 의고유벡터축으로 돌리고, 축마다 고유값의 제곱근으로 나눈 뒤, 다시 돌려놓는 행렬입니다(대각화). 그 …

• 경사 하강법

  … 그 모양은 두 번 미분한 값들을 모은 행렬(헤세 행렬, 독일 수학자 오토 헤세의 이름)이 정합니다. 그고유값들은 고유벡터 방향으로 그릇이 얼마나 가파르게 휘었는지, 곧 방향마다의 곡률입니다. 길쭉한 골짜기에서는 x …

• 점화식

  … 1 & 0 \end{pmatrix} 을 거듭 곱하는 것이고(c = 0일 때), 특성방정식의 근은 그 행렬의고유값입니다(대각화). 이어지는 곳. 점화식을 푸는 또 하나의 방법은 수열 전체를 급수의 계수로 담는 …

• 다항식

  … 고릅니다. 어느 경우든 계수를 구하는 일은 연립일차방정식을 푸는 일입니다. 이어지는 곳. 행렬 A의고유값은 특성다항식 det(A − λI)의 근이고(행렬식), 선형 미분방정식의 해도 특성방정식의 근이 …

• 고정점

  … 되풀이하면 하나뿐인 고정점, 곧 참 가치로 수렴합니다. 마르코프 연쇄의 정상 분포와 고윳값이 1인고유벡터도 고정점입니다. 1950년 미국의 수학자 존 내시는, 모든 참가자가 다른 참가자들의 전략에 대해 가장 …

• 원뿔곡선

  … xy 항은 곡선이 기울어져 있다는 뜻이고, 좌표축을 돌려 이 항을 없애는 일은 대칭 행렬을 대각화해고유벡터방향을 찾는 일과 같습니다. 사영기하에서는 세 곡선이 사영 변환으로 서로 옮겨 가는 한 종류의 …

• 동역학계

  … 고정점 가까이에서 \sin\theta 를 직선으로 어림하면 진자는 선형 미분방정식이 되고, 그 행렬의고유값이 매달린 쪽에서는 \pm i (제자리를 도는 운동), 거꾸로 선 쪽에서는 \pm 1 (한 방향으로는 …

• 삼체 문제

  … 로렌츠 끌개에서 다시 발견되었습니다. 해의 안정성은 해 근처를 선형 미분방정식으로 어림하고 그고유값을 보아 판정하며, 라그랑주 점은 함께 도는 좌표에서 본 고정점입니다. 8자 궤도의 존재는 …

• 사원수

  … 크기 1인 사원수는 공간의 회전입니다. 같은 회전을 회전 행렬로 쓰면 회전축은 고유값 1의고유벡터이고, 회전을 잇따라 하는 것은 행렬의 곱입니다(선형변환). ±1, ±i, ±j, ±k 여덟 원소는 …

• 정규화: 릿지와 라소

  … + \lambda I)^{-1}X^{\mathsf T}\vec y 입니다. X^{\mathsf T}X 의고유값은 모두 0 이상이고, λI를 더하면 모두 λ만큼 커집니다. 그래서 λ > 0이면 고유값이 모두 λ 이상이 …

• 특잇값 분해

  … 수 없는 행렬이어도 됩니다. 까닭은 짧습니다. A^{\mathsf T}A 는 대칭 행렬이라서 서로 수직인고유벡터\vec v_1, \ldots, \vec v_n 으로 좌표축을 모두 채울 수 있습니다(스펙트럼 정리). …

• 기울기 벡터와 야코비 행렬

  … f\cdot\vec h + \tfrac12\vec h^{\mathsf T}H\vec h 를 줍니다. H의고유값은 그 고유벡터 방향으로 자른 단면의 이계도함수, 흔히 말하는 '그 방향의 휘는 정도'입니다. ∇f = …

• 라그랑주 승수법

  … = \lambda\cdot 2\vec u , 곧 \Sigma\vec u = \lambda\vec u 라는고유벡터방정식이 나오고, 승수 λ가 그 방향의 분산입니다. 합이 1이고 평균이 정해진 분포 가운데 엔트로피가 …

• 인공지능

  … 어느 쪽인지는 가중치 행렬이 벡터를 얼마나 늘이고 줄이는지에 크게 좌우됩니다. 그 정도를 재는 수가고유값과 특잇값입니다(비선형 함수의 기울기도 함께 곱해집니다). 출력을 확률로. 마지막 층의 수들은 …

• 합성곱 신경망

  … 행렬로 쓰면 합성곱은 각 행이 윗줄을 한 칸씩 돌린 순환 행렬이고(선형변환), 모든 순환 행렬은 같은고유벡터, 곧 1의 거듭제곱근으로 만든 복소 사인파들을 공유합니다. 그래서 그 기저로 대각화하면 합성곱은 …

• 순환 신경망과 LSTM

  … g = c_1 v_1 + c_2 v_2 로 쓰면, k걸음 뒤에는 각 성분에 제 배율의 k제곱이 곱해집니다(고유벡터, 대각화). (dW)^k g = c_1 (d\lambda_1)^k\, v_1 + c_2 …

• 오토인코더와 잠재 공간

  … 평균도 0이므로, z²의 평균은 곧 z의 분산입니다. 자료가 가장 넓게 퍼진 방향, 곧 공분산 행렬의 첫고유벡터가 답이고, 이것이 주성분 분석의 첫 주성분입니다. 오른쪽 그래프에서 오차는 w의 각도를 따라 …

• 상태 공간 모형과 선형 순환

  … 서로 섞이지 않는 성분들로 나뉘고, 성분마다 고유값 λ의 거듭제곱 \lambda^j 로 과거를 잊습니다(고유벡터). 연속 시간의 고유값 a = -\alpha + i\omega 는 \lambda = e^{\Delta …

• 라플라시안과 그래프 라플라시안

  … } ab} (u_a - u_b)^2 \;\ge\; 0 이 되기 때문입니다. 행렬 L 은 대칭이라고유벡터들로 서로 수직인 좌표축을 잡을 수 있고, 위의 부등식 때문에 고유값이 모두 0 이상입니다. 이 부등식 …

이 페이지가 가리키는 개념