지수함수 eˣ(Exponential function eˣ)
기울기(slope)가 언제나 자기 높이와 같은 함수(function). 미분(differentiation)해도 그대로이고, 1에서 시작한다.
eˣ의 정체는 한 문장입니다. 어디서나 기울기가 높이와 같고, x = 0에서 높이가 1이다. 기울기가 높이와 같은 함수는
"변화의 빠르기가 현재 양에 비례한다"는 규칙은 세상에 흔합니다. 이자, 방사성 붕괴, 그리고 먹이와 공간이 넉넉한 동안의 인구가 그렇습니다. 이 규칙
모든 도함수(derivative function)가 자기 자신이니 모든 미분값이
eˣ를 되돌리는 함수가 자연로그(natural logarithm)이고, 지수에 −x²을 넣은 종 모양 곡선은 정규분포(normal distribution)와 가우스 적분(Gaussian integral)의 주인공입니다. p가 작을 때 (1 − p)ⁿ ≈ e^(−np)로 근사해 작은 확률(probability)들의 곱을 다루는 것도 흔한 쓰임새입니다(생일 문제(birthday problem)). e는 세기에서도 튀어나옵니다. 모자 n개를 무작위로 돌려줄 때 아무도 자기 모자를 받지 못할 확률은
eˣ는 모든 실수(real number)를 양수로 바꾸면서 크기 순서를 지키므로, 점수 여러 개를 eˣ로 바꾼 뒤 합이 1이 되게 나누면 확률이 됩니다. 이것이 소프트맥스(softmax)이고, 점수가 둘일 때 두 점수의 차를 x라 하면 로지스틱 회귀(logistic regression)의 S자 곡선
이 개념이 나오는 긴 글
이 개념 위에 세워진 것
이 개념을 언급하는 페이지
- 도함수
… 모으고 k번째 값을 k! 로 나눠 계수로 쓰면 테일러 급수가 됩니다. 눈여겨볼 짝이 몇 있습니다.eˣ의 도함수는 자기 자신이고, sin의 도함수는 cos입니다. 거꾸로 도함수에서 원래 함수로 돌아가는 …
- 미적분의 기본정리
… 달라서, 어느 것을 골라도 빼기에서 상수가 지워집니다). 도함수 공식이 곧 적분 공식이 되는 셈입니다.eˣ처럼 미분해도 그대로인 함수는 적분해도 상수 차이를 빼면 그대로입니다( \int_0^x e^t\,dt = …
- 연쇄법칙
… 연쇄법칙은 이 행렬 곱셈의 1×1 경우입니다. e^{g(x)} 의 미분이 g'(x)e^{g(x)} 인 것(지수함수)도 연쇄법칙입니다. 로그의 미분도 eˣ의 역함수라는 점에서 구합니다. e^{\ln x} = x 의 …
- 자연로그
자연로그에는 얼굴이 둘 있습니다. 하나는eˣ의 역함수입니다. e^{y} = x 인 y가 \ln x 이고, 그래프는 eˣ를 직선 y = x 에 비춘 …
- 테일러 급수
… 노란 곡선이 n차 다항식입니다. 빨간 영역이 오차입니다. 차수를 올릴수록 달라붙는 구간이 넓어집니다.eˣ, sin, cos은 모든 실수에서 끝내 따라잡지만, 어떤 함수는 중심에서 일정 거리보다 먼 곳에서 …
- 오일러 공식
eˣ는 끝없이 더해 가는 식으로 쓸 수 있습니다. 이렇게 함수를 x의 거듭제곱들의 합으로 쓴 것을 ⟦테일러 …
- 선형 미분방정식
… 방향입니다. 한 변수라면 x' = ax , 곧 변하는 빠르기가 지금 값에 비례한다는 규칙입니다. 해는지수함수x_0 e^{at} 하나뿐이고( x_0 은 처음 값), a가 양수면 불어나고 음수면 0으로 줄어듭니다. …
- 정규분포
… 안에 99.7%가 들어갑니다. σ를 잣대로 쓰면 모든 정규분포가 같은 모양이기 때문입니다. 곡선의 모양은지수함수e^{-x^2/2} 에서 옵니다. 표준정규분포(μ = 0, σ = 1)에서는 중심에서 거리 x만큼 떨어지면 …
- 생일 문제
… 대략 사람 수의 제곱에 비례해 늘어나는 것입니다. 곱의 각 항에 1 - x \approx e^{-x} (지수함수)를 쓰면 곱이 e^{-n(n-1)/730} 가 되어 점선과 거의 겹칩니다. 지수의 n(n-1)/730 은 …
- 디피–헬먼 키 교환
… 고르면 점들이 무작위처럼 흩어집니다. 거듭제곱에서 지수를 되찾는 문제를 이산로그 라 합니다. 실수 위의지수함수는 매끄럽게 커지니 로그로 쉽게 되돌리지만, 나머지를 취하는 순간 값이 시계를 여러 바퀴 돌아 …
- 스털링 공식
… 넓이인 정적분 \int_1^n \ln x\,dx = n\ln n - n + 1 과 비슷하고, 양변에지수함수를 씌우면 n! \approx e\,(n/e)^n 이라는 뼈대가 벌써 잡힙니다. 보라 막대의 넓이 합이 …
- 열방정식
… 고유값은 -k^2 입니다. 그러면 모양은 그대로 두고 높이 b만 b' = -k^2 b 를 따르므로, 높이는지수함수e^{-k^2 t} 로 줄어듭니다(선형 미분방정식). 계단처럼 군데군데 끊기거나 꺾여도 조각마다 …
- 대수적 수와 초월수
… 1882년 독일의 페르디난트 폰 린데만이 증명했습니다. 린데만은 0이 아닌 대수적 수 \alpha 에 대해지수함수값 e^{\alpha} 가 초월수임을 보였습니다. 오일러 공식 e^{i\pi} = -1 에서 -1 은 …
- 로지스틱 사상
… 대한 비율 x (0과 1 사이)로 적습니다. 먹이가 넉넉할 때는 해마다 r 배로 불어나고(그대로 두면지수함수처럼 늘어납니다), 서식지가 꽉 찰수록 남은 자리의 비율 1 - x 만큼 억눌립니다. 그래서 다음 해의 …
- 분기
… 가까이서 보면 \dot x \approx f'(x^*)(x - x^*) 라는 선형 미분방정식이고 해가지수함수e^{f'(x^*)t} 로 줄거나 자라므로, f'(x^*) 0 이면 멀어집니다(빈 점). f'(x^*) = …
- 혼돈
… 그림은 두 궤도 사이의 거리 |\delta_n| 을 로그 눈금으로 그린 것입니다. 로그 눈금에서는지수적으로 자라는 양이 직선이 되고, 그 기울기가 랴푸노프 지수 λ입니다(점선). 러시아 수학자 알렉산드르 …
- 로렌츠 끌개
… 지금 거리는 |\delta| = 입니다. 아래 그림에서 거리의 로그가 거의 직선으로 오르니 거리는지수적으로, |\delta(t)| \approx \varepsilon e^{\lambda t} ( \lambda …
- 쌍곡기하
… a^2 + b^2 등)으로 돌아옵니다. 반지름 r 인 원의 둘레는 2\pi\sinh r 로, r이 커지면지수함수처럼 불어납니다. 평면이라면 2\pi r 로 r에 비례할 뿐입니다. 가장자리가 쭈글쭈글한 상추 잎이나 …
- 가우스 곡률
… 남습니다(분홍, 쌍곡 사인). 평면에서는 늘 1입니다. 여기 나온 둘은 사인 \sin\rho 와,지수함수로 만든 쌍곡사인 \sinh\rho = \tfrac12(e^\rho - e^{-\rho}) 입니다. 함수를 …
- 좁은 세상
… 한 걸음이면 k명, 두 걸음이면 대략 k^2 명, r걸음이면 k^r 명에게 닿습니다. 닿는 사람이지수함수처럼 불어나므로, n명 모두에 닿는 데는 k^r = n , 곧 r = \ln n / \ln k 걸음이면 …
- 지프의 법칙
… L에 대해 지수적으로 늘어나니 순위 r은 대략 c^L 꼴이고, 빈도는 d^{-L} 꼴로 줄어듭니다. 두지수함수에서 L을 지우면 빈도가 순위의 거듭제곱, 곧 멱법칙이 됩니다(계단처럼 보이는 것은 길이가 같은 낱말들의 …
- 신경망
… 누르는 S자 함수)로 구부려 −1과 1 사이의 값을 냅니다. 출력 단위는 그 값들을 다시 가중합한 뒤,지수함수로 만든 시그모이드 \sigma(s) = 1/(1+e^{-s}) 로 0과 1 사이의 수를 냅니다. 이 수를 …
- 교란순열
… 괄호 안은 e^{-1} 의 테일러 급수를 n번째 항에서 자른 것입니다. 그래서 확률 D_n/n! 은지수함수의 급수를 따라 1/e 로 아주 빨리 다가갑니다. 부호가 번갈아 바뀌며 크기가 줄어드는 급수를 중간에서 …
- 점근 표기법
… 걸음은 , 2^n 걸음은 걸립니다. 로그 \log_2 n 은 n을 천 배로 늘려도 10쯤 늘 뿐이고,지수함수2^n 은 n이 하나 늘 때마다 두 배가 되어 n = 100이면 이 컴퓨터로 약 40조 년, 우주 나이(약 …
- 재귀
… \approx 1.8 \times 10^{19} 번, 1초에 한 번씩 옮겨도 약 5800억 년이 걸립니다.지수함수적인 증가의 전형입니다. 컴퓨터는 재귀 호출을 할 때마다 '어디까지 했는지'를 호출 스택에 쌓아 두었다가, …
- 최대 엔트로피 원리
… 엔트로피 분포는 언제나 p_i \propto e^{\lambda i} 모양입니다. 왼쪽 그림의 점선이 그지수함수곡선입니다. 합이 1이고 평균이 m이라는 두 조건 아래에서 H = -\sum p_i \log p_i 를 …
- 급수의 수렴과 발산
… 필요할 때가 많고, 그렇지 않을 때 깁스 현상 같은 일이 생깁니다. 급수로 정의되는 대표적인 값으로지수함수의 e, π²/6, 제타 함수가 있고, 수열을 계수로 담는 생성함수는 수렴하지 않아도 형식적으로 …
- 동역학계
… 혼돈과 확률 혼돈은 규칙에 우연이 전혀 없는데도, 유한한 영역 안에서 처음 상태의 아주 작은 차이가지수적으로 커져 먼 미래를 예측할 수 없는 행동입니다. 초기 오차가 1000분의 1이든 100만분의 1이든 결국 …
- 삼체 문제
… 한 바퀴(시간으로 약 8.3)마다 수십 배씩 자라 결국 삼각형이 무너지고 세 물체가 뒤엉킵니다. 차이가지수적으로 자라므로 아래 그림에서 거리의 로그가 직선으로 오르고, k를 1 올려 처음 차이를 10분의 1로 …
- 소프트맥스와 교차 엔트로피
… 음수도 될 수 있고 합도 정해져 있지 않아서 그대로는 확률이 아닙니다. 소프트맥스는 각 점수에지수함수를 씌워 모두 양수로 만든 뒤, 합이 1이 되도록 전체 합으로 나눕니다. T는 잠시 뒤에 설명할 온도이고, …
- 상태 공간 모형과 선형 순환
… 두면 처음의 이동 평균 0.9와 0.1이 그대로 나옵니다. 행렬 지수 e^{\Delta A} 는지수함수를 행렬로 늘린 것입니다. D u는 입력을 출력으로 곧장 넘기는 항이라 아래에서는 생략합니다. 이 점화식에 …