정의 D1
여러 변수의 함수 F 에 대하여, xᵢ 를 뺀 나머지 변수를 고정하고 xᵢ 에 대해 미분한 것을 ∂F/∂xᵢ 로 쓴다. 곧 lim (h→0) [F(…, xᵢ+h, …) − F(…, xᵢ, …)]/h 이다.
증명.
(1)나머지 변수를 고정하면 F 는 xᵢ 하나의 함수다. 편미분은 그 함수의 미분계수다.약속
(2)이 극한은 ε-δ 로 정해진다. 한 변수의 미분계수와 같은 뜻이며 다른 규칙이 아니다.A2
∎
정의 D2
u₀ = x 로 두고, k = 1, …, n 에 대하여 uₖ = fₖ(uₖ₋₁, wₖ) 로 둔다. 마지막 값 L = uₙ 을 출력이라 한다.
증명.
(1)층 k 는 앞 층의 값 uₖ₋₁ 과 그 층의 값 wₖ 를 받아 uₖ 를 낸다.약속
(2)aₖ = ∂uₖ/∂uₖ₋₁, bₖ = ∂uₖ/∂wₖ 로 적는다. 이 둘은 층 하나만 보고 얻는다.(1), D1
(3)출력 L 은 하나의 수이고, 구하려는 것은 ∂L/∂w₁, …, ∂L/∂wₙ 의 n 개다.(1), D1
∎
정의 D3
계산량은 곱셈의 횟수로 센다. aₖ 와 bₖ 는 이미 주어진 것으로 본다.
증명.
(1)수 m 개를 곱하는 데는 곱셈이 m − 1 번 든다.약속
∎
보조정리 L1
y = f₃(f₂(f₁(x))) 이고 u₁ = f₁(x), u₂ = f₂(u₁) 이면 y′ = f₃′(u₂)·f₂′(u₁)·f₁′(x)
증명.
(1)g = f₃∘f₂ 로 두면 y = g(f₁(x)) 이다.약속
(2)연쇄법칙에 의해 y′ = g′(u₁)·f₁′(x)(1), A1
(3)다시 연쇄법칙에 의해 g′(u₁) = f₃′(f₂(u₁))·f₂′(u₁) = f₃′(u₂)·f₂′(u₁)(1), A1
(4)그러므로 y′ = (f₃′(u₂)·f₂′(u₁))·f₁′(x) = f₃′(u₂)·f₂′(u₁)·f₁′(x)(2), (3), A3, E
(5)세 겹에는 연쇄법칙을 두 번 쓴다. 겹이 늘어도 같은 일이 반복될 뿐이다.(2), (3)
∎
정리 T1
n ≥ 2 이고 y = fₙ(⋯f₁(x)⋯) 이면 y′ = fₙ′(uₙ₋₁)·fₙ₋₁′(uₙ₋₂)⋯f₁′(x) 이다.
증명.
(1)n = 2 는 연쇄법칙 그 자체다.A1
(2)n 에서 성립한다 하고 그 합성을 F 라 하자. F′(x) = fₙ′(uₙ₋₁)⋯f₁′(x)가정
(3)n+1 겹은 fₙ₊₁∘F 이므로 (fₙ₊₁∘F)′(x) = fₙ₊₁′(uₙ)·F′(x)(2), A1
(4)(3) 에 (2) 를 넣고 괄호를 풀면 인자가 n+1 개인 곱이 된다.(2), (3), A3
(5)귀납법에 의해 모든 n ≥ 2 에서 성립한다.(1), (4), A6
∎
정리 T2
δₖ = ∂L/∂uₖ 로 두면 δₙ = 1, δₖ₋₁ = δₖ·aₖ, ∂L/∂wₖ = δₖ·bₖ 이다.
증명.
(1)L = uₙ 이므로 δₙ = ∂uₙ/∂uₙ = 1D2, D1
(2)uₖ₋₁ 이 바뀌면 uₖ 가 바뀌고 uₖ 가 바뀌면 L 이 바뀐다. 그 사이에 다른 길은 없다.D2
(3)연쇄법칙에 의해 ∂L/∂uₖ₋₁ = (∂L/∂uₖ)·(∂uₖ/∂uₖ₋₁) = δₖ·aₖ(2), A1, D1, D2
(4)같은 이유로 ∂L/∂wₖ = (∂L/∂uₖ)·(∂uₖ/∂wₖ) = δₖ·bₖ(2), A1, D1, D2
(5)그러므로 δ 는 δₙ 에서 시작하여 뒤에서 앞으로 하나씩 정해진다.(1), (3)
∎
따름정리 C
1 ≤ k ≤ n 의 모든 k 에서 δₖ = aₖ₊₁·aₖ₊₂⋯aₙ 이다. k = n 일 때 오른쪽은 인자가 없는 곱이며, 그 값은 1 로 약속한다.
증명.
(1)j = n − k 로 두고 j 에 대한 귀납으로 보인다.약속
(2)j = 0 이면 k = n 이다. T2 에 의하여 δₙ = 1 이고 오른쪽도 1 이므로 주장이 성립한다.T2, (1), 약속
(3)j 에서 성립한다 하자. 곧 k = n − j 에 대하여 δₖ = aₖ₊₁⋯aₙ 이다.가정, (1)
(4)T2 에 의하여 δₖ₋₁ = δₖ·aₖ = (aₖ₊₁⋯aₙ)·aₖ = aₖ·aₖ₊₁⋯aₙ 이고, 이는 j+1 에 대한 주장이다.(3), T2, A3, A4, A5
(5)귀납법에 의하여 1 ≤ k ≤ n 의 모든 k 에서 δₖ = aₖ₊₁⋯aₙ 이다.(2), (4), A6
(6)δ 를 뒤에서 앞으로 하나씩 정하는 것과 δₖ 를 곱으로 직접 계산하는 것은 같은 값을 준다.(5), T2
∎
정리 T3
δ₁, …, δₙ₋₁ 을 모두 얻는 데, 뒤에서부터는 곱셈이 n − 1 번 들고, 각각을 따로 계산하면 (n−1)(n−2)/2 번 든다.
증명.
(1)뒤에서부터: δₙ = 1 에서 δₖ₋₁ = δₖaₖ 를 k = n 부터 2 까지 쓴다. 곱셈은 모두 n − 1 번이다.T2, D3, N
(2)따로: δₖ = aₖ₊₁⋯aₙ 은 인자가 n − k 개이므로 곱셈이 n − k − 1 번 든다.C, D3
(3)k = 1 부터 n−1 까지 더하면 (n−2) + (n−3) + ⋯ + 1 + 0(2), N
(4)그 합은 (n−2)(n−1)/2(3), A7
(5)두 값의 차는 (n−1)(n−2)/2 − (n−1) = (n−1)(n−4)/2(1), (4), A8, A9, A3, A4, N
(6)n = 4 이면 두 값은 3 으로 같고, n ≥ 5 이면 (n−1)(n−4)/2 > 0 이므로 뒤에서부터가 적다.(5), A10, A11, N
(7)n = 100 이면 99 와 4851 이다. 앞의 것은 n 에, 뒤의 것은 n² 에 비례한다.(1), (4), N
(8)차이의 뿌리는 출력이 하나라는 데 있다. 뒤에서 시작하는 값은 δₙ = 1 하나뿐이고, 그것을 앞으로 실어 나르면 모든 층이 한 번의 통과로 끝난다. 앞에서부터 하면 층마다 같은 곱을 처음부터 다시 만든다.(1), (2), T2
∎