Lagrange Multiplier
볡μμ 곡νκ³ μλ μνκ³Όμ μ‘Έμ μνμ μν΄ νλΆ μν κ³Όλͺ©λ€μ λ€μ 곡λΆνκ³ μμ΅λλ€. λ―Έμ λΆν ν¬μ€νΈ μ 체 보기
A powerful method for finding extreme values of constrained functions
βλΌκ·Έλμ£Ό μΉμλ²(Lagrange Multiplier)βλΌλ λ°©λ²λ‘ μ μ ν μ‘°κ±΄μ΄ μλ μν©μμ ν¨μμ κ·Ήκ°(extreme value)λ₯Ό κ°λ ₯ν λ°©λ²μ΄λ€. μ§κΈκΉμ§ μμ₯μμ λ°°μ΄ λ―Έμ λΆν2 λ΄μ©μ μ λΆ λ°νμΌλ‘ νλ μ€μν μμ© μ¬λ‘ μ€ νλλ€.
The Lagrange Multiplier
picture from wikimedia
κ±°λμ λ―Ένκ³ λ°λ‘ μ΄λ»κ² νλ κ±΄μ§ λ°λ‘ μ΄ν΄λ³΄μ.
μ΄μ°¨μ νλ©΄ μμ ν¨μ $z = f(x, y)$κ° μλ€. μ΄ ν¨μμ μ΅λ/μ΅μ κ°μ ꡬνλ κ²μ΄ λͺ©νμ΄λ€. κ·Έλ°λ° μ΅λ/μ΅μ κ°μ ν¨μμ μ μμ μ μ²΄κ° μλλΌ νΉμ κ΅μ λ²μμ μμμμ μ΅λ/μ΅μ κ°μ μ°Ύκ³ μΆλ€. μ΄λ, κ΅μ λ²μλ μμ(Region)μ΄ μλλΌ $g(x, y) = k$λΌλ 곑μ μΌλ‘ μ£Όμ΄μ§ μν©μ΄λ€. μ΄ κ³‘μ μμμ ν¨μ $f(x, y)$μ μ΅λ/μ΅μ κ°μ ꡬν΄μΌ νλ©°, $g(x, y) = k$λ₯Ό μ μ½μ‘°κ±΄(Constraint)λΌκ³ νλ€.
곑μ $g(x, y) = k$ μμ μ‘΄μ¬νλ ν¨μ $f(x, y)$μ μ΅λ/μ΅μ κ°μ μμΉκ° $(a, b)$λΌκ³ νμ. κ·Έλ¬λ©΄, μμΉ $(a, b)$λ μλμ μλμ λ±μμ λ§μ‘±νλ€.
\[g(a, b) = k\]μ μ½μ‘°κ±΄μ μ΄λ£¨λ 곑μ $g(x, y) = k$μ μμΌλ μ΄κ±΄ λΉμ°νλ€.
\[\nabla f = \lambda \nabla g\]κ°μκΈ° Gradient Vectorκ° λμλ€!! μμ μμ μ΅λ/μ΅μ μμΉ $(a, b)$μμ ν¨μ $f(x, y)$μ $g(x, y)$μ Gradient Vectorκ° μλ‘ κ°μ(parallel) λ°©ν₯μ λ°λΌλ³Έλ€λ κ²μ λ§νλ€. ννμ νννκΈ° μν΄ $\lambda \in \mathbb{R}$λ‘ ννν κ².
μμ κ°μ Gradient Vectorκ° ννν μν©μ΄ λμ€λ μ΄μ λ μ μ½μ‘°κ±΄ $g(x, y) = k$ 곑μ κ³Ό ν¨μ $f(x, y)$μ Level Curve $f(x, y) = z_0$κ° μλ‘ μ νκΈ° λλ¬Έμ΄λ€.
μ²μμλ Constraint Curveμ Level Curveκ° μ νλ€λ μ‘°κ±΄μ΄ μ΄ν΄κ° μ λμλ€. βκΌ μ ν΄μΌλ§ μ΅λ/μ΅μκ° μλ건κ°?βλΌλ μκ°μ΄ λ€μλ€. κ·Έλμ μ°Ύμ보λ stackexchange μ¬μ΄νΈμμ μλ° λ΅λ³μ μ°Ύκ³ λλμ΄ μ΄ν΄κ° μ’ λμλ€.
For $f(x, y) = d$, you increment value $d$ until you touch $π(x, y)=c$. In the moment of contact you take a minimum. If you go on, just before $f(x, y) = d$ leaves the contact, you take the maximum.
μ¦, $f(x, y) = d_{min}$νλ μ μμλΆν° μ μ ν¨μ«κ°μ ν€μ°λ©° Level Curveλ₯Ό νμ₯νλ€κ° $g(x, y) = k$μ μ νλ κ·Έ μκ°μ΄ minimum μκ°μ΄λ€. μ¬κΈ°μ Level Curveμ κ°μ λ λ리면 μ μ½μ‘°κ±΄μ λ§μ‘±νμ§λ§ μ νλ μκ°λ³΄λ€λ ν¨μ«κ°μ΄ μ»€μ Έλ²λ¦°λ€.
picture from wikimedia
κ·Έλ¦Όμ κ³λ€μ¬ ν¨κ» μ΄ν΄ν΄λ³΄μ.
Gradient Vectorλ‘ μ΄λ€μ§ μμ λ²‘ν° λ±μμ΄λ€. λ°λΌμ μ΄κ²μ νκΈ° μν΄μ μ±λΆλ³λ‘ λ±μμ μΈμμ νλ©΄ λλ€. μ²μμ μ μ½ μ‘°κ±΄ μκΉμ§ κ°μ΄ μ μΌλ©΄ μλμ κ°λ€.
\[\begin{aligned} f_x &= \lambda g_x \\ f_y &= \lambda g_y \\ g(x, y) &= k \end{aligned}\]μμ μ°λ¦½λ°©μ μμ νλ©΄ μ μ½μ‘°κ±΄ μμμμ μ΅λ/μ΅μκ°κ³Ό κ·Έ μμΉλ₯Ό μ μ μλ€. μμ μ°λ¦½μμμ ꡬν΄μΌ ν λ―Έμ§μλ μ΅λμ΅μκ°μ μμΉ $(x, y)$ λΏλ§ μλλΌ multiplierμΈ $\lambda$μ κ°λ λ―Έμ§μλ‘μ κ·Έ κ°μ μ°ΎμμΌ νλ€. μ΄λ $\lambda$λ κ·Έ κ°μ μ°Ύμλ λ³ μλ―Έλ μμ§λ§ λ°©μ μμ νλ€λ³΄λ©΄ κ·Έ κ°μ λ°λμ μ°ΎμμΌ νλ€λ κ±Έ κΉ¨λ«κ² λλ€. (μμ μμ λλΌκ² λ κ².)
Constrained Maxima/Minima
Find the point $(x, y, z)$ on the plane $2x + y - z = 5$ that is closest to the origin.
νλ©΄ $g(x, y, z) = 5$ μμ μμΌλ©΄μλ distance ν¨μ $d(x, y, z) = x^2 + y^2 + z^2$μ κ°μ μ΅μν νλ μ $p(x, y, z)$λ₯Ό μ°ΎμμΌ νλ€. Lagrange Methodλ₯Ό μ¬μ©ν΄ Gradientμ λν μ $\nabla d = \lambda \nabla g$μ μΈμ°λ©΄
\[\begin{aligned} 2x &= 2 \lambda \\ 2y &= \lambda \\ 2z &= - \lambda \\ \end{aligned}\]μ΄κ²μ $g(x, y, z) = 2x + y - z = 5$μ λμ νλ©΄, $2 \lambda + \lambda/2 + \lambda/2 = 5$κ° λκ³ , $\lambda = 5/3$μ΄ λλ€.
μ΄λ₯Ό λ°νμΌλ‘ λ€μ $(x, y, z)$μ λμ νλ©΄, closest point $(x, y, z) = (5/3, 5/6, -5/6)$κ° λλ€. $\blacksquare$
Lagrange Method with Two Constraints
Thomas Calculus 13th ed.
μ΄λ€ κ²½μ°λ μ μ½ μ‘°κ±΄μ΄ 2κ° μ‘΄μ¬ν μλ μλ€.
\[g_1(x, y, z) = 0 \text{ and } g_2(x, y, z) = 0\]μ΄λ λ μ μ½μ‘°κ±΄μ λλ€ λ―ΈλΆκ°λ₯ νλ©°, Gradient Vectorκ° μλ‘ νννμ§ μμμΌ νλ€.
λ μ μ½μ‘°κ±΄ $g_1 = 0$μ $g_2 = 0$κ° μλ‘ κ΅μ°¨νμ¬ μκΈ΄ 곑μ $C$λ₯Ό μκ°ν΄λ³΄μ. μ°λ¦¬λ μ΄ κ³‘μ $C$ μμμ ν¨μ $f(x, y, z)$μ κ·Ήλ/κ·Ήμ κ°μ μ°ΎμμΌ νλ€. κ·Έλ¦¬κ³ , 곑μ $C$λ ν¨μ $f(x, y, z)$μ μ νλ μ§μ μμ κ·Ήλ/κ·Ήμ κ°μ κ°λλ€. μ΄κ²μ μ μ½μ‘°κ±΄μ΄ νλ μμ λμ λΉμ·ν ν¨ν΄μ΄λ€.
\[C \perp \nabla f\]λ, 곑μ $C$λ $\nabla g_1$, $\nabla g_2$μλ μμ§ κ΄κ³λ₯Ό μ΄λ£¬λ€. μ΄κ²μ 곑μ $C$κ° μ μ½μ‘°κ±΄μ μ΄λ£¨λ νλ©΄ μμ μ‘΄μ¬νκΈ° λλ¬Έμ΄λ€.
\[C \perp \nabla g_1 \text{ and } C \perp \nabla g_2\]μμ λ μ¬μ€μ λ°νμΌλ‘ $\nabla f$κ° μλ‘ νννμ§ μμ λ λ²‘ν° $\nabla g_1$, $\nabla g_2$κ° μ΄λ£¨λ νλ©΄ μμ μμμ μκ°ν΄λ³Ό μ μλ€. λ°λΌμ μλμ κ°μ μΌμ°¨ κ²°ν© μμ΄ μ λλλ€.
\[\nabla f = \lambda \nabla g_1 + \mu \nabla g_2\]μμ λ₯Ό ν΅ν΄ μ’λ μ΅ν보μ.
The plane $x + y + z = 1$ cuts the cylinder $x^2 + y^2 = 1$ in an ellipse. Find the points on the ellipse that lie closest to and farthest from the origin.
Thomas Calculus 13th ed. - Example Problem
μ μ½ μ‘°κ±΄κ³Ό 거리 ν¨μλ₯Ό μ μνμ.
\[\begin{aligned} g_1 &= x + y + z - 1 = 0 \\ g_2 &= x^2 + y^2 - 1 = 0 \\ d &= x^2 + y^2 + z^2 \end{aligned}\]Lagrange Methodμ λ°λΌ Gradientμ λν μ±λΆμΌλ‘ λ±μλ€μ μΈμ°μ.
\[\begin{aligned} \lambda + 2x \mu &= 2x \\ \lambda + 2y \mu &= 2y \\ \lambda &= 2z \\ \end{aligned}\]μμ λ±μμ $\lambda = 2z$λ₯Ό λμ νκ³ μ 리νλ©΄
\[\begin{aligned} z &= x(1 - \mu) \\ z &= y(1 - \mu) \\ \end{aligned}\]μμ λ±μμ 2κ°μ§ κ²½μ°μμ μ±λ¦½νκ² λλλ°,
- $z = 0$μ΄κ³ , $\mu = 1$
- $x = y$μ΄κ³ , $\mu \ne 1$
1λ²μ κ²½μ°λ $\lambda = 2z = 0$μ΄ λκ³ , μ§μ μ $(1, 0, 0)$ λλ $(0, 1, 0)$μ΄ λλ€. κ·Έλ¦Όμμ $x$μΆ, $y$μΆ μμ μλ μ λ€μ΄λ©°, closest pointλ₯Ό μ΄λ£¬λ€.
2λ²μ κ²½μ°λ $x = y = \pm \frac{1}{\sqrt{2}}$κ° λλ©°, $z = 1 \mp \sqrt{2}$κ° λλ€. κ·Έλ¦Όμμ $P_1$, $P_2$κ° λ°λ‘ κ·Έ μ λ€μ΄λ©°, farthest pointλ₯Ό μ΄λ£¬λ€.