Trong không gian $Oxyz$ cho mặt cầu $(S): x^{2} + y^{2} + z^{2} - 4x + 2y - 2z - 3 = 0$ và điểm $A(5; 3; -2)$. Một đường thẳng $d$ thay đổi luôn đi qua $A$ và luôn cắt mặt cầu tại hai điểm phân biệt $M, N$. Tính giá trị nhỏ nhất của biểu thức $S = AM + 4AN$.

Lời giải Mặt cầu $(S)$ có tâm $I(2; -1; 1)$, bán kính $R = 3$. Ta có $AI = \sqrt{(5-2)^{2} + (3+1)^{2} + (-2-1)^{2}} = \sqrt{9 + 16 + 9} = \sqrt{34} > R$ nên $A$ nằm ngoài mặt cầu $(S)$. Do hai điểm $M, N$ nằm ở vị trí hai đầu một dây cung, để $S = AM + 4AN$ đạt giá trị nhỏ nhất thì $N$ phải nằm giữa $A$ và $M$. Gọi $H$ là trung điểm $MN \Rightarrow IH \perp MN, NH = \frac{1}{2}MN$. Ta có: $$ AM = AH + HM = AH + HN, \quad AN = AH - HN $$ $$ S = AM + 4AN = (AH + HN) + 4(AH - HN) = 5AH - 3HN $$ Với $AH = \sqrt{AI^{2} - IH^{2}} = \sqrt{34 - x^{2}}$ và $HN = \sqrt{R^{2} - IH^{2}} = \sqrt{9 - x^{2}}$ (với $x = IH, 0 \leq x < 3$). Xét hàm số $f(x) = 5\sqrt{34 - x^{2}} - 3\sqrt{9 - x^{2}}$ trên $[0; 3)$. $$ f'(x) = 5 \cdot \frac{-x}{\sqrt{34 - x^{2}}} - 3 \cdot \frac{-x}{\sqrt{9 - x^{2}}} = x \left( \frac{3}{\sqrt{9 - x^{2}}} - \frac{5}{\sqrt{34 - x^{2}}} \right) $$ Vì $\frac{3}{\sqrt{9 - x^{2}}} > \frac{5}{\sqrt{34 - x^{2}}}$ với mọi $x \in [0; 3)$ (tương đương $9(34 - x^{2}) > 25(9 - x^{2}) \Leftrightarrow 81 > -16x^{2}$, luôn đúng), nên $f'(x) \geq 0$ với mọi $x \in [0; 3)$, suy ra $f(x)$ đồng biến trên $[0; 3)$. Do đó $f(x)$ đạt giá trị nhỏ nhất tại $x = 0$: $f(0) = 5\sqrt{34} - 3\sqrt{9} = 5\sqrt{34} - 9$. Vậy giá trị nhỏ nhất của $S = AM + 4AN$ là $5\sqrt{34} - 9$.