Trong mặt phẳng với hệ toạ độ $Oxy$, cho điểm $A(-1; 4)$, $B(-4; 0)$, $C(2; -2)$. Giả sử điểm $H(x; y)$ là trực tâm của tam giác $ABC$. Tính giá trị của biểu thức $P = x^2 + y^2$.

Ta có $H(x; y)$ là trực tâm của tam giác $ABC$. Suy ra: +) $AH \perp BC \Rightarrow \vec{AH} \cdot \vec{BC} = 0 \Leftrightarrow (x+1) \cdot 6 + (y-4) \cdot (-2) = 0 \Leftrightarrow 3x - y = -7 \quad (*)$. +) $BH \perp AC \Rightarrow \vec{BH} \cdot \vec{AC} = 0 \Leftrightarrow (x+4) \cdot 3 + y \cdot (-6) = 0 \Leftrightarrow x - 2y = -4 \quad (**)$. Từ $(*)$ và $(**)$ ta có hệ phương trình: $\begin{cases} 3x - y = -7 \\ x - 2y = -4 \end{cases} \Leftrightarrow \begin{cases} x = -2 \\ y = 1 \end{cases}$. Vậy $P = x^2 + y^2 = (-2)^2 + 1^2 = 5$.