Cho hình chóp đều $S.ABCD$ có cạnh đáy bằng $a$, cạnh bên bằng $a\sqrt{3}$. Mặt phẳng $\Big(P\Big)$ là mặt phẳng đi qua $A$ và vuông góc với $SC$. Gọi cotang góc tạo bởi đường thẳng $AB$ với mặt phẳng $\Big(P\Big)$ bằng $\sqrt{a}$. Hỏi giá trị của $a$ là bao nhiêu?

Lời giải Ta có $\begin{cases} SO \perp BD \\ AC \perp BD \end{cases} \Rightarrow BD \perp \Big(SAC\Big) \Rightarrow BD \perp SC$. Trong mặt phẳng $\Big(SAC\Big)$ dựng $OH \perp SC$ $\Rightarrow SC \perp \Big(BDH\Big) \Rightarrow \Big(BDH\Big) \parallel \Big(P\Big)$. Tứ giác $ABCD$ là hình vuông nên $CD \parallel AB$. Vậy góc tạo bởi đường thẳng $AB$ với mặt phẳng $\Big(P\Big)$ bằng góc tạo bởi đường thẳng $CD$ với mặt phẳng $\Big(BHD\Big)$. Theo cách dựng ta có $CH$ là hình chiếu vuông góc của đường thẳng $CD$ lên mặt phẳng $\Big(BHD\Big)$. Góc tạo bởi đường thẳng $CD$ với mặt phẳng $\Big(BHD\Big)$ là góc $\widehat{CDH}$. Xét $\triangle CHO \sim \triangle COS$: $$ \frac{CH}{CO} = \frac{CO}{SC} \Rightarrow CH = \frac{CO^2}{SC} = \frac{\Big(\frac{a\sqrt{2}}{2}\Big)^2}{a\sqrt{3}} = \frac{a\sqrt{3}}{6} $$ $$ HD = \sqrt{CD^2 - CH^2} = \sqrt{a^2 - \frac{a^2}{12}} = \frac{a\sqrt{33}}{6} $$ $$ \cot\widehat{CDH} = \frac{HD}{CH} = \frac{\frac{a\sqrt{33}}{6}}{\frac{a\sqrt{3}}{6}} = \sqrt{11} $$ Mà cotang góc tạo bởi đường thẳng $AB$ và mặt phẳng $(P)$ bằng $\sqrt{a}$ nên $\sqrt{a} = \sqrt{11} \Rightarrow a = 11$.