Trong không gian Oxyz , cho hai điểm A ( 3 ; 5 ; − 2 ) , B ( − 1 ; 3 ; 2 ) và mặt phẳng ( P ) : 2x + y − 2z + 9 = 0 . Mặt cầu ( S ) đi qua hai điểm A , B và tiếp xúc với ( P ) tại đ

Mặt phẳng \(\left( P \right)\) có \(\overrightarrow {{n_P}}  = \left( {2;1; - 2} \right)\) và \(\overrightarrow {AB}  = \left( { - 4; - 2;4} \right)\) cùng phương nên đường thẳng \(AB\) vuông góc với \(\left( P \right)\)

Dễ thấy \(A,B\) nằm cùng phía so với \(\left( P \right)\).

Gọi \(N\) là trung điểm của \(AB\) và I là tâm của mặt cầu (\(S\)), khi đó I thuộc mặt phẳng trung trực \(\left( Q \right)\) của \(AB\) và \(N\left( {1;4;0} \right)\).

Vì \(AB \bot \left( P \right)\) nên \(\left( Q \right)//\left( P \right)\), suy ra bán kính mặt cầu \(R = IC = d\left( {N,\left( P \right)} \right) = 5\).

Phương trình đường thẳng \(AB:\left\{ {\begin{array}{*{20}{l}}{x = 3 + 2t}\\{y = 5 + t}\\{z =  - 2 - 2t}\end{array}} \right.\).

Gọi \(H\) là hình chiếu của \(N\) trên mặt phẳng \(\left( P \right)\).

Khi đó \(H\) là giao điểm của \(AB\) và \(\left( P \right)\) nên \(H\left( { - \frac{7}{3};\frac{7}{3};\frac{{10}}{3}} \right)\).

Ta có \(AN = 3 \Rightarrow HC = NI = \sqrt {A{I^2} - A{N^2}}  = 4\) nên điểm \(C\) thuộc đường tròn \(\left( T \right)\) chứa trong \(\left( P \right)\) có tâm là \(H\) và bán kính \(r = HC = 4\).

Ta có \(OH = \sqrt {22} \). Gọi \(K\) là hình chiếu vuông góc của \(O\) trên \(\left( P \right)\) thì \(OK = d\left( {O,\left( P \right)} \right) = 3\).

\( \Rightarrow HK = \sqrt {O{H^2} - O{K^2}}  = \sqrt {13}  < r\) nên \(K\) nằm trong đường tròn \(\left( T \right)\).

Gọi E, F là các giao điểm của đường thẳng HK với đường tròn (T). Khi đó giá trị lớn nhất và giá trị nhỏ nhất của đoạn thẳng OC chính là OE, OF.

Vậy \({M^2} + {m^2} = O{E^2} + O{F^2} = 2O{H^2} + \frac{{E{F^2}}}{2} = 2 \cdot 22 + \frac{{{8^2}}}{2} = 76\). Chọn B.