Trong không gian với hệ trục tọa độ \(Oxyz\), cho ba điểm A(4, 1, -2)

Ta có   AB→=(-4;0;4) , AC→=(-5;2;3) ⇒AB,→AC→=(-8;-8;-8) ⇒AB,→AC→= (-8)2+(-8)2+(-8)2=83 ⇒ S△ABC = 12AB,→AC→ = 43

Mặt phẳng (ABC) có một vecto pháp tuyến là: n→=AB,→AC→ = (-8;-8;-8), chọn n→=(1;1;1). 

Phương trình mặt phẳng (ABC) đi qua B(0;1;2) có một vecto pháp tuyến n→=(1;1;1) là x+y+z-3 = 0 

Gọi \(M \in d\)\( \Rightarrow M\left( {1 - t\,;\,1 + 2t\,;\,2} \right)\).

Ta có \(d\left( {M\,,\,\left( {ABC} \right)} \right) = \frac{{\left| {t + 1} \right|}}{{\sqrt 3 }}\).

Ta lại có \({V_{MABC}} = \frac{1}{3}d\left( {M,\,\left( {ABC} \right)} \right) \cdot {S_{\Delta ABC}} = 8\)\( \Rightarrow \frac{1}{3} \cdot \frac{{\left| {t + 1} \right|}}{{\sqrt 3 }} \cdot 4\sqrt 3 = 8\)

               \( \Leftrightarrow \left| {t + 1} \right| = 6 \Leftrightarrow \left[ \begin{array}{l}t = 5\,\,\, \Rightarrow {M_1}\left( { - 4\,;\,11\,;\,2} \right)\\t = - 7 \Rightarrow {M_2}\left( {8\,;\, - 13\,;\,2} \right)\end{array} \right.\).

Vậy \({M_1}\left( { - 4\,;\,11\,;\,2} \right)\) và \({M_2}\left( {8\,;\, - 13\,;\,2} \right)\)\( \Rightarrow \overrightarrow {{M_1}{M_2}} = \left( {12\,;\, - 24\,;\,0} \right) \Rightarrow {M_1}{M_2} = 12\sqrt 5 \approx 26,8\).

Đáp án: 26,8.