Trong không gian với hệ trục tọa độ \[Oxyz,\] cho tứ diện \[ABCD\] có điểm
Áp dụng bất đẳng thức AM – GM ta có: \(4 = \frac{{{\rm{AB}}}}{{{\rm{AB'}}}} + \frac{{{\rm{AC}}}}{{{\rm{AC'}}}} + \frac{{{\rm{AD}}}}{{{\rm{AD'}}}} \ge 3\sqrt[3]{{\frac{{{\rm{AB}} \cdot {\rm{AC}} \cdot {\rm{AD}}}}{{{\rm{AB'}} \cdot {\rm{AC'}} \cdot {\rm{AD'}}}}}}\)
\( \Rightarrow \frac{{{\rm{AB'}} \cdot {\rm{AC'}} \cdot {\rm{AD'}}}}{{{\rm{AB}} \cdot {\rm{AC}} \cdot {\rm{AD}}}} \ge \frac{{27}}{{64}} \Rightarrow \frac{{{V_{A{\rm{B'C'D'}}}}}}{{{V_{ABCD}}}} = \frac{{{\rm{AB'}} \cdot {\rm{AC'}} \cdot {\rm{AD'}}}}{{{\rm{AB}} \cdot {\rm{AC}} \cdot {\rm{AD}}}} \ge \frac{{27}}{{64}} \Rightarrow {V_{A{\rm{B'C'D'}}}} \ge \frac{{27}}{{64}}{V_{ABCD}}\).
Để \({V_{A{\rm{B'C'D'}}}}\) nhỏ nhất khi và chỉ khi \(\frac{{A{\rm{B'}}}}{{AB}} = \frac{{AC'}}{{AC}} = \frac{{AD'}}{{AD}} = \frac{3}{4} \Rightarrow \overrightarrow {A{\rm{B'}}} = \frac{3}{4}\overrightarrow {AB} \Rightarrow {\rm{B'}}\left( {\frac{7}{4};\frac{1}{4};\frac{7}{4}} \right)\).
Lúc đó mặt phẳng \[\left( {B'C'D'} \right)\] song song với mặt phẳng \(\left( {{\rm{BCD}}} \right)\) và đi qua \({\rm{B'}}\left( {\frac{7}{4};\frac{1}{4};\frac{7}{4}} \right)\)
\( \Rightarrow \) Phương trình mặt phẳng \(\left( {B'C'D'} \right)\) là \(16{\rm{x}} + 40{\rm{y}} - 44{\rm{z}} + 39 = 0\). Chọn A.