Trong không gian với hệ tọa độ Oxyz, cho hình lăng trụ ABC..A'B'C' có tọa độ các

Ta có  CC'→=AA'→⇒C'a32;a2;2a.

CC'→=BB'→⇒B'0;a;2a.

Điểm D là trung điểm của BB' nên  D0;a;a.

M(0;0;t) với 0<t<2a. Ta có  DC'→=a32;−a2;a,DM→=0;−a;t−a.

Ta có:

 SMDC'=12DC'→,DM→=a4t2−12at+15a24=a2t−3a2+6a24≥a264.

Suy ra minS△MDC'=a264 khi  t=32a.

Chọn C.