Cho hình lăng trụ đều ABC.A’B’C’ có độ dài tất cả các cạnh bằng a.
Cách 1.

Gọi V là thể tích của khối đa diện lồi có các đỉnh là các điểm A, M, N, A’, B’ và C’.
Khi đó ta có V=VM.A'AN+VM.A'C'N+VM.A'B'C'
Từ giả thiết ta có
SΔA'AN=12AA'.AN=12.a.a3=a26; SΔA'C'N=12dN,A'C'.A'C'=12.a.a=a22;
SΔA'B'C'=12A'B'.A'C'.sin60o=a234
Gọi H là trung điểm của AC⇒BH⊥ACC'A' và BH=a32
⇒dM,ACC'A'=12dB,ACC'A'=12BH=a34.
Khi đó ta có
VM.A'AN=13dM;ACC'A'.SΔA'AN=13.a34.a26=a3372.
VM.A'C'N=13dM,ACC'A'.SΔA'C'N=13.a34.a22=a3324.VM.A'B'C'=13dM,A'B'C'.SΔA'B'C'=13.a.a234=a3312. Vậy V=VM.A'AN+VM.A'C'N+VM.A'B'C'=a3372+a3324+a3312=53a336
Cách 2.
Gọi V là thể tích của khối đa diện lồi có các đỉnh là các điểm A, M, N, A’, B’ và C’. Khi đó ta có
V=VM.AA'C'N+VM.A'B'C' .
Ta có SAA'C'N=12AA'AN+A'C'=12aa3+a=2a23.
Suy ra VM.AA'C'N=13dM,ACC'A'.SAA'C'N=13.a34.2a33=23a336
VM.A'B'C'=13dM,A'B'C'.SΔA'B'C'=13.a.a234=a3312.
Vậy V=VM.AA'C'N+VM.A'B'C'=23a336+a3312=53a336.
Cách 3.
Gọi H là trung điểm của AC và V là thể tích của khối đa diện lồi có các đỉnh là các điểm A, M, N, A’, B’ và C’.
Khi đó, V=VAMH.A'B'C'−VM.NHC'
Dễ thấy MH//B'C' nên AMH.A’B’C’ là khối chóp cụt.
Áp dụng công thức thể tích V1 của khối chóp cụt có chiều cao h, diện tích đáy nhỏ và đáy lớn theo thứ tự là S0, S1 thì ta có

V1=h3S0+S0S1+S1
Khi đó
VAMH.A'B'C'=AA'3SAMH+SAMH.SA'B'C'+SA'B'C'
=a314.a234+14.a234.a234+a234=7a3348
Mặt khác, VM.NHC'=13dM,ACC'A'.SNHC'=13.a34.12.a.a6=a33144
Vậy V=VAMH.A'B'C'−VM.NHC'.=7a3348−a33144=53a336
Chọn C