Do \(G\) là trọng tâm của tam giác \(ABC\) nên ta có:

\(\overrightarrow {MA} + \overrightarrow {MB} + \overrightarrow {MC} = 3\overrightarrow {MG} \)

\( \Rightarrow {\left( {\overrightarrow {MA} + \overrightarrow {MB} + \overrightarrow {MC} } \right)^2} = {\left( {3\overrightarrow {MG} } \right)^2}\)

\( \Rightarrow {\overrightarrow {MA} ^2} + {\overrightarrow {MB} ^2} + {\overrightarrow {MC} ^2} + 2\left( {\overrightarrow {MA} \cdot \overrightarrow {MB} + \overrightarrow {MB} \cdot \overrightarrow {MC} + \overrightarrow {MC} \cdot \overrightarrow {MA} } \right) = 9M{G^2}\).

Mà:

\({\overrightarrow {MA} ^2} + {\overrightarrow {MB} ^2} + {\overrightarrow {MC} ^2}\)

\( = {\left( {\overrightarrow {MG} + \overrightarrow {GA} } \right)^2} + {\left( {\overrightarrow {MG} + \overrightarrow {GB} } \right)^2} + {\left( {\overrightarrow {MG} + \overrightarrow {GC} } \right)^2}\)

\( = 3M{G^2} + G{A^2} + G{B^2} + G{C^2} + 2 \cdot \overrightarrow {MG} \cdot \left( {\overrightarrow {GA} + \overrightarrow {GB} + \overrightarrow {GC} } \right)\)

\( = 3M{G^2} + 3G{A^2} + 2 \cdot \overrightarrow {MG} \cdot \overrightarrow 0 \)

\( = 3M{G^2} + 3G{A^2}\)

Do đó, \(3M{G^2} + 3G{A^2} + 2\left( {\overrightarrow {MA} \cdot \overrightarrow {MB} + \overrightarrow {MB} \cdot \overrightarrow {MC} + \overrightarrow {MC} \cdot \overrightarrow {MA} } \right) = 9M{G^2}\)

Ta có:

Gọi \(AH\) là đường cao cũng là đường trung tuyến của tam giác đều \(ABC\).

Khi đó, \(HB = HC = \frac{a}{2}\).

Xét tam giác \(ABH\) vuông tại \(H\)

Áp dụng định lí Pythagore, ta có:

\(A{B^2} = A{H^2} + H{B^2} \Rightarrow A{H^2} = A{B^2} - H{B^2} = {a^2} - {\left( {\frac{a}{2}} \right)^2} = \frac{{3{a^2}}}{4} \Rightarrow AH = \frac{{\sqrt 3 a}}{2}\).

Do điểm \(M\) là điểm bất kì thuộc đường tròn tâm \(G\) có bán kính bằng \(\frac{{a\sqrt 2 }}{3}\) nên \(MG = \frac{{a\sqrt 2 }}{3}\).

Tam giác \(ABC\) đều cạnh \(a\) nên độ dài đường cao bằng độ dài đường trung tuyến và bằng \(\frac{{a\sqrt 3 }}{2}\), \(G\) là trọng tâm nên \(GA = \frac{2}{3} \cdot \frac{{a\sqrt 3 }}{2} = \frac{{a\sqrt 3 }}{3}\).

Thay số ta có:

\(3 \cdot {\left( {\frac{{a\sqrt 2 }}{3}} \right)^2} + 3 \cdot {\left( {\frac{{a\sqrt 3 }}{3}} \right)^2} + 2\left( {\overrightarrow {MA} \cdot \overrightarrow {MB} + \overrightarrow {MB} \cdot \overrightarrow {MC} + \overrightarrow {MC} \cdot \overrightarrow {MA} } \right) = 9 \cdot {\left( {\frac{{a\sqrt 2 }}{3}} \right)^2}\)

\( \Leftrightarrow 3 \cdot \frac{{2{a^2}}}{9} + 3 \cdot \frac{{3{a^2}}}{9} + 2\left( {\overrightarrow {MA} \cdot \overrightarrow {MB} + \overrightarrow {MB} \cdot \overrightarrow {MC} + \overrightarrow {MC} \cdot \overrightarrow {MA} } \right) = 9 \cdot \frac{{2{a^2}}}{9}\)

\( \Leftrightarrow 2\left( {\overrightarrow {MA} \cdot \overrightarrow {MB} + \overrightarrow {MB} \cdot \overrightarrow {MC} + \overrightarrow {MC} \cdot \overrightarrow {MA} } \right) = \frac{{18{a^2}}}{9} - \frac{{6{a^2}}}{9} - \frac{{9{a^2}}}{9}\)

\( \Leftrightarrow 2\left( {\overrightarrow {MA} \cdot \overrightarrow {MB} + \overrightarrow {MB} \cdot \overrightarrow {MC} + \overrightarrow {MC} \cdot \overrightarrow {MA} } \right) = \frac{{3{a^2}}}{9}\)

\( \Leftrightarrow \overrightarrow {MA} \cdot \overrightarrow {MB} + \overrightarrow {MB} \cdot \overrightarrow {MC} + \overrightarrow {MC} \cdot \overrightarrow {MA} = \frac{{{a^2}}}{6}\,\,\,\,\) (đpcm).

Đáp án đúng là: D