(0,5 điểm) Cho hình vuông ABCD có cạnh là 30 cm

Ta có \[AE = GB = x\,\,(0 < x < 15) \Rightarrow EG = 30 - 2x\].
Kẻ đường cao \(AK\) của \(\Delta AGE\).
Vì \(\Delta AGE\) cân tại \[A\] nên \(KE = \frac{{EG}}{2} = \frac{{30 - 2x}}{2} = 15 - x\) (cm).
\(\Delta AKE\) vuông tại \(K\)\( \Rightarrow AE > KE \Rightarrow x > \frac{{15}}{2}\).
Áp dụng định lý Py-ta-go vào tam giác vuông \[AKE\] ta có
\[A{K^2} + K{E^2} = A{E^2}\]
\[ \Leftrightarrow A{K^2} = A{E^2} - K{E^2}\]
\[ \Leftrightarrow AK = \sqrt {A{E^2} - K{E^2}} \]
\[ \Leftrightarrow AK = \sqrt {{x^2} - {{\left( {15 - x} \right)}^2}} \]
\[ \Leftrightarrow AK = \sqrt {30x - 225} \].
Diện tích đáy \[AGE\] là
\[{S_{AGE}} = \frac{1}{2}AK.GE = \frac{1}{2}\sqrt {30x - 225} .\left( {30 - 2x} \right) = \sqrt {30x - 225} .\left( {15 - x} \right)\,\,\left( {c{m^2}} \right)\].
Thể tích lăng trụ là \[V = 30.\sqrt {30x - 225} .(15 - x)\,\,\left( {c{m^3}} \right)\].
\[V = 30.\sqrt {30x - 225} .(15 - x) = 30.\sqrt {15.\left( {2x - 15} \right)} .\sqrt {15 - x} .\sqrt {15 - x} \]
\[ = 10.\sqrt {15} .3.\sqrt {2x - 15} .\sqrt {15 - x} .\sqrt {15 - x} \].
Áp dụng bất đẳng thức Cô-si cho ba số dương \(2x - 15\), \(15 - x\), \(15 - x\) ta được
\[3.\sqrt[3]{{\left( {2x - 15} \right)\left( {15 - x} \right)\left( {15 - x} \right)}} \le \left( {2x - 15} \right) + \left( {15 - x} \right) + \left( {15 - x} \right)\]
\[ \Leftrightarrow \sqrt[3]{{\left( {2x - 15} \right)\left( {15 - x} \right)\left( {15 - x} \right)}} \le 5\]
\[ \Leftrightarrow \left( {2x - 15} \right)\left( {15 - x} \right)\left( {15 - x} \right) \le {5^3}\]
\[ \Leftrightarrow \sqrt {\left( {2x - 15} \right)\left( {15 - x} \right)\left( {15 - x} \right)} \le \sqrt {{5^3}} = 5\sqrt 5 \]
\[ \Rightarrow V \le 10.\sqrt {15} .3.5\sqrt 5 \Rightarrow V \le 750\sqrt 3 \].
Dấu xảy ra khi và chỉ khi \(2x - 15 = 15 - x \Leftrightarrow x = 10\).
Vậy \(x = 10\) thì thể tích lăng trụ lớn nhất.
