Cho biểu thức P = a^4 + b^4 - ab, với [a,b] là các số thực thỏa mãn

Từ \[{a^2} + {b^2} + ab = 3 \Rightarrow {a^2} + {b^2} = 3 - ab\]

\[P = {a^4} + {b^4} - ab\]

\[ = {\left( {{a^2} + {b^2}} \right)^2} - 2{a^2}{b^2} - ab\]

\( =  - {a^2}{b^2} - 7ab + 9\)

\( =  - {\left( {ab + \frac{7}{2}} \right)^2} + \frac{{85}}{4}\)

Ta có \({a^2} + {b^2} + ab = 3\)

\[ \Rightarrow {a^2} + {b^2} + ab + ab = 3 + ab\]

\[ \Rightarrow {\left( {a + b} \right)^2} = 3 + ab\]

Mà \({\left( {a + b} \right)^2} \ge 0 \Rightarrow 3 + ab \ge 0 \Rightarrow ab \ge  - 3\)

Mặt khác do \[{a^2} + {b^2} \ge 2ab\] (BĐT Cosi)

\[ \Rightarrow 3 - ab \ge 2ab \Rightarrow 3ab \le 3 \Leftrightarrow ab \le 1\]

0,25

Khi đó \[ - 3 + \frac{7}{2} \le ab + \frac{7}{2} \le 1 + \frac{7}{2}\]

\( \Rightarrow \frac{1}{4} \le {\left( {ab + \frac{7}{2}} \right)^2} \le \frac{{81}}{4}\)

\( \Rightarrow  - \frac{1}{4} \ge  - {\left( {ab + \frac{7}{2}} \right)^2} \ge  - \frac{{81}}{4}\)

\( \Rightarrow \frac{{84}}{4} - \frac{1}{4} \ge P \ge \frac{{85}}{4} - \frac{{81}}{4}\)

\( \Rightarrow 21 \ge P \ge 1\)

GTLN của \(P\) là 21, xảy ra khi \(a = \sqrt 3 ,b =  - \sqrt 3 \) hoặc \(a =  - \sqrt 3 ,b = \sqrt 3 \)

GTNN của \(P\) là 1, xảy ra khi \(a = b = 1\) hoặc \(a = b =  - 1\).

0,25