Biết a và b là các số thực thay đổi sao cho phương trình x^2 − 2ax + 2a^2 + b^2 − 5 = 0 (x là ẩn) có nghiệm. Tìm giá trị lớn nhất và giá trị nhỏ nhất của biểu thức P = (a + 1)(b + 1).

Để phương trình có nghiệm thì \(\Delta  \ge 0\) hay \[{\left( { - 2a} \right)^2} - 4\left( {2{a^2} + {b^2} - 5} \right) \ge 0\], suy ra \({a^2} + {b^2} \le 5.\)

⦁ Ta có \(P = \left( {a + 1} \right)\left( {b + 1} \right) = ab + a + b + 1\)

                \( = \frac{{{{\left( {a + b} \right)}^2} - \left( {{a^2} + {b^2}} \right)}}{2} + a + b + 1\)

                \( \ge \frac{{{{\left( {a + b} \right)}^2} - 5}}{2} + a + b + 1\)

                \( = \frac{1}{2}{\left[ {\left( {a + b} \right) + 1} \right]^2} - 2 \ge  - 2\)

Do đó giá trị nhỏ nhất của biểu thức \(P\) là \( - 2\).

Dấu “=” xảy ra khi \(\left\{ {\begin{array}{*{20}{l}}{a + b =  - 1}\\{{a^2} + {b^2} = 5}\end{array}} \right.\), tức là \[\left( {a\,;\,\,b} \right) = \left( { - 2\,;\,\,\,1} \right)\] hoặc \(\left( {a\,;\,\,b} \right) = \left( {1\,;\,\, - 2} \right).\)

⦁ Ta có \(P = \left( {a + 1} \right)\left( {b + 1} \right) = ab + a + b + 1\).

Ta có \({\left( {a - b} \right)^2} \ge 0\) suy ra \(2ab \le {a^2} + {b^2}\).

Vì \({a^2} + {b^2} \le 5\), ta suy ra \(2ab \le 5\), do đó \(ab \le \frac{5}{2}\).

Mặt khác, \({\left( {a + b} \right)^2} = {a^2} + {b^2} + 2ab \le 5 + 5 = 10\).

Từ kết quả này, ta có \(a + b \le \sqrt {10} \).

Khi đó, \(P \le \frac{5}{2} + \sqrt {10}  + 1 = \frac{7}{2} + \sqrt {10} \)

Giá trị lớn nhất của biểu thức \(P\) là \(\frac{7}{2} + \sqrt {10} \).

Dấu “=” xảy ra khi \(\left\{ \begin{array}{l}a = b\\{a^2} + {b^2} = 5\\a + b > 0\end{array} \right.\) tức là \(a = b = \frac{{\sqrt {10} }}{2}\).