1)    Tìm tất cả cặp số nguyên \(\left( {x,y} \right)\) sao cho \(xy\) là số chính phương

1)Đặt \(d = \left( {x;y} \right) \Rightarrow \left\{ {\begin{array}{*{20}{c}}{x = ad}\\{y = bd}\end{array}} \right.\) với \(\left( {a;b} \right) = 1\)

Suy ra \(M = {x^2} + xy + {y^2} = {d^2}\left( {{a^2} + ab + {b^2}} \right)\)

Vì \({a^2} + ab + {b^2} \ge 3\) nên \(d = 1,\) suy ra \(\left( {x;y} \right) = 1.\)

Mà \(xy\) là số chính phương nên \(xy \ge 0;\left| x \right|,\left| y \right|\) đều là số chính phương \( \Rightarrow \left| x \right| = {m^2};\left| y \right| = {n^2}\) với \(m,n \in \mathbb{N}.\)

\(M = {m^4} + {m^2}{n^2} + {n^4} = \left( {{m^2} + mn + {n^2}} \right)\left( {{m^2} - mn + {n^2}} \right)\)

Nếu \(x = 0\) hoặc \(y = 0\) thì \(M\) không là số nguyên tố nên \(x;y \in {\mathbb{N}^*} \Rightarrow m;n \in {\mathbb{N}^*}\)

Do đó \({m^2} + mn + {n^2} \ge 3\)

Mà \(M\)là số nguyên tố nên \({m^2} - mn + {n^2} = 1 \Leftrightarrow {m^2} + {n^2} + {\left( {m - n} \right)^2} = 2 \Rightarrow m = n = 1\)

Vậy \(\left( {x;y} \right) \in \left\{ {\left( {1;1} \right);\left( { - 1; - 1} \right)} \right\}.\)

2) Đặt \(x = b + c\)

\(\left\{ {\begin{array}{*{20}{c}}{2x = 1 - a - c \le 1 - a}\\{3x = 1 + b - a \ge 1 - a}\end{array}} \right.\)

- Tìm GTLN của \(P\)

\(P \le \left( {a + 3} \right)\left( {1 - a} \right)\left( {a + \frac{{1 - a}}{2}} \right) = \frac{1}{4}\left( {3 - 2a} \right)\left( {2 + 2a} \right) \le \frac{1}{4}.\frac{{{{\left( {3 - 2a + 2 + 2a} \right)}^2}}}{4} = \frac{{25}}{{16}}\)

Vậy GTLN của \(P = \frac{{25}}{{16}}.\)

Dấu “=” xảy ra khi và chỉ khi \(c = 0,a = \frac{1}{4},b = \frac{3}{8}.\)

- Tìm GTNN của \(P\)

\(P \ge \left[ {a + 2\left( { - a} \right)} \right]\left[ {a + \frac{{1 - a}}{3}} \right] = \frac{1}{3}\left( {2{a^2} + 5a + 2} \right) \ge \frac{2}{3}.\)

Dấu “=” xảy ra khi và chỉ khi \(a = b = 0,c = \frac{1}{3}.\)