Điều kiện: \(x + y \ge 0\).

Từ phương trình (2) ta có: \({x^2} + x - y = 2\sqrt {x + y} \) biến đổi thành \({x^2} + 2x + 1 = x + y + 2\sqrt {x + y} + 1\) hay \({\left( {x + 1} \right)^2} = {\left( {\sqrt {x + y} + 1} \right)^2}\)

Suy ra \(x = \sqrt {x + y} \) hoặc \(\sqrt {x + y} = - x - 2\)

TH 1: \(x = \sqrt {x + y} \) Vì \(x + y \ge 0\) nên \(x \ge 0\). Bình phương 2 vế ta được: \(y = {x^2} - x\)

Thay vào phương trình thứ nhất của hệ ta được:

\(\left( {{x^4} - {x^2}} \right) + 2 = {\left( {{x^4} - {x^2}} \right)^2}\)

\({\left( {{x^4} - {x^2}} \right)^2} - \left( {{x^4} - {x^2}} \right) - 2 = 0\)

\(\left( {{x^4} - {x^2} + 1} \right)\left( {{x^4} - {x^2} - 2} \right) = 0\)

\({x^4} - {x^2} - 2 = 0\) do \({x^4} - {x^2} + 1 = {\left( {{x^2} - \frac{1}{2}} \right)^2} + \frac{3}{4} > 0\)

\(\left( {{x^2} + 1} \right)\left( {{x^2} - 2} \right) = 0\)

\({x^2} - 2 = 0\) do \({x^2} + 1 \ge 1 > 0\) với mọi \(x \in \mathbb{R}\)

\(x = \sqrt 2 \) (do \(x > 0)\)Với \(x = \sqrt 2 \), ta được \(y = 2 - \sqrt 2 \)

TH 2: \(\sqrt {x + y} = - x - 2\)

Với \( - x - 2 \ge 0\) hay \(x \le - 2\), bình phương hai vế ta được \({\rm{x}} + y = {x^2} + 4x + 4\) hay \(y = {x^2} + 3x + 4\). Thay vào phương trình thứ nhất của hệ ta được:

\(\left( {{x^2} + 3x + 4} \right)\left( {{x^2} + x} \right) + 2 = {\left( {{x^4} - {x^2}} \right)^2}\)

\({x^4} + 4{x^3} + 7{x^2} + 4x + 2 = {x^8} - 2{x^6} + {x^4}\)

\({x^8} - 2{x^6} - 4{x^3} - 7{x^2} - 4x - 2 = 0\)

\({x^6}\left( {{x^2} - 2} \right) - 4{x^2}\left( {x + \frac{7}{4}} \right) - 2\left( {2x + 1} \right) = 0\left( {\rm{*}} \right)\)

Vì \(x \le - 2\) nên \({x^6}\left( {{x^2} - 2} \right) > 0, - 4{x^2}\left( {x + \frac{7}{4}} \right) > 0, - 2\left( {2x + 1} \right) > 0\)

Do đó \(VT\left( {\rm{*}} \right) > 0\) . Vậy hệ phương trình có nghiệm \(\left( {x;y} \right) = \left( {\sqrt 2 ;2 - \sqrt 2 } \right)\)

Hệ phương trình