a)  Giải phương trình \({x^4} - 4{x^3} + 6{x^2} - 4x - 3 = 0\)

a) Ta biến đổi phương trình như sau

\[\]\({x^4} - 4{x^3} + 6{x^2} - 4x - 3 = 0 \Leftrightarrow \left( {{x^2} - 2x - 1} \right)\left( {{x^2} - 2x + 3} \right) = 0\)

\( \Leftrightarrow {x^2} - 2x - 1 = 0\)\(\left( {v\`i \,\,{x^2} - 2x + 3 = {{\left( {x - 1} \right)}^2} + 2 > 2 > 0} \right)\)

\( \Leftrightarrow \,x \in \,\left\{ {1 + \sqrt 2 ,1 - \sqrt 2 } \right\}\)

Như vậy, tập nghiệm của phương trình đã cho là \(S\, = \,\left\{ {1 + \sqrt 2 ,1 - \sqrt 2 } \right\}\)

b) Điều kiện xác định: \(x + y\,\, \ge \,\,0,\,2y - {x^2} + 2x\,\, \ge \,0\)

Trước hết ta có biến đổi sau

\(2x - \sqrt {x + y}  = \sqrt {2y - {x^2} + 2x}  \Leftrightarrow {\left( {2x - \sqrt {x + y} } \right)^2} = 2y - {x^2} + 2x\)

\( \Leftrightarrow 4{x^2} - 4x\sqrt {x + y}  + x + y = 2y - {x^2} + 2x\)

\( \Leftrightarrow 5{x^2} - 4x\sqrt {x + y}  - \left( {x + y} \right) = 0\)

\( \Leftrightarrow 5x\left( {x - \sqrt {x + y} } \right) + \sqrt {x + y} \left( {x - \sqrt {x + y} } \right) = 0\)

\( \Leftrightarrow \left( {x - \sqrt {x + y} } \right)\left( {5x = \sqrt {x + y} } \right) = 0\)

Lúc này, ta xét hai trường hợp sau

o   Trường hợp 1. \(x - \sqrt {x + y}  = 0\,\)suy ra \(x = \sqrt {x + y} \left( {x\,\, \ge 0} \right)\)

Thay vào phương trình thứ hai của hệ, ta được

\(\left( {2 - x} \right)\sqrt {{x^2} + 4}  = 2\sqrt 3 x \Leftrightarrow {\left( {2 - x} \right)^2}\left( {{x^2} + 4} \right) = 12{x^2}\)

\( \Leftrightarrow \left( {{x^2} - 4x + 4} \right)\left( {{x^2} + 4} \right) = 12{x^2}\)

\( \Leftrightarrow {x^4} + 4{x^2} - 4{x^3} - 16x + 4{x^2} + 16 = 12{x^2}\)

\( \Leftrightarrow {x^4} - 4{x^3} - 4{x^2} - 16x + 16 = 0\)

\( \Leftrightarrow \left( {{x^2} + 2x + 2} \right)\left( {{x^2} - 6x + 4} \right) = 0\)

\( \Leftrightarrow {x^2} - 6x + 4 = 0\left( {v\`i \,\,{x^2} + 2x + 2 = {{\left( {x + 1} \right)}^2} + 1 > 1 > 0} \right)\)

\( \Leftrightarrow x \in \left\{ {3 - \sqrt 5 ,\,3 + \sqrt 5 } \right\}\)

Để ý điều kiện \(0 \le x \le 2\) nên \(x = 3 + \sqrt 5 \) loại suy ra \(x = 3 - \sqrt 5 \)

Khi đó, thay vào biểu thức ta được \(3 - \sqrt 5  = \sqrt {3 - \sqrt 5  + y} \) suy ra \(y = 11 - 5\sqrt 5 \)

Thử lại, ta thấy nghiệm trên thỏa mãn

o   Trường hợp 2. \(5x + \sqrt {x + y}  = 0\) suy ra \(\sqrt {x + y}  =  - 5x\left( {x \le 0} \right)\)

Thay vào phương trình đầu của hệ, ta có

\(7x = \sqrt {2y - {x^2} + 2x} \)

Từ đây kết hợp \(x \le 0\) suy ra \(x = y = 0\). Thử lại, ta thấy nghiệm trên không thỏa

Như vậy, tất cả các nghiệm của hệ phương trình là \(\left( {x,y} \right)\, = \,\left\{ {3 - \sqrt 5 ,\,11 - 5\sqrt 5 } \right\}\)