a) Rút gọn biểu thức P = ( x - 3 căn bậc hai x/ x-2 căn bậc hai x -3 - 2x / x-1)

a) \(P = \left( {\frac{{\sqrt x (\sqrt x  - 3)}}{{(\sqrt x  + 1)(\sqrt x  - 3)}} - \frac{{2x}}{{x - 1}}} \right):\frac{{1 - \sqrt x }}{{{{(\sqrt x  - 1)}^2}}} = \frac{{\sqrt x (\sqrt x  - 1) - 2x}}{{(\sqrt x  - 1)(\sqrt x  + 1)}}:\frac{{ - 1}}{{\sqrt x  - 1}}\)

    \( \Rightarrow P = \frac{{ - \sqrt x (\sqrt x  + 1)}}{{(\sqrt x  - 1)(\sqrt x  + 1)}} \cdot ( - (\sqrt x  - 1)) = \sqrt x \)

b) Điều kiện: \(x \ge  - 2\). Phương trình \( \Leftrightarrow \left( {{x^2} - 2x + 4} \right) + (x + 2) - 2\sqrt {(x + 2)\left( {{x^2} - 2x + 4} \right)}  = 0\)

     \( \Leftrightarrow {\left( {\sqrt {{x^2} - 2x + 4}  - \sqrt {x + 2} } \right)^2} = 0 \Leftrightarrow \sqrt {{x^2} - 2x + 4}  = \sqrt {x + 2} \)

    \( \Leftrightarrow {x^2} - 3x + 2 - 0 \Leftrightarrow \left[ {\begin{array}{*{20}{l}}{x = 1}\\{x = 2}\end{array}} \right.\)   (thỏa mãn ĐK)

Vậy tập nghiệm của phương trình đã cho là: \[{\rm{S = \{ 1 ; 2\} }}\]

c) Điều kiện: \({x^2} - y - 1 \ge 0\). Xét hệ pt: \(\left\{ {\begin{array}{*{20}{l}}{{y^2} - 2{x^2} - xy - y + 2x = 0\,\,\,(1)}\\{\sqrt {{x^2} - y - 1}  + x + y = 1\,\,\,\,\,\,\,\,\,\,\,\,(2)}\end{array}} \right.\)

ta có: \((1) \Leftrightarrow (y - 2x)(y + x - 1) = 0 \Leftrightarrow \left[ {\begin{array}{*{20}{l}}{y = 2x}\\{y = 1 - x}\end{array}} \right.\)

* Trường hợp 1: với \(y = 2x\) thay vào (2), thu được:

\(\sqrt {{x^2} - 2x - 1}  = 1 - 3x \Leftrightarrow \left\{ {\begin{array}{*{20}{l}}{x \le \frac{1}{3}}\\{{x^2} - 2x - 1 = 1 - 6x + 9{x^2}}\end{array} \Leftrightarrow \left\{ {\begin{array}{*{20}{l}}{x \le \frac{1}{3}}\\{8{x^2} - 4x + 2 = 0}\end{array}} \right.} \right.\)    (vô nghiệm)

* Trường hợp 2: với \(y = 1 - x\) thay vào (2), thu được: \(\sqrt {{x^2} + x - 2}  = 0 \Leftrightarrow \left[ {\begin{array}{*{20}{l}}{x = 1}\\{x =  - 2}\end{array}} \right.\)

Vậy tập nghiệm của hệ pt đã cho là: \[{\rm{S}}\,{\rm{ = }}\left\{ {{\rm{(1 ; 0) ;( - 2 ; 3)}}} \right\}\]