\(\left\{ \begin{array}{l}{x^2}\left( {1 + \frac{4}{{{y^2}}}} \right) = 12\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\left( 1 \right)\\2\sqrt {x + 3y + 2} = 3\sqrt y + \sqrt {x + 2} \,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\left( 2 \right)\end{array} \right.\)

Cách 1: Điều kiện \(x \ge - 2;y > 0\)

Phương trình \(\left( 2 \right) \Leftrightarrow 4\left( {x + 3y + 2} \right) = 9y + x + 2 + 6\sqrt {y\left( {x + 2} \right)} \)

\(\begin{array}{l} \Leftrightarrow 3x + 3y + 6 = 6\sqrt {y\left( {x + 2} \right)} \\ \Leftrightarrow x + y + 2 = 2\sqrt {y\left( {x + 2} \right)} \\ \Leftrightarrow {\left[ {\left( {x + 2} \right) + y} \right]^2} = 4y\left( {x + 2} \right)\\ \Leftrightarrow {\left( {x + 2} \right)^2} + 2y\left( {x + 2} \right) + {y^2} = 4y\left( {x + 2} \right)\\ \Leftrightarrow {\left( {x + 2} \right)^2} - 2y\left( {x + 2} \right) + {y^2} = 0\\ \Leftrightarrow {\left[ {\left( {x + 2} \right) - y} \right]^2} = 0\\ \Leftrightarrow y = x + 2\end{array}\)

Thay \(y = x + 2\) vào \(\left( 1 \right)\) ta được \({x^2}\left( {1 + \frac{4}{{{{\left( {x + 2} \right)}^2}}}} \right) = 12\,\,\, \Leftrightarrow {x^2}{\left( {x + 2} \right)^2} + 4{x^2} = 12{\left( {x + 2} \right)^2}\)

\( \Leftrightarrow {x^4} + 4{x^3} + 8{x^2} = 12{x^2} + 48x + 48 \Leftrightarrow {x^4} + 4{x^3} - 4{x^2} - 48x - 48 = 0\)

\[ \Leftrightarrow \left( {{x^2} - 2x - 4} \right)\left( {{x^2} + 6x + 12} \right) = 0 \Leftrightarrow \left( {{x^2} - 2x - 4} \right)\left[ {{{\left( {x + 3} \right)}^2} + 3} \right] = 0 \Leftrightarrow {x^2} - 2x - 4 = 0\] \( \Leftrightarrow x = 1 + \sqrt 5 \) hoặc \(x = 1 - \sqrt 5 \) (thoả mãn)

Với \(x = 1 + \sqrt 5 \Rightarrow y = 3 + \sqrt 5 \) (thoả mãn)

Với \(x = 1 - \sqrt 5 \Rightarrow y = 3 - \sqrt 5 \) (thoả mãn)

Vậy hệ phương trình có hai nghiệm phân biệt \(\left\{ \begin{array}{l}x = 1 + \sqrt 5 \\y = 3 + \sqrt 5 \end{array} \right.\) và \(\left\{ \begin{array}{l}x = 1 - \sqrt 5 \\y = 3 - \sqrt 5 \end{array} \right.\).

Cách 2: Điều kiện \(\left\{ \begin{array}{l}x \ge - 2\\y > 0\end{array} \right.\,\,\,\left( * \right)\)

Phương trình \(\left( 2 \right) \Leftrightarrow 4\left( {x + 3y + 2} \right) = 9y + x + 2 + 6\sqrt {y\left( {x + 2} \right)} \)

\(\begin{array}{l} \Leftrightarrow 4\left( {x + 3y + 2} \right) = 9y + x + 2 + 6\sqrt {y\left( {x + 2} \right)} \\ \Leftrightarrow 3\left( {x + 2} \right) + 3y = 6\sqrt {y\left( {x + 2} \right)} \\ \Leftrightarrow {\left( {\sqrt {x + 2} - \sqrt y } \right)^2} = 0\\ \Leftrightarrow \sqrt {x + 2} = \sqrt y \\ \Leftrightarrow y = x + 2\end{array}\)

Thay \(y = x + 2\) vào \(\left( 1 \right)\) ta được

\(\begin{array}{l}\,\,\,\,\,\,\,{x^2} + \frac{{4{x^2}}}{{{{\left( {x + 2} \right)}^2}}} = 12\,\,\,\,\,\,\left( {x \ne - 2} \right)\\ \Leftrightarrow {\left( {x - \frac{{2x}}{{x + 2}}} \right)^2} = 12 - \frac{{4{x^2}}}{{x + 2}} \Leftrightarrow {\left( {\frac{{{x^2}}}{{x + 2}}} \right)^2} + 4.\left( {\frac{{{x^2}}}{{x + 2}}} \right) - 12 = 0\\ \Leftrightarrow \left[ \begin{array}{l}\frac{{{x^2}}}{{x + 2}} = 2\\\frac{{{x^2}}}{{x + 2}} = - 6\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}{x^2} - 2x - 4 = 0\,\,\,\,\,\left( 3 \right)\\{x^2} + 6x + 12 = 0\,\,\,\left( 4 \right)\end{array} \right.\end{array}\)

Giải phương trình (3) có hai nghiệm \(x = 1 + \sqrt 5 \); \(x = 1 - \sqrt 5 \).

Với \(x = 1 + \sqrt 5 \Rightarrow y = 3 + \sqrt 5 \) (thoả mãn)

Với \(x = 1 - \sqrt 5 \Rightarrow y = 3 - \sqrt 5 \) (thoả mãn)

Phương trình (4) vô nghiệm

Đối chiếu với điều kiện (*) hệ phương trình đã cho có hai nghiệm là \(\left( {1 - \sqrt 5 ;3 - \sqrt 5 } \right),\,\left( {1 + \sqrt 5 ;\,3 + \sqrt 5 } \right)\).

Hàm số \(y = mx - 2\) đồng biến trên {R}\) khi