Cho phương trình \[{x^2} + 2(m + 1)x + {m^2} + 2m - 3 = 0\,\]

Phương trình có hai nghiệm phân biệt khi và chỉ khi\(\Delta ' > 0 \Leftrightarrow {\left( {m + 1} \right)^2} - {m^2} - 2m + 3 > 0 \Leftrightarrow 4 > 0,\,\forall m\)Với \({x_1},\,\,{x_2}\)là hai nghiệm phân biệt của phương trình, áp dụng hệ thức Vi-et ta có: \(\left\{ \begin{array}{l}{x_1} + {x_2} = - 2\left( {m + 1} \right)\\{x_1}.{x_2} = {m^2} + 2m - 3\end{array} \right.\)

Khi đó: \(x_1^2 + x_2^2 = 16\)

\(\)\(\begin{array}{l} \Leftrightarrow {\left( {{x_1} + {x_2}} \right)^2} - 2{x_1}.{x_2} = 16\\ \Leftrightarrow {\left[ { - 2\left( {m + 1} \right)} \right]^2} - 2\left( {{m^2} + 2m - 3} \right) = 16\\ \Leftrightarrow 4{m^2} + 8m + 4 - 2{m^2} - 4m + 6 = 16\\ \Leftrightarrow 2{m^2} + 4m - 6 = 0\end{array}\)

\( \Leftrightarrow \left[ \begin{array}{l}m = 1\\m = - 3\end{array} \right.\). Vậy \(m \in \left\{ { - 3\,;\,1} \right\}\).