Cho phương trình \[{x^2} - (2m + 1)x + {m^2} - 1 = 0\] (1) với \[m\] là tham số.

a) Giải phương trình (1) khi \[m = 5.\]

Khi \[m = 5,\] ta có phương trình:\[{x^2} - 11x + 24 = 0\]

Ta có \[\Delta  = {( - 11)^2} - 4.24 = 25 > 0\]

Phương trình có hai nghiệm phân biệt: \[{x_1} = 3;{x_2} = 8\]

Vậy tập nghiệm của phương trình là: \[S = \left\{ {3;8} \right\}\]

b) Tìm tất cả các giá trị của tham số \[m\] để phương trình (1) có hai nghiệm \[{x_1},{x_2}\]

Ta có \[\Delta  = {(2m + 1)^2} - 4({m^2} - 1) = 4m + 5\]

Để phương trình có hai nghiệm thì \[\Delta  \ge 0 \Leftrightarrow 4m + 5 \ge 0 \Leftrightarrow m \ge \frac{{ - 4}}{5}\]

Theo hệ thức Vi-et, ta có:\[\left\{ \begin{array}{l}{x_1} + {x_2} = 2m + 1\\{x_1}.{x_2} = {m^2} - 1\end{array} \right.\]

Vì \[{x_1}\] là nghiệm của phương trình (1) nên ta có:\[x_1^2 - (2m + 1){x_1} + {m^2} - 1 = 0 \Leftrightarrow x_1^2 - 2m{x_1} + {m^2} = {x_1} + 1\]

Thay \[x_1^2 - 2m{x_1} + {m^2} = {x_1} + 1\] vào \[(x_1^2 - 2mx + {m^2})({x_2} + 1) = 4.\] Ta có \[({x_1} + 1)({x_2} + 1) = 4 \Leftrightarrow {x_1}{x_2} + {x_1} + {x_2} = 3\] suy ra \[{m^2} - 1 + 2m + 1 = 3 \Leftrightarrow {m^2} + 2m - 3 = 0 \Leftrightarrow \left[ \begin{array}{l}m = 1(t/m)\\m = 3(ktm)\end{array} \right.\]

Vậy với \[m = 1\] thì phương trình (1) có hai nghiệm \[{x_1},{x_2}\] thảo mãn điều kiện \[(x_1^2 - 2mx + {m^2})({x_2} + 1) = 4.\]