Cho phương trình x^2 − (m + 1)x + m = 0 (1) với m là tham số. Tìm m để phương trình (1) có hai nghiệm phân biệt x1, x2 sao cho x1 < x2 thỏa mãn x1^2 x2 − x1 x2^2 − 2x1^2 + 2x2^2 > 0.

Phương trình (1): \({x^2} - (m + 1)x + m = 0\) có các hệ số: \(a = 1,b =  - (m + 1),c = m\).

Để phương trình có hai nghiệm phân biệt \({x_1},{x_2}\), ta cần điều kiện \(\Delta  > 0\):

\(\Delta  = {[ - (m + 1)]^2} - 4 \cdot 1 \cdot m = {m^2} + 2m + 1 - 4m = {m^2} - 2m + 1 = {(m - 1)^2}\)

Để \(\Delta  > 0 \Rightarrow {(m - 1)^2} > 0 \Rightarrow m \ne 1\).

Theo định lý Vi-ét, ta có:

\(\left\{ {\begin{array}{*{20}{l}}{{x_1} + {x_2} = m + 1}\\{{x_1}{x_2} = m}\end{array}} \right.\)

Do đó, phương trình luôn có hai nghiệm là:

\(x = 1\) và \[x = \frac{c}{a} = m\]

Vì đề bài cho \({x_1} < {x_2}\), nên sẽ có hai trường hợp xảy ra:

TH1: \({x_1} = m,{x_2} = 1\) (khi \(m < 1\))

TH2: \({x_1} = 1,{x_2} = m\) (khi \(m > 1\))

Ta có bất phương trình: \(x_1^2{x_2} - {x_1}x_2^2 - 2x_1^2 + 2x_2^2 > 0\)

Nhóm các hạng tử để phân tích thành nhân tử:

\(\left( {x_1^2{x_2} - {x_1}x_2^2} \right) + \left( {2x_2^2 - 2x_1^2} \right) > 0\)

\({x_1}{x_2}({x_1} - {x_2}) + 2({x_2} - {x_1})({x_2} + {x_1}) > 0\)

\( - {x_1}{x_2}({x_2} - {x_1}) + 2({x_2} - {x_1})({x_2} + {x_1}) > 0\)

\(({x_2} - {x_1}) \cdot \left[ { - {x_1}{x_2} + 2({x_1} + {x_2})} \right] > 0\)

Vì theo giả thiết \({x_1} < {x_2} \Rightarrow {x_2} - {x_1} > 0\). Do đó, ta chỉ cần:

\( - {x_1}{x_2} + 2({x_1} + {x_2}) > 0\)

Thay \({x_1} + {x_2} = m + 1\) và \({x_1}{x_2} = m\) vào bất phương trình vừa rút gọn:

\( - m + 2(m + 1) > 0\)

\( - m + 2m + 2 > 0\)

\(m + 2 > 0 \Rightarrow m >  - 2\)

Kết hợp với điều kiện ban đầu để có hai nghiệm phân biệt (\(m \ne 1\)):

Vậy giá trị \(m\) cần tìm là \(m >  - 2\) và \(m \ne 1\).