Ta có:

\[1 + \left[ {2{x^2} - m\left( {m + 1} \right)x - 2} \right]{.2^{1 + mx - {x^2}}} = \left( {{x^2} - mx - 1} \right){.2^{mx\left( {1 - m} \right)}} + {x^2} - {m^2}x\]

\[ \Leftrightarrow \left[ {\left( {{x^2} - {m^2}x - 1} \right) + \left( {{x^2} - mx - 1} \right)} \right]{.2^{ - \left( {{x^2} - mx - 1} \right)}} = \left( {{x^2} - mx - 1} \right){.2^{\left( {{x^2} - {m^2}x - 1} \right) - \left( {{x^2} - mx - 1} \right)}} + {x^2} - {m^2}x - 1\]

Đặt\(\left\{ {\begin{array}{*{20}{c}}{u = {x^2} - {m^2}x - 1}\\{v = {x^2} - mx - 1}\end{array}} \right.\) Phương trình trở thành:

\[\left( {u + v} \right){.2^{ - v}} = v{.2^{u - v}} + u \Leftrightarrow u\left( {{2^{ - v}} - 1} \right) = v{2^{ - v}}\left( {{2^u} - 1} \right)\left( * \right)\]

+) Dễ dàng kiểm tra u=0 hoặc v=0 là nghiệm của (*)

+) Với \[u,v \ne 0,\left( * \right) \Leftrightarrow \frac{{{2^{ - v}} - 1}}{{v{2^{ - v}}}} = \frac{{{2^u} - 1}}{u}\]

\[ \Leftrightarrow \frac{{{2^u} - 1}}{u} = \frac{{1 - {2^v}}}{v}\]

\[ \Leftrightarrow \frac{{{2^u} - 1}}{u} + \frac{{{2^v} - 1}}{v} = 0\]

Xét hàm\[f\left( t \right) = \frac{{{2^t} - 1}}{t}\] trên\[\mathbb{R} \setminus \left\{ 0 \right\}\] ta thấy:

+) Với t>0 thì\(\left\{ {\begin{array}{*{20}{c}}{{2^t} - 1 > 0}\\{t > 0}\end{array}} \right. \Rightarrow \frac{{{2^t} - 1}}{t} > 0 \Rightarrow f\left( t \right) > 0\)

+) Với t<0 thì \(\left\{ {\begin{array}{*{20}{c}}{{2^t} - 1 < 0}\\{t < 0}\end{array}} \right. \Rightarrow \frac{{{2^t} - 1}}{t} > 0 \Rightarrow f\left( t \right) > 0\)</0 thì>

Do đó \[f\left( t \right) > 0\] với mọi \[t \ne 0\]

\[ \Rightarrow f\left( u \right) > 0,f\left( v \right) > 0,\forall u,v \ne 0\]

\[ \Rightarrow f\left( u \right) + f\left( v \right) > 0,\forall u,v \ne 0\]

\[ \Rightarrow \frac{{{2^u} - 1}}{u} + \frac{{{2^v} - 1}}{v} > 0,\forall u,v \ne 0\]

Do đó phương trình\[\frac{{{2^u} - 1}}{u} + \frac{{{2^v} - 1}}{v} = 0\] vô nghiệm.

Vậy \(\left[ {\begin{array}{*{20}{c}}{u = 0}\\{v = 0}\end{array}} \right.\)

\( \Leftrightarrow \left[ {\begin{array}{*{20}{c}}{{x^2} - {m^2}x - 1 = 0(1)}\\{{x^2} - mx - 1 = 0(2)}\end{array}} \right.\)

Hai phương trình trên luôn có hai nghiệm phân biệt, tổng hai nghiệm ở mỗi phương trình là:

\[{S_1} = {m^2},\,{S_2} = m \Rightarrow S = {m^2} + m \ge - \frac{1}{4}\]

Vậy tổng các nghiệm của phương trình đã cho nhỏ nhất là \[ - \frac{1}{4}\] khi \[m = - \frac{1}{2}\]Đáp án cần chọn là: C

Tìm tập nghiệm S của phương trình: