Đáp án C

Điều kiện: \(xy + 1 > 0\).

\({\log _2}\left( {\frac{{xy + 1}}{{{x^2} + {y^2}}}} \right) = 2\left( {{x^2} + {y^2}} \right) - xy \Leftrightarrow {\log _2}\left[ {\frac{{xy + 1}}{{2\left( {{x^2} + {y^2}} \right)}}} \right] = 2\left( {{x^2} + {y^2}} \right) - xy - 1\)

\( \Leftrightarrow {\log _2}\left( {xy + 1} \right) + \left( {xy + 1} \right) = {\log _2}\left[ {2\left( {{x^2} + {y^2}} \right)} \right] + 2\left( {{x^2} + {y^2}} \right)\).

Xét hàm số: \(f\left( t \right) = {\log _2}t + t{\rm{ }}\left( {t > 0} \right)\)

\(f'\left( t \right) = \frac{1}{{t\ln 2}} + 1 > 0{\rm{ }}\forall t > 0 \Rightarrow \)hàm số đồng biến trên \(\left( {0; + \infty } \right)\).

Do đó: \(f\left( {xy + 1} \right) = f\left( {2\left( {{x^2} + {y^2}} \right)} \right) \Rightarrow xy + 1 = 2\left( {{x^2} + {y^2}} \right)\)

Ta có: \( - \left( {\frac{{{x^2} + {y^2}}}{2}} \right) \le xy \le \frac{{{x^2} + {y^2}}}{2} \Leftrightarrow - \left( {\frac{{{x^2} + {y^2}}}{2}} \right) + 1 \le 2\left( {{x^2} + {y^2}} \right) \le \left( {\frac{{{x^2} + {y^2}}}{2}} \right) + 1 \Leftrightarrow \frac{2}{5} \le {x^2} + {y^2} \le \frac{2}{3}\).

Khi đó: \(P = \frac{{{x^4} + {y^4}}}{{2{\rm{x}}y + 1}} = \frac{{{{\left( {{x^2} + {y^2}} \right)}^2} - 2{{\left( {xy} \right)}^2}}}{{2{\rm{x}}y + 1}}\).

Thay \(xy = 2\left( {{x^2} + {y^2}} \right) - 1\), đặt \(t = {x^2} + {y^2}\) rút gọn ta được: \(P\left( t \right) = \frac{{ - 7{t^2} + 8t - 2}}{{4t - 1}}\) với \(\frac{2}{5} \le t \le \frac{2}{3}\).

\(P'\left( t \right) = \frac{{ - 28{t^2} + 14t}}{{{{\left( {4t - 1} \right)}^2}}} = 0 \Leftrightarrow \left[ \begin{array}{l}t = 0\\t = \frac{1}{2}\end{array} \right.\).

Lập bảng biến thiên dễ thấy: \(\max P = P\left( {\frac{1}{2}} \right) = \frac{1}{4},{\rm{ }}\min P = P\left( {\frac{2}{5}} \right) = P\left( {\frac{2}{3}} \right) = \frac{2}{{15}}\).

Do đó: \(m = \frac{2}{{15}},M = \frac{1}{4} \Rightarrow Q = 15m + 2{\log _2}M = - 2\).

Hàm số nào dưới đây có bảng biến thiên như hình vẽ?