Tính f'(3).

Có f'(x) = x² – 6x + m.

Theo đề ta có a2−6a+m=0   1b2−6b+m=0  2a+3b=16         3

Lấy (1) – (2), ta được \({a^2} - {b^2} - 6\left( {a - b} \right) = 0\)\( \Leftrightarrow \left( {a - b} \right)\left( {a + b - 6} \right) = 0\)\( \Leftrightarrow \left[ \begin{array}{l}a = b\\a + b = 6\end{array} \right.\).

Do a, b phân biệt nên a = b (loại).

Từ a + b = 6 Þ a = 6 – b thay vào (3) ta được 6 – b + 3b = 16 Û b = 5 suy ra a = 1.

Thay a = 1 vào phương trình (1) ta được 1² – 6.1 + m = 0 Û m = 5.

Do đó f'(x) = x² − 6x + 5. Vậy f'(3) = 3² – 6.3 + 5 = −4.

Trả lời: −4.