Tìm các giá trị của tham số m để hàm số y = 1/3x^3 - mx^2 + (m^2 - 4)x + 3

Tập xác định \(\mathbb{R}.\)

Ta có \(y' = {x^2} - 2mx + {m^2} - 4\,;\,\,y'' = 2x - 2m.\)

Để hàm số \(y = \frac{1}{3}{x^3} - m{x^2} + \left( {{m^2} - 4} \right)x + 3\) đạt cực đại tại \(x = 3\) thì

\[\left\{ {\begin{array}{*{20}{l}}{y'\left( 3 \right) = 0}\\{y''\left( 3 \right) < 0}\end{array} \Leftrightarrow \left\{ {\begin{array}{*{20}{l}}{{m^2} - 6m + 5 = 0}\\{6 - 2m < 0}\end{array}} \right.} \right.\]\[ \Leftrightarrow \left\{ \begin{array}{l}\begin{array}{*{20}{l}}{\left[ \begin{array}{l}m = 5\\m = 1\end{array} \right.}\end{array}\\m > 3\end{array} \right. \Leftrightarrow m = 5.\] Chọn B.