Cho hàm số y = x^3 − 3mx^2 − 9 m^2x (tham số m). Khi đó:

Tập xác định \(D = \mathbb{R}\).

\(y' = 3{x^2} - 6mx - 9{m^2}\); \(y' = 0 \Leftrightarrow 3{x^2} - 6mx - 9{m^2} = 0 \Leftrightarrow {x^2} - 2mx - 3{m^2} = 0 \Leftrightarrow \left[ \begin{array}{l}x =  - m\\x = 3m\end{array} \right.\).

Nếu \( - m = 3m \Leftrightarrow m = 0\) thì \(y' \ge 0;\forall x \in \mathbb{R}\) nên hàm số không có khoảng nghịch biến.

Nếu \( - m < 3m \Leftrightarrow m > 0\) thì hàm số nghịch biến trên khoảng \(\left( { - m;3m} \right)\).

Do đó hàm số nghịch biến trên khoảng \(\left( {0;1} \right)\) \( \Leftrightarrow \left\{ \begin{array}{l} - m \le 0\\3m \ge 1\end{array} \right. \Leftrightarrow m \ge \frac{1}{3}\).

Kết hợp với điều kiện ta được \(m \ge \frac{1}{3}\).

Nếu \( - m > 3m \Leftrightarrow m < 0\) thì hàm số nghịch biến trên khoảng \(\left( {3m;\; - m} \right)\).

Do đó hàm số nghịch biến trên khoảng \(\left( {0;1} \right)\) \( \Leftrightarrow \left\{ \begin{array}{l}3m \le 0\\ - m \ge 1\end{array} \right. \Leftrightarrow m \le  - 1\).

Kết hợp với điều kiện ta được \(m \le  - 1\).

Vậy hàm số nghịch biến trên khoảng \(\left( {0;1} \right)\) khi \(m \le  - 1\) hoặc \(m \ge \frac{1}{3}\).