Cho hàm số y=mx^4+3(m-1)x^2+m^2-1. Tìm tất cả các giá trị của tham số m để hàm số có 3 điểm cực trị.

Chọn D
Tập xác định: D=ℝ.
Ta có: y'=4mx2+6m−1x=2x.[2mx+3(m−1)]
Cho y'=0⇔2x=02mx2+3(m−1)=0⇔x=02mx2+3m−1=0=gx
Để hàm số (1) có ba điểm cực trị <=>  phương trình gx=0 phải có hai nghiệm phân biệt khác 0⇔agx≠0Δ'gx>0g(0)≠0⇔2m≠002−2m.3(m−1)>02m.02+3.(m−1)≠0⇔m≠00<m<1m≠1⇒0<m<1
Vậy 0<m<1 thỏa yêu cầu bài toán.
Cách khác:
Để hàm số có 3 cực trị ⇔ab<0⇔3mm−1<0⇔0<m<1 .