Biết rằng tập hợp tất cả các giá trị thực của tham số m để hàm số

Đáp án D

Ta có y'=x2−2m−1x−m−3

Để hàm số đồng biến trên các khoảng −3;−1 và 0;3 thì y'≥0 với mọi x∈−3;−1 và x∈0;3

Hay

x2−2m−1x−m−3≥0⇔x2+2x+3≥m2x+1⇔x2+2x+32x+1≥m

với x∈0;3 và x2+2x+32x+1≤m với x∈−3;−1

Xét f'x=x2+2x+32x+1=2x−1x+22x+1→f'x=0⇔x=1x=−2

Dựa vào bảng biến thiên của đồ thị hàm số fx, để fx đồng biến trên khoảng −3;−1 thì m≤2 và để fx đồng biến trên khoảng 0;3 thì m≥−1⇒a2+b2=5