Biết rằng tập hợp tất cả các giá trị của tham số m để hàm số

Đáp án C.

Ta có f'x=x2−2mx+1−4mx−m2.

Hàm số đồng biến trên 2;+∞ khi và chỉ khi f'x≥0,∀x∈2;+∞

⇔m∉2;+∞x2−2mx+1−4m≥0,∀x∈2;+∞⇔m<22m≤x2+1x+2,∀x∈2;+∞ 

Bằng cách khảo sát hàm số y=x2+1x+2 trên nửa khoảng 2;+∞, ta được

min2;+∞y=y2=54 

 

Vì vậy

2m≤x2+1x+2,∀2;+∞⇔2m≤min2;+∞x2+1x+2=54⇔m≤58.

Suy ra a=5,b=8.

Do đó a2+b2=89.

Vậy phương án đúng là C.