Gọi S là tập hợp tất cả các giá trị nguyên dương của tham số m để bất phương trình

Ta có

x6+6x4−m3x3+13x2−mx+10≥0⇔x2+23+x2+2≥(mx)3+(mx)(*)

Xét hàm số f(t)=t3+t⇒f'(t)=3t2+1>0⇒f(t) luôn đồng biến.

Do đó (*)⇔fx2+2≥f(mx)⇔x2+2≥mx

Do đó, x6+6x4−m3x3+13x2−mx+10≥0∀x∈[1;4]

⇔x2+2≥mx∀x∈[1;4]⇔x+2x≥m∀x∈[1;4](**)

⇔22≥m (Do áp dụng BĐT Cauchy, ∀x∈[1;4],x+2x≥22 )

Mà m là số nguyên dương nên m∈{1;2}⇒S={1;2}.

Chọn D