Xác định a, b để A = x3 – 5bx + 2a chia hết cho B = (x + 2)2.

Ta có B = (x + 2)² = x² + 4x + 4.

Lại có A = x³ – 5bx + 2a = x(x² + 4x + 4) – 4x² – 4x – 5bx + 2a

= x(x² + 4x + 4) – 4(x² + 4x + 4) + 12x + 16 – 5bx + 2a

= (x – 4)(x² + 4x + 4) + x(12 – 5b) + 16 + 2a

= (x – 4)B + x(12 – 5b) + 16 + 2a.

Từ đây suy ra A chia cho B dư (12 – 5b)x + 16 + 2a.

Để A chia hết cho B thì đa thức dư phải bằng 0, với mọi x.

⇒12−5b=016+2a=0⇒b=125a=−8

Vậy a = –8 và  thỏa mãn yêu cầu bài toán.