F(x) là một nguyên hàm của hàm (x - 1) căn bậc hai của x^2 - 2x - 3

Ta có Fx=∫x−1x2−2x−3dx

Đặt t=x2−2x−3⇒t2=x2−2x−3⇒tdt=x−1dx.

⇒Fx=∫fxdx=∫t2dt=t33+C

⇒Fx=x2−2x−3x2−2x−33+C

ĐKXĐ: x2−2x−3≥0⇔x≥3x≤−1.

Khi đó ta có: Fx=x2−2x−3x2−2x−33+C1 khi x≤−1x2−2x−3x2−2x−33+C2 khi x≥3

Ta có: F−2=553+C1=553⇒C1=0F4−1=553+C2−1=553⇒C2=1

⇒Fx=x2−2x−3x2−2x−33 khi x≤−1x2−2x−3x2−2x−33+1 khi x≥3

⇒F−3=12123=83F5=12123+1=83+1

 

Vậy F−3+F5=163+1⇒a=16b=1⇒a+b=17.

Chọn A.