Cho hàm số y=f(x) có đạo hàm f'(x)=1/x-1+6x và mọi x thuộc (1;dương vô cực)

Với \(\forall x \in \left( {1\,;\,\, + \infty } \right)\) ta có \(f\left( x \right) = \int {\left( {\frac{1}{{x - 1}} + 6x} \right)dx}  = \ln \left( {x - 1} \right) + 3{x^2} + C.\)

Vì \(f\left( 2 \right) = 12 \Rightarrow C = 0 \Rightarrow f\left( x \right) = \ln \left( {x - 1} \right) + 3{x^2}.\)

\(F\left( x \right) = \int {\left( {\ln (x - 1) + 3{x^2}} \right)dx}  = x\ln \left( {x - 1} \right) - \int x d\left( {\ln \left( {x - 1} \right)} \right) + {x^3}\)

\( = x\ln dx - \int x  \cdot \frac{1}{{x - 1}}dx + {x^3}\)\[ = x\ln \left( {x - 1} \right) - x - \ln \left( {x - 1} \right) + {x^3} + C' \cdot F(2) = 6\] nên \(C' = 0.\)

Suy ra \(F\left( x \right) = x\ln \left( {x - 1} \right) - x - \ln \left( {x - 1} \right) + {x^3}.\)

\(P = F\left( 5 \right) - 4F\left( 3 \right) = 5\ln 4 - 5 - \ln 4 + 125 - 4\left( {3\ln 2 - 3 - \ln 2 + 27} \right) = 120 - 96 = 24.{\rm{ }}\)

Chọn D.