Trong không gian tọa độ Oxyz, điểm A là một điểm thuộc mặt cầu tâm O, bán kính 1. Điểm B(1;1;1) không nằm trên đường thẳng OA. Từ B hạ đường vuông góc BP xuống đường thẳng OA.

Đáp án: \(5\).

Gọi \(\alpha  = \widehat {POB}\) \(\left( {0 < \alpha  < 90^\circ } \right)\), \(OB = \sqrt 3 \).

Tam giác \(OPB\) vuông tại \(P\). Khi quay tam giác \(OPB\) quanh trục \(OP\) được khối tròn xuay là khối nón có đường cao \(OP = OB\cos \alpha  = \sqrt 3 \cos \alpha \), bán kính đáy \(R = BP = OB\sin \alpha  = \sqrt 3 \sin \alpha \).

Thể tích khối tròn xoay

\(V = \frac{1}{3}OP.\pi B{P^2}\)\( = \frac{1}{3}\sqrt 3 \cos \alpha .\pi .3{\sin ^2}\alpha \)\( = \pi \sqrt 3 \cos \alpha .\left( {1 - {{\cos }^2}\alpha } \right)\).

Đặt \(t = \cos \alpha \). Điều kiện: \(0 < t < 1\). Ta có    \(V = \pi \sqrt 3 t.\left( {1 - {t^2}} \right)\) 

Xét hàm số \(f\left( t \right) = t\left( {1 - {t^2}} \right) =  - {t^3} + t\) trên \(\left( {0;1} \right)\).

Ta có \(f'\left( t \right) =  - 3{t^2} + 1\); \(f''\left( t \right) =  - 6t\).

\(f'\left( t \right) = 0 \Leftrightarrow  - 3{t^2} + 1 = 0 \Leftrightarrow t = \frac{1}{{\sqrt 3 }} \in \left( {0;1} \right)\),

Hàm số \(f\left( t \right) =  - {t^3} + t\) có duy nhất một điểm cực trị trên \(\left( {0;1} \right)\) và đó là điểm cực đại nên giá trị cực đại đó là giá trị lớn nhất của hàm số trên \(\left( {0;1} \right)\)

Do đó \(\mathop {\max }\limits_{\left( {0;1} \right)} f\left( t \right) = f\left( {\frac{1}{{\sqrt 3 }}} \right) = \frac{{2\sqrt 3 }}{9}\).

Vậy \({V_{\max }} = \pi \sqrt 3 .\frac{{2\sqrt 3 }}{9} = \frac{2}{3}\pi \).

Suy ra \(a = 2\), \(b = 3\).

Vậy \(a + b = 2 + 3 = 5\).