Lời giải:
Đặt \((a,b,c)=(x-1,y-1,z-1)\Rightarrow x,y,z>0\)
Điều kiện: \(a^2+b^2+c^2=27\)
\(\Leftrightarrow (x-1)^2+(y-1)^2+(z-1)^2=27\)
\(\Leftrightarrow x^2+y^2+z^2=24+2(x+y+z)(*)\)
Ta có:
\(P=(x-1)^3+(y-1)^3+(z-1)^3\)
\(=x^3+y^3+z^3-3(x^2+y^2+z^2)+3(x+y+z)-3\)
Áp dụng BĐT AM-GM:
\(x^3+16x\geq 8x^2;y^3+16y\geq 8y^2; z^3+16z\geq 8z^2\)
\(\Rightarrow P\geq 5(x^2+y^2+z^2)-13(x+y+z)-3\)
\(\Leftrightarrow P\geq 5[24+2(x+y+z)]-13(x+y+z)-3\)
\(\Leftrightarrow P\geq 120-3(x+y+z)-3\)
Áp dụng AM-GM cho $(*)$ thì:
\(24+3(x+y+z)\geq \frac{(x+y+z)^2}{3}\). Coi $x+y+z=t$ là biến, giải BPT suy ra \(t=x+y+z\leq 12\)
\(\Rightarrow P\geq 120-3.12-3=81\)
Vậy $P_{\min}=81$ khi $a=b=c=3$