Lời giải:
\(P=(a+b+c)^2-(ab+bc+ac)=36-(ab+bc+ac)\) $(1)$
Vì \(0\leq a,b,c\leq 4\Rightarrow (a-4)(b-4)(c-4)\leq 0\)
\(\Leftrightarrow abc-4(ab+bc+ac)+16(a+b+c)-64\leq 0\)
\(\Leftrightarrow 4(ab+bc+ac)\geq 32+abc\geq 32\) (do \(abc\geq 0\) )
\(\Rightarrow ab+bc+ac\geq 8\) $(2)$
Từ \((1),(2)\Rightarrow P\leq 28\) hay \(P_{\max}=28\)
Dấu bằng xảy ra khi \((a,b,c)=(0,2,4)\) và các hoán vị của nó