Lời giải:
\(4a^2b^2-(a^2+b^2-c^2)^2=(2ab)^2-(a^2+b^2-c^2)^2\)
\(=(2ab-a^2-b^2+c^2)(2ab+a^2+b^2-c^2)\)
\(=[c^2-(a-b)^2][(a+b)^2-c^2]\)
\(=(c-a+b)(c+a-b)(a+b-c)(a+b+c)\)
Vì $a,b,c$ là 3 cạnh của tam giác nên:
\(\left\{\begin{matrix} c-a+b>0\\ c+a-b>0\\ a+b-c>0\\ a+b+c>0\end{matrix}\right.\)
\(\Rightarrow 4a^2b^2-(a^2+b^2-c^2)^2=(c-a+b)(c+a-b)(a+b-c)(a+b+c)>0\)
Ta có đpcm.