Lời giải:
Vì $a,b,c$ là 3 cạnh tam giác nên $a+b-c,a+c-b, b+c-a>0$
Áp dụng BĐT Cauchy dạng \(xy\leq \left(\frac{x+y}{2}\right)^2\) ta có:
\((a+b-c)(a+c-b)\leq \left(\frac{a+b-c+a+c-b}{2}\right)^2=a^2\)
\((a+b-c)(b+c-a)\leq \left(\frac{a+b-c+b+c-a}{2}\right)^2=b^2\)
\((b+c-a)(a+c-b)\leq \left(\frac{b+c-a+a+c-b}{2}\right)^2=c^2\)
Nhân theo vế các BĐT trên:
\([(a+b-c)(a+c-b)(b+c-a)]^2\leq (abc)^2\)
\(\Rightarrow (a+b-c)(a+c-b)(b+c-a)\leq abc\) (đpcm)
Dấu "=" xảy ra khi $a=b=c$.