Lời giải:
Từ \(ax+by+cz=0\Rightarrow ax+by=-cz\)
\(\Rightarrow (ax+by)^2=c^2z^2\)
\(\Leftrightarrow a^2x^2+2axby+b^2y^2=c^2z^2\)
\(\Rightarrow xy=\frac{c^2z^2-a^2x^2-b^2y^2}{2ab}\)
Hoàn toàn tương tự:
\(yz=\frac{a^2x^2-b^2y^2-c^2z^2}{2bc}\)
\(xz=\frac{b^2y^2-c^2z^2-a^2x^2}{2ca}\)
Cộng theo vế các đẳng thức vừa thu được ta có:
\(xy+yz+xz=\frac{c^2z^2-a^2x^2-b^2y^2}{2ab}+\frac{a^2x^2-b^2y^2-c^2z^2}{2bc}+\frac{b^2y^2-c^2z^2-a^2x^2}{2ac}\)
\(=\frac{c^3z^2-a^2cx^2-b^2cy^2+a^3x^2-ab^2y^2-ac^2z^2+b^3y^2-bc^2z^2-ba^2x^2}{2abc}\)
\(=\frac{x^2a^2(a-b-c)+y^2b^2(b-c-a)+c^2z^2(c-a-b)}{2abc}\)
Vì $a,b,c$ là độ dài 3 cạnh tam giác nên $a-b-c<0; b-c-a< 0; c-a-b<0$
\(x^2a^2\geq 0; y^2b^2\geq 0;c^2z^2\geq 0\)
\(abc>0\)
Do đó có thể dễ thấy \(x^2a^2(a-b-c)+y^2b^2(b-c-a)+c^2z^2(c-a-b)\leq 0\)
\(\Rightarrow xy+yz+xz=\frac{a^2x^2(a-b-c)+b^2y^2(b-a-c)+c^2z^2(c-a-b)}{2abc}\leq 0\)
Ta có đpcm.