Đề đúng: \(M=\left(a^2+b^2-c^2\right)^2-4a^2b^2\)
a) Ta có:
\(M=\left(a^2+b^2-c^2\right)^2-4a^2b^2\)
\(M=\left(a^2+b^2-c^2-2ab\right)\left(a^2+b^2-c^2+2ab\right)\)
\(M=\left[\left(a^2-2ab+b^2\right)-c^2\right]\left[\left(a^2+2ab+b^2\right)-c^2\right]\)
\(M=\left[\left(a-b\right)^2-c^2\right]\left[\left(a+b\right)^2-c^2\right]\)
\(M=\left(a-b-c\right)\left(a-b+c\right)\left(a+b-c\right)\left(a+b+c\right)\)
b) Nếu a,b,c là độ dài 3 cạnh của tam giác thì:
\(\hept{\begin{cases}a+b>c\\c+a>b\\b+c>a\end{cases}}\Leftrightarrow\hept{\begin{cases}a+b-c>0\\a-b+c>0\\a-b-c< 0\end{cases}}\) , mà a + b + c > 0
=> \(M< 0\)