Bài toán này chỉ chứng minh được với điều kiện đó là tam giác vuông với 2 cạnh của góc vuông là a & b. 
Lúc đó ta sẽ có: 
a^2 + b^2 = c^2 
Suy ra: 
a^2 + b^2 - c^2 = 0 (1) 
Đề bài là: 
M = 4a^2b^2 – ( a^2+ b^2 – c^2) 
Thay (1) vào: 
M = 4a^2b^2 - 0 
M = 4a^2b^2 
M > 0 (hay M luôn dương). 

Ta có \(a^2-b^2-c^2-2bc\)

\(=a^2-\left(b^2+2bc+c^2\right)\)

\(=a^2-\left(b+c\right)^2\)

Ta có \(a^2\ge0;\left(b+c\right)^2\ge0\)nên \(a^2-\left(b+c\right)^2\ge0\)

Khi đó hiệu trên luôn dương 

Vậy....

Ta có a − b − c − 2bc = a − b + 2bc + c = a − b + c

Ta có a ≥ 0; b + c ≥ 0

nên a − b + c ≥ 0

Khi đó hiệu trên luôn dương 

Do a;b;c là 3 cạnh của 1 tam giác nên: \(\left\{{}\begin{matrix}a+b-c>0\\a+c-b>0\\b+c-a>0\end{matrix}\right.\)

BĐT đã cho tương đương:

\(\dfrac{a^2+2bc}{b^2+c^2}-1+\dfrac{b^2+2ac}{a^2+c^2}-1+\dfrac{c^2+2ab}{a^2+b^2}-1>0\)

\(\Leftrightarrow\dfrac{a^2-\left(b^2-2bc+c^2\right)}{b^2+c^2}+\dfrac{b^2-\left(a^2-2ac+c^2\right)}{a^2+c^2}+\dfrac{c^2-\left(a^2-2ab+b^2\right)}{a^2+b^2}>0\)

\(\Leftrightarrow\dfrac{a^2-\left(b-c\right)^2}{b^2+c^2}+\dfrac{b^2-\left(a-c\right)^2}{a^2+c^2}+\dfrac{c^2-\left(a-b\right)^2}{a^2+b^2}>0\)

\(\Leftrightarrow\dfrac{\left(a+c-b\right)\left(a+b-c\right)}{b^2+c^2}+\dfrac{\left(a+b-c\right)\left(b+c-a\right)}{a^2+c^2}+\dfrac{\left(b+c-a\right)\left(a+c-b\right)}{a^2+b^2}>0\) (luôn đúng)

Vậy BĐT đã cho đúng

\(a^2-b^2-c^2+2bc\)

\(=a^2-\left(b-c\right)^2\)

\(=\left(a-b+c\right)\left(a+b-c\right)\)

tham khảo:        Câu hỏi của Nguyễn Thùy Trang     

https://olm.vn/hoi-dap/detail/240354680477.html

Ta có\(a>b-c\)

Mà a;b;c là độ dài 3 cạnh của 1 tam giác nên a;b;c>0

\(\Rightarrow a^2>\left(b-c\right)^2\)

\(\Leftrightarrow a^2>b^2-2bc+c^2\)

\(\Leftrightarrow a^2-b^2-c^2+2bc>0\)

Vậy \(a^2-b^2-c^2+2bc>0\)