Khi \(\cot x\) là một hàm lồi trên \(\left(0,\frac{\pi}{2}\right)\), và \(A,B,C\in\left(0,\frac{\pi}{2}\right)\), ta có:
\(\cot A+\cot B+\cot C\ge3\cot\left(\frac{A+B+C}{3}\right)=\sqrt{3}\)
Theo BĐT Jensen ta được ĐPCM
Cách khác:
Sử dụng đồng nhất thức ta có:
\(\tan A+\tan B+\tan C=\tan A\tan B\tan C\)
Vì vậy \(\cot A\cot B+\cot B\cot C+\cot C\cot A=1\)
Và \(\left(\cot A-\cot B\right)^2+\left(\cot B-\cot C\right)^2+\left(\cot C-\cot A\right)^2\ge0\)
Vì vậy \(\cot^2A+\cot^2B+\cot^2C\ge1\)
Vì vậy \(\left(\cot A+\cot B+\cot C\right)^2=\cot^2A+\cot^2B+\cot^2C+2\left(\cot A\cot B+\cot B\cot C+\cot C\cot A\right)\ge3\)
Vậy \(\cot A+\cot B+\cot C\ge\sqrt{3}\)
Dấu "=" xảy ra khi \(\cot A=\cot B=\cot C\) (Cách này ko chắc 100% đúng)