Cho \(a=b=c=1\) thì \(A=\dfrac{1}{4}\)
Ta sẽ chứng minh nó là GTLN của A
Áp dụng BĐT AM-GM và BĐT Cauchy-Schwarz ta có:
\(A=\dfrac{1}{\sqrt{a^2+b^2+c^2+1}}-\dfrac{2}{\left(a+1\right)\left(b+1\right)\left(c+1\right)}\)
\(\le\dfrac{1}{\sqrt{\dfrac{\left(a+b+c\right)^2}{3}+1}}-\dfrac{2}{\left(\dfrac{a+b+c+3}{3}\right)^3}\)
\(=\dfrac{1}{\sqrt{3t^2+1}}-\dfrac{2}{\left(t+1\right)^3}\left(a+b+c=3t>0\right)\)
\(\le\dfrac{2}{\sqrt{\left(3+1\right)\left(3t^2+1\right)}}-\dfrac{2}{\left(t+1\right)^3}\)\(\le\dfrac{2}{3t+1}-\dfrac{2}{\left(t+1\right)^3}\)
Cần chứng minh \(\dfrac{2}{3t+1}-\dfrac{2}{\left(t+1\right)^3}\le\dfrac{1}{4}\)
Đúng vì nó tương đương \(\left(t-1\right)^2\left(3t^2+8t+1\right)\ge0\)