Bất đẳng thức cần chứng minh tương đương với\(\Sigma_{cyc}\left(\sqrt{5a^2+4bc}-2\sqrt{bc}\right)\ge\sqrt{3\left(a^2+b^2+c^2\right)}\)

Hay \(\Sigma_{cyc}\frac{5a^2}{\sqrt{5a^2+4bc}+2\sqrt{bc}}\ge\sqrt{3\left(a^2+b^2+c^2\right)}\)\(\Leftrightarrow\frac{1}{\sqrt{3\left(a^2+b^2+c^2\right)}}\left(\Sigma_{cyc}\frac{5a^2}{\sqrt{5a^2+4bc}+2\sqrt{bc}}\right)\ge1\)

Áp dụng bất đẳng thức Cauchy ta có \(2\sqrt{5a^2+4bc}\sqrt{3\left(a^2+b^2+c^2\right)}\le8a^2+3b^2+3c^2+4bc\)\(4\sqrt{bc}\sqrt{3\left(a^2+b^2+c^2\right)}=\frac{4.3\sqrt{bc}.\sqrt{3\left(a^2+b^2+c^2\right)}}{3}\)\(\le\frac{2\left(3a^2+3b^2+3c^2+9bc\right)}{3}=2\left(a^2+b^2+c^2+3bc\right)\)

Cộng theo vế hai bất đẳng thức trên ta được \(2\left(\sqrt{5a^2+4bc}+2\sqrt{bc}\right)\sqrt{3\left(a^2+b^2+c^2\right)}\)\(\le10a^2+5b^2+5c^2+10bc\)

Suy ra \(\frac{10a^2}{2\left(\sqrt{5a^2+4bc}+2\sqrt{bc}\right)\sqrt{3\left(a^2+b^2+c^2\right)}}\)\(\ge\frac{10a^2}{10a^2+5b^2+5c^2+10bc}\)

Lại có \(10bc\le5b^2+5c^2\)nên \(\frac{10a^2}{10a^2+5b^2+5c^2+10bc}\ge\frac{10a^2}{10a^2+10b^2+10c^2}=\frac{a^2}{a^2+b^2+c^2}\)

Do đó ta được \(\frac{5a^2}{\left(\sqrt{5a^2+4bc}+2\sqrt{bc}\right)\sqrt{3\left(a^2+b^2+c^2\right)}}\ge\frac{a^2}{a^2+b^2+c^2}\)(1)

Hoàn toàn tương tự, ta được: \(\frac{5b^2}{\left(\sqrt{5b^2+4ca}+2\sqrt{ca}\right)\sqrt{3\left(a^2+b^2+c^2\right)}}\ge\frac{b^2}{a^2+b^2+c^2}\)(2) ; \(\frac{5c^2}{\left(\sqrt{5c^2+4ab}+2\sqrt{ab}\right)\sqrt{3\left(a^2+b^2+c^2\right)}}\ge\frac{c^2}{a^2+b^2+c^2}\)(3)

Cộng theo vế của 3 BĐT (1), (2), (3), ta được: \(\frac{1}{\sqrt{3\left(a^2+b^2+c^2\right)}}\left(\Sigma_{cyc}\frac{5a^2}{\sqrt{5a^2+4bc}+2\sqrt{bc}}\right)\ge\frac{a^2+b^2+c^2}{a^2+b^2+c^2}=1\)

Vậy bất đẳng thức được chứng minh

Đẳng thức xảy ra khi a = b = c 

Điều phải chứng minh tương đương với

\(2a+2b+2c-2\sqrt{ab}-2\sqrt{bc}-2\sqrt{ca}\ge0\\ \Leftrightarrow\left(a+b-2\sqrt{ab}\right)+\left(b+c-2\sqrt{bc}\right)+\left(c+a-2\sqrt{ca}\right)\ge0\\ \Leftrightarrow\left(\sqrt{a}-\sqrt{b}\right)^2+\left(\sqrt{b}-\sqrt{c}\right)^2+\left(\sqrt{c}-\sqrt{a}\right)^2\ge0\)

(luôn đúng với mọi a,b,c không âm)

Dấu = xảy ra khi a=b=c >=0 

Ta có: \(a+b+c\ge\sqrt{ab}+\sqrt{bc}+\sqrt{ac}\)

\(\Leftrightarrow\left(a-2\sqrt{ab}+b\right)+\left(b-2\sqrt{bc}+c\right)+\left(a-2\sqrt{ac}+c\right)\ge0\)

\(\Leftrightarrow\left(\sqrt{a}-\sqrt{b}\right)^2+\left(\sqrt{b}-\sqrt{c}\right)^2+\left(\sqrt{a}-\sqrt{c}\right)^2\ge0\)(luôn đúng)

Ta có : \(\frac{\sqrt{5}-\sqrt{3}}{\sqrt{5}+\sqrt{3}}=\frac{\left(\sqrt{5}-\sqrt{3}\right)^2}{\left(\sqrt{5}+\sqrt{3}\right)\left(\sqrt{5}-\sqrt{3}\right)}=\frac{8-2\sqrt{15}}{2}=4-\sqrt{15}\)

Thay \(x=4-\sqrt{15}\) vào pt được : 

\(\left(4-\sqrt{15}\right)^2.a+\left(4-\sqrt{15}\right)b+1=0\Leftrightarrow\left(31-8\sqrt{15}\right)a+\left(4-\sqrt{15}\right)b+1=0\)

\(\Leftrightarrow\sqrt{15}\left(-8a-b\right)+\left(31a+4b+1\right)=0\)

Vì a,b là số hữu tỉ nên ta có : \(\begin{cases}8a+b=0\\31a+4b=-1\end{cases}\) \(\Leftrightarrow\begin{cases}a=1\\b=-8\end{cases}\)

Ta có:\(x=\frac{\sqrt{5}-\sqrt{3}}{\sqrt{5}+\sqrt{3}}=\frac{\left(\sqrt{5}-\sqrt{3}\right)^2}{5-3}=\frac{8-2\sqrt{15}}{2}=4-\sqrt{15}\)

Thay vào ta có:

\(a\cdot\left(4-\sqrt{15}\right)^2+b\cdot\left(4-\sqrt{15}\right)+1=0\)

\(\Leftrightarrow a\cdot\left(31-8\cdot\sqrt{15}\right)+4b-b\cdot\sqrt{15}+1=0\)

\(\Leftrightarrow\left(31a+4b+1\right)-\left(8a+b\right)\cdot\sqrt{15}=0\)

Do a,b hữu tỉ \(\Rightarrow\begin{cases}31a+4b+1=0\\8a+b=0\end{cases}\)\(\Leftrightarrow\begin{cases}31a-32a+1=0\\b=-8a\left(1\right)\end{cases}\)

31a-3a+1=0 <=>a=1.Từ (1) =>b=-8

Vậy  a= 1 và b= -8

\(\sqrt{\frac{ab}{c+ab}}=\sqrt{\frac{ab}{ac+bc+c^2+ab}}=\sqrt{\frac{ab}{\left(a+b\right)\left(b+c\right)}}\)

\(tt\Rightarrow2\text{ lần biểu thức}=2\sqrt{\frac{bc}{\left(b+a\right)\left(c+a\right)}}+2\sqrt{\frac{ab}{\left(a+c\right)\left(b+c\right)}}+2\sqrt{\frac{ca}{\left(b+c\right)\left(a+b\right)}}\)

\(\le\frac{b}{b+a}+\frac{c}{c+a}+\frac{a}{a+c}+\frac{b}{b+c}+\frac{c}{b+c}+\frac{a}{a+b}\left(\sqrt{ab}\le\frac{a+b}{2}\right)=3\Rightarrow dpcm\)