BĐT cần  chứng minh tương đương với :

\(\left(a^2b+b^2c+c^2a\right)\left(2+\frac{1}{a^2b^2c^2}\right)\ge9\)

\(\Leftrightarrow2\left(a^2b+b^2c+c^2a\right)+\frac{1}{ab^2}+\frac{1}{bc^2}+\frac{1}{ca^2}\ge9\)

Áp dụng BĐT Cô-si cho 3 số dương ,ta có :

\(a^2b+a^2b+\frac{1}{ab^2}\ge3\sqrt[3]{a^2b.a^2b.\frac{1}{ab^2}}=3a\)

tương tự :  \(b^2c+bc^2+\frac{1}{bc^2}\ge3b\), \(\left(c^2a+ca^2+\frac{1}{ca^2}\right)\ge3c\)

Cộng 3 BĐT trên theo vế, ta được :

\(2\left(a^2b+b^2c+c^2a\right)+\frac{1}{ab^2}+\frac{1}{bc^2}+\frac{1}{ca^2}\ge3\left(a+b+c\right)=9\)

Dấu "=" xảy ra khi a = b = c = 1

Ta có \(a^2b^2+b^2c^2+c^2a^2\geq a^2b^2c^2\Leftrightarrow \frac{1}{a^2}+\frac{1}{b^2}+\frac{1}{c^2}\geq 1\)

BĐT cần chứng minh tương đương với \(\frac{\frac{1}{c^3}}{\frac{1}{a^2}+\frac{1}{b^2}}+\frac{\frac{1}{b^3}}{\frac{1}{a^2}+\frac{1}{c^2}}+\frac{\frac{1}{a^3}}{\frac{1}{b^2}+\frac{1}{c^2}}\geq \frac{\sqrt{3}}{2}\)

Đặt \((\frac{1}{a},\frac{1}{b},\frac{1}{c})=(x,y,z)\). Bài toán trở thành: 

Cho \(x,y,z>0|x^2+y^2+z^2\geq 1\). CMR \(P=\frac{x^3}{y^2+z^2}+\frac{y^3}{z^2+x^2}+\frac{z^3}{x^2+y^2}\geq \frac{\sqrt{3}}{2}\)

Lời giải:

 Áp dụng BĐT Cauchy -Schwarz:

\(P=\frac{x^4}{xy^2+xz^2}+\frac{y^4}{yz^2+yx^2}+\frac{z^4}{zx^2+zy^2}\geq \frac{(x^2+y^2+^2)^2}{x^2(y+z)+y^2(x+z)+z^2(x+y)}\) (1)

Không mất tính tổng quát, giả sử \(x\geq y\geq z\Rightarrow x^2\geq y^2\geq z^2\) 

Và \(y+z\leq z+x\leq x+y\). Khi đó, áp dụng BĐT Chebyshev: 

\(3[x^2(y+z)+y^2(x+z)+z^2(x+y)]\leq (x^2+y^2+z^2)(y+z+x+z+x+y)\)

\(\Leftrightarrow x^2(y+z)+y^2(x+z)+z^2(x+y)\leq \frac{2(x^2+y^2+z^2)(x+y+z)}{3}\)

Theo hệ quả của BĐT Am-Gm thì: \((x+y+z)^2\leq 3(x^2+y^2+z^2)\Rightarrow x+y+z\leq \sqrt{3(x^2+y^2+z^2)}\)

\(\Rightarrow x^2(y+z)+y^2(x+z)+z^2(x+y)\leq \frac{2(x^2+y^2+z^2)\sqrt{3(x^2+y^2+z^2)}}{3}\) (2)

Từ (1),(2) suy ra \(P\geq \frac{3(x^2+y^2+z^2)^2}{2(x^2+y^2+z^2)\sqrt{3(x^2+y^2+z^2)}}=\frac{\sqrt{3(x^2+y^2+z^2)}}{2}\geq \frac{\sqrt{3}}{2}\)

Ta có đpcm

Dáu bằng xảy ra khi \(x=y=z=\frac{1}{\sqrt{3}}\Leftrightarrow a=b=c=\sqrt{3}\)

Đặt \(x=\frac{1}{a};y=\frac{1}{b};z=\frac{1}{c}\)

Khi đó giả thiết được viết lại là \(x^2+y^2+z^2\ge1\)và ta cần chứng minh \(\frac{x^3}{y^2+z^2}+\frac{y^3}{z^2+x^2}+\frac{z^3}{x^2+y^2}\ge\frac{\sqrt{3}}{2}\)(*)

Áp dụng BĐT Bunhiacopxki dạng phân thức, ta được:

\(VT_{\left(^∗\right)}=\frac{x^4}{x\left(y^2+z^2\right)}+\frac{y^4}{y\left(z^2+x^2\right)}+\frac{z^4}{z\left(x^2+y^2\right)}\)\(\ge\frac{\left(x^2+y^2+z^2\right)^2}{x\left(y^2+z^2\right)+y\left(z^2+x^2\right)+z\left(x^2+y^2\right)}\)

Đến đây ta đi chứng minh \(\frac{\left(x^2+y^2+z^2\right)^2}{x\left(y^2+z^2\right)+y\left(z^2+x^2\right)+z\left(x^2+y^2\right)}\ge\frac{\sqrt{3}}{2}\)

\(\Leftrightarrow2\left(x^2+y^2+z^2\right)^2\)\(\ge\sqrt{3}\left[x\left(y^2+z^2\right)+y\left(z^2+x^2\right)+z\left(x^2+y^2\right)\right]\)

Ta có: \(x\left(y^2+z^2\right)=\frac{1}{\sqrt{2}}\sqrt{2x^2\left(y^2+z^2\right)\left(y^2+z^2\right)}\)\(\le\frac{1}{\sqrt{2}}\sqrt{\left(\frac{2x^2+y^2+z^2+y^2+z^2}{3}\right)^3}\)

\(=\frac{2\sqrt{3}}{9}\left(x^2+y^2+z^2\right)\sqrt{x^2+y^2+z^2}\)

Tương tự ta có: \(y\left(z^2+x^2\right)\le\frac{2\sqrt{3}}{9}\left(x^2+y^2+z^2\right)\sqrt{x^2+y^2+z^2}\)

\(z\left(x^2+y^2\right)\le\frac{2\sqrt{3}}{9}\left(x^2+y^2+z^2\right)\sqrt{x^2+y^2+z^2}\)

Cộng theo vế của 3 BĐT trên, ta được: 

\(\text{∑}_{cyc}\left[x\left(y^2+z^2\right)\right]\le\frac{2\sqrt{3}}{3}\left(x^2+y^2+z^2\right)\sqrt{x^2+y^2+z^2}\)

\(\Leftrightarrow\sqrt{3}\text{∑}_{cyc}\left[x\left(y^2+z^2\right)\right]\le2\left(x^2+y^2+z^2\right)\sqrt{x^2+y^2+z^2}\)

Cuối cùng ta cần chứng minh được

\(2\left(x^2+y^2+z^2\right)\sqrt{x^2+y^2+z^2}\le2\left(x^2+y^2+z^2\right)^2\)

\(\Leftrightarrow x^2+y^2+z^2\ge1\)(đúng)

Đẳng thức xảy ra khi \(x=y=z=\frac{1}{\sqrt{3}}\Rightarrow a=b=c=\sqrt{3}\)

Ta có \(a+b^2\le\dfrac{a^2+1}{2}+b^2=\dfrac{a^2+2b^2+1}{2}\)

\(\Rightarrow\dfrac{2a^2}{a+b^2}\ge\dfrac{4a^2}{a^2+2b^2+1}=\dfrac{4a^4}{a^4+2b^2a^2+a^2}\). Lập 2 BĐT tương tự rồi áp dụng bất đẳng thức BCS, ta có:

\(\dfrac{2a^2}{a+b^2}+\dfrac{2b^2}{b+c^2}+\dfrac{2c^2}{c+a^2}\ge\dfrac{\left(2a^2+2b^2+2c^2\right)^2}{a^4+b^4+c^4+2\left(a^2b^2+b^2c^2+c^2a^2\right)+a^2+b^2+c^2}\) \(=\dfrac{4\left(a^2+b^2+c^2\right)^2}{\left(a^2+b^2+c^2\right)^2+3}\)\(=\dfrac{4.3^2}{3^2+3}=3\).

Mà \(a+b+c\le\sqrt{3\left(a^2+b^2+c^2\right)}=3\) nên ta có đpcm. ĐTXR \(\Leftrightarrow a=b=c=1\)