Vì vai trò của a,b,c như nhau,không mất tính tổng quát ta có:\(a\le b\le c\le1\Rightarrow\hept{\begin{cases}a-1\le0\\b-1\le0\\c-1\le0\end{cases}}\)
Áp dụng BĐT Cô-si ta có:
\(\frac{a^2}{a^2+b^5+c^5}\le\frac{a^2}{3\sqrt[3]{a^2b^5c^5}}=\frac{a^2}{3bc}\)
Tương tự:\(\frac{b^2}{b^2+a^5+c^5}\le\frac{b^2}{3ac};\frac{c^2}{c^2+a^5+b^5}\le\frac{c^2}{3ab}\)
Cộng vế với vế của 3 BĐT trên ta đươc:
\(\frac{a^2}{a^2+b^5+c^5}+\frac{b^2}{b^2+a^5+c^5}+\frac{c^2}{c^2+a^5+b^5}\le\frac{a^2}{3bc}+\frac{b^2}{3ac}+\frac{c^2}{3ab}=\frac{a^3+b^3+c^3}{3}\)
Xét \(a^3+b^3+c^3\le3\)
\(\Leftrightarrow\left(a^3-1\right)+\left(b^3-1\right)+\left(c^3-1\right)\le0\)
\(\Leftrightarrow\left(a-1\right)\left(a^2+a+1\right)+\left(b-1\right)\left(b^2+b+1\right)+\left(c-1\right)\left(c^2+c+1\right)\le0\) (đúng)
Từ đó suy ra:
\(\frac{a^2}{a^2+b^5+c^5}+\frac{b^2}{b^2+a^5+c^5}+\frac{c^2}{c^2+a^5+b^5}\le\frac{a^3+b^3+c^3}{3}\le\frac{3}{3}=1\left(đpcm\right)\)
Dấu '='xảy ra khi\(\hept{\begin{cases}a=b=c\\abc=1\end{cases}\Leftrightarrow a=b=c=1}\)