Lời giải:
Do $abc=1$ nên tồn tại $x,y,z>0$ sao cho:\((a,b,c)=\left(\frac{x}{y}, \frac{y}{z}, \frac{z}{x}\right)\)
Bài toán trở thành:
Cho $x,y,z>0$. CMR: \(\frac{x^4}{yz(x^2+y^2)}+\frac{y^4}{xz(y^2+z^2)}+\frac{z^4}{xy(z^2+x^2)}\geq \frac{3}{2}\)
Thật vậy, áp dụng BĐT Cauchy-Schwarz:
\(\frac{x^4}{yz(x^2+y^2)}+\frac{y^4}{xz(y^2+z^2)}+\frac{z^4}{xy(z^2+x^2)}=\frac{x^6}{x^2yz(x^2+y^2)}+\frac{y^6}{y^2xz(y^2+z^2)}+\frac{z^6}{z^2xy(z^2+x^2)}\)
\(\geq \frac{(x^3+y^3+z^3)^2}{x^2yz(x^2+y^2)+y^2xz(y^2+z^2)+z^2xy(z^2+x^2)}=\frac{(x^3+y^3+z^3)^2}{xyz(x^3+y^3+z^3+xy^2+yz^2+zx^2)}(*)\)
Áp dụng BĐT AM-GM:
\(x^3+y^3+z^3\geq 3xyz\Rightarrow \frac{x^3+y^3+z^3}{3}\geq xyz(1)\)
Và:
\(x^3+y^3+y^3\geq 3xy^2; y^3+z^3+z^3\geq 3yz^2; z^3+x^3+x^3\geq 3zx^2\)
Cộng theo vế và rút gọn \(\Rightarrow x^3+y^3+z^3\geq xy^2+yz^2+zx^2\)
\(\Rightarrow 2(x^3+y^3+z^3)\geq x^3+y^3+z^3+xy^2+yz^2+zx^2(2)\)
Từ \((1);(2)\Rightarrow \frac{2}{3}(x^3+y^3+z^3)^2\geq xyz(x^3+y^3+z^3+xy^3+yz^2+zx^2)(**)\)
Từ \((*);(**)\Rightarrow \frac{x^4}{yz(x^2+y^2)}+\frac{y^4}{xz(y^2+z^2)}+\frac{z^4}{xy(z^2+x^2)}\geq \frac{(x^3+y^3+z^3)^2}{\frac{2}{3}(x^3+y^3+z^3)^2}=\frac{3}{2}\) (đpcm)
Dấu "=" xảy ra khi $x=y=z$ hay $a=b=c=1$