Đặt \(a=x^3;b=y^3;c=z^3\)thì \(\hept{\begin{cases}x,y,z>0\\xyz=1\end{cases}}\)và ta cần tìm GTLN của \(P=\frac{1}{x^3+y^3+1}+\frac{1}{y^3+z^3+1}+\frac{1}{z^3+x^3+1}\)
Áp dụng BĐT AM - GM, ta được: \(x.x.y\le\frac{x^3+x^3+y^3}{3}=\frac{2x^3+y^3}{3}\)(1) ; \(y.y.x\le\frac{y^3+y^3+x^3}{3}=\frac{2y^3+x^3}{3}\)(2)
Cộng theo vế của 2 BĐT (1) và (2), ta được: \(x^2y+xy^2\le x^3+y^3\)hay \(x^3+y^3\ge xy\left(x+y\right)\)
Kết hợp giả thiết xyz = 1 suy ra \(\frac{1}{x^3+y^3+1}\le\frac{1}{xy\left(x+y\right)+1}=\frac{1}{xy\left(x+y+z\right)}=\frac{z}{x+y+z}\)
Tương tự, ta có: \(\frac{1}{y^3+z^3+1}\le\frac{x}{x+y+z}\); \(\frac{1}{z^3+x^3+1}\le\frac{y}{x+y+z}\)
Cộng theo vế của 3 BĐT trên, ta được: \(P=\frac{1}{x^3+y^3+1}+\frac{1}{y^3+z^3+1}+\frac{1}{z^3+x^3+1}\le\frac{x+y+z}{x+y+z}=1\)
Đẳng thức xảy ra khi x = y = z = 1 hay a = b = c = 1