từ giả thiết: \(x+y\le xy\le\frac{\left(x+y\right)^2}{4}\)(theo BĐT AM-GM)
\(\Leftrightarrow\left(x+y\right)\left(x+y-4\right)\ge0\)mà x,y dương nên \(x+y\ge4\)
ta có:\(16P\le\left(x+y\right)^2\left(\frac{1}{5x^2+7y^2}+\frac{1}{5y^2+7x^2}\right)\)
Áp dụng BĐT cauchy-schwarz theo chiều ngược lại:
\(\frac{\left(x+y\right)^2}{5x^2+7y^2}\le\frac{x^2}{3\left(x^2+y^2\right)}+\frac{y^2}{2\left(x^2+2y^2\right)}\)
\(\frac{\left(x+y\right)^2}{5y^2+7x^2}\le\frac{y^2}{3\left(x^2+y^2\right)}+\frac{x^2}{2\left(y^2+2x^2\right)}\)
\(\Rightarrow\left(x+y\right)^2\left(\frac{1}{5x^2+7y^2}+\frac{1}{5y^2+7x^2}\right)\le\frac{x^2+y^2}{3\left(x^2+y^2\right)}+\frac{x^2}{2\left(y^2+2x^2\right)}+\frac{y^2}{2\left(x^2+2y^2\right)}\)(*)
xét \(\frac{x^2}{y^2+2x^2}+\frac{y^2}{x^2+2y^2}=2-\frac{x^2+y^2}{y^2+2x^2}-\frac{x^2+y^2}{x^2+2y^2}=2-\left(x^2+y^2\right)\left(\frac{1}{y^2+2x^2}+\frac{1}{x^2+2y^2}\right)\)
Áp dụng BĐT cauchy:\(\frac{1}{y^2+2x^2}+\frac{1}{x^2+2y^2}\ge\frac{4}{3\left(x^2+y^2\right)}\)
do đó \(\frac{x^2}{y^2+2x^2}+\frac{y^2}{x^2+2y^2}\le2-\frac{4}{3}=\frac{2}{3}\)
kết hợp với (*):\(16VT\le\frac{1}{3}+\frac{1}{2}.\frac{2}{3}=\frac{2}{3}\)
\(VT\le\frac{1}{24}\)
Dấu = xảy ra khi x=y=2