Áp dụng BĐT AM-GM ta có:
\(\frac{x^2}{y^2}+\frac{y^2}{x^2}\ge2\sqrt{\frac{x^2}{y^2}\cdot\frac{y^2}{x^2}}=2\)
\(\frac{x}{y}+\frac{y}{x}\ge2\sqrt{\frac{x}{y}\cdot\frac{y}{x}}=2\Rightarrow3\left(\frac{x}{y}+\frac{y}{x}\right)\ge6\)
Cộng theo vế 2 BĐT trên ta có:\(\frac{x^2}{y^2}+\frac{y^2}{x^2}-3\left(\frac{x}{y}+\frac{y}{x}\right)\ge2-6=-4 \)
\(\Rightarrow P=\frac{x^2}{y^2}+\frac{y^2}{x^2}-3\left(\frac{x}{y}+\frac{y}{x}\right)+5\ge-4+5=1\)
Đẳng thức xảy ra khi \(x=y\)