Lời giải:
Khai triển \(P=x^2y^2+1+1+\frac{1}{x^2y^2}=x^2y^2+\frac{1}{x^2y^2}+2\)
Áp dụng BĐT AM-GM:
\(x^2y^2+\frac{1}{256x^2y^2}\geq 2\sqrt{\frac{1}{256}}=\frac{1}{8}\)
\(1=x+y\geq 2\sqrt{xy}\Rightarrow xy\leq \frac{1}{4}\Rightarrow x^2y^2\leq \frac{1}{16}\Rightarrow \frac{255}{256x^2y^2}\geq \frac{255}{16}\)
Cộng theo vế các BĐT trên:
\(\Rightarrow x^2y^2+\frac{1}{x^2y^2}\geq \frac{257}{16}\)
\(\Rightarrow P=x^2y^2+\frac{1}{x^2y^2}+2\geq \frac{289}{16}=P_{\min}\)
Dấu bằng xảy ra khi \(x=y=\frac{1}{2}\)