Lời giải:

Áp dụng BĐT AM-GM:
$1=x+y\geq 2\sqrt{xy}\Rightarrow xy\leq \frac{1}{4}$
$P=x^2y^2+\frac{1}{x^2y^2}+2-\frac{17}{6}$

$=x^2y^2+\frac{1}{x^2y^2}-\frac{5}{6}$

$=(x^2y^2+\frac{1}{256x^2y^2})+\frac{255}{256x^2y^2}-\frac{5}{6}$

$\geq 2\sqrt{\frac{1}{256}}+\frac{255}{256.\frac{1}{4^2}}-\frac{5}{6}=\frac{731}{48}$

Vậy $P_{\min}=\frac{731}{48}$ khi $x=y=\frac{1}{2}$

Đề bài sai, biểu thức này ko có min

Ta có nhận xét sau:

     \(\dfrac{x+2}{x^3\left(y+z\right)}=\dfrac{1}{x^2\left(y+z\right)}+\dfrac{2}{x^3\left(y+z\right)}=\dfrac{yz}{zx+xy}+\dfrac{2\left(yz\right)^2}{zx+xy}\)

Tương tự với các phân thức còn lại

Ta đặt:

     \(\left\{{}\begin{matrix}a=xy\\b=yz\\c=zx\end{matrix}\right.\)

     \(\Rightarrow abc=1\) và \(a,b,c>0\)

Biểu thức P trở thành:

     \(P=\Sigma_{cyc}\dfrac{a}{b+c}+2\Sigma_{cyc}\dfrac{a^2}{b+c}\)

Dễ thấy:

     \(\Sigma_{cyc}\dfrac{a}{b+c}\ge\dfrac{3}{2}\) (Nesbit)

     \(\Sigma_{cyc}\dfrac{a^2}{b+c}\ge\dfrac{a+b+c}{2}\ge\dfrac{3\sqrt[3]{abc}}{2}=\dfrac{3}{2}\)

Do đó:

     \(P\ge\dfrac{3}{2}+2.\dfrac{3}{2}=\dfrac{9}{2}\)

Dấu "=" xảy ra khi \(a=b=c=1\)

Đề có vẻ thiếu điều kiện để tìm min. Bạn xem lại.

\(\left(x-1;y-1\right)=\left(a;b\right)\Rightarrow\left\{{}\begin{matrix}a;b>0\\a+b\le2\end{matrix}\right.\)

\(A=\dfrac{\left(a+1\right)^4}{b^2}+\dfrac{\left(b+1\right)^4}{a^2}\ge\dfrac{1}{2}\left[\dfrac{\left(a+1\right)^2}{b}+\dfrac{\left(b+1\right)^2}{a}\right]^2\)

\(A\ge\dfrac{1}{2}\left[\dfrac{\left(a+b+2\right)^2}{a+b}\right]^2\ge\dfrac{1}{2}\left[\dfrac{8\left(a+b\right)}{a+b}\right]^2=32\)