Ta có:\(\left\{{}\begin{matrix}x^3+2y^2-4y+3=0\left(1\right)\\x^2+x^2y^2-xy=0\left(2\right)\end{matrix}\right.\)
\(\left(1\right)\Leftrightarrow x^3+1+2\left(y-1\right)^2=0\)
\(\Rightarrow x^3+1\le0\)
\(\Rightarrow x\le-1\Leftrightarrow-x\ge1\)
\(\left(2\right)\Leftrightarrow x\left(x+xy^2-y\right)=0\)
\(\Leftrightarrow x+xy^2-y=0\)
\(\Leftrightarrow-xy^2+y-x=0\)(*)
Để (*) có nghiệm thì: \(\Delta=1-4x^2\ge0\)
\(\Leftrightarrow4x^2\le1\)(vô lí vì \(-x\ge1\))
Vậy hpt vô nghiệm
Cách 1:
Từ $(1)$ ta có:
$x^3=-3-2y^2+4y\Leftrightarrow x^3=-2(y^2-1)^2-1\leq -1$
$x^3\leq -1\Leftrightarrow x\leq -1(*)$
Từ $(2)$ ta có:
$x^2=\frac{2y}{1+y^2}$
Áp dụng BĐT Cauchy cho mẫu, ta suy ra được $x^2\leq 1\Leftrightarrow -1\leq x\leq 1(**)$
Từ $(*)$ và $(**)$ suy ra $x=-1,$ thế vào hệ được $y=1$
Vậy $\boxed{(x;y)=(-1;1)}$
Cách 2:
$x^3+2y^2-4y+3=0 \Leftrightarrow x^3+2(y^2-2+1)+1=0 \Leftrightarrow (y-1)^2=\frac{-1-x^3}{2}$
$\Rightarrow \frac{-1-x^3}{2}\geq 0\Leftrightarrow x\geq -1$
$x^2 +x^2y^2-2y=0\Leftrightarrow x^2y^2-2y+x^2=0$
Để hệ có nghiệm thì $\triangle_y =4-4x^4\geq 0\Leftrightarrow -1\leq x\leq 1$
Kết hợp với trên, ta có $x=-1$, thế vào phương trình ban đầu, tính được $y=1$.
Vậy, nghiệm của hệ là $(x,y)=(-1,1)$