\(x^3y^3-3xy^3+y^2+x^2-2y-3=0\)
\(\Leftrightarrow xy^3\left(x^2-4\right)+\left(y-1\right)^2+\left(x^2-4\right)=0\)
\(\Leftrightarrow\left(x^2-4\right)\left(xy^3+1\right)=-\left(y-1\right)^2\)
Ta có \(RHS\le0\Rightarrow LHS\le0\) mà \(xy^3+1>0\Rightarrow x^2-4< 0\Rightarrow x^2< 4\Rightarrow x\in\left\{0;1;2\right\}\)
Thay x vào tìm y nốt nha anh :))