Đặt a=x+y, b=xy
Ta có \(x+xy+y=5\Leftrightarrow\left(x+y\right)+xy=5\Leftrightarrow a+b=5\left(1\right)\)
\(x^2+y^2=5\Leftrightarrow\left(x+y\right)^2-2xy=5\Leftrightarrow a^2-2b=5\left(2\right)\)
Từ (1),(2) ta có hệ phương trình
\(\left\{{}\begin{matrix}a+b=5\\a^2-2b=5\left(3\right)\end{matrix}\right.\)
Ta có a+b=5\(\Leftrightarrow b=5-a\)
Thế b=5-a vào (3) ta có \(\left(3\right)\Leftrightarrow a^2-2\left(5-a\right)=5\Leftrightarrow a^2-10+2a=5\Leftrightarrow a^2+2a-15=0\Leftrightarrow a^2-3a+5a-15=0\Leftrightarrow a\left(a-3\right)+5\left(a-3\right)=0\Leftrightarrow\left(a-3\right)\left(a+5\right)=0\Leftrightarrow\)\(\left[{}\begin{matrix}a-3=0\\a+5=0\end{matrix}\right.\)\(\Leftrightarrow\)\(\left[{}\begin{matrix}a=3\\a=-5\end{matrix}\right.\)\(\Leftrightarrow\left[{}\begin{matrix}b=2\\b=10\end{matrix}\right.\)
Nếu a=3 và b=2 thì \(\left\{{}\begin{matrix}x+y=3\\xy=2\end{matrix}\right.\)\(\Leftrightarrow\)\(\left[{}\begin{matrix}\left\{{}\begin{matrix}x=1\\y=2\end{matrix}\right.\\\left\{{}\begin{matrix}x=2\\y=1\end{matrix}\right.\end{matrix}\right.\)
Nếu a=-5 và b=10 thì \(\left\{{}\begin{matrix}x+y=-5\\xy=10\end{matrix}\right.\)(vô nghiệm)
Vậy (x;y)={(1;2);(2;1)}