Phương trình đã cho tương đương:
\(x^4+2x^3+2x^2+x+3=y^2\)
Xét biểu thức vế trái: \(x^4+2x^3+x^2+x^2+x+3=\left(x^2+x\right)^2+x^2+x+3\)
Do \(x^2+x+3=\left(x+\dfrac{1}{2}\right)^2+\dfrac{11}{4}>0\)
\(\Rightarrow VT>\left(x^2+x\right)^2\Rightarrow y^2>\left(x^2+x\right)^2\Rightarrow y>x^2+x\) (1) (do x, y dương)
Tương tự, \(VT=x^4+2x^3+x^2+4\left(x^2+x\right)+4-3x^2-3x-1\)
\(=\left(x^2+x\right)+2.2\left(x^2+x\right)+4-\left(3x^2+3x+1\right)=\left(x^2+x+x\right)^2-\left(3x^2+3x+1\right)\)
Mà \(3x^2+3x+1=3\left(x+\dfrac{1}{2}\right)^2+\dfrac{1}{4}>0\) \(\Rightarrow VT< \left(x^2+x+2\right)^2\)
\(\Rightarrow y^2< \left(x^2+x+2\right)^2\Rightarrow y< x^2+x+2\) (2)
\(\left(1\right),\left(2\right)\Rightarrow x^2+x< y< x^2+x+2\Rightarrow y=x^2+x+1\) (do x, y nguyên dương)
Thế vào pt đầu:
\(x^4+2x^3+2x^2-\left(x^2+x+1\right)^2+x+3=0\)
\(\Leftrightarrow-x^2-x+2=0\Rightarrow\left(1-x\right)\left(x+2\right)=0\)
\(\Rightarrow\left[{}\begin{matrix}x=1\\x=-2\left(l\right)\end{matrix}\right.\) \(\Rightarrow y=x^2+x+1=3\)
Vậy pt đã cho có cặp nghiệm nguyên dương duy nhất (x;y)=(1;3)