Để cho gọn, đặt \(\left\{{}\begin{matrix}x^2=a\\y^2=b\end{matrix}\right.\)
\(\left(a+4b+28\right)^2-17a^2-17b^2=238b+833\)
\(\Leftrightarrow a^2+16b^2+784+8ab+56a+224b-17a^2-17b^2=238b+833\)
\(\Leftrightarrow16a^2+b^2+49-8ab-56a+14b=0\)
\(\Leftrightarrow\left(4a-b-7\right)^2=0\) \(\Leftrightarrow4a-b-7=0\Leftrightarrow4x^2-y^2-7=0\)
\(\Leftrightarrow\left(2x-y\right)\left(2x+y\right)=7\)
Do \(2x+y>2x-y\) với mọi x, y nguyên dương và \(2x+y>0\) với mọi x, y nguyên dương
\(\Rightarrow\left\{{}\begin{matrix}2x-y=1\\2x+y=7\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}x=2\\y=3\end{matrix}\right.\)
Vậy pt có cặp nghiệm nguyên dương duy nhất (x;y)=(2;3)