a. ta có
\(4x^2+\left(x-y\right)^2=17\)
do x nguyên nên \(4x^2\in\left\{0,4,16\right\}\) tương ứng ta tìm được \(\left(x-y\right)^2\in\left\{17,13,1\right\}\)
vậy chỉ có \(\hept{\begin{cases}4x^2=16\\\left(x-y\right)^2=1\end{cases}\Leftrightarrow\hept{\begin{cases}x=2\\\orbr{\begin{cases}y=3\\y=1\end{cases}}\end{cases}}}\text{ hoặc }\hept{\begin{cases}x=-2\\\orbr{\begin{cases}y=-1\\y=-3\end{cases}}\end{cases}}\)\(\hept{\begin{cases}4x^2=16\\\left(x-y\right)^2=1\end{cases}\Rightarrow\left(x,y\right)\in\left\{\left(2,1\right);\left(2,3\right);\left(-2;-1\right);\left(-2;-3\right)\right\}}\)
b. ta có \(9xy+3x+3y=12\Leftrightarrow\left(3x+1\right)\left(3y+1\right)=13\)
từ đó \(\Rightarrow\hept{\begin{cases}3x+1=\pm1\\3y+1=\pm13\end{cases}}\) hoặc \(\Rightarrow\hept{\begin{cases}3x+1=\pm13\\3y+1=\pm1\end{cases}}\) vậy ta tìm được \(\left(x,y\right)\in\left\{\left(0,4\right),\left(4,0\right)\right\}\)