Biến đổi pt dưới:
\(y^2-8y+16=5x^2+4xy-16x\)
\(\Leftrightarrow\left(y-4\right)^2=5x^2-4x\left(y-4\right)\)
\(\Leftrightarrow\left(y-4\right)^2+4x\left(y-4\right)+4x^2=9x^2\)
\(\Leftrightarrow\left(y-4+2x\right)^2-9x^2=0\)
\(\Leftrightarrow\left(y-x-4\right)\left(y+5x-4\right)=0\)
\(\Leftrightarrow\left[{}\begin{matrix}y=x+4\\y=4-5x\end{matrix}\right.\)
Thay vào pt trên:
TH1: \(y=x+4\Rightarrow\left(x+4\right)^2=\left(x+8\right)\left(x^2+2\right)\)
\(\Leftrightarrow x^3+7x^2-6x=0\)
\(\)\(\Leftrightarrow x\left(x^2+7x-6\right)=0\) (ko có nghiệm nguyên dương)
TH2: \(y=4-5x\Rightarrow\left(4-5x\right)^2=\left(x+8\right)\left(x^2+2\right)\)
\(\Leftrightarrow x^3-17x^2+42x=0\)
\(\Leftrightarrow x\left(x^2-17x+42\right)=0\Rightarrow\left[{}\begin{matrix}x=0\left(l\right)\\x=3\Rightarrow y=-11\left(l\right)\\x=14\Rightarrow y=-66\left(l\right)\end{matrix}\right.\)
Vậy hệ đã cho ko có cặp nghiệm nguyên dương nào