\(\Leftrightarrow5a^2-12ab+24a+9b^2-48b+80=0\)
\(\Leftrightarrow5a^2-2\left(6b-12\right)a+9b^2-48b+80=0\)
\(\Delta'=\left(6b-12\right)^2-5\left(9b^2-48b+80\right)\ge0\)
\(\Leftrightarrow-9b^2+96b-256\ge0\)
\(\Leftrightarrow-\left(3b-16\right)^2\ge0\)
\(\Rightarrow3b-16=0\Rightarrow b=\frac{16}{3}\notin Z\) (loại)
Vậy pt đã cho ko có nghiệm nguyên nào