Đặt \(d=\left(a,b\right)\)
Suy ra \(a=dm,b=dn,\left(m,n\right)=1\).
\(a^2+b^2=d^2\left(m^2+n^2\right)\)
\(ab=d^2mn\)
Suy ra \(\left(m^2+n^2\right)⋮mn\Rightarrow\hept{\begin{cases}m^2+n^2⋮m\\m^2+n^2⋮n\end{cases}}\)
\(\Leftrightarrow\hept{\begin{cases}m^2⋮n\\n^2⋮m\end{cases}}\Leftrightarrow\hept{\begin{cases}m⋮n\\n⋮m\end{cases}}\)(vì \(\left(m,n\right)=1\))
Suy ra \(m=n=1\).
Do đó \(a=b\)
\(M=\frac{8ab}{a^2+b^2}=\frac{8a^2}{a^2+a^2}=4\)là số chính phương.