Lời giải:
Gọi $d$ là ước chung lớn nhất của $a,b$. Khi đó đặt $a=dx,b=dy$ thì $(x,y)=1$
Ta có:
\(a^2+b^2\vdots ab\Leftrightarrow d^2x^2+d^2y^2\vdots d^2xy\)
\(\Leftrightarrow x^2+y^2\vdots xy\)
\(\Rightarrow x^2+y^2\vdots x\Rightarrow y^2\vdots x\)
Hoàn toàn tương tự ta cũng chỉ ra rằng \(x^2\vdots y\)
Mà $x,y$ nguyên tố cùng nhau nên điều này xảy ra chỉ khi \(x=y=1\)
\(\Rightarrow a=b=d\)
Do đó: \(A=\frac{a^2+b^2}{ab}=\frac{d^2+d^2}{d.d}=2\)