ĐK: \(a\ne\pm b\sqrt{5}\)(*)
\(\frac{2}{a+b\sqrt{5}}-\frac{3}{a-b\sqrt{5}}=-9-20\sqrt{5}\)
\(\Leftrightarrow2\left(a-b\sqrt{5}\right)-3\left(a+b\sqrt{5}\right)=-\left(9+20\sqrt{5}\right)\left(a+b\sqrt{5}\right)\left(a-b\sqrt{5}\right)\)
\(\Leftrightarrow9a^2-45b^2-a=\sqrt{5}\left(-20a^2+100b^2+5b\right)\)(*)
Ta thấy (*) có dạng \(A=B\sqrt{5}\)nếu \(B\ne0\)thì \(\sqrt{5}=\frac{A}{B}\in Z\)(vô lý) Vậy B=0 => A=0
Do đó: (*) \(\Leftrightarrow\hept{\begin{cases}9a^2-45b^2-a=0\\-20a^2+100b^2+5b=0\end{cases}}\)
\(\Leftrightarrow\hept{\begin{cases}9a^2-45b^2-a=0\\-9a^2+45b^2+\frac{9}{4}b=0\end{cases}\Leftrightarrow\hept{\begin{cases}9a^2-45b^2-a=0\\a=\frac{9}{4}b\end{cases}}}\)
\(\Leftrightarrow\hept{\begin{cases}a=\frac{9}{4}b\\b^2-4b=0\end{cases}\Leftrightarrow\hept{\begin{cases}a=9\\b=4\end{cases}}}\)hoặc \(\hept{\begin{cases}a=0\\b=0\end{cases}}\)( Loại vì không thoả mãn đk (*))
=> a=9;b=4.
