vì đồ thị hàm số đi qua điểm \(A\left(-1;\frac{5}{2}\right)\) nên tọa độ của A thỏa mãn phương trình sau: \(\frac{a+b}{-2}=\frac{5}{2}\Rightarrow a+b=-5\)(*)
ta tính y' có:
\(y'=\frac{\left(2ax-b\right)\left(x-1\right)-\left(ax^2-bx\right)}{\left(x-1\right)^2}=\frac{2ax^2-2ax-bx+b-ax^2+bx}{\left(x-1\right)^2}=\frac{ax^2-2ax+b}{\left(x-1\right)^2}\)
vì hệ số góc của tiếp tuyến tại điểm O(0;0) bằng 3 nên \(y'\left(O\right)=\frac{b}{\left(0-1\right)^2}=-3\Rightarrow b=-3\)
thay b=-3 vào (*) ta tìm được a=-2
vậy a=-2;b=-3