Phương trình hoành độ giao điểm: \(x^2-5x-m+3=0\) (1)
a/ Điều kiện đề bài tương đương (1) có 2 nghiệm pb trái dấu
\(\Rightarrow1.\left(-m+3\right)< 0\Rightarrow m>3\)
b/ \(\Delta=25-4\left(-m+3\right)=13+4m>0\Rightarrow m>-\frac{13}{4}\)
Khi đó theo Viet: \(\left\{{}\begin{matrix}x_1+x_2=5\\x_1x_2=-m+3\end{matrix}\right.\)
\(AB=\sqrt{26}\Rightarrow AB^2=26\)
\(\Rightarrow\left(x_1-x_2\right)^2+\left(y_1-y_2\right)^2=26\)
\(\Rightarrow\left(x_1-x_2\right)^2+\left(5x_1+m-3-5x_2-m+3\right)^2=26\)
\(\Leftrightarrow26\left(x_1-x_2\right)^2=26\)
\(\Leftrightarrow\left(x_1-x_2\right)^2=1\)
\(\Leftrightarrow\left(x_1+x_2\right)^2-4x_1x_2=1\)
\(\Leftrightarrow25-4\left(-m+3\right)-1=0\)
\(\Rightarrow m=-3\) (t/m)