Lời giải:
Để hàm số có hai cực trị thì \(y'=\frac{-(x^2-2x-m)}{(1-x)^2}=0\) có hai nghiệm phân biệt
\(\Leftrightarrow x^2-2x-m=0\) có hai nghiệm phân biệt
Điều kiện: \(\left\{\begin{matrix} f(1)=-1-m\neq 0\\ \Delta'=1+m>0\end{matrix}\right.\Rightarrow m>-1\)
Theo định lý Viete , hai nghiệm $x_1,x_2$ của PT trên thỏa mãn: \(\left\{\begin{matrix} x_1+x_2=2\\ x_1x_2=-m\end{matrix}\right.(1)\)
Khoảng cách hai điểm cực trị :
\(d^2=(x_1-x_2)^2+(y_1-y_2)^2=(x_1-x_2)^2+\left(-x_1+\frac{m+1}{1-x_1}+x_2-\frac{m+1}{1-x_2}\right)^2=100\)
Sử dụng công thức \((1)\) để biến đổi, suy ra PT trên tương đương với
\( 4+4m+4(4+4m)=100\Leftrightarrow m=4\)
Vậy \(m=4\)