Lời giải:
PT hoành độ giao điểm của parabol và đường thẳng:
$x^2+4x-5x+m+1=0$
$\Leftrightarrow x^2-x+m+1=0(*)$
Để (P) cắt (d) tại hai điểm phân biệt có hoành độ $a,b$ thì PT $(*)$ phải có 2 nghiệm phân biệt $a,b$.
Điều này xảy ra khi $\Delta (*) = 1-4(m+1)>0$
$\Leftrightarrow m+1< \frac{1}{4}\Leftrightarrow m< \frac{-3}{4}$
Áp dụng định lý Viet, với $a,b$ là nghiệm của $(*)$ thì:
$a+b=1$
$ab=m+1$
Khi đó:
\(a^2+ab+3b=7\)
$\Leftrightarrow a(a+b)+3b=7$
$\Leftrightarrow a+3b=7$
$\Leftrightarrow a+b+2b=7$
$\Leftrightarrow 1+2b=7\Leftrightarrow b=3$
$a=1-b=1-3=-2$
$m+1=ab=(-2).3=-6$
$\Leftrightarrow m=-7$
Khi đó: $y=5x-m-1=5x+7-1=5x+6$
Thay hoành độ và tung độ của các điểm đã cho vào PT $y=5x+6$, ta thấy điểm $A(1;11)$ là điểm duy nhất thỏa mãn.
$\Rightarrow A\in (d)$