Hoành độ giao điểm của (P) và (\(d_m\)) là nghiệm của phương trình:
\(-x^2=2x+m\)
\(\Leftrightarrow x^2+2x+m=0\)
Ta có: \(\Delta'=1^2-1.m=1-m\)
Để (P) cắt (\(d_m\)) tại hai điểm phân biệt \(\Leftrightarrow\Delta'>0\)\(\Leftrightarrow1-m>0\)
\(\Leftrightarrow1>m\Leftrightarrow m< 1\) (*)
Áp dụng hệ thức Vi-et ta có: \(\left\{{}\begin{matrix}x_A+x_B=-2\\x_A.x_B=m\end{matrix}\right.\)
Ta có: \(x_A^2+x_B^2=20\)
\(\Leftrightarrow\left(x_A^2+2x_Ax_B+x_B^2\right)-2x_Ax_B=20\)
\(\Leftrightarrow\left(x_A+x_B\right)^2-2x_Ax_B=20\)
\(\Leftrightarrow\left(-2\right)^2-2.m=20\)
\(\Leftrightarrow4-2.m=20\)
\(\Leftrightarrow-2.m=16\) \(\Leftrightarrow m=-8\) (t/m ĐK (*))
Vậy để (P) cắt (\(d_m\)) tại hai điểm phân biệt A và B sao cho \(x_A^2+x_B^2=20\) thì \(m=-8\)