Lời giải:
PT hoành độ giao điểm $(P)$ và $(d)$:
$\frac{1}{2}x^2=2x+m$
$\Leftrightarrow x^2-4x-2m=0(*)$
Để $(P)$ và $(d)$ cắt nhau tại 2 điểm pb có hoành độ $x_1,x_2$ thì PT $(*)$ phải có 2 nghiệm pb $x_1,x_2$.
Điều này xảy ra khi: $\Delta' (*) = 4+2m>0\Leftrightarrow m> -2$
Áp dụng định lý Viet:
$x_1+x_2=4$
$x_1x_2=-2m$
Khi đó:
$(x_1x_2+1)^2=x_1+x_2+x_1x_2+3$
$\Leftrightarrow (-2m+1)^2=4-2m+3$
$\Leftrightarrow 4m^2-4m+1=7-2m$
$\Leftrightarrow 4m^2-2m-6=0$
$\Leftrightarrow 2m^2-m-3=0$
$\Leftrightarrow (m+1)(2m-3)=0$
$\Leftrightarrow m= -1$ hoặc $m=\frac{3}{2}$ (đều tm)