Lời giải:
Để pt có 2 nghiệm phân biệt thì: $\Delta=9-4(k-1)>0$
$\Leftrightarrow k< \frac{13}{4}$
Áp dụng định lý Vi-et, với $x_1,x_2$ là 2 nghiệm của pt thì: \(\left\{\begin{matrix} x_1+x_2=3\\ x_1x_2=k-1\end{matrix}\right.\)
Ta có:
$x_1^2=x_1+3$
Mà $x_1^2-3x_1+k-1=0$
Trừ theo vế thì $2x_1=k+2\Leftrightarrow x_1=\frac{k+2}{2}$
$x_2=3-x_1=3-\frac{k+2}{2}=\frac{4-k}{2}$
Do đó:
$k-1=x_1x_2=\frac{(k+2)(4-k)}{4}$
$\Leftrightarrow 4(k-1)=(k+2)(4-k)$
$\Leftrightarrow k^2+2k-12=0$
$\Leftrightarrow k=-1\pm \sqrt{13}$
Kết hợp điều kiện $k< \frac{13}{4}$ ta thấy $k=-1\pm \sqrt{13}$