Phương trình hoành độ giao điểm của đồ thị với trục hoành là :
\(x^3-2x^2+\left(1-m\right)x+m=0\left(1\right)\)
Biến đổi tương đương phương trình này :
\(\left(1\right)\Leftrightarrow x^3-2x^2+x-mx+m=0\)
\(\Leftrightarrow x\left(x^2-2x+1\right)-m\left(x-1\right)=0\)
\(\Leftrightarrow\left(x-1\right)\left(x^2-x-m\right)=0\Leftrightarrow x=1\) hoặc \(x^2-x-m=0\left(2\right)\)
Gọi \(x_1,x_2\) là nghiệm của phương trình (2) thì :
\(t^2+x_1^2+x_2^2< 4\Leftrightarrow\left(x_1+x_2\right)^2-2x_1x_2< 3\Leftrightarrow m< 1\) (*)
Yêu cầu bài toán tương đương với (2) có hai nghiệm phân biệt \(x_1;x_2\ne1\) thỏa mãn điều kiện (*)
\(\Leftrightarrow\begin{cases}\Delta=1+4m>0\\1^2-1-m\ne0\\m< 1\end{cases}\)\(\Leftrightarrow\begin{cases}-\frac{1}{4}< m< 1\\m\ne0\end{cases}\)