y=(m-1)x+4

=>(m-1)x-y+4=0

Khoảng cách từ O(0;0) đến (d) là:

\(d\left(O;\left(d\right)\right)=\dfrac{\left|0\cdot\left(m-1\right)+0\cdot\left(-1\right)+4\right|}{\sqrt{\left(m-1\right)^2+\left(-1\right)^2}}=\dfrac{4}{\sqrt{\left(m-1\right)^2+1}}\)

Để d(O;(d))=2 thì \(\dfrac{4}{\sqrt{\left(m-1\right)^2+1}}=2\)

=>\(\sqrt{\left(m-1\right)^2+1}=2\)

=>\(\left(m-1\right)^2+1=4\)

=>\(\left(m-1\right)^2=3\)

=>\(m-1=\pm\sqrt{3}\)

=>\(m=\pm\sqrt{3}+1\)

Lời giải:
$y'=3x^2-6mx+3(m^2-1)=0$

$\Leftrightarrow x^2-2mx+m^2-1=0$

$\Leftrightarrow x=m+1$ hoặc $x=m-1$

Với $x=m+1$ thì $y=-2m-2$. Ta có điểm cực trị $(m+1, -2m-2)$

Với $x=m-1$ thì $y=2-2m$. Ta có điểm cực trị $m-1, 2-2m$

$f''(m+1)=6>0$ nên $A(m+1, -2m-2)$ là điểm cực tiểu

$f''(m-1)=-6< 0$ nên $B(m-1,2-2m)$ là điểm cực đại 

$BO=\sqrt{2}AO$

$\Leftrightarrow BO^2=2AO^2$

$\Leftrightarrow (m-1)^2+(2-2m)^2=2(m+1)^2+2(-2m-2)^2$

$\Leftrightarrow m=-3\pm 2\sqrt{2}$

\(d\left(O;d\right)=\dfrac{\left|0\cdot\left(m+2\right)+0\cdot\left(m-3\right)+\left(-m-8\right)\right|}{\sqrt{\left(m+2\right)^2+\left(m-3\right)^2}}=\dfrac{\left|m+8\right|}{\sqrt{\left(m+2\right)^2+\left(m-3\right)^2}}\)

Để d lớn nhất thì m+8=0

=>m=-8

Chương 2: Hàm số bậc nhất

Ta có : \(y'=3x^2-6mx+3\left(m^2-1\right)\)

Để hàm số có cực trị thì phương trình \(y'=0\) có 2 nghiệm phân biệt

                                                             \(\Leftrightarrow x^2-2mx+m^2-1=0\) có 2 nghiệm phân biệt

                                                             \(\Leftrightarrow\Delta=1>0\) với mọi m

Cực đại của đồ thị hàm số là A(m-1;2-2m) và cực tiểu của đồ thị hàm số là B (m+1; -2-2m)

Theo giả thiết ta có :

                         \(OA=\sqrt{2}OB\Leftrightarrow m^2+6m+1\Leftrightarrow\begin{cases}m=-3+2\sqrt{2}\\m=-3-2\sqrt{2}\end{cases}\)

Vậy có 2 giá trị m là \(\begin{cases}m=-3+2\sqrt{2}\\m=-3-2\sqrt{2}\end{cases}\)

Nhận thấy (d) luôn đi qua điểm cố định \(A\left(1;2\right)\)

Kẻ OH vuông góc (d)

Áp dụng định lý về đường xiên - đường vuông góc ta có:

\(OH\le OA\Rightarrow OH_{max}=OA\) khi H trùng A hay \(\left(d\right)\perp OA\)

Gọi pt OA có dạng \(y=ax+b\Rightarrow\left\{{}\begin{matrix}0=0.a+b\\2=1.a+b\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}a=2\\b=0\end{matrix}\right.\)

Do \(\left(d\right)\perp OA\Rightarrow m.2=-1\Rightarrow m=-\frac{1}{2}\)