Phương trình hoành độ giao điểm:
$x^2+2mx+1-3m=-2x+4\iff x^2+2x(m+1)-3-3m=0$.
$\Delta'=(m+1)^2+3+3m=(m+1)(m+4)$
Hai đồ thì cắt nhau tại hai điểm phân biệt $A,B$ khi và chỉ khi $\Delta'>0\iff (m+1)(m+4)>0(*)$.
Giả sử: $A(a;-2a+4);B(b;-2b+4),(AB)\equiv (d): y+2x-4=0$.
Theo $Viet$, ta có: $a+b=-2m-2;ab=-3-3m$.
Theo GT: $S_{OAB}=\frac{1}{2}.d(O,AB).AB(2)$.
Mà: $d(O;AB)=\frac{|-4|}{\sqrt{2^2+1^2}}=\frac{4}{\sqrt{5}}$.
$(2)\implies AB=\frac{2S_{OAB}}{d(O;AB)}=6\sqrt{10}$.
\iff AB^2=360\iff 5(a-b)^2=360\iff (a-b)^2=72\iff (a+b)^2-4ab=72$.
$\iff 4(m+1)^2+12(m+1)-72=0\iff m+1=3(n)...v...m+1=-6(n)(\text{ do (1) })$.
Vậy: $m=2...v...m=-7$ là hai giá trị cần tìm.