Ta có:

Khi \(x\in\left[-3;0\right]\) thì \(f\left(x\right)\in\left[-4;5\right]\) (dùng BBT)

Lại có:

\(y=f\left(f\left(x\right)\right)=f^2\left(x\right)+6f\left(x\right)+5\) 

Khi \(f\left(x\right)\in\left[-4;5\right]\) thì \(f\left(f\left(x\right)\right)\in\left[-4;60\right]\) (dùng BBT)

Do đó, \(m=-4\Leftrightarrow f\left(x\right)=-3\Leftrightarrow x=-2\)

và \(M=60\Leftrightarrow f\left(x\right)=5\Leftrightarrow x=0\)

\(\Rightarrow S=m+M=-4+60=56\)

đây là đáp án

Dễ thấy: \(f\left(x\right)=\left(x+m-1\right)^2-m^2+5m-6\ge-m^2+5m-6\)

Giá trị nhỏ nhất của f(x) đạt lớn nhất tức \(-m^2+5m-6\) đạt lớn nhất

Mà \(g\left(m\right)=-m^2+5m-6=-\left(m-\dfrac{5}{2}\right)^2+\dfrac{1}{4}\le\dfrac{1}{4}\)

g(m) đạt lớn nhất khi m=5/2

m cần tìm là 5/2

\(g\left(x\right)=x^4-4x^3+4x^2+a\)

\(g'\left(x\right)=4x^3-12x^2+8x=0\Leftrightarrow4x\left(x^2-3x+2\right)\Rightarrow\left[{}\begin{matrix}x=0\\x=1\\x=2\end{matrix}\right.\)

\(f\left(0\right)=f\left(2\right)=\left|a\right|\) ; \(f\left(1\right)=\left|a+1\right|\)

TH1: \(\left\{{}\begin{matrix}M=\left|a\right|\\m=\left|a+1\right|\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}\left|a\right|\ge\left|a+1\right|\\\left|a\right|\le2\left|a+1\right|\end{matrix}\right.\) \(\Rightarrow\left[{}\begin{matrix}-\dfrac{2}{3}\le a\le-\dfrac{1}{2}\\a\le-2\end{matrix}\right.\) \(\Rightarrow a=\left\{-3;-2\right\}\)

TH2: \(\left\{{}\begin{matrix}M=\left|a+1\right|\\m=\left|a\right|\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}\left|a+1\right|\ge\left|a\right|\\\left|a+1\right|\le2\left|a\right|\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}-\dfrac{1}{2}\le a\le-\dfrac{1}{3}\\a\ge1\end{matrix}\right.\) \(\Rightarrow a=\left\{1;2;3\right\}\)

f'(x)>0 với mọi x khác -8, suy ra hàm số đã cho đồng biến trên [0;3].

Giá trị nhỏ nhất của f(x) trên [0;3] là (-m^2)/8. Ta có: (-m^2)/8=2.

Suy ra, không có giá trị nào của số thực m thỏa yêu cầu đề bài.