Lời giải:
a)
-) Nếu \(m^2-5>0\)
\(\left\{\begin{matrix} m^2-5>0\\ x^2\geq 0\end{matrix}\right.\Rightarrow y\geq 0\). Tức là cực tiểu của hàm số là \(y=0\)
-) Nếu \(m^2-5=0\Rightarrow y=0\) là hằng số, hàm không có cực tiểu.
-) Nếu \(m^2-5< 0\)
\(\left\{\begin{matrix} m^2-5< 0\\ x^2\geq 0\end{matrix}\right.\Rightarrow y\leq 0\). Hàm số có cực đại y=0 chứ không có cực tiểu
Vậy \(m^2-5> 0\Leftrightarrow m> \sqrt{5}\) hoặc \(m< -\sqrt{5}\)
b) \(A\in (y)\Leftrightarrow 11=(m^2-5)(-1)^2\)
\(\Leftrightarrow m^2-5=11\Leftrightarrow m^2=16\)
\(\Leftrightarrow m=\pm 4\)
c) Để \(B(1;4)\not \in (y)\)
\(\Leftrightarrow 4\neq (m^2-5).1\)
\(\Leftrightarrow 4\neq m^2-5\Leftrightarrow m^2\neq 9\Leftrightarrow m\neq \pm 3\)