Lời giải:
ĐKXĐ: \(-1\leq x\leq 5; m\geq x^2-4x\)
\(\Rightarrow m\geq (x^2-4x)_{\max}, \forall x\in [-1; 5]\) hay \(m\geq5\) (1)
Ta có: \(\sqrt{x+1}+\sqrt{5-x}=\sqrt{m+4x-x^2}\)
\(\Rightarrow 6+2\sqrt{(x+1)(5-x)}=m+4x-x^2\) (bình phương hai vế)
\(\Leftrightarrow (-x^2+4x+5)-2\sqrt{(x+1)(5-x)}+1-12+m=0\)
\(\Leftrightarrow m=12-(\sqrt{-x^2+4x+5}-1)^2=f(x)\)
Để pt có nghiệm thì \(f(x)_{\min}\leq m\leq f(x)_{\max}\)
Ta có: \((\sqrt{-x^2+4x+5}-1)^2\geq 0, \forall x\in [-1;5]\Rightarrow f(x)\leq 12\) hay \(f(x)_{\max}=12\)
Mặt khác: \(0\leq -x^2+4x+5=9-(x-2)^2\leq 9\)
\(\Rightarrow 0\leq \sqrt{-x^2+4x+5}\leq 3\)
\(\Rightarrow (\sqrt{-x^2+4x+5}-1)^2\leq 4\)
\(\Rightarrow f(x)\geq 12-4=8\Leftrightarrow f(x)_{\min}=8\)
Suy ra để pt có nghiệm thì \(8\leq m\leq 12(2)\)
Do đó từ (1) và (2) suy ra \(8\leq m\leq 12\).